如何用LiveKit部署JoyAI-VL-Interaction避免暴露十几个服务端口完整配置指南【免费下载链接】JoyAI-VL-InteractionJoyAI-VL-Interaction: An Open Real-time Video-Language Interaction System项目地址: https://gitcode.com/gh_mirrors/jo/JoyAI-VL-InteractionJoyAI-VL-Interaction 是一个开源的实时视频语言交互系统默认需要启动 webinfer、webui、ASR、TTS、background-agent 等多个服务并开放 8070、8099、8992、8994 等十几个端口。对于需要在内网之外提供服务、或者不想逐端口配置防火墙的场景切换到LiveKit 部署可以显著减少对外暴露的端口数量。本文是一份面向新手的完整配置指南带你快速完成 JoyAI-VL-Interaction 的 LiveKit 部署并验证服务。为什么需要 LiveKit 部署方案默认架构端口多、暴露面大JoyAI-VL-Interaction 采用 hub-and-spoke 拓扑围绕浏览器前端 webui 组织五个可插拔服务。默认部署下各服务监听的端口如下端口服务协议8070webinfer适配器HTTP7060webinfer主 VLM vLLMHTTP内部8065webinfer摘要 VLM vLLMHTTP内部8099webuiHTTPS WebSocket8994asr适配器HTTP WebSocket8993asrvLLM ASRHTTP内部8992tts适配器HTTP WebSocket8991ttsvLLM-OmniHTTP WebSocket内部8079background-agentHTTP可以看到如果要把整套系统开放给局域网外的用户就需要逐个开放或映射这些端口既繁琐又有安全风险。完整端口映射说明可参考官方架构文档doc/architecture.zh-CN.md。LiveKit 思路把媒体流收敛到单一信令通道LiveKit 是一个开源的实时音视频基础设施。JoyAI-VL-Interaction 项目从2026-07-21起官方支持 LiveKit 部署见 README 最新动态其核心收益就是避免对外开放大量服务端口——视频、音频等媒体流通过 LiveKit 的 WebRTC 通道传输浏览器只需连接 LiveKit 的单一入口其余模型服务端口可以完全保留在内网。官方提示LiveKit 功能位于独立的livekit分支该分支可能不会长期维护生产使用前请评估。LiveKit 部署完整配置步骤第一步克隆仓库并切换到 livekit 分支git clone https://gitcode.com/gh_mirrors/jo/JoyAI-VL-Interaction cd JoyAI-VL-Interaction git switch livekit注意使用git switch livekit等价于git checkout livekit切换到 LiveKit 部署分支而不是主分支。第二步安装依赖与下载模型LiveKit 分支依赖主分支的安装体系前置条件为 Linux NVIDIA GPUCUDA 12.x、驱动 535、Python 3.12。在仓库根目录执行# 安装核心依赖webinfer webui ./install/install.sh --with-all # 安装 ASR/TTS 运行时可选启用语音输入输出 ./install/install-audio-runtime.sh --all # 下载所有模型权重 ./install/download-models.sh --all默认模型路径参考 install 目录说明主交互模型位于/tmp/models/jdopensource/JoyAI-VL-Interaction摘要模型为/tmp/models/Qwen3-VL-4B-Instruct另有可选的 ASR / TTS 模型。第三步启动服务并验证# 最小部署仅视频推理 WebUI ./services/scripts/run.sh minimal # 完整部署包含 ASR、TTS、background-agent ./services/scripts/run.sh all服务编排入口位于 services/scripts/run.sh只有最终的 WebUI 进程启动后才认为启动完成。随后做健康检查curl http://127.0.0.1:8070/health # webinfer curl http://127.0.0.1:8994/health # ASR可选 curl http://127.0.0.1:8992/health # TTS可选 curl http://127.0.0.1:8079/health # background-agent可选浏览器访问https://127.0.0.1:8099接受自签名证书警告即可看到实时交互界面。更多端口、GPU 分配与配置项说明详见完整部署指南。第四步只对外暴露 LiveKit 入口LiveKit 部署模式下对外只需保证 LiveKit Server 的信令端口可达WebRTC 媒体通过 UDP 打洞/转发而 8070、7060、8065、8991–8994、8079 等模型与适配器端口全部保留在宿主机内网无需在防火墙中逐一开放。 如果不想接触裸端口也可以直接使用仓库自带的 Docker Compose 方案container/README.zh-CN.md在单机上先跑通全部服务再按 LiveKit 分支说明做外部接入。常见问题与排坑建议现象排查方向webinfer 返回 502vLLM 后端7060/8065尚未就绪等待模型加载完成模型从不说话FORCE_SILENCE_BEFORE_QUERYtrue会在无用户提问时静默发送一个 prompt 或改为false浏览器无法访问摄像头WebRTC 需要 HTTPS请通过https://访问并信任自签名证书ASR/TTS 连不上可选服务必须在 WebUI之前启动启动后重启 WebUI完整的启动与运行问题清单请参阅故障排查指南。总结3 个要点一条命令切换git switch livekit即可启用 LiveKit 部署模式避免对外开放十几个服务端口。端口收敛媒体流走 LiveKit 单一 WebRTC 入口模型服务端口全部保留内网防火墙规则大幅简化。分支需留意LiveKit 功能位于独立分支且可能不长期维护重要环境建议做好备份与版本锁定。 参考资料完整部署指南doc/getting_started.zh-CN.md系统架构与端口映射doc/architecture.zh-CN.md故障排查doc/troubleshooting.zh-CN.mdDocker 部署container/README.zh-CN.md【免费下载链接】JoyAI-VL-InteractionJoyAI-VL-Interaction: An Open Real-time Video-Language Interaction System项目地址: https://gitcode.com/gh_mirrors/jo/JoyAI-VL-Interaction创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考