LocalAI CLI完整指南10个常用命令带你快速构建高效本地AI工作流【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAILocalAI 是一款开源本地 AI 引擎支持在任意硬件上运行 LLM、视觉、语音、图像、视频模型无需 GPU 也能流畅工作。而LocalAI CLIlocal-ai命令正是它的官方命令行入口一条命令即可启动本地 AI 服务、安装模型、跑通语音合成与转写甚至组建分布式推理集群。本文带你快速掌握 14 个最实用的 LocalAI CLI 命令从零搭建高效的本地 AI 工作流。为什么需要 LocalAI CLILocalAI CLI 把“启动服务 → 装模型 → 调模型 → 扩展集群”的全流程压缩进一个二进制文件所有命令都定义在 core/cli/cli.go 中覆盖服务、模型、后端、语音、智能体五大场景一分钟安装 LocalAI CLI最简单的方式是获取源码后构建完整命令说明见 README.mdgit clone https://gitcode.com/GitHub_Trending/lo/LocalAI cd LocalAI go build -o local-ai ./cmd/local-ai构建完成后用local-ai --help即可查看全部命令。想给终端加上自动补全后面第 14 节会讲。命令 1local-ai run—— 一键启动本地 AI 服务run是默认命令等价于直接执行local-ai。它会拉起 HTTP API 服务默认:8080和 Web 界面实现见 core/cli/run.go。# 最简启动 local-ai run # 指定线程数 API 密钥多用户/对外暴露时建议 local-ai run --threads 8 --api-key sk-your-key几个新手最常用的高级选项参数作用--address :8080修改监听端口--models-path ./models自定义模型目录--f16启用 GPU 加速有显卡时--p2p --p2p-token token开启 P2P 协作模式启动后浏览器打开http://127.0.0.1:8080就是管理面板模型安装、聊天、生成都在网页上操作 小贴士所有 CLI 参数都支持同名环境变量如LOCALAI_THREADS非常适合写进 Docker 或 systemd 服务配置。命令 2local-ai models—— 模型画廊一键管理LocalAI 内置模型画廊Gallery见 gallery/ 目录用models子命令即可浏览和安装无需手写 YAML 配置# 查看画廊中所有可用模型 local-ai models list # 一键安装指定模型自动下载 生成配置 local-ai models install llama3.1-instruct # 硬件跑不动的变体会被自动剔除也可用 --variant 指定量化版本 local-ai models install qwen3 --variant qwen3-4b-instruct-4bit安装过程会实时显示下载进度条。源码位于 core/cli/models.go。命令 3local-ai backends—— 推理后端安装、升级、清理LocalAI 的每个能力LLM、TTS、Whisper…都由独立的“后端”backend驱动。后端管理支持四个子命令定义在 core/cli/backends.golocal-ai backends list # 查看可用后端及可升级版本 local-ai backends install url # 从画廊安装外部后端 local-ai backends upgrade # 一键升级全部后端 local-ai backends uninstall whisper # 卸载指定后端backends list会智能标注哪些后端有新版本配合upgrade就能保持引擎始终处于最佳状态。命令 4local-ai chat—— 内置终端 AI 助手不想开浏览器chat命令提供内置终端智能体直接连上本地 LocalAI 服务器对话还能管理插件与技能实现见 core/cli/chat_cmd.go# 使用服务器默认模型 local-ai chat # 指定模型 服务器地址 API 密钥 local-ai chat -m llama3.1-instruct --endpoint http://192.168.1.10:8080 --api-key sk-your-key # 纯命令行模式无全屏 TUI方便脚本化 local-ai chat --cli在终端里即可获得接近网页端的多模态对话体验命令 5local-ai tts—— 文字转语音一步到位TTS 命令不依赖服务器直接本地加载模型生成音频参数设计见 core/cli/tts.golocal-ai tts 你好我是 LocalAI 语音助手 \ --model piper-zh_CN-huayan-medium \ --backend piper \ -o hello.wav常用参数-m指定模型必填、-b指定后端默认 piper、-v音色、-l语言、-o输出文件。对应的 Web 端 TTS 界面如下命令 6local-ai transcript—— 音频转写与字幕生成Whisper 类模型让本地转写变得极其方便实现位于 core/cli/transcript.go# 基础转写 local-ai transcript meeting.mp3 -m whisper-base # 指定中文、输出 SRT 字幕 local-ai transcript meeting.mp3 -m whisper-large-v3 -l zh -f srt # 多说话人场景自动标注发言者 local-ai transcript podcast.wav -m whisper-large-v3 -d-f支持 txt / lrc / srt / vtt / json 等格式-c可把外语直接翻译成英文——做会议纪要、字幕生产一条命令搞定。命令 7local-ai sound-generation—— AI 音效与音乐生成和 TTS 不同sound-generation 面向音效与氛围音乐生成见 core/cli/soundgeneration.golocal-ai sound-generation rain on a window \ --backend acestep-cpp --model acestep-v17 \ -d 10 -o rain.wav-d控制生成时长秒-t控制随机性-i可传入参考音频做风格条件生成。命令 8~10worker三兄弟 —— 分布式与 P2P 集群协作当单台机器算力不够时LocalAI 提供三种 worker 模式参与算力集群命令场景local-ai worker通用分布式 worker连接 NATS 调度中心local-ai p2p-workerP2P 模式分发负载基于 llama.cpp无需中心节点local-ai agent-worker智能体 worker通过 NATS 执行 agent 任务# P2P先在任意节点开启 P2P 拿到 token local-ai run --p2p # 其他机器用同一 token 加入 local-ai p2p-worker --p2p-token tokenP2P 模式下多台设备自动发现、互相协作实现位于 core/cli/federated.go 与 core/cli/explorer.go。分布式模式的整体架构如下命令 11local-ai agent—— 独立运行 AI 智能体不启动完整服务器也能跑智能体agent子命令支持从注册表按名运行或按配置文件运行源码见 core/cli/agent.golocal-ai agent list # 列出已注册智能体 local-ai agent run my-agent --config agent.json # 按配置文件启动 local-ai agent run my-agent -p 帮我总结今天的新闻 # 单轮问答后退出命令 12local-ai mcp-server—— 把 LocalAI 变成 MCP 工具mcp-server以 stdio 方式暴露 LocalAI 管理工具面可接入 Claude Desktop、Cursor 等支持 MCP 的客户端通过 HTTP 控制远程 LocalAI 实例实现见 core/cli/mcp_server.golocal-ai mcp-server --target http://localhost:8080 --api-key sk-your-key # 只读模式助手只能浏览不能改动远程状态 local-ai mcp-server --target http://localhost:8080 --read-only命令 13local-ai util—— 运维瑞士军刀util下有 4 个实用小工具定义在 core/cli/util.golocal-ai util gguf-info model.gguf # 解析 GGUF 模型元信息 local-ai util hf-scan # 扫描已装模型的安全隐患 local-ai util create-oci-image ./model-dir -o image.tar # 打包模型为 OCI 镜像 local-ai util usecase-heuristic model.yaml # 查看模型配置支持哪些用途命令 14local-ai completion—— 一键生成 Shell 补全敲命令敲到手软为 shell 生成自动补全脚本支持 bash、zsh、fishcore/cli/completion.go# 追加到当前 shell 的 rc 文件重启终端后生效 local-ai completion bash ~/.bashrc source ~/.bashrc之后输入local-ai mTab就会自动补全出models、mcp-server等候选项。LocalAI CLI 高效工作流速查表场景一条命令启动服务local-ai run --api-key sk-xxx装模型local-ai models install llama3.1-instruct升级后端local-ai backends upgrade终端聊天local-ai chat文字转语音local-ai tts 你好 -m piper-model -o out.wav音频转字幕local-ai transcript a.mp3 -m whisper-large-v3 -f srt音效生成local-ai sound-generation rain -b acestep-cpp -m acestep-v17P2P 集群local-ai p2p-worker --p2p-token token独立智能体local-ai agent run my-agent -p 问题MCP 接入local-ai mcp-server --target http://localhost:8080Shell 补全local-ai completion bash ~/.bashrc结语从local-ai run一条命令点亮本地 AI 服务到worker三兄弟组成算力集群LocalAI CLI 把原本繁琐的部署链路变成了 10 个直观命令。建议新手按“安装 → run → models install → chat → tts”的顺序依次体验再按需解锁转写、P2P 与 MCP 等进阶能力——本地 AI 的完整工作流一条命令一条命令很快就搭起来了。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考