1.AI 应用AI 应用是指将 AI 大模型技术落地到具体的业务场景中用来解决实际问题的产品或服务1.1 大模型部署大模型部署有以下 3 种方式1.本地部署将大模型完整下载运行在自己的服务器 / 本地GPU机器上优点数据完全留在内网数据隐私安全性最高敏感业务首选无网络调用依赖内网离线可用响应延迟可控自主可控可深度修改模型权重做微调二次开发长期成本低缺点前期硬件成本高需长期维护硬件模型性能受硬件规格限制2.官方开放 API 调用大模型厂商提供的在线接口只传请求模型跑在厂商服务器优点上手快无需本地部署服务器只需要联网即可调用缺点用户数据要传给第三方服务商敏感数据有泄露风险模型本身无法修改只能调用产商提供模型3.云服务平台云厂商提供的一站式大模型平台如火山方舟阿里云百炼在云端租用算力可选择公有云推理也可部署私有实例优点按需租用 GPU 资源无需一次性购买硬件也没有后期硬件维护成本平台集成全套工具模型一键部署微调流量监控既可以调用现成 API 也可以上传私有模型做私有化推理缺点持续云资源租用成本数据跑在云厂商机房需要做好云侧权限隔离1.1.1 本地部署Ollama 是一个在本地运行管理大语言模型的工具它将复杂的模型下载、量化、环境配置和推理过程全部封装成简单的命令行操作让普通用户也能在个人电脑上轻松运行 Llama、Qwen、DeepSeek 等上百种开源大模型。关于Ollama具体内容可以看文档Ollama 本地部署完整指南2026 最新版_ollama本地部署-CSDN博客1.1.2 官方开放 API主流的大模型官方都提供了开放API无需部署就可以直接调用访问什么是API一文读懂它的神奇之处-CSDN博客1.2 大模型调用1.2.1 网络基础知识IP 地址设备在互联网中的地址每一个连入网络的设备都有一个自己的 IP 地址IPv4地址32位二进制IPv6地址128位二进制域名是一串用点分隔的英文字母组成。IP地址不便于记忆因此设计出了域名并通过 DNS域名系统来将域名和 IP 地址相互映射便于记忆和访问端口号整数取值范围 0-65535它用来标识计算机设备中的运行中的进程注意HTTP协议默认服务器端口号为 80HTTPS协议默认服务器端口号为 443小结网络模型OSI网络模型TCP / IP网络模型目前主流使用 TCP/IP 网络模型HTTP协议Hyper Text Transfer Protocol超文本传输协议规定了客户端和服务器之间数据传输的规则。只有在请求及响应中都遵循了统一的规则服务端才能读懂客户端发来的请求客户端才能解析服务端响应的结果特点基于文本的协议请求和响应部分的协议内容为文本格式底层通过TCP协议传输稳定性强基于请求-响应模型一次请求对应一次响应必须由客户端先发起请求服务端才会返回响应无状态服务端不会记忆与客户端的历史交互信息每次请求-响应都是独立的HTTP协议请求数据格式1.请求方式GET请求参数在请求行中没有请求体。比如/api/coursesnamePythonstatus1。GET请求请求参数大小在浏览器中是有限制的POST请求参数在请求体中。POST请求大小是没有限制的HTTP协议响应数据格式1.2.2 API fox测试API fox是一款API设计开发测试的一体化协作平台是项目开发中进行API接口测试的神器对于大模型提供的API接口其请求方式限定为 POST 请求json格式jsonJavaScript Object Notation是前端的一种对象表示方法。表示形式类似于 Python 中的字典都是 key value 这种形式不过所有的 key 都必须用双引号引起来值可以是任意类型对象用{ }表示{ }之间是键值对形式键是字符串值可以是任意其他类型数字整数和小数字符串用 引起来例如 jack布尔有两种值true 或 false小写列表用 [ ] 表示[ ] 中是列表的元素多个元素以 分割