本文深入探讨了Agentic AI的发展历程重点介绍了OpenClaw的兴起及其在Mac Mini上的部署意义。文章详细解析了AI智能体的概念、实现方式以及CoT、RAG和Engram等关键技术的应用。同时文章强调了CPU在Agentic AI中的重要性并提出了CPU-GPU协同优化的策略。对于想要学习大模型和AI智能体的程序员小白来说本文提供了宝贵的知识储备和实践指导。引言Molt: To shed old shell/feather/hair for new growth.— Oxford Dictionary2025年是一个曾被寄予厚望的“Agentic AI元年”它确实也没让人失望但也没有想象中的激荡年初Manus横空出世展示了Agent无缝协作的惊艳效果但随后并未在大众市场上掀起多大的波澜直到年末团队被Meta收购。年中豆包手机将个人Agent深度嵌入操作系统功能强大但随之带来的权限和安全问题让它胎死腹中。年末千问Agent让你用一句话便丝滑到手一杯奶茶但奶茶虽好能帮我再解决些其他硬核的痛点不而当我们推开2026年的窗口 最先看到的是一只龙虾与Mac Mini的“破圈组合 引爆了AI圈开发者将轻量级Agent部署于售价不足万元的Mac Mini作为其24小时私人助理通过短消息交互e.g.WhatsApp让它写Bash脚本整理照片调用本地知识库解答问题甚至控制智能家居。这个Agent的名字由最初的ClawdBot蹭Claude Bot谐音改为MoltBot有点饶舌最后又从“MoltBot”成OpenClaw。开源部署方便再加上短消息交互的特性使得这只龙虾与之前的Agent如此不同但又如此的贴近用户。包括AWS阿里云火山引擎在内的各大CSP纷纷下场支持OpenClaw的部署。 或许Agentic AI时代的大门就这样被龙虾 “Claw Open”。那么为什么是现在? 为什么是OpenClaw它能在Mac Mini上部署意味着什么 Agentic AI时代真的开启了吗CPU的春天来了么Hold on我们从源头开始捋一捋。何为AI AgentAgent的牛津词典定义有两个意涵A person who acts on behalf of another person or group.A person or thing that takes an active role or produces a specified effect.前者译为代理强调的是动作的自主性后者有推动者之意强调的是目标导向。 而在AI 语境下Agent中文称为智能体是两种意思兼而有之它是能够自主感知环境、进行决策并采取行动以实现特定目标的智能系统。它与AI助理和ChatBot之间的区别如下表所示Sourcehttps://cloud.google.com/discover/what-are-ai-agents?hlzh-CN可以看到与AI助理和ChatBot相比 AI智能体的最大特点在其自主性以及为实现给定目标的独立决策和多步复杂性操作。而要实现这些就要求AI智能体具有如下细分能力感知Perception 接收文本、语音、图像或来自外部 API 的数据的能力。当前的多模态大模型基本都具备这方面的能力。规划Planning 将复杂目标拆解为具体的执行步骤并根据环境变化调整计划的能力。这要求大模型具备Chain-of-ThoughtCoT[4] 分步reasoning的功能 实现对特定目标的分步拆解; 同时还需具备ReAct [1]模式 减少Reasoning过程中出现的幻觉并能够根据环境反馈进行调整。记忆Memory 保存短期对话和长期经验以便在后续任务中利用历史信息。这不一定要通过大模型本身来实现但需要它支持长上下文。行动Action 通过调用外部工具如搜索、计算器、代码解释器来执行具体的物理或数字任务。图1. Agentic AI的实现模式。图片来源于 [3]并在其基础上做了改动。基于上述定义我们认为AI智能体的实现方式上需要具备三方面特征 LLM Orchestrated 工具调用由模型发起而非其他工具动态路径每次工具调用工具选择不唯一 多步骤支持工作链路上LLM多次调用工具如上图右侧虚线框所示。 举个例子 LLM-orchestrated (由模型调度) vs Host-orchestrated (由 Python 代码调度)。前者高度依赖 CoT模型自己思考该干什么而后者若基础模型没有 CoT开发者必须在外部编写极其复杂的 Python 逻辑比如if-else分支来告诉模型第一步干什么第二步干什么。因此在这种情况下AI 不再是个“智能体”而仅仅是一个被程序反复调用的“文本补全工具”它失去了 Agent 应有的自主性和灵活性。所以CoT是AI智能体的基础。CoTAgentic AI的基石Chain-Of-Thought (CoT) 思维链引导大模型将复杂的任务分解为一系列逻辑步骤最终得出解决方案而非一步给出答案。 它最初的目的是通过逻辑推理提升回答的准确性减少幻觉。而在智能体中CoT的具体作用体现在以下四个方面任务规划与拆解Planning Decomposition智能体面临的目标通常是宽泛的例如“帮我买一个500元左右的床头柜”。CoT 允许智能体将长期目标拆解为可执行的子目标。思维链能帮助智能体诱导Induce、跟踪Track和更新动作计划。它通过“内心独白”决定下一步该去搜寻信息还是该执行购买动作。动态环境中的异常处理Exception Handling智能体在与外部环境网页、数据库、API交互时会遇到不可预见的情况。当行动失败或观察到非预期结果时CoT 提供了一个逻辑缓冲区。Reasoning traces 能帮助智能体处理异常根据当前环境反馈调整计划例如“既然抽屉里没钥匙那我就该去桌子上看看”而不是陷入死循环。可解释性与可诊断性Interpretability Diagnosability智能体的决策过程往往很复杂用户需要知道它为什么这么做。CoT 为人类提供了一个“观察窗口”如果智能体出错了我们可以查看它是哪一步推理错了例如是算错了钱还是误解了用户的颜色要求甚至可以通过“编辑思维链Thought Editing”来纠正智能体的行为实现人机协作。“推理”与“行动”的协同Synergy of Reason Act这是智能体CoT高阶框架ReAct的核心 [1]即Reason to Act (推理指导行动)通过CoT决定调用哪个工具如搜索、计算器、Python解释器。Act to Reason (行动补充推理)通过行动获取外部事实再将事实带回思维链中进一步推理。这种闭环使智能体更可靠。那么CoT如何实现的呢CoT 并不是某种特定的算法代码它在模型中的实现通常有三种实现方式a. 提示词工程利用“自注意力机制”的补全这是最普遍成本最低也是较浅层的实现通常有两种实现模式Few-shot CoT 在提示词中给模型看几个“问题 - 理由 - 答案”的例子然后让模型有样学样。Zero-shot CoT只要在问题后面加一句“让我们一步步推理”。之所以这种提示词工程可以形成CoT原因如下 大模型本质是“下一个 Token 预测器”当提示词中出现了逻辑推导的格式时模型的自注意力Self-Attention机制会被引导到如“因为”、“所以”、“首先”逻辑词上。推理步骤产生的 Token 会进入模型的上下文作为后续预测的条件。这实际上是让模型在给出最终答案前先为自己生成更多的“有效背景信息”。这一方面实现了复杂问题的分步解答另一方面更多的背景信息也减少了模型幻觉发生的概率。 但是需要指出的是提示词工程实现的CoT 是大模型的一种涌现能力Emergent Ability在模型参数达到一定量级之前若用同样的 Prompt模型也只会生成“流畅但无逻辑”的废话。b. Supervised Fine Tuning (SFT) 逻辑模式的内化如上所述仅靠 Prompt 并不总是有效的这对于中小规模的模型来说尤为突出。这就需要后训练微调的方式让逻辑推理显示的内化成为模型固有的能力。 通常通过如下两种方法实现Rationale Augmentation 通过在后训练数据中加入带有推理过程Rationale的文本进行监督微调SFT。STaRSelf-Taught Reasoner[6] 这是一种迭代式有监督微调。模型生成多个理由并以最终答案为判据若正确则将相对应的理由作为微调数据喂回给模型。模型在学会了这些逻辑后 能解开更难的题从而产生更多高质量的 CoT 数据模型就在“自我产生数据 - 结果验证 - 自我学习”中不断进化。通过这种方式模型“学会”了如何推理而不仅仅是“模仿”Prompt 的格式。c. Reinforcement Learning (RL): SFT之上SFT的一个问题是需要有大量的标注过的文本样本。尽管通过STaR缓解了对标注样本的需求但是它的迭代周期长计算需求高微调效率低下因此难以胜任大规模参数模型的CoT微调。所幸的是以DeepSeek-R1-Zero/DeepSeek-R1为代表的RL技术路径证明了CoT可以在纯强化学习的不断试错中产生。具体来说它通过Group Relative Policy Optimization (GRPO)使用奖励函数对每个推理路径进行打分计算推理回答的相对优势并根据这个相对优势来更新模型参数。这避免了传统RL中使用的Critic 模型所带来的额外显存开销和评分不稳定问题。 这里训练的是CoT的“神”但要使CoT能够以一定的格式和一致的语感呈现出来即CoT的“形”还需要用 RL 训练好的模型生成大量数据筛选出其中逻辑最完美、答案最正确的数据几十万条对模型进行一次大规模 SFT。需要指出的是即便在实现了CoT逻辑内化后模型还是需要有提示词来激活这部分能力。因此在CoT模式下大模型推理CPU和GPU上的工作分工如下图所示。CPU主要负责预处理和后处理其中前者包含了Prompt Templating Tokenization 和相关KV Cache的查找等主要步骤而后者包含了Detokenization 和格式化。这里Tokenization负责将包括Prompt Template和实际Query在内的整个文字序列转换成Token ID序列而接下去的KV Cache 查找则是将Token 序列分块比如16个词分块进行哈希并据此在Radix Tree查找匹配的哈希值若找到了就继续在树的下一层看是否能匹配接下去一个分块的哈希 否则查找结束。此时CPU 获取了从开头到第 N 个Token块对应的KV Cache所在的地址可让GPU直接读取而剩下的部分则需要现场计算Prefill。图 2. CoT 模式下的CPU-GPU交互模式虽然 CoT 开启了推理的大门但离构建真正的 AI智能体它还存在几个关键缺陷需要其他技术来补齐错误传播与幻觉Error Propagation如果思维链的第一步算错了例如 113模型会基于这个错误的中间结果极其自信地推导出后面的荒谬结论即CoT 内部没有“事实核查”机制。大模型虽然有强大的推理逻辑但其内部记忆是“冻结”的且依然会产生幻觉。缺乏外部反馈Closed-loop GapCoT 是“闭门造车”而在智能体场景下环境是动态的。例子 一个修代码的智能体SWE-Agent光靠自言自语形成的CoT并无很大用处它必须尝试运行代码看到报错信息再根据报错修正思维链光有 CoT 无法实现这种“思考-行动-感知”的闭环。RAG迈向 ReAct模式如果说 CoT 是智能体的“推理引擎”那么 RAGRetrieval Augmented Generation就是它获取“外部知识库”的途径。两者结合解决了 CoT 无法独自解决的三个问题逻辑与事实的解耦Logic vs. FactRAG 负责提供实际证据。它让模型从“凭空脑补”转向“根据材料作答”解决了知识过时和不可靠推理的问题。克服“思维孤岛” (Self-Correction via Feedback) 模型先思考发现缺信息立刻去RAG检索拿到结果后再修正思维。这种“思考 - 观察反馈 - 调整思考”的闭环是单纯靠增加 Prompt 步数实现不了的它也是 ReAct 框架的核心。性能与成本的权衡CoT 属于Test Time Scaling会消耗大量的推理 Token增加延迟。如果某些知识可以通过 RAG 直接精准命中就不需要模型进行复杂的长链条推理。RAG 可以通过低成本的传统检索减轻大模型昂贵的逻辑负担。图3. RAG工作流程RAG 工作流程如上图所示其核心流程是依据Query从数据库查询和获取与该Query相关的信息并将这部分信息作为上下文和Prompt和Query一起输入给大模型。 由于数据库中的相关信息更为及时准确大模型给出的回答也就避免了知识过时的问题变得更加准确可靠。 这里最关键的就是如何获取与Query相关的信息而RAG通过以下三个步骤来实现文本向量化Embedding模型使用一个特定的神经网络Encoder将一段文本 T 映射为一个高维实数向量比如768 或1536维。在这个高维空间语义相似的文本在几何距离上也更接近。相似度度量Similarity MetricsRAG对应的数据库为向量数据库它通过计算查询向量 QQuery与库中向量 DDocument之间的几何关系来判定相关性。最常用的两种数学度量是余弦相似度Cosine Similarity它衡量的是两个向量在方向上的夹角。在语义搜索中向量的方向比长度文本长短更能代表含义。欧几里得距离L2 Distance, 衡量两点之间的绝对空间距离。最近邻搜索在 RAG 系统中我们需要从数百万个向量中找出与Query向量最接近的T个。如何找到这些向量呢最简单的就是采用精确最近邻搜索算法暴力计算Query向量与每个向量的距离但显然会带来严重的 CPU 瓶颈。 为了提升搜索效率通常采用ANN (Approximate Nearest Neighbor) 算法比如使用 K-means 聚类将空间划分为不同的区域查询时计算Query向量与K个中心点之间的距离选取离得最近的若干个簇然后再精细化计算Query向量与这些簇内每个向量的距离选取距离最小的T个返回。在传统RAG模式下大模型推理CPU和GPU上的工作分工如下图所示即在CPU的预处理中还加入了RAG部分。该部分还包含了Query的Embedding计算向量数据库查询信息读取和格式化等操作。 传统RAG模式遵循的是 “检索 - 阅读” 的线性流程在这个过程中模型本身并没有通过推理来决策是否进行检索的这个动作它是系统预设好的模型只是一个被动的“资料总结者”没有“决定去检索”的过程。图4. 在传统RAG模式下的 CPU-GPU交互模式与传统RAG相对应的是智能体RAG。在这里检索动作是由模型的CoT驱动的模型自主决定何时检索、检索什么、以及如何根据检索结果修正自己的思维。它所遵循的是一个典型的ReAct 流程比如Thought (CoT) “我知道 A但我不知道 B 是谁我需要去搜一下。”Action 调用RAG搜索B。Observation 看到检索回来的 RAG 片段。Thought (CoT) “根据刚才搜到的资料B 原来是 C 的学生现在我可以回答了。”在这样一套“思考-行动-感知”流程中CPU与GPU的交互如下图所示。CPU更加积极的参与到模型的决策链条中承担起不适合GPU操作的向量数据库查询操作。智能体RAG只是智能体应用的一个例子可以想象在一个更为通用的智能体应用设定中RAG可能被替代为代码编译Web搜索Python解析和执行等等。CPU成了智能体与环境交互的一个关键渠道。图5. 在智能体RAG模式下的 CPU-GPU交互模式Engram推理的内置增强器26年年初DeepSeek 提出了一种条件记忆模块 Engram[2]它通过现代化经典 N-gram 嵌入利用确定性哈希实现静态模式的 O(1) 常数时间查找并结合上下文感知门控将检索到的静态记忆与动态隐藏状态融合解决了传统 Transformer中 缺乏原生知识查找被迫通过昂贵计算低效模拟知识检索的问题。那么它与Agentic AI有关系吗 有通过将静态知识存储与动态推理计算分离Engram有效减轻了大模型早期层的重建负担。除了对模型本身推理能力的提升以外 Engram对推理硬件的架构也带来了深远的影响。Engram 的特性允许它将庞大的静态知识表存放在主机内存中而在 GPU 执行推理时异步预取比如GPU推理第5层时CPU开始查找第12层所需的信息CPU查找延时几乎被GPU 5-12层推理延时完全隐藏。这意味着我们可以给 Agent 挂载一个上百GB 甚至更大 的知识库却几乎不占用昂贵的 GPU 显存也不显著增加延迟。这为AI智能体的普及提供了一条极具成本效益的路径。在有了Engram之后 CPU-GPU之间的交互模式如下图所示。 和之前的交互模式的一个显著区别是 CPU在GPU做推理的过程不再闲置而是参与其中CPU不再局限于预处理和后处理 其整体的利用率显著提升。图6. 在CoTRAGEngram 推理下的 CPU-GPU交互模式CPU价值的回归综上我们可以看到Agentic AI的诞生不是一蹴而就的而是随着大模型分步逻辑推理能力的提升而逐步演进的这也解释了为什么Agentic AI在LLM爆发几年后才逐步进入人们的视野。从CoT Prompting到基于ReAct的RAG再到Engram其本质上在解决一个核心问题如何降低大模型幻觉进一步高效地提升大模型的逻辑推理能力。这里获取Ground-Truth的知识及时的信息以及来自模型外部真实的反馈是解决该问题的关键。比如CoT在HotpotQA中因内部知识错误导致56%幻觉率[1]而ReAct通过外部检索将幻觉率压至6%。而所有这些方案都有赖于CPU计算并且CPU的参与程度在不断提升。 这还只是模型演进层面 如果我们把智能体的工具调用代码执行等任务执行时间也算上CPU侧的延时甚至会成为影响系统性能的关键比如在SWE-Agent中CPU执行的Bash/Python调用占延迟可达 78.7%[3]。换句话说智能体实质是一个对GPU和CPU同步施压的混合型负载。过去我们对大模型的优化都聚焦在GPU上 而在智能体时代我们更需要关注CPU以及CPU-GPU协同优化上具体来说大概有如下几个方面高并发需求当智能体RAG成为标配LLM从文本生成向重型检索与数据管理转型CPU 必须具备处理大规模的知识提取能力一方面为了降低单个 RAG任务的响应时间CPU 需要在大量文档中进行高速向量比对、排序Reranking和上下文压缩Context Compression另一方面对于智能体Serving的场景 会存在多个RAG任务同时执行的情况。 这些都要求 CPU 不仅仅具有很高的单核性能还需要具备极高的多线程并发能力。进程间上下文切换以及SLAAgentic AI 需要调用各类工具比如Python 解释器、运行 Shell 脚本、执行 SQL 查询或调用 Web API。这些工具所对应的进程一旦启动通常都需要保持一段时间以避免每次工具调用所带来的进程冷启动开销。这也意味着系统需要维护大量活跃的进程上下文。与此同时 每个工具进程对CPU的资源需求是不同的。如何在众多活跃进程间调配资源尤其是在CPU还需要承担RAG甚至Engram查询的情况下确保各自运行的SLA/Fairness亦或是整个系统的吞吐量最大化是Host侧所面临的另一个迫切的问题。CXL互连和CPU价值回归的共振Engram 架构彻底改变了模型参数的存放方式它允许将庞大的静态知识表存放在 Host DRAM系统内存 中。CPU 必须在 GPU 运算的同时利用确定性的哈希算法进行预取。这就需要Host具有庞大的DDR内存容量和带宽。同时CPU还需要通过PCIe总线与GPU进行数据交换确保在GPU执行相关逻辑层之前所需的知识向量已经从内存搬运到了显存。这些并不是新问题但却盘活了一些一度被认为与LLM不怎么相关的CPU侧互连技术比如CXL。因此CPU价值的回归并非孤立存在它重度依赖于以CXL为核心的通用互连技术因为 Agentic AI 对存储和内存的要求已经跨越了单机界限。没有CXL带来的内存池化与一致性互连CPU将空有大脑而无血脉无法支撑起 Agentic AI 所需的“通算超节点”架构。首先利用CXL Memory Expansion来扩展数百GB的内存可以在不增加DDR通道进而减少CPU Pin脚数压力的前提下提升系统内存带宽和内存容量其次CXL还可以连接SCM/HBF/SSD等Persistent存储介质与CXL Memory一起为Engram打造一个分层的高效的存储空间。同时我们还可以探索将CPU与GPU之间的PCIe互连替换成CXL或者轻量化的CXL实现CPU与GPU内存间的Unified Memory就像采用NVLink-C2C那样从而提升CPU-GPU间数据搬移的效率。总之这些技术在传统的大模型应用场景下可能显得鸡肋但在Agentic时代却是竞争力的来源。上述是从数据中心提供集中式推理服务的视角来看的。未来AI智能体很可能是云端协同的端侧部署一个中小规模的模型负责理解用户需求并对日常任务进行本地化处理 而对于那些复杂任务则由本地模型通过调用数据中心大模型来指导任务拆解。那么从端侧视角来看CPU已经事实上回归到了中心位置就像OpenClaw运行在Mac Mini上那样。总结从OpenClaw的火爆出圈到千问订单流量挤爆线下奶茶店一个迟来的Agentic AI时代正在迎面扑来。表面上看这是商业模式的探索或是流量入口的争夺但这背后是大模型分步逻辑推演的成熟以及计算范式的再次迁移从绝对的GPU主导回归到CPU-GPU协同。在此进程中CPU不再是只负责预处理和后处理的沉默的搬运工而是决策环路中的重要节点。这需要我们重新审视在新场景下的CPU在涵盖算法-系统-硬件多个层次上的优化算法层比如优化RAG及Engram查询、静态知识处理、工具调用提升其在CPU上的运行效率系统层比如优化CPU-GPU交互尽可能实现计算-通信-检索的Overlapping硬件层比如利用CPU大内存带宽优势设计分层存储策略DRAM→SCM→HBF/SSD利用硬件加速单元卸载部分CPU负荷。这里可能有部分是新瓶装旧酒但反映的却是在Agentic AI这类应用特性引导下的CPU算力价值的回归以及CPU与GPU协同并进的系统思维。这何尝不是一种Molt呢最后2026年技术圈的分化愈发明显降薪裁员潮持续蔓延传统开发、测试等岗位大批缩水不少从业者陷入职业焦虑与之形成鲜明对比的是AI大模型相关岗位迎来疯狂扩招薪资逆势飙升150%大厂更是直接开出70-100W年薪疯抢具备实战能力的大模型人才甚至放宽年龄限制只求能快速落地技术、创造价值很多程序员、职场新人纷纷入局大模型领域绝非盲目跟风而是实实在在看到了不可替代的价值优势这也是2026年最值得抓住的职业风口1、窗口期红利入门门槛友好不同于成熟赛道的“内卷式招聘”2026年大模型人才缺口巨大简历只要达标掌握基础AI应用具备简单项目经验年龄、学历均非硬性要求小白可快速入门转行程序员也能无缝衔接2、技术可复用上手速度翻倍如果你有前后端开发、测试、数据分析等基础在大模型落地、系统部署、Prompt工程等环节会更具优势无需从零开始复用原有技术能力就能快速进阶3、懂业务更吃香竞争力翻倍单纯懂技术已不够2026年大厂更看重“技术业务”的复合型人才有垂直领域金融、医疗、工业等经验者能精准定位模型落地痛点薪资比纯技术岗高出30%以上更重要的是即便没有转型需求用AI大模型工具为工作赋能、提升效率也已经成为80%企业的硬性要求——不会用大模型提效未来很可能被行业淘汰那么2026年小白/程序员该如何高效学习大模型很多人想入门大模型却陷入两大困境要么到处搜集零散资料不成体系越学越懵要么被收费高昂的课程割韭菜花了钱却学不到实战技能白白浪费时间走弯路。今天就给大家精心整理了一份2026年最新、免费、系统化的AI大模型学习资源包覆盖从零基础入门到商业实战、从理论沉淀到面试通关的全流程所有资料均已整理归档无需拼凑直接领取就能上手学习小白可照做程序员可进阶扫码免费领取全部内容1、大模型系统化学习路线这份学习路线结合2026年行业趋势和新手学习规律由行业专家精心设计从零基础到精通每一步都有明确指引帮你节省80%的无效学习时间少走弯路、高效进阶避免踩坑。2、从0到进阶大模型学习视频教程从入门到进阶这里都有跟着老师学习事半功倍。3、大模型学习书籍电子文档涵盖2026年最新技术要点包括基础入门、Transformer核心原理、Prompt工程、RAG实战、模型微调与部署等内容4、AI大模型最新行业报告报告包含腾讯、阿里、甲子光年等权威机构发布的核心内容还有2026年中文大模型基准测评报告、AI Agent行业研究报告等帮你站在行业前沿把握技术风口。5、大模型项目实战配套源码项目包含Deepseek R1、GPT项目、MCP项目、RAG实战等热门方向还有视频配套代码手把手教你从0到1完成项目开发既能练手提升技术又能丰富简历为求职和职业发展加分。6、2026大模型大厂面试真题2026年大模型面试已全面升级不再单纯考察基础原理而是转向侧重技术落地和业务结合的综合考察很多程序员和新手因为缺乏针对性准备明明技术不错却在面试中失利。适用人群四阶段学习规划共90天可落地执行第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容7、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】