基于 LangChain + 本地向量库 + 轻量化 Qwen 构建私有化本地 RAG 智能检索问答系统
1、RAG检索运行效果2、RAG检索搭建开发流程图3、RAG核心技术讲解**3.1、**加载本地大模型权重文件本项目采用千问GGUF 量化模型文件llm LlamaCpp(model_pathMODEL_PATH,temperature0.4,max_tokens1024,n_ctx4096,verboseTrue,# 打开详细日志看模型推理过程n_gpu_layers-1,)3.2、本地数据库写入****chromafrom langchain_chroma import Chromavectorstore Chroma.from_texts(textstexts,metadatasmetadatas,embeddingembedding_function,persist_directoryCHROMA_DIR)vectorstore.persist()向量数据库构建成功后会在本地新建一个chroma.sqlite3数据库文件数据存储在里面的embedding_fulltext_search_content中3**.3、读取本地向量库chroma的内容**vectorstore Chroma(persist_directoryCHROMA_DIR,embedding_functionembedding_function)3.4****构建langchain基础检索器retriever vectorstore.as_retriever(search_kwargs{“k”: 1})这是一个基础的langchain检索器写法search_kwargs{“k”: 1}取相似度最高的一段retriever vectorstore.as_retriever(search_kwargs{“k”: 1“filter”: {“编号”: “GNS-xxxx-xx”}}search_type“mmr”)search_type 是 vectorstore.as_retriever() 的顶层参数用来指定向量库检索的排序 / 筛选算法控制召回文档的逻辑LangChain 的 Chroma 仅支持三种固定取值1.similarity默认不写时就是这个2.mmrMaximal Marginal Relevance 最大边际相关性3.similarity_score_threshold相似度阈值过滤检索)3.5****LangChain 管道Runnable 链式语法 / LCEL 表达式rag_chain ({“context”: retriever | format_docs, “question”: RunnablePassthrough()}| prompt| llm| StrOutputParser())3.6****embedding 在项目中调用方法from langchain_community.embeddings import HuggingFaceEmbeddingsembedding_function HuggingFaceEmbeddings(model_name“shibing624/text2vec-base-chinese”,model_kwargs{‘device’: ‘cpu’},encode_kwargs{‘normalize_embeddings’: True})Embedding(嵌入)是一种将高维、离散或非结构化数据(如文本、图像、类别标签)映射到低维连续向量空间的技术这些向量能捕捉原始数据的语义或特征信息并使得相似的对象在向量空间中距离更近。通俗比喻:给每个词语/物品发一张智能身份证身份证号码(向量)隐含其特征。通过模型(如Word2Vecf)将单词转换为向量:学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

相关新闻

AI科技热点日报 | 2026年07月18日

AI科技热点日报 | 2026年07月18日

文章目录 AI科技热点日报 | 2026年07月18日📌 今日摘要一、WAIC 2026 第二天:"逐浪"演讲、H4 创投生态区、AI Agent 与 OPC 三大主线齐发事件概要来源 / Sources 二、国产 AI 芯片曦望 Sunrise 完成近 10 亿元融资,三代多模推理算力…

2026/10/18 5:59:29 阅读更多 →
什么是 CoT?为啥效果好?它有什么缺点或局限性?

什么是 CoT?为啥效果好?它有什么缺点或局限性?

CoT,不只是“让模型一步步思考” 很多人第一次接触 Chain-of-Thought(CoT,思维链),会把它理解成一句提示词:“请一步步思考。”这句话确实可能有效,但它只说到了表面。真正重要的是&#xff1a…

2026/10/18 5:59:33 阅读更多 →
抖音内容批量下载完全指南:免费工具实现高效内容管理

抖音内容批量下载完全指南:免费工具实现高效内容管理

抖音内容批量下载完全指南:免费工具实现高效内容管理 【免费下载链接】douyin-downloader A practical Douyin downloader for both single-item and profile batch downloads, with progress display, retries, SQLite deduplication, and browser fallback suppor…

2026/10/18 5:59:36 阅读更多 →

最新新闻

水文站点实时数据爬虫:Selenium+Requests混合方案实战

水文站点实时数据爬虫:Selenium+Requests混合方案实战

简介:本资源是一套面向Python初学者与数据爱好者设计的水文实时数据采集与可视化实践项目,聚焦网络爬虫与基础数据分析能力训练,适用于环境监测、水利信息化等场景的入门级技术验证。压缩包共9个文件,含3个核心Python脚本&#xf…

2026/10/18 23:09:18 阅读更多 →
PLaMo 2的MLX版本初体验:plamo-2-translate-bf16在Mac上免费本地运行8B英日翻译模型的完整概览指南

PLaMo 2的MLX版本初体验:plamo-2-translate-bf16在Mac上免费本地运行8B英日翻译模型的完整概览指南

【免费下载链接】plamo-2-translate-bf16 项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/plamo-2-translate-bf16 点击查看 免费下载 本文带你完整了解 plamo-2-translate-bf16:由 mlx-community 制作的 PLaMo 2 8B 英日翻译模型 MLX 版本…

2026/10/18 23:09:18 阅读更多 →
Windows 64位下CUDA 11.4与cuDNN v8.2.2.26运行库配置指南

Windows 64位下CUDA 11.4与cuDNN v8.2.2.26运行库配置指南

简介:这是一份面向 Windows 深度学习开发者的 CUDA 11.4 配套组件包,提供 NVIDIA cuDNN v8.2.2.26 的完整 x64 运行库与头文件,专为搭配 CUDA Toolkit 11.4 使用,适合需要配置 TensorFlow、PyTorch 等框架 GPU 加速环境的开发者。…

2026/10/18 23:09:18 阅读更多 →
深入理解 Claude Code 源码:终端 Agent 的工程解剖与实现

深入理解 Claude Code 源码:终端 Agent 的工程解剖与实现

简介:《深入理解Claude Code源码》面向希望深入终端AI Agent内部实现的技术人员,系统剖析Anthropic命令行编程助手的架构设计、工程实践与编程哲学。全书25章加2个附录,覆盖查询引擎、工具系统、Agent编排、六层权限模型、MCP协议、状态管理与…

2026/10/18 23:09:18 阅读更多 →
提示工程架构师:从提示词设计到稳定落地的完整指南

提示工程架构师:从提示词设计到稳定落地的完整指南

1. 提示工程架构师到底在做什么——角色拆解与价值锚点1.1 从一个不起眼的输入框说起大概在两三年前,我很难想象"提示工程架构师"会成为一个正经职业头衔。当时身边人听说我在研究"怎么跟AI说话",第一反应都是:那不就是写…

2026/10/18 23:09:18 阅读更多 →
78B多模态大模型如何落地?InternVL2_5-78B-MPO多卡部署与省显存量化完整攻略

78B多模态大模型如何落地?InternVL2_5-78B-MPO多卡部署与省显存量化完整攻略

【免费下载链接】InternVL2_5-78B-MPO 项目地址: https://ai.gitcode.com/OpenGVLab/InternVL2_5-78B-MPO 点击查看 免费下载 InternVL2_5-78B-MPO 是一款基于 ViT-MLP-LLM 架构的开源多模态大模型,融合了 6B 视觉编码器 InternViT 与 72B 语言模型 Qwe…

2026/10/18 23:08:17 阅读更多 →

日新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 12:16:16 阅读更多 →