【免费下载链接】InternVL3_5-1B-Instruct项目地址https://ai.gitcode.com/OpenGVLab/InternVL3_5-1B-Instruct点击查看免费下载InternVL3_5-1B-Instruct 是 InternVL3.5 系列中最小的多模态思考模型1.1B 参数只需一段 R1 风格的系统提示词再配合do_sampleTrue、temperature0.6的采样参数即可开启思考模式Thinking Mode模型会先在think标签内逐步推理再给出最终答案。本文手把手带你三步启用思考模式并附上采样参数最佳实践与避坑清单。一、认识 InternVL3_5-1B-Instruct1B 也能深度思考InternVL3.5 延续了ViT–MLP–LLM的架构范式1B 版本的具体规格如下项目说明总参数量1.1B视觉 0.3B 语言 0.8B视觉编码器InternViT-300M支持动态高分辨率切块语言模型Qwen3-0.6B上下文窗口 32K tokens训练流水线CPT持续预训练 SFT监督微调推理能力通过 Cascade RL 框架离线 MPO 在线 GSPO训练注入先思考再回答能力本仓库的 config.json 中可以看到视觉与语言双塔的配置细节默认生成参数位于llm_config节点注意默认是do_sampleFalse、temperature1.0启用思考模式时必须手动覆盖。小贴士InternVL3.5 全系提供四个版本后缀代表训练阶段无后缀如InternVL3_5-1B完成了完整的 CPT SFT CascadeRL 流水线思考能力最稳-Instruct版即本文主角完成了 CPT SFT同样支持通过提示词开启思考模式适合显存受限的场景。二、思考模式是什么先想后答的 R1 风格协议开启思考模式后模型会遵循两段式响应协议User: image 请解答这道几何题 Assistant: 对题目进行多角度分析逐步推导…… /think 最终答案……这套协议并非靠模型自觉而是有底层支持——词表中专门注册了think和end两个特殊 tokenID 分别为 151667、151668定义在 added_tokens.json。单 token 化的思考标签让模型生成时更稳定也方便下游程序按标签切分推理过程与最终答案。在官方测试时扩展Test-Time Scaling方案中这种深度思考Deep Thinking用于提升多步推理类任务数学、科学推理等的逻辑结构与正确率而普通感知类问题本身已很强无需强制思考。三、三步启用 InternVL3_5-1B-Instruct 思考模式前置条件transformers4.52.1GPU 显存建议 8GB 以上bf16 精度。第 1 步加载模型import torch from transformers import AutoTokenizer, AutoModel path OpenGVLab/InternVL3_5-1B-Instruct model AutoModel.from_pretrained( path, torch_dtypetorch.bfloat16, low_cpu_mem_usageTrue, use_flash_attnTrue, trust_remote_codeTrue, device_mapauto).eval() tokenizer AutoTokenizer.from_pretrained(path, trust_remote_codeTrue, use_fastFalse)第 2 步设置 R1_SYSTEM_PROMPT 系统提示词核心这是官方给出的思考模式系统提示词作用是约束模型先分析、后作答R1_SYSTEM_PROMPT You are an AI assistant that rigorously follows this response protocol: 1. First, conduct a detailed analysis of the question. Consider different angles, potential solutions, and reason through the problem step-by-step. Enclose this entire thinking process within think and end tags. 2. After the thinking section, provide a clear, concise, and direct answer to the users question. Separate the answer from the think section with a newline. Ensure that the thinking process is thorough but remains focused on the query. The final answer should be standalone and not reference the think section. .strip() model.system_message R1_SYSTEM_PROMPT原理速览模型内部使用internvl2_5对话模板初始化时从模板读取默认系统提示词见 conversation.py 中你是书生·万象……。每次推理时modeling_internvl_chat.py 的chat方法会把model.system_message注入到system槽位。因此只需一行model.system_message R1_SYSTEM_PROMPT即可全局替换无需修改任何其他代码。第 3 步配置采样参数并发起对话generation_config dict(max_new_tokens8192, do_sampleTrue, temperature0.6) question image\nPlease solve this math problem step by step. response model.chat(tokenizer, pixel_values, question, generation_config) print(response)其中pixel_values是按下文加载图片得到的张量纯文本对话可传None。完整推理示例与图片预处理函数load_image、dynamic_preprocess可参考 README.md 的 Quick Start 章节。四、采样参数最佳实践哪些值该改、为什么官方 README 在启用思考模式时明确推荐do_sampleTrue且temperature0.6以抑制长思考过程中出现的无意义重复。以下是完整参数建议参数推荐值说明do_sampleTrue官方针对思考模式的必改项关闭采样容易陷入重复循环temperature0.6适度的随机性过低答案呆板过高易重复发散max_new_tokens8192思考过程本身很长必须预留足够 token否则会截断在think中间top_k/top_p50/0.95可选参考官方 LMDeploy 部署示例的取值⚠️注意两点config.json 里语言模型的默认值是do_sampleFalse、temperature1.0、top_k50、top_p1.0不会自动变成推荐值务必在generation_config中显式传入。官方 README 示例中赋值语句存在一处变量名笔误R1_SYSTEMP_PROMPT抄录时请确保变量名与定义一致否则会报NameError。五、常见问题排查清单输出里没有think标签检查model.system_message是否真的被替换成功纯文本闲聊也可能不触发思考建议换数学/科学推理题测试。同一段话反复循环do_sample没有设为True或temperature过高按上表调整。思考过程被截断max_new_tokens太小如沿用默认的 1024提高到 8192 起步。只想恢复普通问答把model.system_message改回默认提示词或重新加载模型即可思考模式是无状态的提示词开关。六、相关源码与配置文件速查文件内容README.md官方 Thinking Mode 说明与 R1_SYSTEM_PROMPT 原文config.json模型架构、视觉/语言双塔与默认生成参数added_tokens.jsonthink/end特殊 token 定义conversation.pyinternvl2_5对话模板与默认系统提示词modeling_internvl_chat.pymodel.chat推理入口与 system_message 注入逻辑tokenizer_config.json分词器配置含思考标签的特殊 token七、总结启用思考模式的 5 个要点✅ 系统提示词替换为官方R1_SYSTEM_PROMPT一行model.system_message ...搞定✅do_sampleTruetemperature0.6避免长思考重复✅max_new_tokens ≥ 8192给推理过程留足空间✅ 使用transformers4.52.1加载trust_remote_codeTrue✅ 思考模式面向推理类任务日常简单问答可不开启省时省 token掌握以上配置你手中的 1.1B 小模型就能在数学、科学推理等多步任务上展现出远超体量的深度思考能力了。赞分享【免费下载链接】InternVL3_5-1B-Instruct项目地址https://ai.gitcode.com/OpenGVLab/InternVL3_5-1B-Instruct点击查看免费下载相关推荐开启InternVL3_5-8B-Flash深度思考Thinking模式系统提示词与采样参数完全指南开启InternVL3_5 8B Flash深度思考Thinking模式系统提示词与采样参数完全指南 InternVL3.5 8B Flash仓库名 Int如何为InternVL3_5-4B-MPO开启Thinking思维模式R1系统提示词调优与参数避坑指南如何为InternVL3_5 4B MPO开启Thinking思维模式R1系统提示词调优与参数避坑指南 InternVL3_5 4B MPO 是 Intern如何开启InternVL3.5-30B-A3B的思考模式R1风格推理系统提示词与采样参数调优完全指南如何开启InternVL3.5 30B A3B的思考模式R1风格推理系统提示词与采样参数调优完全指南 本文介绍 InternVL3.5 30B A3B 多模态创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考