Buffer of Thoughts LLMNeurIPS 2024 Spotlight论文揭秘思维增强推理如何革新大模型能力【免费下载链接】buffer-of-thought-llm[NeurIPS 2024 Spotlight] Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models项目地址: https://gitcode.com/gh_mirrors/bu/buffer-of-thought-llmBuffer of ThoughtsBoT是由北京大学、加州大学伯克利分校和斯坦福大学联合开发的思维增强推理框架作为NeurIPS 2024 Spotlight论文成果它通过创新的元缓冲区Meta Buffer机制显著提升了大语言模型的推理准确性、效率和鲁棒性。该框架在10项推理密集型任务中全面超越现有方法平均仅需多查询提示方法如思维树/图12%的成本就能实现11%24点游戏、20%几何图形和51%一步将杀的性能提升。 核心创新思维模板驱动的推理革命BoT框架的突破在于引入了元缓冲区存储从各类任务中提炼的思维模板并通过缓冲区管理器动态优化这些模板。与传统的思维链Chain-of-Thought或思维树Tree-of-Thought方法不同BoT不是简单地生成推理步骤而是通过结构化模板引导模型进行可复用的逻辑推理。图Buffer of Thoughts框架通过元缓冲区存储思维模板实现高效问题蒸馏与实例化推理2226x1530像素高清流程图从上图可以清晰看到BoT解决数学问题时展现出的显著优势左侧传统方法Chain-of-Thought和Plan-and-Solve均得出错误答案而右侧BoT通过问题蒸馏→模板检索→实例化推理三步流程准确求解了二次方程问题。这种结构化推理能力使Llama3-8BBoT甚至有潜力超越Llama3-70B原生模型。 性能突破10项任务全面超越SOTABoT在多项基准测试中表现出惊人性能以下是部分关键结果任务GPT-4思维链思维树元提示BoT本文方法24点游戏3.0%64.0%74.0%67.0%82.4%几何图形52.6%51.2%56.8%78.2%93.6%一步将杀36.4%10.8%49.2%57.0%86.4%多步算术84.0%87.4%88.2%90.0%99.8%单词排序80.4%93.2%96.4%99.6%100.0%特别值得注意的是在需要复杂逻辑推理的任务中BoT优势更为明显。例如在国际象棋一步将杀问题上BoT将准确率从57%提升至86.4%相对提升51.6%而在几何图形推理任务中BoT实现了93.6%的准确率远超GPT-4的52.6%。 技术解析元缓冲区与思维模板BoT的核心组件包括1. 元缓冲区Meta Buffer元缓冲区是存储思维模板的知识库这些模板是从不同任务的解决过程中提炼的高级推理结构。例如在数学问题中二次方程求解模板包含计算判别式→判断根的性质→求解根的标准化步骤。项目中提供的math.txt文件包含了多种数学推理模板。2. 缓冲区管理器Buffer Manager动态更新元缓冲区的智能系统能够根据新任务自动优化和扩展模板库。这一机制确保了BoT框架的可扩展性和长期稳定性相关实现可见meta_buffer.py和meta_buffer_utilis.py。3. 推理流程问题蒸馏将输入问题转化为结构化表示模板检索从元缓冲区匹配最合适的思维模板实例化推理用具体问题参数填充模板执行推理️ 快速上手5分钟启动BoT推理环境准备git clone https://gitcode.com/gh_mirrors/bu/buffer-of-thought-llm cd buffer-of-thought-llm conda create -n BoT python3.9 pip install -r requirements.txt数学问题推理示例from bot_pipeline import BoT # 初始化BoT框架 bot BoT( user_inputSolve the problem: Raymond and Samantha are cousins..., api_keyyour_api_key, model_idgpt-4o-mini, embedding_modeltext-embedding-3-large, rag_dir./math ) # 执行推理 bot.bot_inference()通过命令行快速测试python inference.py --api_key your_api_key_here基准测试运行BoT支持三大基准测试24点游戏、一步将杀和单词排序数据位于benchmarks/目录python run_benchmarks.py --task_name gameof24 --model_id gpt-4o 研究价值与应用前景BoT框架不仅在学术上推动了大模型推理技术的发展其应用价值同样显著教育领域通过结构化思维模板提升AI辅导系统的解题能力test_templates.py提供了模板验证功能科学研究辅助复杂问题的推理分析已衍生出ReasonFlux-PRM等进阶模型工业应用降低推理成本提高决策系统可靠性代码中的lightrag/模块实现了高效的模板管理根据最新研究进展基于BoT开发的ReasonFlux-F1-32B模型在MATH500数据集上达到96.0%的Pass1准确率超越DeepSeek-R1-Distill-32B94.3%和o1-mini90.0%充分证明了思维模板方法的巨大潜力。 资源与引用论文原文arXiv:2406.04271article{yang2024buffer, title{Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models}, author{Yang, Ling and Yu, Zhaochen and Zhang, Tianjun and Cao, Shiyi and Xu, Minkai and Zhang, Wentao and Gonzalez, Joseph E and Cui, Bin}, journal{Advances in Neural Information Processing Systems}, year{2024} }BoT框架的实现基于light-RAG技术如需深入了解底层机制可参考lightrag/lightrag.py中的核心代码。随着AI推理技术的不断发展Buffer of Thoughts开创的思维模板方法为构建更高效、更可靠的大语言模型推理系统提供了全新思路。无论是学术研究还是工业应用BoT都展现出成为下一代推理框架的巨大潜力。【免费下载链接】buffer-of-thought-llm[NeurIPS 2024 Spotlight] Buffer of Thoughts: Thought-Augmented Reasoning with Large Language Models项目地址: https://gitcode.com/gh_mirrors/bu/buffer-of-thought-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考