革命性AI实验在Minecraft中构建小型语言模型CraftGPT的完整指南【免费下载链接】craftgptSmall language model built in Minecraft.项目地址: https://gitcode.com/gh_mirrors/cra/craftgptCraftGPT是一项令人惊叹的技术实验它将人工智能与游戏世界完美结合在Minecraft中构建了一个小型语言模型。这个创新项目不仅展示了AI技术的无限可能更为开发者和游戏爱好者提供了一个独特的学习平台。本文将带你深入了解CraftGPT的工作原理、搭建过程以及如何在自己的Minecraft世界中体验这一革命性的AI实验。什么是CraftGPTCraftGPT是一个在Minecraft中运行的小型语言模型它基于TinyChat数据集训练而成。与传统的AI模型不同CraftGPT完全在Minecraft的红石电路中实现这意味着它的运行速度可能远不及现代GPU加速的AI模型但这正是其魅力所在——在一个看似不可能的环境中实现人工智能的核心功能。需要注意的是CraftGPT作为一个实验性项目其性能有一定限制。模型容易偏离主题生成的响应可能不符合语法规则或者干脆输出无意义的内容。此外它的上下文窗口非常小只有64个token。项目展示视频中的对话是模型表现最佳的情况不一定代表其平均水平。为什么选择在Minecraft中构建AI模型Minecraft作为一个沙盒游戏提供了无限的创造力和可能性。将AI模型引入Minecraft不仅是对技术极限的挑战也为AI教育提供了一个生动有趣的平台。通过可视化的红石电路玩家可以直观地理解神经网络的工作原理这比抽象的数学公式更容易让人接受。此外Minecraft的跨平台特性使得CraftGPT可以被全球各地的玩家和开发者访问和修改促进了开源AI技术的普及和创新。准备工作系统要求与必要工具在开始构建CraftGPT之前你需要确保你的系统满足以下要求至少32GB的RAM理想情况下64GB或更多足够的存储空间来容纳Minecraft世界和模型权重文件最重要的工具是MCHPRS它是在合理时间内运行CraftGPT的关键。MCHPRS基于 vanilla 红石机制构建理论上可以在原版Minecraft中运行但如果不提高tick rate生成一个响应可能需要长达10年的时间因此强烈建议先安装MCHPRS。即使使用MCHPRS生成响应仍然可能需要数小时。因此项目作者还提供了一个模拟器emulator.py你可以先在模拟器中尝试输入提示甚至尝试不同的RNG种子以节省时间。构建步骤从安装到运行步骤1安装MCHPRS下载MCHPRS源代码将plot scale设置为7可以在./crates/core/src/plot/mod.rs中找到编译MCHPRS步骤2准备MCHPRS世界下载MCHPRS世界文件将其解压到./target/release目录将解压后的文件夹重命名为world步骤3启动并配置MCHPRS登录MCHPRS版本1.20.4输入命令/rp c -io。其中-io标志启用优化编译并防止向玩家发送非输入/输出块更新。你可以不使用这些标志运行以便查看红石更新但速度会显著变慢。在作者的机器上编译大约需要10分钟。输入命令/rtps unlimited和/wsr 1步骤4设置RNG种子和输入提示默认的RNG种子是1。如果你想输入不同的种子可以在坐标230, 150, 1000处用二进制形式输入然后按按钮确认。输入你的提示并按回车键。等待几个小时让模型生成响应进度条显示当前token的进度二进制计数器显示已处理的token数量。完成后你可以输入另一个提示。CraftGPT的技术原理模型架构CraftGPT的核心架构在emulator.py中定义。它包含以下关键组件嵌入层Embedding将输入token转换为向量表示Transformer块包含注意力机制和MLP层归一化LayerNorm稳定训练过程未嵌入层Unembedding将模型输出转换回token模型的主要参数如下层数LAYERS6注意力头数HEADS5MLP缩放因子MLP_SCALE4嵌入大小EMBED_SIZE240头大小HEAD_SIZE48EMBED_SIZE // HEADS词汇表大小VOCAB_SIZE1920输出大小OUTPUT_SIZE8权重文件结构CraftGPT的权重文件存储在weights/weight_files/目录下主要包括以下子目录attention/注意力机制相关权重如att_1.bin到att_144.binembedding/嵌入层权重如wpe_1.bin、wpe_2.bin、wte_1.bin到wte_60.binlayernorm/层归一化权重如ln_1.bin到ln_13.binmlp/MLP层权重如mlp_1.bin到mlp_290.bintokens/字符和索引文件如chars.bin、indices.bin、trie.binunembedding/未嵌入层权重如lm_head_1.bin到lm_head_48.bin这些权重文件是模型的核心它们决定了模型如何处理输入并生成输出。红石实现虽然具体的红石电路实现细节没有在提供的文件中详细描述但我们可以想象这是一个极其复杂的系统。每个神经网络层都需要用红石电路来模拟包括大量的逻辑门、红石火把和红石线。MCHPRS的作用就是加速这些红石电路的运行使得模型能够在合理的时间内生成响应。使用CraftGPT提示与技巧管理期望如前所述CraftGPT是一个实验性项目不要对其性能抱有过高期望。它可能会生成无意义的内容或者在对话中突然偏离主题。将其视为一个学习工具和技术演示而不是一个实用的AI助手。尝试不同的种子RNG种子对CraftGPT的输出有很大影响。你可以尝试不同的种子值看看它们如何影响模型的响应。这也是理解AI随机性的好方法。使用模拟器进行测试在实际的Minecraft世界中运行CraftGPT可能需要数小时才能得到结果。因此建议先使用emulator.py进行测试。模拟器可以快速验证你的提示和种子是否会产生有趣的结果。如何重置模型CraftGPT没有重置或退格按钮。如果你想重置它最快的方法是加载一个新的世界副本。不过你也可以通过按屏幕后面的按钮、所有注意力块token计数器处的按钮并清除输入缓冲区来手动重置。结论Minecraft AI的未来CraftGPT展示了在非传统环境中实现AI的可能性它不仅是一个技术奇迹更是一个教育工具。通过在Minecraft中构建和运行语言模型我们可以更直观地理解AI的工作原理激发更多人对人工智能的兴趣。虽然CraftGPT目前还处于实验阶段但它为未来的发展指明了方向。也许有一天我们会看到更复杂的AI模型在Minecraft中运行甚至与游戏世界中的实体进行智能交互。无论如何CraftGPT都是开源社区创新精神的绝佳例证。它邀请我们重新思考AI的边界并探索将技术融入创意表达的新方式。如果你对AI和Minecraft都感兴趣那么CraftGPT绝对值得一试。它可能不会成为你日常使用的AI助手但它一定会让你对人工智能和游戏开发有全新的认识。参与和贡献CraftGPT是一个开源项目欢迎开发者和爱好者参与和贡献。你可以通过以下方式参与改进红石电路设计提高模型运行速度优化模型架构提升生成质量扩展词汇表增加模型的表达能力编写更详细的文档帮助更多人了解和使用CraftGPT要开始你的贡献之旅只需克隆仓库git clone https://gitcode.com/gh_mirrors/cra/craftgpt然后探索代码和红石电路看看你能为这个革命性的AI实验带来什么新的想法和改进。让我们一起探索Minecraft AI的无限可能【免费下载链接】craftgptSmall language model built in Minecraft.项目地址: https://gitcode.com/gh_mirrors/cra/craftgpt创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考