如何快速上手PI0Fast (LeRobot)从安装到推理的完整教程【免费下载链接】pi0fast-base项目地址: https://ai.gitcode.com/hf_mirrors/lerobot/pi0fast-basePI0Fast (LeRobot) 是一款基于视觉-语言-动作VLA的机器人策略模型通过FAST动作令牌的自回归下一个令牌预测来生成连续的机器人动作。本教程将帮助你从安装到推理快速掌握PI0Fast的使用方法让你轻松开启机器人控制之旅。什么是PI0Fast (LeRobot)PI0Fast是LeRobot框架下的一款高效动作令牌化模型它能够接收多视图图像、状态信息和可选的语言指令作为输入输出连续的机器人动作。该模型采用FAST令牌进行动作表示训练目标为下一个令牌的交叉熵损失非常适合在特定任务上进行微调。快速安装PI0Fast (LeRobot)安装PI0Fast非常简单只需使用pip命令即可完成。打开终端输入以下命令pip install lerobot[pi]githttps://github.com/huggingface/lerobot.git如果你需要完整的安装细节包括可选的视频依赖如ffmpeg for torchcodec可以参考官方文档。加载模型和数据集安装完成后我们就可以开始加载模型和数据集了。以下是一个简单的示例代码import torch from lerobot.datasets.lerobot_dataset import LeRobotDataset from lerobot.policies.factory import make_pre_post_processors from lerobot.policies.pi0_fast.modeling_pi0_fast import PI0FastPolicy # 加载策略模型 model_id lerobot/pi0fast-libero # 可以替换为其他 checkpoint device torch.device(cuda if torch.cuda.is_available() else cpu) policy PI0FastPolicy.from_pretrained(model_id).to(device).eval() # 创建预处理和后处理处理器 preprocess, postprocess make_pre_post_processors( policy.config, model_id, preprocessor_overrides{device_processor: {device: str(device)}}, ) # 加载数据集 dataset LeRobotDataset(lerobot/libero)运行推理生成机器人动作加载好模型和数据集后我们就可以运行推理来生成机器人动作了。以下是一个简单的示例# 选择一个 episode episode_index 0 from_idx dataset.meta.episodes[dataset_from_index][episode_index] to_idx dataset.meta.episodes[dataset_to_index][episode_index] # 获取该 episode 中的一帧数据例如第一帧 frame_index from_idx frame dict(dataset[frame_index]) # 预处理数据 batch preprocess(frame) # 运行推理 with torch.inference_mode(): pred_action policy.select_action(batch) # 后处理动作例如反归一化、解令牌化等 pred_action postprocess(pred_action)训练和微调PI0Fast模型如果你想在自己的任务上训练或微调PI0Fast模型可以使用LeRobot提供的训练脚本。以下是一个训练命令的示例lerobot-train \ --dataset.repo_idHuggingFaceVLA/libero \ --output_dir./outputs/[RUN_NAME] \ --job_name[RUN_NAME] \ --policy.repo_id[THIS_REPO_OR_CHECKPOINT] \ --policy.pathlerobot/[BASE_CHECKPOINT] \ --policy.dtypebfloat16 \ --policy.devicecuda \ --steps100000 \ --batch_size4你还可以根据需要添加特定的策略标志例如-policy.chunk_size...-policy.n_action_steps...-policy.max_action_tokens...-policy.gradient_checkpointingtrue在仿真环境中评估模型训练完成后你可以在Libero仿真环境中评估模型的性能。以下是一个评估命令的示例lerobot-eval \ --policy.pathlerobot/[CHECKPOINT_ID] \ --env.typelibero \ --env.tasklibero_object \ --eval.batch_size1 \ --eval.n_episodes20真实世界中的推理和评估除了在仿真环境中评估你还可以在真实世界中运行推理和评估。使用lerobot-record脚本你可以输入策略checkpoint来运行推理并记录评估结果。以下是一个示例命令lerobot-record \ --robot.typeso100_follower \ --robot.port/dev/ttyACM1 \ --robot.cameras{ up: {type: opencv, index_or_path: /dev/video10, width: 640, height: 480, fps: 30}, side: {type: intelrealsense, serial_number_or_name: 233522074606, width: 640, height: 480, fps: 30}} \ --robot.idmy_awesome_follower_arm \ --display_datafalse \ --dataset.repo_id${HF_USER}/eval_so100 \ --dataset.single_taskPut lego brick into the transparent box \ --policy.path${HF_USER}/my_policy总结通过本教程你已经了解了如何安装、加载、推理和训练PI0Fast (LeRobot)模型。PI0Fast作为一款高效的视觉-语言-动作模型为机器人控制提供了强大的工具。无论是在仿真环境还是真实世界中PI0Fast都能帮助你实现精准的机器人动作控制。现在就开始尝试使用PI0Fast开启你的机器人控制之旅吧如果你想了解更多关于PI0Fast的信息可以参考原始论文FAST: Efficient Action Tokenization for Vision-Language-Action Models和参考实现。希望本教程对你有所帮助祝你在机器人控制的道路上取得成功【免费下载链接】pi0fast-base项目地址: https://ai.gitcode.com/hf_mirrors/lerobot/pi0fast-base创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考