BALROG是评估大型语言模型（LLMs）和视觉语言模型（VLMs）在游戏上的推理能力，特别是模型在动态环境中的规划、空间推理和探索能力。基于一系列挑战性的游戏环境，包括程序生成的环境如NetHack，测试模型性能。BALROG揭示了现有模型在简单任务上的成功和在复杂任务上的挑战，尤其是在涉及视觉决策时。BALROG提供开放和细粒度的评估框架，推动自主代理研究的进展。
BALROG的主要功能评估代理能力：评估LLMs和VLMs在长期任务中的代理能力，包括规划、空间推理和探索。多样化游戏环境：集成多种复杂的强化学习游戏环境，从简单任务到极富挑战性的游戏，如NetHack。细粒度性能指标：BALROG设计细粒度的指标来衡量模型在各个游戏环境中的表现。模型排行榜：提供公开的排行榜，展示不同模型在BALROG环境中的平均完成百分比。支持多种模型：支持对开源和闭源的LLMs和VLMs进行评估。BALROG的技术原理强化学习环境：基于强化学习环境，让代理与环境的交互学习最优策略的方法。程序生成环境：BALROG中的环境是程序生成的，环境和任务的复杂性基于算法动态调整，增加任务的多样性和挑战性。多模态输入处理：对于VLMs，BALROG支持处理视觉（图像）和语言（文本描述）输入，评估模型在多模态信息处理上的能力。零样本学习：BALROG评估模型在零样本学习设置下的性能，即模型在没有特定任务训练的情况下处理新任务的能力。细粒度评估：基于设计细粒度的评估指标，提供对模型性能的深入理解，包括在特定任务上的进展和挑战。环境封装：基于封装不同的游戏环境，在统一的框架下进行评估，简化模型测试和比较的过程。BALROG的项目地址项目官网：balrogai.comGitHub仓库：https://github.com/balrog-ai/BALROGarXiv技术论文：https://arxiv.org/pdf/2411.13543BALROG的应用场景人工智能研究：研究人员测试和比较不同模型在多任务、多环境条件下的性能，推动AI技术的发展。游戏AI开发：游戏开发者评估和优化游戏中的非玩家角色（NPC）的智能行为，让游戏更加真实和具有挑战性。自动化和机器人技术：在自动化和机器人领域，评估和改进机器人在未知环境中的自主决策和导航能力。虚拟现实和增强现实：在VR和AR应用中，开发和测试虚拟代理，理解和响应复杂的用户输入和环境变化。教育和培训：作为教育工具，帮助学生理解复杂决策制定过程，学习如何设计和改进智能系统。 
