MMRole是中国人民大学高瓴人工智能学院研究团队推出的的一种多模态角色扮演智能体（MRPA）框架。通过结合图像和文本，使智能体以特定角色进行更自然和沉浸式的对话。MMRole包括一个大规模、高质量的多模态数据集和一个全面的评估方法，用于开发和评测MRPAs的性能。框架的推出，为创建能够理解并生成与图像相关的对话内容的智能体提供了新的可能性，拓展了在教育、娱乐等领域的应用前景。
MMRole主要功能多模态角色扮演数据集（MMRole-Data）：提供包含多个角色、图像和对话的大规模数据集，用于训练MRPAs理解和生成与图像相关的对话。多模态角色扮演评估方法（MMRole-Eval）：八个详细的评估指标，全面评估MRPAs的对话技巧、多模态理解能力和角色扮演质量。奖励模型：开发奖励模型，用于定量评估MRPAs的性能，通过与构建的标准答案比较来评分。MRPA开发：支持开发专门的多模态角色扮演智能体，如MMRole-Agent，在多模态信息理解和角色扮演方面表现出色。开源资源：提供数据、代码和模型的开源访问，促进研究社区的进一步研究和开发。MMRole的技术原理MMRole-Data：一个大规模、高质量的多模态角色扮演数据集，包含85个不同的角色、超过11,000张图像和14,000段对话。对话可以是单轮或多轮的，围绕图像展开，旨在训练MRPAs进行多模态对话。MMRole-Eval：一套全面的评估方法，包含三个维度下的八项评测指标，用于评估MRPAs的性能。指标涵盖了基础对话技巧、多模态理解能力和角色扮演质量。为定量评估MRPAs，研究团队开发专门的奖励模型，模型通过比较待评估的MRPA与构建的标准答案之间的相对性能来进行评分。MMRole的项目地址GitHub仓库：https://github.com/YanqiDai/MMRolearXiv技术论文：https://arxiv.org/pdf/2408.04203MMRole的应用场景教育与培训：在语言学习或历史教育中，MRPAs扮演教师或历史人物，通过互动对话提供更生动的学习体验。娱乐与游戏：在视频游戏或互动故事中，MRPAs作为非玩家角色（NPCs），提供丰富的角色扮演和沉浸式游戏体验。客户服务：在客户支持系统中，MRPAs模拟客服代表，通过多模态交互提供更自然和有效的用户支持。社交模拟：在社交技能训练或心理辅导中，MRPAs模拟不同的社交角色，帮助用户练习和提高社交互动能力。内容创作：MRPAs辅助内容创作者，通过角色扮演提供创意灵感，或者在创作过程中模拟角色对话。 
