让 AI 聆听人类心声朱松纯团队研究成果亮相 Science 封面
让 AI "聆听"人类心声！朱松纯团队研究成果登上 Science 头条
近日，国际顶尖学术期刊《Science》发布了由朱松纯团队（包括UCLA的袁路遥、高晓丰、北京通用人工智能研究院的郑子隆以及北京大学人工智能研究院的朱毅鑫等成员）共同完成的最新研究论文。该论文题为“实时双向人机价值对齐”，在《Science Robotics》上发表，并且获得了主页头条推荐。
这项突破性工作提出了一种新的可解释的人工智能（XAI）系统，通过一个计算框架来实现机器实时理解人类价值观。实验结果展示了机器人如何与人类用户通过即时沟通协作完成复杂任务。这次成果是朱松纯教授团队关于可解释AI领域第二篇发表于《Science Robotics》的重要贡献，它跨越认知推理、自然语言处理、机器学习和机器人学等多个学科领域，体现了该团队在交叉领域研究中的深厚积累。
随着科技不断进步，我们正处于一个需要更好的人机共存时代。在这个过程中，让机械之手更加高效地服务于我们，是一件非常重要的事情。但是目前大多数AI系统都是基于数据驱动，不断地从我们行为中学习，而不是真正理解我们的价值观。因此，让这些系统能够“读懂”我们的价值观就变得至关重要。
为了解决这一问题，科学家们提出了“实时双向价值对齐”的概念。这不仅要求我们提供反馈来教会AI理解我们的价值观，而且还要求AI能够给出解释，以便我们了解它所做决策背后的原因。这种双向对齐对于确保值得信赖的人类与机械之间的合作至关重要，因为只有当他们分享相同的情感和目标时，他们才能有效地协作。
本文详细介绍了朱松纯团队开发的一款名为“游戏”的平台，该平台旨在模拟现实世界中的人类与机械之间的互动。当玩家参与到这个游戏中，他们必须指导三个侦察机器人的行动，以最大化整个小组的收益，同时保护他们免受威胁。此外，这些玩家的选择将影响这些自主运行而无法直接控制的小型无人驾驶飞行器采取何种行动，这使得每一次决定都充满挑战性并且紧迫。
通过这种方式，玩家可以体验到自己作为领导者的角色，并将自己的决策传达给那些执行任务的小型无人驾驶飞行器。这不仅提高了通信效率，还帮助玩家更好地理解这些无线电天线如何根据用户设定的目标进行操作，从而推动他们朝着共同目标前进。如果成功的话，小型无人驾驶飞行器最终将学会以一种既能被它们所接受又能被其导航者所欣赏的方式操作，从而建立起一种真正有意义的人类-机械合作关系。
