DeepMind起草“机器人宪法”以确保AI机器人不伤害人类

谷歌旗下的DeepMind公司最近宣布了三项新进展，其中之一是针对收集训练数据的系统，起草了一份被称为“机器人宪法”的文件，旨在确保AI机器人在执行任务时不会对人类造成伤害。

谷歌的数据收集系统AutoRT能够同时利用视觉语言模型（VLM）和大型语言模型（LLM），以理解环境、适应陌生场景，并做出适当的任务决策。新起草的“机器人宪法”受到艾萨克・阿西莫夫的“机器人三大定律”的启发，以安全为出发点，指示LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。

为了提高安全性，DeepMind限制了机器人关节的编程，当力超过一定阈值时，机器人会自动停止。此外，还配备了专门的物理紧急停止开关。

在过去7个月的时间里，谷歌部署了一支由53台AutoRT机器人组成的机群，分别部署在四个不同的办公楼，并进行了超过77000次试验。有些机器人由人类操作员远程控制，而另一些则根据脚本或完全自主地使用谷歌的机器人变形器（RT-2）人工智能学习模型运行。

试用中使用的机器人看起来更实用而不是花哨，只配备了摄像头、机械臂和移动底座。每个机器人都使用VLM来理解其环境和视野内的物体。接下来，LLM提出了机器人可以执行的创造性任务清单，例如将零食放在台面上，并充当决策者的角色，选择机器人执行的适当任务。

此外，DeepMind还宣布了SARA-RT，这是一种神经网络架构，比现有的Robotic Transformer RT-2更准确，速度更快。谷歌还引入了RT-Trajectory，添加了2D轮廓，以帮助机器人更好地执行擦桌子等特定的物理任务。

这些进展表明DeepMind致力于确保AI机器人的安全性，并通过制定“机器人宪法”等措施来规范其行为，以防止对人类造成潜在危害。