新物网

当前位置:首页 > 互联网

互联网

DeepMind起草“机器人宪法”以确保AI机器人不伤害人类

时间:2024-01-08 18:00:22 小新新
谷歌旗下的DeepMind公司最近宣布了三项新进展,其中之一是针对收集训练数据的系统,起草了一份被称为“机器人宪法”的文件,旨在确保AI机器人在执行任务时不会对

谷歌旗下的DeepMind公司最近宣布了三项新进展,其中之一是针对收集训练数据的系统,起草了一份被称为“机器人宪法”的文件,旨在确保AI机器人在执行任务时不会对人类造成伤害。

谷歌的数据收集系统AutoRT能够同时利用视觉语言模型(VLM)和大型语言模型(LLM),以理解环境、适应陌生场景,并做出适当的任务决策。新起草的“机器人宪法”受到艾萨克・阿西莫夫的“机器人三大定律”的启发,以安全为出发点,指示LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。

为了提高安全性,DeepMind限制了机器人关节的编程,当力超过一定阈值时,机器人会自动停止。此外,还配备了专门的物理紧急停止开关。

在过去7个月的时间里,谷歌部署了一支由53台AutoRT机器人组成的机群,分别部署在四个不同的办公楼,并进行了超过77000次试验。有些机器人由人类操作员远程控制,而另一些则根据脚本或完全自主地使用谷歌的机器人变形器(RT-2)人工智能学习模型运行。

试用中使用的机器人看起来更实用而不是花哨,只配备了摄像头、机械臂和移动底座。每个机器人都使用VLM来理解其环境和视野内的物体。接下来,LLM提出了机器人可以执行的创造性任务清单,例如将零食放在台面上,并充当决策者的角色,选择机器人执行的适当任务。

此外,DeepMind还宣布了SARA-RT,这是一种神经网络架构,比现有的Robotic Transformer RT-2更准确,速度更快。谷歌还引入了RT-Trajectory,添加了2D轮廓,以帮助机器人更好地执行擦桌子等特定的物理任务。

这些进展表明DeepMind致力于确保AI机器人的安全性,并通过制定“机器人宪法”等措施来规范其行为,以防止对人类造成潜在危害。