新物网

当前位置:首页 > 互联网

互联网

微软总裁表示短期内不可能出现超级智能 AGI,强调 AI 安全的重要性

时间:2023-12-01 08:51:21 小新
站长之家(ChinaZ.com) 12 月 1 日消息:微软公司总裁表示,在未来 12 个月内创造出超智能人工智能(AI)的可能性几乎不存在,并警告称这项技术可

站长之家(ChinaZ.com) 12 月 1 日消息:微软公司总裁表示,在未来 12 个月内创造出超智能人工智能(AI)的可能性几乎不存在,并警告称这项技术可能还需数十年时间才能实现。

OpenAI 的联合创始人 Sam Altman 本月早些时候被公司董事会免去首席执行官职务,但在员工和股东的强烈反对声中迅速被重新任命。

路透社上周独家报道称,Altman 被免职的事件紧随研究人员向董事会报告一项危险发现之后,他们担心这一发现可能产生意想不到的后果。

一位消息人士告诉路透社,名为 Q*(发音为 Q-Star)的内部项目可能是这家初创公司寻找所谓的人工通用智能(AGI)的突破。OpenAI 将 AGI 定义为在大多数经济价值高的任务中超越人类的自治系统。

然而,微软总裁布拉德·史密斯(Brad Smith)周四在英国接受记者采访时否认了这一危险突破的说法。

「在未来 12 个月内看到所谓的 AGI,即计算机比人类更强大的可能性绝对为零。这需要多年,甚至可能需要几十年的时间,但我仍然认为现在就应该关注安全问题,」他说。

消息人士告诉路透社,向 OpenAI 董事会发出的警告是导致 Altman 被解职的众多不满因素之一,还有人担心在评估风险之前就将进展商业化。

当被问及这样的发现是否导致 Altman 被解职时,史密斯表示:「我认为根本不是这样的。我认为董事会和其他人显然存在分歧,但并不是基于这样的担忧。」

「我们真正需要的是安全制动装置。就像电梯中的安全制动装置、电路的断路器、巴士的紧急制动器一样——控制关键基础设施的 AI 系统中也应该有安全制动装置,以确保它们始终在人类控制之下,」史密斯补充道。