AI会让人类失去人性吗？

AI会让人类失去人性吗？

几十年来，研究人员和科学家一直在探索人工智能成为人类助手、导师和顾问的未来。 早在1987年，苹果公司就提出了（知识导航器）的概念。 我似乎记得 20 世纪 90 年代参加麻省理工学院媒体实验室关于软件代理的活动，演讲者戴着圆顶礼帽，以管家的身份出现。 随着生成式人工智能的出现，软件作为人类助手的模糊愿景突然变得清晰起来。 《连线》杂志的威尔·奈特本周概述了现有的和即将发生的事情。

注册即可利用独特的见解和无与伦比的联系，从长远的角度了解技术。

我关心的是，从长远来看，这将如何改变我们以及我们与他人的关系。 我们与他人的许多互动将由机器人代表我们进行。 机器人助手和人类助手的区别在于，它们不会休息，可以即时回复信息。 我们越多地使用它们，我们就越容易在没有它们的情况下生活。

目前人工智能助手还不够完善。 我们还没有达到智能机器人可以接管复杂且容易出错的事情的程度，例如预订航班、预约医生和管理财务投资组合。 但这种情况将会改变，因为它正在取得进展。 我们似乎注定要像长途航空公司飞行员一样生活——设定固定航线，让人工智能驾驶飞机，解放我们的双手。 仅在必要时切换到手动模式。 但令人担忧的是，最终决定飞机飞行方向的可能是人工智能机器人。

抛开世界末日论不谈，我们都将不得不与超级聪明、具有潜在操纵能力的他人打交道。 我们将对日常活动和日常选择（从购物清单到预约安排）的控制权交给人工智能助理，他们还将与我们的家人、朋友和陌生人的代理人互动。 随着智能助理变得越来越独立，他们最终可能会代表我们做出错误的决定或交易。

为了对未来抱有乐观的看法，我咨询了穆斯塔法·苏莱曼 ( )。 他是一家人工智能初创公司的联合创始人，现在是谷歌人工智能开发的核心，现任首席执行官。 AI是一家开发聊天机器人的公司。 苏莱曼的书《即将到来的浪潮》最近出现在《纽约时报》畅销书排行榜上，书中提出了人类如何应对人工智能带来的生存危险。 总的来说，他是一个乐观主义者，并且对软件代理的未来当然持乐观态度。 他将公司制造的机器人 Pi 描述为个人的“参谋长”，不仅为人类提供智慧，还为人类提供善意的鼓励和支持。

苏莱曼说：“今天，Pai不能帮你订餐厅、安排车、买东西。但未来，它将拥有合同和法律代表权，这意味着你将授权Pai在网上签订合同。”代表你，花你的钱，并让你遵守实质性的现实协议。” 此外，Pai还将代表业主拨打电话并与客服代理进行协商。

这似乎很公平，因为现在太多的服务代理已经是机器人了，也许是故意设计的？ ——我们不接受企业雇主欺骗客户的行为。 生活各个领域的人工智能助手之间不可避免地存在着谈判。 苏莱曼承认，我们不希望这些机器人彼此靠得太近，也不希望它们以人类不知道的方式进行互动。 “我们实际上希望人工智能与人工智能之间的交流仅限于简单的英语。这样，我们就可以控制它们，”苏莱曼说。

这是一个善意的担忧，但它可能会迫使特工放慢工作速度，甚至可能阻止我们的超级智能助理可能想出的一些更具创新性的解决方案。 我怀疑，让人工智能与人工智能之间的沟通变得高效、有效，会抑制这种美好的情感。

另一个潜在的危害是广告资助的机器人将用户引导至赞助产品和服务。 苏莱曼不喜欢这样，但他似乎也不排除这种可能性。 他说其他机器人可以带来巨大的价值并且值很多钱。 通常我们每小时向律师支付数百美元，但出于某种原因，我对每月为任何在线服务支付超过 10 美元的费用很敏感。 这种情况必须改变。 那么那些付不起费用的人会获得无广告版本吗？ 他承认并不是每个人都愿意为这项技术付费。 苏莱曼说，无论如何，信任和责任至关重要。 他说：“我们还需要很多年才能对人工智能的自主行为感到完全放心和满意，我认为我们短期内不应该这样做。”

技术将使个人变得更加强大——我关心的一个问题是，人们会用这种力量做什么？

乔纳森·格拉奇，南加州大学

对我来说，这就是我担心的。 一旦我们安于现状，我们就完蛋了。 当我浏览这篇研究论文时，我的注意力被标题“伤害的力量：人工智能助手为不道德行为铺平了道路”所吸引。 这篇由南加州大学科学家 Grach 和 Fast 共同撰写的论文认为，智能代理可以通过律师、发言人和恶棍下属将富人的不良行为外包出去，从而使富人的坏习惯民主化。 他们写道：“我们回顾了一系列研究，这些研究表明，在广泛的社会任务中，当人们通过人工智能代理行事时，他们的行为可能会不太道德，并且更愿意欺骗他人。”

我采访了格拉奇，他在德国维尔茨堡的一次会议上采访了我。 “每个男人或女人都可以让他们的私人助理代表他们做事，”他说。 “我们的研究表明，人们可能更愿意让他们的助手做一些道德上有问题的事情，而不是他们自己愿意做的事情。这很重要。”

Grach 多年来一直在研究智能代理可能产生的影响。 一年来，这一领域发生了巨大变化。 “过去你需要写一整篇博士论文来构建你想要测试的该死的代理，”他说。 “现在，只需花两天时间利用 GPT 之类的东西，你就可以获得真正有价值的东西。” 格拉奇说：“现在他的领域充满了兴奋和担忧。”

他说：“这项技术会让个人变得更强大，给人们更多的自由时间。我关心的是，人们如何使用这种权力？例如，他说，如果我指示一个代理人代表我给某人打电话，你就会失去潜在的人际关系，”格拉奇说。 “这些人际关系是我们保持友好和培养同理心的基础。随着人工智能使其更多地参与算法、法律和交易，它削弱了我们作为人类的角色。”

Grach 的领域曾经以假设为中心，现在感觉像是即将到来的商业人工智能服务的指南。 看看维尔茨堡会议上的一些演讲：“代理在人类代理谈判中的具体影响”、“在保证虚拟酒精滥用咨询师安全的同时调整用户表达”、“融洽关系对虚拟代理授权的影响”。 令人高兴的是，其他论文是关于如何在充满智能代理的世界中保持道德的。 Grach 最近在麻省理工学院参加的一次会议上看到了一篇类似的文章。 他说，所有大型科技公司都在那里，他希望他们能雇用他的学生。

格雷西说，在本周的一次会议上，研究人员探讨了人工智能软件如何通过情感或非语言行为或手势来操纵人们，并找到最有效的技术。 “你可以对它进行微调，让它完成这一切，然后以更高的价格卖给你。你觉得自己有权力吗？”

时间旅行

2010年12月，《连线》杂志抢先宣布：“人工智能革命已经开始”。 在我的文章中，我谈到了弄清楚人工智能产品的用途的困难，即使它们做得很好。

我们一直在与机器进行战斗。 然而，由于机器人的行为不是基于人类的思维过程，我们常常无法解释它们的行为。 Alpha 是由科学家 创建的一个网站，可以解决许多数学问题。 它似乎也表明了这些答案是如何得出的。 但人类看到的逻辑步骤与网站实际计算完全不同。 “它不会做出任何推论，”说。 “这些步骤纯粹是假的。我们想，我们该如何向那些人解释呢？”

我们的教训是，人工智能有时必须适应我们，否则它们会把我们吓坏的。 Eric 现在是微软的高级研究员，也是人工智能促进协会的前主席（他在 20 世纪 80 年代帮助建立了一个人工智能系统，帮助病理学家进行研究、分析每个结果并推荐下一个要执行的测试） ……只有一个问题——它给出答案的速度太快了。“我们发现，如果你给他们添加一个延迟，人们会更相信它，就好像这是一个深思熟虑的答案，”霍维茨说。

但我们必须学会适应。 人工智能对于某些系统（例如金融基础设施）至关重要，摆脱它比简单地断开 HAL 9000 的模块要困难得多。 “从某种意义上说，你可以说科幻小说中的场景已经开始发生，” 的希利斯说。 “计算机控制着一切，而我们只是生活在它们的世界里。” 他表示，随着人工智能承担新的任务，这个问题将会加剧，并进一步超出人类理解的范围。 “你们监管底层算法吗？ 这太疯狂了，因为在大多数情况下你无法预见算法会做什么，”他问道。

提问时间

( ) 问道：“会有继任者发送电子邮件吗？”

谢谢你的提问，香蒂。 电子邮件已过时。 现在，人们可以通过短信、社交网络或 Slack 上的直接消息接收信息。 我认为其他软件的出现将进一步削弱电子邮件曾经拥有的地位。 我记得比尔·盖茨曾经到我在《新闻周刊》的办公室拜访过我，并告诉我垃圾邮件问题将在一年内得到解决。 几个月后，我将庆祝我访问的20周年，我每天都会收到数十封垃圾邮件，其中大量逃脱了垃圾邮件过滤器。

除了垃圾邮件之外，我仍然更喜欢电子邮件。 很难想象还有比这更简单的方法来发送或接收文件或搜索交互式信息。

另一方面，如果有人建议对那些单方面将我添加到邮件列表（尤其是商业邮件列表）的人强制执行最低刑罚，我不会反对。

写在最后

除了提供建议和与客服争论之外，机器人还可以写作。

Dall-E 3 让插画师更容易失业。

对于诺贝尔奖获得者 来说，发明 Cas9 基因组编辑方法还不够，她现在正在研究微生物的基因编辑。

特斯拉创始人埃隆·马斯克创立的大脑芯片公司被指控虐待猴子。

译者：