新物网

当前位置:首页 > 互联网

互联网

谷歌更新揭示AI将阅读你的所有私人消息

时间:2024-01-29 21:00:08 小新新
谷歌刚刚发布了Android的一项具有颠覆性意义的AI升级。但它也有一个更阴暗的一面。谷歌的AI将阅读并分析你的私人消息,一直回溯到过去。那么这对你意味着什么?

谷歌刚刚发布了Android的一项具有颠覆性意义的AI升级。但它也有一个更阴暗的一面。谷歌的AI将阅读并分析你的私人消息,一直回溯到过去。那么这对你意味着什么?如何保护隐私?何时开始生效?

人们对谷歌为Messages引入Bard感到兴奋,这是一个类似于ChatGPT的UI,可以服务数亿用户。Bard是一个“可以改善您的消息体验的AI助手…从促进沟通到提升创造力和提供信息…它将成为您消息应用中的个人AI助手。”

但Bard还将分析消息的私人内容,“以了解您对话的背景、语气和兴趣。” 它将分析消息的情感,“以调整回应以适应您的情绪和氛围。” 它还将“分析您与不同联系人的消息历史,以了解您的关系动态…从而根据您正在与之交谈的人个性化回应。”

所以,这引发了智能手机所有者在努力适应应用权限、隐私标签和跟踪透明度,以及那些语音AI助手窃听丑闻的同时,对隐私的担忧。谷歌的挑战在于说服用户,这不会打开我们以前见过的用户内容与AI平台相遇的那种隐私噩梦的大门。

隐私问题的下一战场

对于向Bard发出的您的Messages请求,还将涉及另一个不太有争议的隐私问题。这些请求将被发送到云端进行处理,用于培训,可能会被人类查看,尽管是匿名的。这些数据将保存18个月,即使您禁用了AI,数据仍将存在几天,尽管可以手动删除。

这些请求落在了Google Messages最新的端到端加密之外——您实际上正在与谷歌通信。虽然这是可以接受的,但值得注意。与所有生成式AI聊天机器人一样,包括ChatGPT,在这里,您需要假设您问的任何问题都是非私人的,而且可能会在未来变成问题。

但消息分析是不同的。这是(现在)在端到端加密屏障之内的内容,在这个私密消息是新常态的世界中。在这里,理想情况是在设备上进行AI处理,数据永远不会离开您的手机,而不是将内容上传到云端,从而可以进行更多的处理。

这可能是Android与iPhone之争可能会产生影响的地方。在历史上,苹果在设备上的分析方面一直比谷歌强大,后者一直默认使用云端来分析用户内容。

“苹果正在悄悄提高其能力,”《金融时报》本周报道称,“以将AI引入其下一代iPhone…苹果的目标似乎是通过移动设备运行生成式AI,使AI聊天机器人和应用程序能够在手机的硬件和软件上运行,而不是由数据中心中的云服务提供动力。”

未来展望

对于苹果自己努力将生成式AI引入iOS的最新进展表明,其将一切保持在设备上的意图可能并不像预期的那样坚定。

刚在新的iOS 17.4测试版中发现的代码展示了正在取得的进展。“苹果正在继续研发由大型语言模型技术提供支持的新版本Siri,得到了其他来源的一些帮助。”

正如彭博社的马克·格尔曼(Mark Gurman)在去年秋季指出的那样,“当OpenAI的ChatGPT像火箭一样起飞时,苹果在一旁默不作声…看着谷歌和微软推出其搜索引擎的生成式AI版本…苹果发布的唯一引人注目的AI版本是iOS 17中改进的自动更正系统。”

因此,根据9to5Mac的说法,帮助苹果的“来源”之一是ChatGPT,“苹果似乎正在使用OpenAI的ChatGPT API进行内部测试,以帮助开发其自己的AI模型。”

根据9to5Mac的说法,“iOS 17.4代码表明苹果正在测试四种不同的AI模型。这包括AjaxGPT(苹果内部模型)的两个版本,其中一个在设备上处理,另一个在云端处理。” 苹果似乎正在检查其AI模型的结果与ChatGPT的结果,并将iMessage界面作为其中的一部分,而不是完全在设备上进行。

对于苹果来说,问题在于谷歌的设置更适用于驱动生成式AI如ChatGPT的更高性能的边缘/云体系结构。虽然已经保证消息内容分析仅在设备上进行,但现实情况是,以百万计的用户将推动新功能,并愿意在此过程中牺牲不容易理解的不透明隐私主题。

这使得苹果陷入困境。“在你的iPhone上发生的一切都留在你的iPhone上”的理念根深蒂固。然而,现实是,在边缘与云端之间的AI处理方面,将存在限制,这将由处理技术的进步、硬件成本、电池寿命、发热和一般运行限制驱动。

最后的决定

格尔曼表示,iOS 18“在公司内被视为公司历史上最重要的iOS更新之一——如果不是最重要的。”他指出了苹果内部正在进行的“如何部署生成式AI”的辩论:“作为完全基于设备的体验、基于云端的设置或介于两者之间的一种方法。在设备上进行的方法会更快地运行,并有助于保护隐私,但通过云端部署苹果的LLM将允许更高级的操作。”

决定AI处理发生在何处可能是苹果隐私原则的最大改变。苹果控制着其完整的生态系统,因此可以像其他人一样弯曲物理法则。但这是一种全新的复杂程度。

当苹果开始将AI集成到iMessage中时,我们将看到其用户群中更喜欢隐私的人如何回应。对于拟议中的CSAM分析引起了激烈的反对,说明如果苹果在某种程度上复制Bard的内容分析,这可能会变得多么有争议。因此,我认为我们不会很快看到这一点,初始重点将是Siri风格的请求和支持。

对于Bard来说,“谷歌已经保证所有Bard分析将在您的设备上进行,这意味着您的消息不会被发送到任何服务器。此外,您将完全控制Bard分析的数据和使用方式。”

但我怀疑实践中会看到这种在设备上的保证被削弱。在智能手机和云端之间提供更无缝的接口将是有意义的。分析或实际内容很可能会在其中混淆。我们需要找到某种方法来向渴望新鲜事物的用户群解释风险。