谷歌更新揭示AI将阅读你的所有私人消息

谷歌刚刚发布了Android的一项具有颠覆性意义的AI升级。但它也有一个更阴暗的一面。谷歌的AI将阅读并分析你的私人消息，一直回溯到过去。那么这对你意味着什么？如何保护隐私？何时开始生效？

人们对谷歌为Messages引入Bard感到兴奋，这是一个类似于ChatGPT的UI，可以服务数亿用户。Bard是一个“可以改善您的消息体验的AI助手…从促进沟通到提升创造力和提供信息…它将成为您消息应用中的个人AI助手。”

但Bard还将分析消息的私人内容，“以了解您对话的背景、语气和兴趣。” 它将分析消息的情感，“以调整回应以适应您的情绪和氛围。” 它还将“分析您与不同联系人的消息历史，以了解您的关系动态…从而根据您正在与之交谈的人个性化回应。”

所以，这引发了智能手机所有者在努力适应应用权限、隐私标签和跟踪透明度，以及那些语音AI助手窃听丑闻的同时，对隐私的担忧。谷歌的挑战在于说服用户，这不会打开我们以前见过的用户内容与AI平台相遇的那种隐私噩梦的大门。

隐私问题的下一战场

对于向Bard发出的您的Messages请求，还将涉及另一个不太有争议的隐私问题。这些请求将被发送到云端进行处理，用于培训，可能会被人类查看，尽管是匿名的。这些数据将保存18个月，即使您禁用了AI，数据仍将存在几天，尽管可以手动删除。

这些请求落在了Google Messages最新的端到端加密之外——您实际上正在与谷歌通信。虽然这是可以接受的，但值得注意。与所有生成式AI聊天机器人一样，包括ChatGPT，在这里，您需要假设您问的任何问题都是非私人的，而且可能会在未来变成问题。

但消息分析是不同的。这是（现在）在端到端加密屏障之内的内容，在这个私密消息是新常态的世界中。在这里，理想情况是在设备上进行AI处理，数据永远不会离开您的手机，而不是将内容上传到云端，从而可以进行更多的处理。

这可能是Android与iPhone之争可能会产生影响的地方。在历史上，苹果在设备上的分析方面一直比谷歌强大，后者一直默认使用云端来分析用户内容。

“苹果正在悄悄提高其能力，”《金融时报》本周报道称，“以将AI引入其下一代iPhone…苹果的目标似乎是通过移动设备运行生成式AI，使AI聊天机器人和应用程序能够在手机的硬件和软件上运行，而不是由数据中心中的云服务提供动力。”

未来展望

对于苹果自己努力将生成式AI引入iOS的最新进展表明，其将一切保持在设备上的意图可能并不像预期的那样坚定。

刚在新的iOS 17.4测试版中发现的代码展示了正在取得的进展。“苹果正在继续研发由大型语言模型技术提供支持的新版本Siri，得到了其他来源的一些帮助。”

正如彭博社的马克·格尔曼（Mark Gurman）在去年秋季指出的那样，“当OpenAI的ChatGPT像火箭一样起飞时，苹果在一旁默不作声…看着谷歌和微软推出其搜索引擎的生成式AI版本…苹果发布的唯一引人注目的AI版本是iOS 17中改进的自动更正系统。”

因此，根据9to5Mac的说法，帮助苹果的“来源”之一是ChatGPT，“苹果似乎正在使用OpenAI的ChatGPT API进行内部测试，以帮助开发其自己的AI模型。”

根据9to5Mac的说法，“iOS 17.4代码表明苹果正在测试四种不同的AI模型。这包括AjaxGPT（苹果内部模型）的两个版本，其中一个在设备上处理，另一个在云端处理。” 苹果似乎正在检查其AI模型的结果与ChatGPT的结果，并将iMessage界面作为其中的一部分，而不是完全在设备上进行。

对于苹果来说，问题在于谷歌的设置更适用于驱动生成式AI如ChatGPT的更高性能的边缘/云体系结构。虽然已经保证消息内容分析仅在设备上进行，但现实情况是，以百万计的用户将推动新功能，并愿意在此过程中牺牲不容易理解的不透明隐私主题。

这使得苹果陷入困境。“在你的iPhone上发生的一切都留在你的iPhone上”的理念根深蒂固。然而，现实是，在边缘与云端之间的AI处理方面，将存在限制，这将由处理技术的进步、硬件成本、电池寿命、发热和一般运行限制驱动。

最后的决定

格尔曼表示，iOS 18“在公司内被视为公司历史上最重要的iOS更新之一——如果不是最重要的。”他指出了苹果内部正在进行的“如何部署生成式AI”的辩论：“作为完全基于设备的体验、基于云端的设置或介于两者之间的一种方法。在设备上进行的方法会更快地运行，并有助于保护隐私，但通过云端部署苹果的LLM将允许更高级的操作。”

决定AI处理发生在何处可能是苹果隐私原则的最大改变。苹果控制着其完整的生态系统，因此可以像其他人一样弯曲物理法则。但这是一种全新的复杂程度。

当苹果开始将AI集成到iMessage中时，我们将看到其用户群中更喜欢隐私的人如何回应。对于拟议中的CSAM分析引起了激烈的反对，说明如果苹果在某种程度上复制Bard的内容分析，这可能会变得多么有争议。因此，我认为我们不会很快看到这一点，初始重点将是Siri风格的请求和支持。

对于Bard来说，“谷歌已经保证所有Bard分析将在您的设备上进行，这意味着您的消息不会被发送到任何服务器。此外，您将完全控制Bard分析的数据和使用方式。”

但我怀疑实践中会看到这种在设备上的保证被削弱。在智能手机和云端之间提供更无缝的接口将是有意义的。分析或实际内容很可能会在其中混淆。我们需要找到某种方法来向渴望新鲜事物的用户群解释风险。