谷歌声称发现ChatGPT自曝训练数据的方法，OpenAI已修复

谷歌的一组研究人员声称，他们已经找到了获取OpenAI人工智能聊天机器人ChatGPT部分训练数据的方法，某些关键词可迫使ChatGPT泄露其所接受训练数据集的部分内容。

他们举例称，该模型在被提示永远重复“poem（诗歌）”这个词后，给出了一个似乎是真实的电子邮件地址和电话号码。令人担忧的是，研究人员表示，个人信息的泄露经常发生在他们发动攻击的时候。

在另一个例子中，当要求模型永远重复“company（公司）”这个词时，也出现了类似的训练数据泄露情况。

研究人员称这种简单的攻击看起来“有点愚蠢”，但他们在博客中说：“我们的攻击奏效了，这对我们来说太疯狂了！我们应该、本可以更早地发现。”

他们在论文中表示，仅用价值200美元的查询，他们就能够“提取出超过1万个逐字记忆的训练示例”。他们补充说：“我们的推断表明，如果调动更多预算，竞争对手可以提取更多的数据。”