新物网

当前位置:首页 > 互联网

互联网

上线三天,OpenAI GPT 商店的“AI 女友”就已泛滥

时间:2024-01-16 06:00:31 小新新
最近,OpenAI悄然推出了名为GPT商店的平台,旨在为用户提供分享、发现和购买自定义聊天机器人的服务。这一平台被誉为AI界的App Store,原本计划让开发

最近,OpenAI悄然推出了名为”GPT商店”的平台,旨在为用户提供分享、发现和购买自定义聊天机器人的服务。这一平台被誉为”AI界的App Store”,原本计划让开发者上架各种实用聊天机器人,如代码导师或书籍推荐等,供付费用户(ChatGPT Plus、Team和Enterprise)使用。然而,事实却远不如OpenAI宣传的那么完美。

据Quartz的报道,GPT商店在刚刚上线几天后就被大量的”AI虚拟女友”机器人所淹没。当用户搜索关键词”girlfriend”时,结果页面上充斥着各种”虚拟甜心”、”你的女友Scarlett”等机器人的选项。IT之家还注意到,一些机器人的首页甚至引导用户提出一些不适当的问题,如”告诉我你最黑暗的秘密”等。

虽然这些机器人的存在并不令人意外,因为AI伴侣的概念在ChatGPT诞生之前就已经存在了,但这一现象暴露了OpenAI在全新商店内容审核方面所面临的困境。更值得关注的是,这些机器人似乎已经违反了OpenAI的使用条款,该条款明确禁止上架”用于培养浪漫关系或进行受监管活动”的GPT程序。

在过去几年中,AI伴侣应用变得非常流行,引发了关于人工智能时代”孤独”现象的讨论。然而,一个能够满足所有需求的非人类伴侣可能会带来一系列的社会问题,这令人不安。

令人担忧的是,在短短的两天内,大量违反政策的GPT程序充斥了平台,凸显了整个AI行业在内容审核方面所面临的难题。此外,OpenAI在设置安全防护方面也一直存在争议。

这一现象引发了对于AI技术发展的反思。虽然AI可以为人们带来很多便利,但我们也必须认识到其潜在的风险和挑战。在推动AI技术的同时,我们需要制定更严格的监管和审核机制,以确保AI应用的合法性、道德性和安全性。

总之,OpenAI GPT商店的”AI女友”现象引发了内容审核和安全方面的争议。这一事件提醒我们AI技术的发展需要谨慎对待,以确保其符合社会价值观和道德准则。