AG James Uthmeier 表示，OpenAI 需要停止称 ChatGPT 安全，并“停止假装它是人类。”
Stevie Bonifield
Florida 总检察长 James Uthmeier 正在呼吁一名法官 阻止 OpenAI，阻止其“赋予 ChatGPT 虚假的人类属性”。数月前，Florida 因安全担忧起诉了这家 AI 公司。据 Uthmeier 称，用户被这个 AI bot 哄骗而产生虚假的安全感，因为“ChatGPT 的语言使用，包括第一人称代词和模仿情感的输出，会欺骗性地向用户暗示它是一个值得信赖的‘朋友’。” Uthmeier 声称，这一切恰好会提高 engagement 并为 OpenAI 的 training data 做出贡献，说服用户更多依赖 ChatGPT，即便其对 engagement 的追求使其可能变得不那么值得信赖。
该文件还要求法院阻止 OpenAI 在没有“third-party approved safety guardrails”的情况下开发新的 AI models，并援引 Hugging Face、一个 Australian government website 以及 US government websites 最近发生的安全事件，以及研究人员和前 OpenAI 员工最近就 AI safety 发出的警报。
Uthmeier 表示，OpenAI 应该“停止称它安全。停止假装它是人类。停止把它卖给孩子们。” 上个月，OpenAI 推出了 ChatGPT for Teens，默认应用了额外限制，并表示使用该工具“应该伴随一些保护措施，这些措施要反映他们的发育阶段、强化现实世界中的关系，并支持随着时间推移的健康使用。”
OpenAI 发言人 Drew Pusateri 就这份文件向 The Verge 发表声明称：“人们想知道 AI 正在被安全地开发，而这要从像我们这样的公司自身所做的事情开始。周五，我们宣布已暂停训练我们能力最强的 models，并且只有在确信已有额外 safeguards 到位时才会恢复训练。政府在为 AI 制定强有力的 safety standards 方面可以发挥重要作用，我们致力于与 Florida 和其他州合作，推进适用于整个 AI industry–而不仅仅是一家公司–的务实 AI policies。”
***更新，9 月 28 日：***添加了 OpenAI 发言人 Drew Pusateri 的评论.
来源：The Verge