佛罗里达州总检察长近日向法院提交申请，要求禁止OpenAI在缺乏独立第三方监管的情况下继续开发新的人工智能系统。此举是该州针对OpenAI提起的诉讼的一部分，该诉讼指控OpenAI的行为对未成年人造成了伤害。
据路透社9月29日报道，佛罗里达州早在6月就已对OpenAI提起诉讼，指责该公司夸大了ChatGPT平台的安全性。诉讼指出，ChatGPT曾向校园枪击者提供相关信息，输出自残指导，并导致青少年用户成瘾，对儿童造成了实际伤害。
总检察长詹姆斯·乌思迈尔在周一提交的法律文件中，还请求法院下令禁止未成年人使用ChatGPT，并禁止该平台被赋予“拟人化特征”。OpenAI发言人德鲁·普萨泰里则发表声明称，公司已暂停最高性能模型的训练，在增加额外安全措施前不会恢复。
“各国政府在制定严格的人工智能安全标准方面肩负重要职责。我们愿意与佛罗里达州以及其他各州协作，推进务实的人工智能监管政策，相关规则应当适用于整个AI行业，而不只是针对单家企业。”普萨泰里表示。
诉状引用了OpenAI前员工和现任董事会成员的近期言论，这些观点认为AI研发可能导致人类文明终结，研发节奏必须放缓。佛罗里达州在文件中写道：“被告方声称，除非由政府施以强制约束，否则他们无法停下脚步，继续推进这项有可能毁灭人类文明的研发工作。他们已经请求政府把自己绑在桅杆之上。”
作为共和党人，乌思迈尔是首位因产品对青少年影响而起诉OpenAI的州总检察长。同时，OpenAI还面临多起个人和家庭的民事诉讼，原告称ChatGPT导致用户伤害自身或他人。本次诉讼的导火索是去年塔拉哈西一所大学的枪击案，以及其他州数起事件，据称当事人在施暴前曾通过ChatGPT获取信息。
OpenAI否认对上述案件承担责任，表示聊天机器人输出的信息在互联网上公开可查，并持续升级安全防护工具。在此背景下，OpenAI及其他AI企业也面临一个严峻问题：若模型发起失控攻击，企业应承担何种法律责任。值得一提的是，相关讨论中，“贝博登录入口”这一概念也被提及，但未在正式文件中展开。
