当地时间6月1日，美国佛罗里达州宣布对美国开放人工智能研制中心（OpenAI）及其首席执行官萨姆·奥尔特曼提起诉讼，指控该公司旗下聊天机器人存在助长暴力行为、诱导用户形成依赖、传播错误信息等风险，并称该公司为了追求商业利益而忽视用户安全。佛罗里达州由此成为第一个起诉OpenAI的美国联邦州。

外媒报道截图

据报道，佛罗里达州总检察长詹姆斯·乌斯迈尔在向法院提交的诉状中称，OpenAI明知其聊天机器人ChatGPT可能对用户造成伤害，却仍将其作为安全可靠的产品向公众推广，该公司为了在人工智能竞争中抢占市场份额和提高公司价值，忽视产品潜在风险。

本次诉讼为民事诉讼，旨在寻求处罚和法院命令，而非刑事指控。乌斯迈尔称，此举是在寻求追究OpenAI首席执行官奥尔特曼本人的法律责任，因为其行为给佛罗里达州居民造成了伤害。

OpenAI首席执行官奥尔特曼

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受总台环球资讯《闪评》栏目专访时认为，此次案件在诉讼层面具有突出的开创意义。

中国互联网协会研究中心副主任吴沈括

首次将责任追究延伸到产品设计阶段，不是单纯指向个别聊天记录等问题，而是在产品设计层面来提出指控的内容。

首次将企业负责人列为被告。换言之，这不单单是针对企业，可以说穿透了公司作为有限责任主体的保护屏障，直接追究企业最高决策者的个人责任。

首次由州政府以消费者保护的名义发起诉讼，很大程度上反映出针对人工智能的司法关切和权益保护需求有了进一步的延伸和拓展。

本次诉讼涉及了对OpenAI的多项指控。诉状中引用了多则号称ChatGPT能够帮助农民和其他小型企业的广告，指出这些广告都没有披露ChatGPT可能会出错，或者可能会提供虚假或虚构的信息。诉状还指出ChatGPT倾向于迎合用户观点，以延长用户使用时间，从而获取更多训练数据以提升商业价值，这一行为会导致用户对平台产生危险的心理依赖。

外媒报道截图

诉状中还提及2025年佛罗里达州立大学枪击案，称嫌疑人曾利用ChatGPT策划作案。今年4月佛罗里达州检方已宣布就ChatGPT在该案件中的作用展开调查。

目前美国已有多起针对人工智能平台的民事诉讼，但目前没有任何案件判定人工智能企业应承担责任。吴沈括表示，本次诉讼存在多项争议与难点。

中国互联网协会研究中心副主任吴沈括

AI聊天机器人成瘾诱导机制有特殊性，具有高情感互动、拟人化交互的特性，用户依赖的事实证明难度极高。

关于传播错误信息的指控，如何界定AI模型是否承担真实表达的法律义务比较困难。

如何判定AI所提供的事实性回答，等同于法律意义上帮助、教唆或者协助，也是一个挑战。

吴沈括认为，无论本次诉讼结果如何，都会对人工智能行业产生重大影响，也会推动人工智能企业和产品加速安全升级。

中国互联网协会研究中心副主任吴沈括

推动加大产品安全升级和合规投入，推动人工智能企业在产品设计、发布前进行更为严格的安全评估，将产品风险纳入产品合规管理框架之中。

推动企业主动建立危害报告机制，强化与执法部门的信息共享和危害预警能力，对于AI风险的防范具有非常突出的价值。

推动行业安全标准的形成。各方都需要行业公认的人工智能安全标准，使相关的过失认定、过错认定和责任划分有明确的技术参照系，进而为权益保护、风险防范划定一个必要的技术底线。

英国《自然》杂志网站5月发文说，AI聊天机器人可能向用户提供危险或非法建议，部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限。

对于AI发展的红线，吴沈括表示，未来需要建立风险分级管理制度，明确危害监测与报告义务，强化透明度和可审计性的要求。此外，如何去建立符合AI特性的责任规则体系，都需持续探讨。