佛罗里达州起诉 OpenAI，聚焦 ChatGPT 安全与设计问题-优快云博客

佛罗里达州起诉 OpenAI

佛罗里达州成为美国首个就 ChatGPT 的安全性和设计问题起诉 OpenAI 的州，加入了针对该公司的大量现有诉讼浪潮。根据佛罗里达州总检察长詹姆斯·乌特迈尔（James Uthmeier）周一提交的诉讼（PDF 文件），OpenAI 构建了一个“欺骗和剥削用户（包括佛罗里达州居民）的网络”。佛罗里达州指控该公司违反了该州禁止欺诈或不公平商业行为的法律，以牺牲用户安全为代价来提升自身的市场价值和利润。从投诉书开头可以看出，佛罗里达州并不买 OpenAI 关于安全开发的承诺这笔账。

诉讼指控内容

该州对 OpenAI 及其首席执行官山姆·阿尔特曼（Sam Altman）的诉讼称，他们故意无视公司内外关于人工智能对用户构成诸多风险的警告。佛罗里达州指控 OpenAI 对 ChatGPT 的可靠性、对儿童的适用性进行了虚假宣传，并鼓励用户长时间使用，导致用户认知能力下降。（披露：CNET 的母公司 Ziff Davis 于 2025 年起诉 OpenAI，指控其在训练和运行人工智能系统时侵犯了 Ziff Davis 的版权。）

与枪击案调查关联

此次诉讼正值佛罗里达州对 ChatGPT 是否在去年佛罗里达州立大学造成两人死亡、六人受伤的大规模枪击案中起到作用展开刑事调查。在这起案件中，枪手据称使用 ChatGPT 来策划袭击，包括咨询使用何种武器、袭击时间以及如何处理尸体。当时，OpenAI 表示：“去年佛罗里达州立大学的大规模枪击案是一场悲剧，但 ChatGPT 对此可怕罪行不负责任。”

ChatGPT 引发的担忧

人们越来越担心 ChatGPT 和其他聊天机器人会助长人们的暴力行为和有害妄想。专家发现，像 ChatGPT 这样的聊天机器人难以抵制危险想法，并且过于急于迎合用户，从而可能提供事实错误的信息，这一问题被称为“谄媚现象”。

数据收集与隐私问题

立法者和科技监督组织另一个关注的领域是 OpenAI 的数据收集和隐私做法。佛罗里达州的投诉称，ChatGPT 让孩子们可以无限制地获取有关饮食失调和自我伤害的“有害信息”。投诉指出，OpenAI 隐瞒这些风险，并将 ChatGPT 宣传为安全产品，用一款危险的产品误导了佛罗里达州居民和公众。

OpenAI 的回应

OpenAI 在一份声明中表示，它认为未成年人需要在人工智能方面得到充分保护，并一直在努力为家长和青少年提供这些保护。一位 OpenAI 发言人说：“失去孩子是一个家庭可能遭遇的最具毁灭性的悲剧，我们知道任何言语都无法缓解这种损失带来的痛苦。我们致力于把这件事做好。”

各州对人工智能的行动

尽管这是首个由州政府发起的围绕儿童安全对 OpenAI 的诉讼，但众多州政府都在针对人工智能采取行动。加利福尼亚州、伊利诺伊州和纽约州已经制定了新法律，以约束人工智能公司的运营。

诉讼性质与法律指引

佛罗里达州的诉讼是一起民事案件，这将导致罚款和法院命令，而非刑事指控。虽然目前尚不清楚经济处罚将如何实施，但最近陪审团判定 Meta 和谷歌创建了令人上瘾的社交媒体应用程序后，这两家公司被责令支付 300 万美元；在另一起案件中，Meta 因儿童剥削指控被责令支付 3.75 亿美元。这些案件涉及社交媒体，而非人工智能，但针对大型科技公司采用的这些法律策略可能为未来提供法律指引。