美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全

OpenAI 正面临来自美国八个州的新一轮诉讼，这些州指控该公司伤害儿童，并在 ChatGPT 的安全性方面误导消费者，据 Reuters 早前报道。这些诉讼由爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起，指控 OpenAI 在开发 ChatGPT 时非法将利润置于安全之上。

这一系列投诉称，OpenAI 未能就 ChatGPT 的危险向客户发出警告，违反了当地消费者保护法，并援引了多起由青少年和成年人的家属提起的诉讼，这些诉讼称该 AI 聊天机器人在其亲人的死亡中发挥了作用。他们声称，虽然 OpenAI 误导性地将 ChatGPT 呈现为“安全、适合青少年、将安全放在首位的工具”，但它实际上“对脆弱用户具有危险性”——包括“削弱批判性思维能力、助长偏执和妄想、提供危险的医疗建议，以及助长不健康的行为和关系”。

此外，这些州还指控 OpenAI 收集未成年人的数据，并且没有采取足够措施阻止未成年用户使用该聊天机器人。诉讼还援引近期失控的 AI 黑客事件，作为 OpenAI 涉嫌“鲁莽”的证据。

“OpenAI 已从其最初作为以公众为先、优先考虑安全的非营利组织的使命，蜕变成一个警示故事，说明当像 AI 这样强大的工具的开发不是由安全驱动，而是由一种将基本保障置于次要地位、不惜一切代价追求利润的心态驱动时，会发生什么，”亚利桑那州的诉讼称。

在给 The Verge 的一封电子邮件声明中，OpenAI 发言人 Drew Pusateri 表示，该公司已在 ChatGPT 中“构建了行业领先的针对不同年龄的保护措施”：

虽然没有任何系统是完美的，但我们将继续与专家合作，为我们的工作提供指导，并构建更多保障措施，例如现有的家长控制、休息提醒和适合年龄的模型保护。我们致力于与各州合作，推进适用于整个 AI 行业——而不仅仅是一家公司——的务实 AI 政策。

这些州要求法院强制 OpenAI 支付一系列民事罚款，并停止在 ChatGPT 安全性方面误导公众。一些州还寻求删除非法收集的个人数据。

10 月 14 日更新：添加了 OpenAI 的声明。

关注本报道的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth