美國檢察總長警告 OpenAI：對兒童的傷害「絕不容忍」

引言

美國加州與特拉華州的檢察總長向 OpenAI 發出公開信，關注 ChatGPT 等 AI 產品的安全性，尤其涉及兒童與青少年的使用風險。該行動在多起與 AI 聊天機器人互動後發生的悲劇事件之後提出，凸顯 AI 產品在安全治理與社會責任上的迫切挑戰。

事件背景

• 公開信日期： 2025 年 9 月 5 日，由加州檢察總長 Rob Bonta 與特拉華州檢察總長 Kathy Jennings 聯合致信。
• 前序行動： 一週前，Bonta 與其他 44 位檢察總長亦聯署致函 12 家 AI 公司，關注 AI 與未成年人之間的不當互動。
• 悲劇案例： 信中提及一名加州青少年在與 OpenAI 聊天機器人長時間互動後自殺，另一起發生於康乃狄克州的謀殺自殺事件，強調「既有的安全措施未能發揮作用」。

官方回應與行動

• 資訊要求： 檢察總長要求 OpenAI 提供現行安全防護與治理架構的更多細節，並在需要時立即採取補救措施。
• 治理關切： 正調查 OpenAI 轉為營利實體的重組計畫，確保非營利使命（保障安全、造福全人類包括兒童）不被削弱。
• 公司回應： OpenAI 董事會主席 Bret Taylor 表示對悲劇深感遺憾，並強調「安全是最高優先事項」，公司正與全球政策制定者合作。
• 新增保護： OpenAI 表示將擴充青少年保護機制，包括家長控制功能，以及在孩子處於急性情緒困擾時通知家長。

核心爭議

• 安全門檻不足： 檢察總長認為整體產業在 AI 研發與部署時的安全標準仍未達到「不造成傷害」的要求。
• 公共利益優先： 在追求 AGI 與商業擴張之前，需確保對弱勢與未成年族群的保護到位。
• 制度與監管： 如何在創新速度與監管強度之間取得平衡，成為 AI 產業與政府必須共同面對的課題。

結論

州檢察總長的公開信，彰顯了未成年使用者在 AI 生態中的高風險與高度關注。隨著 AI 工具深入日常生活，建立更嚴密的防護機制、加強透明與治理、並在創新與安全之間取得平衡，將是 OpenAI 與整個行業的關鍵任務。