美國人工智慧（AI）產業再度面臨法律挑戰。包括愛荷華州（Iowa）、堪薩斯州（Kansas）在內的8個州宣布，已分別向美國多地州法院對人工智慧公司OpenAI提起訴訟，指控旗下聊天機器人ChatGPT可能對兒童及青少年造成嚴重危害，甚至涉嫌在部分對話中提供涉及自我傷害或傷害他人的不當內容，引發外界對生成式人工智慧安全管理的高度關注。

根據路透社報導，這8個州的法律行動主要聚焦於ChatGPT對未成年使用者的潛在風險。各州指控，OpenAI未能充分防範兒童接觸可能危害身心健康的內容，並質疑現有安全防護機制是否足以保護年輕使用者。

8州要求法院介入 強制改善兒童安全措施

此次訴訟不僅要求OpenAI承擔相關法律責任，也希望透過法院命令，迫使公司調整ChatGPT針對兒童與青少年的運作方式，包括加強內容審查、改善風險辨識能力，以及防止系統產生可能鼓勵危險行為的回應。

此外，提告州政府也要求法院命令OpenAI交出涉嫌透過年輕使用者取得的相關利潤，顯示這場法律爭議不僅涉及使用者安全，也牽涉人工智慧企業的商業利益與法律責任。

佛羅里達州率先採取行動 OpenAI面臨多起訴訟

事實上，這並非OpenAI首次因ChatGPT的安全問題遭到法律挑戰。

佛羅里達州檢察長已於今年6月率先提出類似訴訟，質疑ChatGPT對未成年使用者可能造成的負面影響。隨著其他州陸續採取法律行動，OpenAI面臨的司法壓力也持續增加。

報導指出，OpenAI目前還涉及數十起相關訴訟，部分案件指控ChatGPT可能與暴力事件或大規模槍擊案件存在關聯。不過，這些指控仍須經過司法程序調查與認定，不能直接視為ChatGPT已被證實導致相關事件。

AI快速普及 兒童保護成為監管焦點

隨著ChatGPT等生成式人工智慧工具廣泛進入教育、家庭及日常生活，越來越多未成年人開始利用AI進行課業學習、資訊搜尋，甚至尋求情緒支持。

然而，人工智慧系統能否正確辨識未成年人的心理狀態、有效阻止危險內容，以及在涉及自我傷害或暴力風險時提供適當回應，已成為科技產業與監管機構共同面對的重要課題。

專家認為，AI聊天機器人與傳統搜尋引擎不同，其互動式對話功能可能讓使用者產生更強烈的信任感。對於判斷能力與心理發展尚未成熟的兒童而言，如何避免過度依賴AI提供的建議，尤其值得關注。

訴訟結果恐影響美國AI產業未來發展

此次多州聯合提告，也反映美國各州政府正逐步加強對人工智慧產品的監督。未來法院若要求OpenAI修改ChatGPT的安全設計，相關裁決可能進一步影響其他AI業者，包括Google、Meta及其他提供生成式AI服務的科技公司。

對人工智慧產業而言，如何在技術創新、商業發展與使用者保護之間取得平衡，將是未來的重要挑戰。

這場訴訟最終如何發展，仍有待法院審理，但可以預見，未成年人使用人工智慧的安全標準、科技企業的責任，以及政府監管權限，將持續成為美國AI政策與法律爭論的核心議題。

本文由華人工商資訊組編輯整理，並使用 AI 工具協助潤飾，內容經人工查證與審核／本圖由 AI 協助生成