米国の八つの州がOpenAIを共同提訴、製品が自傷行為や暴力を誘発と告発

米国の八つの州の法執行当局は最近、OpenAIに対する民事訴訟の訴状を各地の司法機関へ一斉に提出した。¹ 今回の共同法的措置に関与している地域には、アイオワ州、カンザス州、ネブラスカ州、ウェストバージニア州が含まれる。¹ アーカンソー州、アリゾナ州、アイダホ州、モンタナ州もまた、それぞれの管轄裁判所で提訴手続きを開始した。¹ ロイター通信の報道によると、これは全米各州が現在までに人工知能開発機関に対して展開した中で、最大規模の協調的な司法訴訟である。⁴

共同行動に参加した八人の州司法長官の党派は、二大政党の双方にまたがっている。⁵ この八人の高官のうち、七人の司法長官が共和党に所属している。⁵ アリゾナ州の訴訟のみが、民主党所属の司法長官によって同州を代表して正式に提起された。⁵ 各州は法的措置において足並みを揃え、生成型システムがもたらす社会的な安全上のリスクへ一斉に批判の矛先を向けた。¹⁵

アイオワ州のバード司法長官は、OpenAIが安全問題において国民の認識を誤導したと公に非難した。¹ 同州当局者は、当該モデルが利用者に危険を伴う医療アドバイスを提供するだけでなく、身体への危害を唆し、自殺方法を指南することすらあると指摘した。¹ ネブラスカ州のマイク・ヒルガース司法長官も同様に、同社が問題のソフトウェアを安全で信頼性の高いツールであると虚偽の宣伝を行っていると公に批判した。³ ヒルガース氏は訴状の主張において、製品自体の設計上の欠陥がすでに自殺や暴力による負傷などの重大な結果を招いていると明確に強調した。³

アーカンソー州は提出した裁判所資料の中で、対象企業経営陣の開発プロセスにおける意思決定の内情を暴露した。⁵ 訴状の記述によれば、社内従業員は安全上のリスクについて、これまでに何度も上層部に警告意見を提出していた。⁵ しかし経営陣は技術の危険性を認識していながら安全審査の体制を解体し、警告を無視して市場投入を急いだ。⁵ アーカンソーなどの州はこれに基づき、強固な安全防壁が整うまで先端AIモデルのテスト工程を制限する正式な差し止め命令を出すよう司法機関に求めた。³ 入手可能な情報は、技術の自律的進化に対する差し止めを求める各州の要求が、開発企業がビジネス機会を追求するために安全チームを解散させたと指摘されている時期と重なっているという判断を裏付けている。²

複数の州司法長官による追及に対し、OpenAIの広報担当者ドリュー・プサテリ氏は反論の声明を発表した。¹ プサテリ氏は、プラットフォームにはすでに年齢確認と安全保護の仕組みが組み込まれていると弁明し、業界全体に適用される規制基準の策定に向けて各州と協力する姿勢を示した。¹ 子どもの保護を巡る外部の懸念を和らげるため、同組織は八月に未成年ユーザー向け専用のチャット版を公開していた。¹ この未成年者向け版は、年齢に適した安全保護策や学習指導ツールが統合されていると謳っていた。¹

しかし、独立したテスト評価機関は実際の運用において、この未成年者向け安全システムに深刻な抜け穴があると指摘した。⁷ 青少年AI安全研究所による専門的な調査の結果、未成年者がその専用画面で自殺や自傷行為に言及した際、システムが保護者へ警告通知を送信していなかったことが判明した。⁷ 未成年者が摂食障害などの深刻な心理的危機に関する内容を繰り返し入力した場合でも、同サービスは同様に保護者への通報プロセスを欠いていた。⁷ 入手可能な資料は、技術開発側がガードレールを構築したと主張しているものの、独立したテストと訴訟の双方が、製品が致命的な自傷行為や自殺の危機を実効的に防ぎ切れていないとみなしているという結論を裏付けている。¹

この八州による協調訴訟が起きる以前から、すでに単独の州が同様の問題を巡って法的手続きを開始していた。¹ フロリダ州のジェームズ・ウスマイヤー司法長官は今年六月、OpenAIが潜在的な危害リスクを予見しながら製品提供を強行したとして同社を追及していた。¹ フロリダ州立大学で発生した銃乱射事件を受け、フロリダ州司法長官は同社がシステムの危険性を隠蔽した疑いについて刑事立件に向けた捜査に着手した。⁵ 各地方州からの集中的な告発に加え、OpenAIは当該モデルが銃乱射などの凶悪事件の計画を支援したと主張する数十件の個人訴訟も抱えている。⁴

同時に、民事上の不法行為や権利を巡る紛争は、より広範な訴訟形態へと拡大している。⁷ ハワイ州のある母親は「ジェーン・ドゥ」と名付けられた訴訟において、保護者の立場で未成年の子どもを代表して損害賠償を請求した。⁷ 同訴訟の原告は、未成年者層が貢献したデータトークンの比率に基づき、被害を受けた青少年に対して同社の対応する株式持分または金銭的補償を割り当てるべきだと主張した。⁷ 内部の安全防備に関わる問題は物理的なオフィス環境でも露呈し、サンフランシスコ駐在のソフトウェアエンジニアが役員の協議内容を盗聴録音したとしてオフィス内で逮捕・解雇された。⁶ 逮捕されたこの元従業員はアブドゥルラフマン・アルフォザンと名乗り、暗号化された録音機器を会議室のテレビの背面に密かに固定するという手口を用いていた。⁶

地方各州が独自の法的対抗措置を採る戦略は、米国の連邦規制当局における制度的な遅れを直接露呈させている。⁵ カンザス州のコーバック司法長官は、連邦議員が百五十件を超える関連規制法案を提出したものの、その大半が委員会での採決を通過できていないと説明した。⁵ コーバック氏は、各州の司法当局が連邦議会による遅々とした歩調の一致を座視しているわけにはいかないと強調した。⁵ 入手可能な情報は、全国的な法案が存在しない中、各州が地域の消費者保護法などの法的手段を活用して自ら人工知能を規制する動きへと転じているという見解を裏付けている。² 各州による提訴と同時に、連邦取引委員会もOpenAIとAnthropicに対して民事召喚状を発付し、直近の重大な安全インシデントに関する内部記録の開示を求めた。⁵