ジャカルタ–米国の連邦裁判所は、Googleと人工知能(AI)のスタートアップである Chara karakter.AIが、Chara karakter.AIに属するチャットボットが14歳の息子の自殺に一役買ったと非難したフロリダの母親、ミーガンガルシアによって提起された訴訟に直面しなければならないとの判決を下しました。
5月21日水曜日、アン・コンウェイ連邦地方裁判所判事は、両社は初期段階で、米国憲法における言論の自由の保護がガルシアの訴訟を覆す可能性があることを示さなかったと述べた。
この訴訟は、テクノロジーの心理的影響から子供を保護しなかったとしてAI企業を標的にした米国で最初の訴訟の1つです。ガルシアは訴訟で、息子のセウェル・セッツァーが Chara karakter.AIのAIチャットボットに夢中になった後、彼女の人生を終わらせたと主張している。
広報担当者 Chara karakter.AI は、同社はこの事件で自分自身を弁護し続けると述べ、自分を傷つける行為に関する会話の防止を含む安全機能を実装したと述べた。一方、Googleのスポークスマン、ホセ・カスタネダ氏は、Googleは裁判官の決定に同意しないと述べ、Googleと Chara karakter.AI は「完全に分離された」存在であると主張した。同氏は、Googleは「 Chara karakter.AI アプリケーションやその中のコンポーネントを作成、設計、または管理していない」と付け加えた。
しかし、ガルシアの弁護士、ミータリ・ジャインは、この決定を、AIおよびテクノロジー企業に対する法的説明責任への新たな道を開く「歴史的な」動きと呼んだ。
2024年10月に提起されたこの訴訟は、チャットボット Chara karakter.AI が「現実の人物、認可された心理療法士、そして大人の恋人」に変装していると述べています。ガルシアによると、これはセウェルが現実世界を去りたいと思ったので、仮想世界に没頭させた。
最後の会話の1つで、セッツァーは、ゲーム・オブ・スローンズシリーズのキャラクターデネリス・ターガリエンを模したチャットボットに、彼が死んでいるのが発見される前に「今すぐ家に帰る」と語った。
Googleと Chara karakter.AI は以前、チャットボットからのアウトプットが言論の自由の一形態として保護されているという口実で訴訟を取り下げるよう要求していた。しかし、コンウェイ判事はこの議論を否定し、両者は「LLM(長語言語モデル)によって生成された一連の単語がスピーチと見なされる理由を説明していない」と述べた。
Chara karakter.AI の不正行為の疑いについて、Googleが責任を問われないと宣言するという要求も裁判官によって却下された。
この判決により、訴訟は法廷で継続され、AIの社会的影響に関するテクノロジー企業の規制と責任に新たな先例を作ることができます。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
