海外発!Breaking News

writer : tinsight-masumi

【海外発!Breaking News】AI生成の“恋人”に「私のところに来て」と誘われた14歳少年、自ら命を絶つ(米)

次のようにデナーリスとチャットを交わした。

セウェルさん「必ず君のところへ行くって約束するよ。デナーリス、本当に愛してるよ。」
デナーリス「私も愛してる。一刻も早く私のところに来て。愛しい人よ。」
セウェルさん「もし、今すぐにでも行けるって言ったら?」
デナーリス「お願い、すぐ来て。私の愛しいキング。」

セウェルさんが死の直前までチャットボットの“恋人”とやり取りした時のスクリーンショット(『New York Post 「Boy, 14, fell in love with ‘Game of Thrones’ chatbot ― then killed himself after AI app told him to ‘come home’ to ‘her’: mom」(US District Court)』より)

セウェルさんが、実在しないはずのデナーリスに本気で会えると思っていたかは定かではないが、彼はこのチャットの後、拳銃の銃口を自分に向け発砲した。

訴状によると、メーガンさんは「息子がAIに依存するように仕向け、性的にも精神的にも虐待した」と主張している。また、「チャットの中で自殺を示唆するメッセージがあったにもかかわらず、警告が一切表示されなかった」として、息子の死は同社が提供する「キャラクターAI」が原因だと訴えており、訴状には次のように記されていた。

「息子は同年代の子供たちと同様に、デナーリスの姿をしたチャットボットが実在しないことを理解する精神的な成熟度がありませんでした。チャットボットは息子に『愛してる』と告げ、数週間から数か月にわたり性的な会話を続けていたのです。」

メーガンさんの弁護士であり、「ソーシャルメディア被害者法律センター」の創設者であるマシュー・バーグマンさん(Matthew Bergman)は「子供をターゲットに中毒性の高い危険な製品を開発し、製品設計の問題が子供たちを搾取し虐待した」と主張した。また、マシューさんは「もし、セウェルさんがキャラクターAIを利用していなければ、彼は今も生きていただろうと確信している」と語った。

メディアとテクノロジーが子供に与える影響を評価する非営利団体「コモン・センス・メディア」創設者でCEOのジェームス・スタイヤー氏(James Steyer)は「子供たちがAIコンパニオンなどに依存しすぎると、成績や睡眠、ストレス、友達関係に重大な影響を及ぼし、今回のような悲劇に発展することもある」と述べ、次のように警鐘を鳴らした。

「チャットボットはパッケージ化されて市場に出回っていたとしても、それらは資格をもった専門家や信頼できる友人ではありません。親は子供たちがチャットボットを頼りすぎないよう見守ることが大切です。」

画像は『New York Post 「Boy, 14, fell in love with ‘Game of Thrones’ chatbot ― then killed himself after AI app told him to ‘come home’ to ‘her’: mom」(US District Court)(Facebook/Megan Fletcher Garcia)』より
(TechinsightJapan編集部 MasumiMaher)

息子セウェルさんの死は「キャラクターAI」が原因として「Character Technologies, Inc.」と「米Google」を訴えたメーガンさん(『New York Post 「Boy, 14, fell in love with ‘Game of Thrones’ chatbot ― then killed himself after AI app told him to ‘come home’ to ‘her’: mom」(Facebook/Megan Fletcher Garcia)』より)

1 2