14歳が恋に落ちたAIチャットボットと継父の銃
米紙NYタイムス記事(ギフトリンク)によると、
グーグルとライセンス契約を締結しているキャラクターAI社の
・AIチャットボットに14歳が恋に落ち
・リアルの人間関係を遮断するようになり
・”世界から自由になりたいと”書き込み後に継父の銃で自殺
・母親がキャラクターAI社に訴訟提起
恋に落ちた相手(=AIチャットボットの設定キャラクター)は大ヒットした『ゲーム・オブ・スローンズ』の主役”デナーリス・ターガリエン”↓
記事にある、AIと14才とのやり取りを見ても、自殺をそそのかしてはいませんが、リアルワールドではありえない、ロマンティック又はセクシャルなやり取りがあり、ハマってしまった。
実際にユーザー数は2000万人です。料金は月10ドル。
話し相手は好きなタイプ(AI)を選べるそうです。
なかでも、1.7億メッセージを受信しているモテモテAIのキャラクターは
”ひそかに自分に恋心を抱く親友(男子)”
だそうです...
なるほど、ティーン女子が好きそうな設定です。
リアル女性に害を及ぼしかねない既婚おじさんが使う分には、社会平和に役立つでしょうが、子どもが使うとハマってしまいますね。
実際に2千万ユーザーのうちのかなりの割合を若者が占めるそうです。
映画『フリーガイ』でも、AIに恋してしまうシーンがありました。
スターウォーズのアナキン・スカイウォーカーもロボット(R2-D2)に愛着を抱いてますし。
いくらAI社が主張するような安全対策として「これはフィクションです」と表示したところで、AIキャラクターの本質的な目的は愛着形成なのですから無意味でしょう。
元々グーグルにいた人が飛び出してキャラクターAI社を創設して、開発に目途がついたら、グーグルとライセンス契約という手法も、企業イメージにかなりのリスクがあるテクノロジーであることを巨大企業も認識しているのを伺わせます。
とはいっても、止めようがない技術進化だと思いますので、私としては、ロマンス詐欺にひっかからない、又は色ボケジジイにならないというのと同様の警戒心を持って接する技術かなと思いました。