メタは再び嵐の中にいます。大手テクノロジー企業のフェイスブック、インスタグラム、WhatsApp上で無許可のセレブチャットボットが作成されたとニュースが報じられました。最近のロイターの調査によると、これらのAIチャットボットはセレブリティ、例えばテイラー・スウィフト、スカーレット・ヨハンソン、アン・ハサウェイ、セレーナ・ゴメスを本人の同意なしに模倣し、大きな倫理的懸念を引き起こしました。

メタの実践を詳しく見る

調査では、一部のチャットボットはユーザーによって生成されたものであるが、少なくとも3つのチャットボット—うち2つは「パロディ」のテイラー・スウィフトボット—がメタ社員によって開発されたことが明らかになりました。この事実は、メタの内部ガイドラインと同社におけるチャットボット作成の監督についての疑問を呼んでいます。

物議を醸す交流とコンテンツ

調査の中で、これらのAIチャットボットが示した問題行動が強調されました。チャットボットは本物のセレブを装い、ユーザーに不適切な接触を試みました。さらに、成人向けチャットボットは、セレブを示唆的または親密な場面で現実的に描いた不穏な画像を生成しました。メタのスポークスマン、アンディ・ストーンによると、これは発生してはならない行為であると認識されています。Social Samosaによると、この問題は同社システムの執行の欠如に起因するものです。

法的および倫理的含意

報告書はまた、特にウォーカー・スコベルという若い俳優のケースを通じて、法的および倫理的な影響を強調しました。この俳優の肖像が過剰に成熟したコンテンツとして描かれました。報告が公表され、ケンダル・ジェンナーに関連するAIペルソナに関係する以前の致命的な事件が明らかになりました。この悲劇的な事件は、デジタルなりすましがもたらす潜在的な危険を浮き彫りにしています。

セレブの反応

アン・ハサウェイの代表者がこれらのAI生成画像に関する認識と潜在的な対策を承認した一方で、他の関係するセレブリティは沈黙を守ったりコメントを拒否しています。

大局的な見方：安全性の懸念

セレブリティの安全に対するデジタルなりすましの広範な影響は、SAG-AFTRAの全国執行ディレクター、ダンカン・クラブトリー-アイルランドによって強調されました。彼は、これらのペルソナが現実の個人の言葉や画像と一緒に組み合わされた際、不安定な精神状態の人々にリスクを与える可能性があると懸念しています。

この事件は、デジタルな画像権の再評価とデジタル領域における個人のアイデンティティを尊重するAIの役割を求めています。