Ｔ・スウィフトさんの性的なＡＩ生成画像、ＳＮＳで急速に拡散　

ニューヨーク（ＣＮＮ） ＡＩ（人工知能）で生成した米人気歌手テイラー・スウィフトさんのポルノまがいの画像が今週、ＳＮＳで拡散した。本物そっくりの有害な画像を生成する主流ＡＩ技術の危険性が浮き彫りになった。

スウィフトさんの偽画像は主にＸ（旧ツイッター）で出回った。偽画像には性的にきわどい露骨な姿勢を取ったスウィフトさんの姿が写っており、数千万回閲覧された後に各種のＳＮＳプラットフォームから削除された。

ただ、インターネット上の情報が永久に消えることはありえず、今後も間違いなく、他の規制の緩いメディアで共有され続けるとみられる。

スウィフトさんの広報担当者はコメントを控えた。

他のＳＮＳプラットフォームと同様、Ｘのポリシーでは「利用者を欺いたり混乱させたりして損害をもたらす可能性のある、合成または操作されたメディアや、文脈から切り離されたメディア」の共有を禁じている。

今回の出来事は米国が２０２４年大統領選に突入する中で発生した。誤解を招くＡＩ生成画像や動画が偽情報工作に利用され、最終的に投票に混乱を及ぼす可能性に懸念が高まっている。

デジタル調査組織メメティカを運営するベン・デッカー氏はＣＮＮの取材に、「これは公共空間を守るガードレールが十分に存在しない状況で、ＡＩが多くの悪質な理由で乱用されている好例だ」と指摘した。

デッカー氏はまた、ＳＮＳ企業は有効なコンテンツ監視策を必ずしも講じていないとの見方も示した。

例えば、Ｘはコンテンツ監視チームをほぼ骨抜きにし、自動システムやユーザーの報告に頼っている。欧州連合（ＥＵ）では現在、Ｘのコンテンツ監視慣行をめぐる調査が行われている。

事情を直接知る関係者がＣＮＮに明らかにしたところによると、メタも偽情報対策チームを削減しており、米国など世界各地で今年重要な選挙が行われるのを前に懸念が高まっている。