チャットＧＴＰの音声モード、ユーザーが感情依存の可能性も　オープンＡＩが懸念

ニューヨーク（ＣＮＮ） 生成ＡＩツール「チャットＧＰＴ」を開発するオープンＡＩは８日、同ツールの安全性を検証した報告書を発表した。ユーザーがＡＩとの関係に頼り過ぎて「依存状態」になる可能性もあると指摘している。

有料版のチャットＧＰＴで提供が始まった最先端の音声モードでは、まるで本物の人間と話しているような会話ができる。リアルタイムの反応が可能で会話が中断されても対応でき、人間のような笑い声や「うーん」といった声を出すこともある。話し手の口調から感情を判断することさえできる。

この機能は発表直後から、２０１３年の映画「ｈｅｒ／世界でひとつの彼女」に登場するＡＩ音声アシスタントそっくりだと話題になった。主人公の男性はＡＩと恋に落ち、「彼女」がほかに何百人ものユーザーと関係を持っていることを知って打ちひしがれる。

この架空のストーリーがあまりにも現実に近くなったことを、オープンＡＩは懸念しているらしい。音声モードを使うユーザーは「絆の共有を表現する」言葉で話しかけていると同社は指摘。いずれ「ユーザーがＡＩとの社会的関係を形成し、人と交流の必要性が減る可能性もある。孤独な人にとっては恩恵かもしれないが、健全な関係に影響を及ぼすこともある」とした。

さらに、人間のように話すＡＩから情報を得ているうちに、ＡＩを過度に信頼してしまう可能性もあると付け加えた。これはＡＩが間違う可能性があることを前提としている。

オープンＡＩによると、チャットＧＰＴの音声モード使用は、いずれ社会的関係の中で何が普通かという感覚に影響を及ぼすかもしれない。

「我々のモデルは礼儀正しく、ユーザーがいつでも話を遮って主導権を握ることを許してくれる。これはＡＩにとっては想定内でも、人を相手にする場合は常識に反する」（オープンＡＩ）