OpenAIは、リアルタイムで人間のような応答を提供する新しいChatGPT音声モードにユーザーが過度に依存する可能性があることを懸念している。先週プレミアムユーザー向けにリリースされたこの機能は、笑い声や中断など人間の会話の音を模倣する機能を含め、AIのやり取りをよりリアルにするための大きな飛躍を示している。
同社の安全性審査報告書は、この機能のリアリティが、映画「her/世界でひとつの彼女」で描かれているような感情的な愛着につながるかもしれないという懸念を強調した。映画「her/世界でひとつの彼女」では男性がAIアシスタントに恋をする。オープンAIはユーザーがAIに個人的なつながりを感じている例を指摘しており、この比較はより適切なものとなっている。
OpenAI によると、新しい音声モードにより、ユーザーの人間との接触の必要性が減る可能性があるという。このシナリオは、孤独な人に寄り添うことができる一方で、通常の社会的行動や人間関係を乱す可能性もあるため、チャンスとリスクの両方をもたらす。音声ツールの感情を識別する能力は、その複雑な影響に加わる。
アリゾナ州立大学のリーゼル・シャラビ氏のような専門家は、進化するテクノロジーと深い関係を築くことの長期的な影響について警告している。OpenAI のレポートでは、社会における AI の急速な導入が、その結果を十分に理解しないまま進むという幅広い背景について論じており、テクノロジーの進歩とその予期せぬ用途における一般的な傾向を反映している。
すでに一部のユーザーは、AIチャットボットとの恋愛関係を報告しており、そのようなやりとりの倫理的側面をめぐって人間関係の専門家の間で議論が巻き起こっている。OpenAIはこうした動向を認識しており、この技術が、特に会話の順番や感情的なつながりに関する社会規範を再定義する可能性があると示唆している。
こうした懸念にもかかわらず、OpenAI は責任ある AI 開発に注力しており、自社のツールが人間の行動にどのような影響を与えるかを継続的に監視しています。同社は安全性への取り組みを強調し、日常生活にますます統合される自社の技術の心理的影響を理解することの重要性を強調しています。
この展開するシナリオは、AI における極めて重要な課題、つまりイノベーションと倫理的監視の必要性のバランスを取ることを強調しています。AI ツールが個人および職業上の領域にさらに深く浸透するにつれて、人間関係や社会規範に対する AI ツールの影響に関する対話は、技術の進歩とユーザー エクスペリエンスの両方によって推進され、進化し続けています。