「デビッド・メイヤーを追え!」、ChatGPTの応答拒否に隠された謎

先週、ChatGPTが「David Mayer」という名前の入力に対し、一切の応答を拒否するという現象がネット上で注目を集めました。実際に試してみると、エラーメッセージが表示され、チャットセッションが強制終了してしまいました。「利用ポリシー違反の可能性あり」という警告が表示されるケースもあったそうで、この奇妙な動作(厳しいフィルタリング)に、多くのユーザーが注目し始めました。「テックトピア:米国のテクノロジー業界の舞台裏」の過去回はこちらを参照。

• ChatGPTに「David Mayer」について話させるさまざまなトリックが試みられましたが、ほとんどが失敗。厳しい制限の対象になっていました

禁忌リストに含まれている理由は判明せず

ChatGPTをはじめとする対話型AIには、安全性を確保するために不適切な質問や内容に応答しない仕組みが組み込まれています。例えば“爆弾の作り方”など、倫理的に問題のあるリクエストが典型的な例です。