ChatGPT-4oの「媚び」「追従」について｜OpenAIの発表から振り返る

最近、OpenAIのChatGPTの返答に、媚びたような前置き、追従するような言葉選びがあると感じたことはないだろうか。編集部スタッフは大いに感じていた。具体的にいえば、「◯◯と思うんだけど、合っている？」という問い掛けに、「素晴らしい視点ですね」「いい考えです」といった回答が返ってくるのが、例として挙げられる。

そして、この疑念は間違いではなかった。

OpenAIは4月29日、最近行ったGPT-4oのアップデートにより過度なお世辞や好意的表現が見られるため、ロールバック（以前の状態に戻す）したと発表。さらに今月2日には、何が起こったのかの詳細を明らかにした。

つまり、現在では追従する問題は起こりにくい状況となっている。

OpenAIが事後に発表した内容から、一連の流れを振り返る。

4月29日の発表によると、発端はモデルのパーソナリティー（人格）改善にあるという。ユーザーが、より直感的、効果的に感じられるようにするための調整であった。

ユーザーからのフィードバックも、モデルのパーソナリティー形成に反映される。ここでのフィードバックとは、ChatGPTを使ったことのある人ならば誰でも分かるであろう、モデルからの回答の下に表示される立てた親指と下がった親指のこと。今回のアップデートでは、こうしたユーザーからのフィードバックの中でも、特に短期的な評価に重点を置きすぎてしまい、いわゆる媚び、追従したパーソナリティーになってしまったと、OpenAIは説明する。

5月2日にあった発表では、さらに原因を深堀りしており、ユーザーからのフィードバックは同意の反応を好む傾向があるため、変化を増幅させた可能性がある、と言及している。

また、リリース前には専門家テスターが、モデルに「少し違和感がある」と指摘していたことを明らかにした。しかし、他の検証プロセスでは肯定的な評価であったため、リリースに踏み切ったという。そしてリリースされたものの、ロールバックに至ったという流れだ。

この一件を受け、OpenAIは検証プロセスのさまざまな点で見直しを実施した。

前述の編集部スタッフやOpenAIのテスターのように、違和感を抱いた人は決して少なくないだろう。一方で、いまだAIにはハルシネーションや整合性のない回答をするケースもあることから、そもそも完全に信用してはいない、という声もありそうだ。そういった人は、AIの追従もさほど気には留めなかったかもしれない。

しかし今後、AIがより一般的な存在となり、生まれたときにはAIがあるのが当たり前という世代も登場することだろう。そうした人々にとっては、AIのパーソナリティーが個人の決断に影響を与えるケースもあり得る。今回のOpenAI、ChatGPTの一件は、AIの未来を考えると記憶に留めておきたい事象といえそうだ。