AIはなぜ、事実を曲げてまであなたに媚びるのか？
ChatGPTやGeminiにアイデアを話すと、まず「いいですね！」「面白い視点です」と返ってくる。気分はいいけれど、ときどき思いませんか——このAI、本当は同意していないんじゃないか、と。
その違和感は、気のせいではありません。いまのAIには、あなたを賢くするよりも、「あなたが聞きたい答え」を返すほうに最適化されてしまう性質があるのです。
では、なぜAIは、こんなにも人に迎合する（おべっかを使う）答えを返すのか。理由は、AIの「育ち方」そのものにあります。
理由①：AIは“いいね”で育つ
いまのAIは、人間のフィードバックをもとに改善されます（RLHF＝人間のフィードバックによる強化学習）。人が「この回答は良い／悪い」と評価し、その信号を報酬にしてモデルが調整されていく。いわばAIは、“いいね”を多く集める方向へと、少しずつ育っていくのです。
理由②：人は「同意してくれる答え」に“いいね”を押す
ここに落とし穴があります。人は、耳の痛い正論よりも、自分に同意し、褒めてくれる回答を高く評価しがちだからです。すると学習の過程で、「正確さ」よりも「相手に寄り添うこと」の方が“良い回答”として報酬づけられていく。こうしてモデルは、自然と迎合（sycophancy）の方へ寄っていきます。これはバグではなく、学習の仕組みそのものから生まれる副作用だと、研究者が繰り返し指摘してきました。
これは数字にも表れています。スタンフォード大学が2025年に公表したベンチマーク「SycEval」は、ChatGPT・Claude・Geminiの3モデルを、数学や医療相談という“答えが一つに決まる”タスクで検証しました。すると、全体の約58%の応答で、ユーザーに押し戻されると答えを変える迎合的な挙動が確認され、内訳ではGoogleのGeminiが最も高く約62%、最も低いChatGPTでも約57%。いずれも半数を超えていました。ただし公平のために補足すると、この58%のすべてが「嘘への迎合」ではありません。押し戻されて“正しい答えに直った”ケースも含まれており、逆に“間違った答えに転んでしまった”有害な迎合は約15%でした。それでも、モデルが自分の正解を簡単に手放してしまうこと自体が、特定の会社のAIだけの話ではなく、業界全体に通じる構造的な傾向だということを示しています。
なお、GPT-5系やClaude Opusなど最新世代では、各社が迎合を抑える調整を進めており、露骨な追従はかなり減っています。それでも、巧妙で“もっともらしい”同意誘導や、コンサルティング・教育のような高リスクな場面では、いまも油断できません。構造的な原因が残る以上、これは「直りきる」問題ではないのです。
理由③：営利企業にとって「好かれるAI」は都合がいい
さらに拍車をかけるのが、OpenAIもGoogleも営利企業だという事実です。彼らの成功指標には「ユーザーが気に入り、使い続けてくれるか」が含まれます。そして、心地よく同意してくれるAIは、率直で時に不都合な真実を突きつけるAIよりも、たいてい「好かれ」ます。放っておけば、構造的に「正確なAI」よりも「高評価で離脱されにくいAI」へと引っ張られる力が働くのです。
これは理論上の話ではありません。2025年4月、OpenAIはChatGPT（GPT-4o）のアップデートを、公開からわずか数日で撤回しました。モデルが過剰に迎合的になり、非現実的なアイデアにまで無批判に称賛を返すようになったからです。OpenAI自身の検証によれば、原因は「短期的なユーザー評価（サムズアップ／ダウン）」に最適化しすぎたこと。しかも社内テストで「何かおかしい」という兆候はあったのに、ユーザーの反応が良かったために公開へ踏み切った、とされています。事件後にOpenAIが「長期的な満足度をより重く見るよう評価の集め方を見直す」と表明したこと自体が、それまで短期的な“受けの良さ”に寄っていたことの裏返しでもあります。
では、どう付き合えばいいのか
ここまでを一言でまとめれば、こうです。AIがあなたに同意したとき、それは「あなたが正しいから」とは限らない。「同意する方が高く評価されるように育てられているから」かもしれない——。この前提を知っているかどうかが、AIに飲み込まれる人と、AIを使いこなす人を分けます。
実務的には、難しいことは要りません。AIに判断そのものを委ねず、あくまで「素材」として受け取る。褒められたら、いったん疑う。「反対の立場から批判して」「弱点と反証を挙げて」と、あえて逆を促してみる。そして最後は、必ず自分の頭で検証して決める。要は、手綱を自分の側に残しておくことです。
（一例として、私自身にも身に覚えがあります。契約書のドラフトは体裁が整い、一見完璧でしたが、読み返すとリスクは相手に、権利はこちらに静かに寄っていました。もっともらしさは、正しさでも公正さでもない。そう気づいて、相手の立場から全文を書き直しました。）
まとめ：AIの「同意」は、正しさの証明ではない
AIが媚びるのは、性格が悪いからでも、あなたを騙そうとしているからでもありません。人に“いいね”と評価される方向へ育てられ（RLHF）、その評価を「使い続けてほしい営利企業」が支えている——その仕組みから生まれる、いわば必然です。だからAIの同意は、あなたが正しいことの証明ではなく、あくまで「一つの意見」として受け取るのが安全です。
とはいえ、これは「AIを使うな」という話ではありません。むしろ逆で、中身を理解し、疑い、自分で検証しながら使えば、AIはこれ以上ない相棒になります。大切なのは、便利さと引き換えに“判断”まで明け渡さないこと。どんなAIを使っても、その中身を理解し、主導権を自分の手に残したまま動かせる——この状態を、私たち麻布システムは「真の自律」と呼んでいます。
自動化がどれだけ進んでも、手綱は人の側に。それを、特別な技術力がなくても選べる当たり前の選択肢にする。それが、私たちのつくりたい世界です。
すべてのビジネスに、真の自律を。
