ChatGPTやGoogleのAIが、尋ねるたびに違うブランドの名前を挙げる理由。

ChatGPTにどのブランドを選ぶべきか尋ね、もう一度尋ねると、リストが変わることがあります。2,961件の回答を調べた研究では、ほぼ毎回変わりました。これはアシスタントの仕組みそのものであり、自社ブランドについての1つの回答をどう読むべきかも変わります。

同じ質問、違う答え

米国西海岸のがん治療に関するChatGPTの71件の回答でのCity of Hope

2544
  • 最初に名前が挙がった
  • 名前は挙がったが最初ではない
  • 名前が挙がらなかった

Richard Feynmanについての1,000件の回答(ランダム性はゼロに設定)

992
  • “Queens, New York”生まれ
  • “New York City”生まれ
上:SparkToro、2026年1月。下:Thinking Machines、2025年9月。1つのオープンモデルに同じ質問を1,000回尋ねたもの。
数値を表で
回答割合
米国西海岸のがん治療に関するChatGPTの71件の回答でのCity of Hope:最初に名前が挙がった2535%
米国西海岸のがん治療に関するChatGPTの71件の回答でのCity of Hope:名前は挙がったが最初ではない4462%
米国西海岸のがん治療に関するChatGPTの71件の回答でのCity of Hope:名前が挙がらなかった23%
Richard Feynmanについての1,000件の回答(ランダム性はゼロに設定):“Queens, New York”生まれ99299%
Richard Feynmanについての1,000件の回答(ランダム性はゼロに設定):“New York City”生まれ81%

研究でわかったこと

2025年11月と12月に、約600人のボランティアが、ChatGPT、Claude、GoogleのAIに同じ12の推薦依頼を投げかけました。米国西海岸のがん治療の病院、ソフトウェアのスタートアップ向けのクラウド事業者、新しいSF小説などについてです。集まった回答は合計2,961件でした。この研究は、SparkToroのRand Fishkinと、AIの追跡サービスを販売するGumshoeのPatrick O'Donnellが行いました(SparkToro)。

リストが一致することはまれでした。ChatGPTやGoogleのAIが同じブランドのリストを返したのは、100回に1回未満。同じブランドが同じ順番で戻ってきたのは、およそ1,000回に1回でした。2〜3ブランドだけを挙げる回答もあれば、10以上を挙げる回答もありました。

それでも、繰り返し登場するブランドはありました。ロサンゼルスの病院City of Hopeは、がん治療に関するChatGPTの71件の回答のうち69件に登場しました。ただし、最初に名前が挙がったのは25件だけです。クラウド事業者のように選択肢の少ない分野では、上位の名前がほとんどの回答に登場しました。小説のように選択肢の多い分野では、名前はばらばらでした。

答えが変わる理由

モデルは単語を1つずつ、ある確率で選んでいます。AIモデルは、次に来そうな単語の候補から1つずつ選んで文章を書きます。温度(temperature)という設定が、可能性の低い単語をどれくらいの頻度で選ぶかを決めます。ゼロより大きければ、2回の実行は早い段階で分かれ、最後には違うブランドの名前を挙げることがあります。温度の解説で、実際にその様子を見てみましょう。

ゼロでも、答えはずれていきます。2025年9月、Thinking Machinesの研究者たちは、温度をゼロにして、1つのオープンモデルにRichard Feynmanについて1,000回尋ねました。返ってきた答えは80通り。1,000件すべてが同じ言葉で始まりましたが、992件はFeynmanがQueens, New York生まれだと答え、8件はNew York Cityと答えました。研究者たちは原因をサーバーまでたどりました。その時点でサーバーが他にいくつのリクエストを処理しているかによって、結果が変わりうるのです(Thinking Machines)。

答えの裏にある検索が変わります。多くの質問で、アシスタントはまずウェブを検索します。GoogleによるとAIモードとAIによる概要は、1つの質問に対してサブトピックやデータソースをまたいで関連する検索を何度か行うことがあります(Google)。検索が違えば見つかるページも違い、ページが違えば挙がるブランドも違います。

質問する人が違います。ボランティアは自分のアカウントと設定を使いました。研究では所在地、端末、チャット履歴をそろえておらず、著者もそれを限界として挙げています。

ブランドにとっての意味

研究の著者たちは、ある1つの指標に落ち着きました。同じ質問を数十回から数百回実行したとき、あるブランドに言及した回答の割合は、彼らの言葉で「妥当な指標」だということです。一方、1つのリストの中でのブランドの位置はそうではありません。「AIでの順位」を出すツールはどれも「でたらめだらけ」だと述べています。

  • 1つの回答は、1回くじを引いた結果として扱いましょう。同僚があなたの名前が挙がった、あるいは外れたのを見たとしても、それは多くの結果のうちの1つにすぎません。
  • 顧客が尋ねる質問を何度も試し、名前が挙がる頻度を数えましょう。
  • 1日ではなく、数週間の推移を見ましょう。火曜日の落ち込みは揺らぎかもしれません。
  • 回答に含まれているかどうかだけでなく、回答があなたについて何と言っているかも読みましょう。

Visibianは毎日または毎週のスケジュールであなたの質問を投げかけ、各数値に幅を添えて示すので、本当の変化と揺らぎを見分けられます。その他のことはAIでの可視性の測り方で取り上げています。

この研究からはわからないこと

著者たちは、この研究は査読を受けておらず、自分たちはプロの研究者ではないと述べています。著者の1人はAIの追跡サービスを販売する会社に勤めており、そのことも開示しています。対象は3つのアシスタントと12の質問、期間は2か月で、新しいモデルでは振る舞いが違う可能性があります。回答が各ブランドをどう説明したかは調べていません。

上の数値は研究自体のものです。公開されたレポートは2026年10月30日に読みました。

出典

  1. SparkToro、AIs are highly inconsistent when recommending brands or products; marketers should take care when tracking AI visibility、2026年1月28日。
  2. Thinking Machines Lab、Defeating nondeterminism in LLM inference、2025年9月10日。
  3. Google Search Central、AI features and your website、2025年12月10日更新。
始める

AIが購入検討者にあなたのことをどう伝えているかを確認しましょう。

プランは月額€79(税抜)から。すべてのプランで11のアシスタントすべてを利用できます。無料のAI対応度チェックから始めることもできます。

購読

マーケターの方へ:アシスタントが他のブランドの名前を挙げ、あなたを外す理由。