この記事についてClaude（Anthropic）との共同編集により作成されました。
要約
- SNSでよく見る「生成AIバカ」「AIに聞いたんだけどと言われたら信用しない」という言い方は、全員が自分を正しく使えている側に置いている
- 実際、他人の「AIに聞いたんだけど」には身構えるのに、自分がAIに聞いた話はだいたいそのまま信じている
- この非対称は、第三者効果（他人は影響されるが自分は影響されない、という思い込み）と素朴実在論（自分の見え方は客観的だという思い込み）でかなり説明できる
- ただし警戒の一部は正しかった。自分の場合は生成過程が見えているからである。どう聞いたか、AIが何を根拠にしたか、どこを自分で潰したかを知っている
- しかし本当に効いてくるのは経路ではなく根拠にしたソースの質である。論文でもジャーナルによって信頼度は違うし、ネット記事も発信者で変わる
- 結論は単純で、AIで調べたという過程を冒頭に置かないこと。「Anthropicの公式ドキュメントにこう書いてある」「こういう論文がある」と言えばいい
- そして冒頭に何を置けるかが、そのまま自分の検証度のチェックになる。出典を言えないなら、自分もまだ信じるべき状態ではない
- なお本記事冒頭のClaudeとの共同編集という表示は、根拠ではなく開示である。信頼性のほうは、参考文献を必ず付けることで担保している
他人から「AIに聞いたんだけど」と切り出されると、少し身構える。そこから続く話が本当かどうか、自分の中の判定基準が一段厳しくなる感覚がある。
その一方で、自分がAIに聞いて出てきた話は、けっこうな確率でそのまま信じている。人に話すときも普通に「この前AIに聞いたんだけど」から始めている。
同じ経路で得た情報なのに、他人のものだけ疑っている。 これはさすがにおかしい。この違和感をきちんと分解してみたら、バイアスで説明できる部分と、警戒として実は正しかった部分と、そもそも見る場所が違う部分の3つに分かれた。
発端は「生成AIバカ」という言い方だった
考えるきっかけはSNSだった。ここ最近、この種の言い方をよく見かける。
- 生成AIバカ
- 「AIに聞いたんだけど」と言われた時点でもう信用しない
- AIの言うことを鵜呑みにする人が増えた
言いたいことは分かる。自分も他人の「AIに聞いたんだけど」に身構えているのだから、感覚としては同じ側に立っている。
ただ、これらの言い方には共通の構造がある。発言者は全員、自分を正しく使えている側に置いている。 鵜呑みにしているのは他人で、自分は検証している。そういう立場から書かれている。
そこで引っかかった。それ、自分にも当てはまるのではないか。
自分がAIに聞いた話を、どのくらい検証してから信じているか。思い返すと、出典まで確認したものもあれば、そのまま頭に入れたものもある。後者のほうがたぶん多い。それでも他人の「AIに聞いたんだけど」には身構えている。線を引く場所が、自分と他人で明らかにずれている。
この記事は、その非対称を分解する話である。バカかどうかの話ではなく、誰でも構造的にこうなるという話として書きたい。
自分の場合だけ疑わない
まず現象を確認しておく。次の2つは、情報としてはまったく同じ強度のはずである。
- 他人が言う「AIに聞いたんだけど、Xらしいよ」
- 自分がAIに聞いて得た「Xらしい」
どちらも、AIの出力という点では変わらない。同じモデルかもしれない。それでも前者にはワンテンポ疑いが入り、後者はそのまま自分の知識の棚に入っていく。
しかもタチが悪いのは、この非対称に自分では気づきにくいことである。他人の話を疑ったときは「一応確認しよう」と考えた自覚が残るが、自分の話を信じたときには何も起きていない。疑わなかったという出来事は記憶に残らない。だから片側だけが見えている状態になる。
バイアスで説明できる部分
第三者効果: 他人は影響されるが自分は影響されない
コミュニケーション研究に第三者効果という古典的な知見がある。Davison が1983年に提示したもので、人はメディアの説得的なメッセージについて、自分より他人のほうが強く影響を受けると見積もる傾向がある^1。
「自分は影響されない。しかし彼ら（第三者）は説得されてしまうだろう」という推論の形になる。広告でも、プロパガンダでも、フェイクニュースでも、繰り返し観測されている^2。
AI相手にこれをやると、こうなる。
- 他人は、AIが言ったことを検証せずに鵜呑みにしているだろう
- 自分は、AIが言ったことを検証したうえで採用している
後半が本当かどうかは、その場では検証されていない。自分の情報処理だけを高く見積もるという形で効いてくるので、非常に気づきにくい。
素朴実在論: 自分の見え方は客観的だという前提
もう1つが素朴実在論である。Ross と Ward が1996年に定式化した、社会心理学の概念になる^3。中身は3点セットになっていて、おおむね次のようなものだ^4。
- 自分は世界をありのままに、バイアスなしに見ている
- 同じ情報に接した合理的な人は、自分と同じ結論に至るはずだ
- そうならない人は、情報が足りないか、歪んだ見方をしているか、どちらかだ
自分が受け取った情報は「事実」で、他人が受け取った情報は「その人の解釈」に見える、というのがこの効き方である。自分がAIから受け取った内容は事実の報告として頭に入り、他人がAIから受け取った内容は、その人のあやしい要約として耳に入る。
おまけ: 自分で手を動かしたぶんの加点
もう1つ、素朴に効いていそうな要素がある。自分でプロンプトを書いたという関与の実感である。
質問文を考え、条件を足し、追加で聞き直した。その労力の記憶が、出力の信頼度に上乗せされる。人は自分が手をかけたものを高く評価しがちで、これはAIの回答にも普通に効いていると思う。ただし、入力に手をかけたことと、出力が正しいことは何の関係もない。
ここまでが、単なるバイアスとして片付けていい部分である。
一部は正しい警戒だった
とはいえ、他人の「AIに聞いたんだけど」に身構えるのが100パーセント歪みかというと、そうではないと思う。ここには実質的な差がある。
自分の場合は、生成過程が見えている。
自分がAIに聞いたとき、手元には結論以外にこれだけの情報が残っている。
- どういう聞き方をしたか（誘導的な質問をしていないか）
- どういう前提条件を与えたか
- AIが何を根拠として挙げたか（公式ドキュメントなのか、出典なしの一般論なのか）
- 挙がったリンクを自分で踏んだかどうか
- 途中で怪しい主張を否定したり、聞き直したりしたか
- どのくらい自信ありげに答えたか、留保が付いていたか
他人の「AIに聞いたんだけど」には、この全部が落ちている。残っているのは最終出力の、さらにその人の要約である。伝言ゲームの最後の1手だけを渡されている状態になる。
だから警戒の対象は、正確にはAIではない。検証のしようがない要約のほうである。同じことは「人から聞いたんだけど」でも「どっかで読んだんだけど」でも起きる。AIが特別なのではなく、生成過程が落ちた情報が特別に弱いだけである。
ここまでは、身構えるのが妥当だと思う。
それでも見るべきなのは経路ではない
ただ、ここからが本題になる。生成過程が見えるかどうかは大事だとして、では何のためにそれを見ているのかを考えると、話がもう一段進む。
過程を見て確認したいのは、結局のところ「この結論は何を根拠にしているのか」の一点である。だとすると、本当に効いているのは根拠にしたソースの質であって、それがAI経由で手元に来たかどうかではない。
情報の経路を信頼度の指標にするのは、そもそも筋が悪い。
- 論文で読んだ: ジャーナルによって査読の厳しさはまったく違う。掲載料さえ払えば通るハゲタカジャーナルもあれば、分野の中核誌もある。「論文で読んだ」だけでは何も保証されない
- ネットで読んだ: 提供元の公式ドキュメントと、それを孫引きした個人ブログでは、同じ内容でも信頼度が違う。誰が、どの会社が発信しているかで変わる
- 本で読んだ: 出版社と著者次第である。書籍という形式は事実性を担保しない
- AIに聞いた: 同じモデルから、公式ドキュメントの正確な引用も、存在しない論文名も出てくる
どの経路にも、質の高いものと低いものが両方入っている。経路は、信頼度のばらつきをほとんど説明しない。 説明するのは、その中身がどのソースに接続しているかである。
つまり「AIに聞いたんだけど」という前置きは、情報としてほぼ空である。「本で読んだんだけど」と同じくらい、中身の判定に使えない。
直し方は、冒頭に置かないこと
ここまで来ると、やるべきことは1つに絞られる。
AIで調べたという事実を、文の一番目立つ位置に置かないこと。
文の冒頭は、聞き手の注意がもっとも強く当たる場所である。そこに置くべきなのは、話の中でもっとも判断材料になる情報のはずだ。ところが「AIに聞いたんだけど」は、その一等地に中身の判定にほとんど使えない情報を置いている。配置ミスである。
置き換えるなら、こうなる。
| 言い方 | 聞き手が判断できること |
|---|---|
| AIに聞いたんだけど、Xらしい | ほぼ何もない |
| Anthropicの公式ドキュメントにXと書いてある | 一次情報。自分で確認できる |
| Xという結果の論文がある（誰の、いつの） | 出典が特定できる。査読の有無も追える |
| 公式には書いてないけど、複数の記事がXと言っている | 二次情報だと分かる。弱いことも伝わる |
これはAIを使ったことを隠せという話ではない。順序の話である。 調べる過程でAIを使ったのは事実だし、必要なら後ろに添えればいい。「AIに聞いて、出典を辿って確認した」なら、むしろ手順として褒められる。
隠すのと、一番目立つ場所に置かないのは、別の話である。
冒頭に何を置けるかが、そのまま検証度になる
そして、この置き換えを実際にやってみると、副次的な効果があることに気づく。
冒頭に出典を置けないときは、自分もまだ信じるべき状態ではない。
「Anthropicの公式ドキュメントに書いてある」と言おうとして、実はどのページか言えないなら、自分はその出典を確認していない。「こういう論文がある」と言おうとして著者も年も出てこないなら、AIが挙げた論文名を確認していない。そこで初めて、自分が過程を見たつもりで見ていなかったことが分かる。
つまり、言い方を変えるルールが、そのまま自己チェックとして機能する。何を冒頭に置けるかを考えた時点で、自分の検証がどこまで進んでいるかが可視化される。
そう考えると、他人の「AIに聞いたんだけど」に身構えていたのは、半分は正しかったことになる。その言い方を選んだ時点で、出典を言える状態ではない可能性が高いからである。ただし疑うべき対象は、AIを使ったことではなく、出典が省略されていることのほうだった。
同じ基準は自分にも返ってくる。自分がAIに聞いた話も、出典を言える形に落ちていなければ、他人の「AIに聞いたんだけど」とまったく同じ強度しかない。信じていい理由がどこにもない。
お前も冒頭に書いているじゃないか
ここまで書いておいてなんだが、この記事の冒頭には「Claude（Anthropic）との共同編集により作成されました」と置いてある。AIで調べたことを冒頭に置くなと言った本人が、AIを使ったことを冒頭に置いている。
これは自分でも引っかかったので、整理しておきたい。結論としては役割が違う。あの注記は根拠の提示ではなく、開示である。
- 「AIに聞いたんだけど、Xらしい」は、AIの出力をXの根拠として差し出している。だから冒頭に置くと、判定に使えない情報が根拠の席に座ってしまう
- 冒頭の注記は、記事の主張の根拠として置かれていない。制作過程の開示であって、内容が正しい理由ではない
開示するのは、生成AIを使ったかどうかが読者にとって知りたい情報だからである。使っていないと思って読んだあとで実は使っていたと分かるほうが、よほど信頼を損なう。記事中のアフィリエイト表示と同じ種類のもので、先に言っておくべきことの側に属する。
ただし、はっきりさせておきたいのは、開示は信頼性を1ミリも上げないということである。Claudeと共同で書いたと明記したところで、中身が正しくなるわけではない。開示は透明性の話であって、検証可能性の話ではない。この2つは別物である。
だから、その足りない分を末尾で埋める。事実に関わる主張には出典を付けて、読者が自分で確認できる状態にしておく。 この記事なら、第三者効果も素朴実在論も原典に当たって番号を振ってある。読者は自分の目で確かめられるし、確かめた結果、自分の書き方が雑だと判断することもできる。
つまり、冒頭は誰がどう作ったかを開示し、末尾は何を根拠にしたかを開示している。この2つはセットで、片方だけでは足りない。開示だけなら中身を検証できないし、出典だけなら制作過程が隠れる。
逆に言えば、この記事が「AIに聞いたら第三者効果というものがあるらしい」で終わっていたら、それはまさにこの記事が批判している形そのものである。AIを使ったと開示することと、出典を示すことは、両立させて初めて意味がある。
まとめ
他人の「AIに聞いたんだけど」だけ疑ってしまうのは、第三者効果と素朴実在論でだいたい説明がつく。他人は影響される、自分は客観的に見ている、という2つの思い込みが重なっている。
ただし警戒そのものが間違いだったわけではない。生成過程が落ちた要約は実際に弱い。弱いのはAIだからではなく、検証できないからである。
そして最終的に効くのは、経路ではなく根拠にしたソースの質である。論文にもピンキリがあり、ネット記事にもピンキリがあり、AIの出力にもピンキリがある。どこを通ってきたかは、質をほとんど説明しない。
だから実践としてはこれだけでいい。
AIで調べたという、中身の判定に使えない情報を、一番インパクトの大きい冒頭に置かない。 代わりに、根拠にしたものを置く。置けないときは、自分もまだ信じないでおく。
そのうえで、AIを使ったこと自体は隠さずに開示する。開示は誠実さの話、出典は正しさの話であって、どちらか一方では足りない。この記事が冒頭に共同編集の注記を置き、末尾に参考文献を置いているのは、その2つを別々に果たすためである。
情報源のメタ評価という観点では、SNSだけでAI情報を追うと、なぜ思考が浅くなるのかでも似た話を書いた。媒体が変わってもやることは同じで、結局は「これはどこから来たのか」を毎回聞くだけである。
参考文献
- Davison, W. P. (1983). The Third-Person Effect in Communication. Public Opinion Quarterly, 47(1), 1–15. https://academic.oup.com/poq/article-abstract/47/1/1/1906961
- Third-person effect — Wikipedia https://en.wikipedia.org/wiki/Third-person_effect
- Ross, L., & Ward, A. (1996). Naive realism in everyday life: Implications for social conflict and misunderstanding. In Values and Knowledge. Semantic Scholar https://www.semanticscholar.org/paper/26ec5769725139b6a0f28b65a0fa40bb2127cbb4
- Naïve realism (psychology) — Wikipedia https://en.wikipedia.org/wiki/Na%C3%AFve_realism_(psychology)