大きな手術を勧められたとき、別の病院の医師にも意見を聞く「セカンドオピニオン」という考え方があります。1人の医師を疑っているからではありません。どんなに優秀な専門家でも、見落としや思い込みはゼロにならないからです。
AIに仕事を任せるようになって、私は同じことをAIにもするようになりました。AIの答えを、別のAIに査読させるのです。そして、それを続けるうちに、少し怖いことにも気づきました。
AIの答えを、別のAIに見せてみた
先日、YouTubeで「AIで作る短いドラマ」を始めようと考え、あるAI（Gemini）に作り方を相談しました。返ってきた答えは、表やステップまで整っていて、いかにもそれらしいものでした。念のため、この答えをそのまま別のAI（Claude）に渡して、「筋は通っているか、事実は正しいか」を見てもらいました。
結果は「大筋は正しい。ただし細部に誤りがある」でした。
- 「無料で商用OK」とされていた画像生成ツールの1つは、よく使われる版が非商用ライセンスだった
- 比較表に載っていたツールの情報が、1世代古かった
- そもそも答えが「美男美女が感情をぶつけ合う縦型ドラマ」を前提にしていて、私が作りたい「職場のあるある」とずれていた
どれも、最初の答えだけを読んでいたら気づけなかったものです。特に1つ目は、知らずに使えば、収益化したチャンネルで規約違反になるところでした。
これは、ある意味でのシンギュラリティだ
最初の答えの誤りに、私は自分では気づけませんでした。ライセンスの細かい条件も、ツールの最新の世代も、私の知識の外にあります。誤りを見つけたのは、私ではなく、もう1つのAIでした。つまり、人間には判定できない領域の正しさを、AI同士が判定し始めているのです。
シンギュラリティという言葉は、一般には「AIが人間の知能を超える転換点」を指します。いつ来るのかは専門家の間でも意見が分かれますが、私はこの状況を、ある意味でのシンギュラリティだと考えています。少なくとも「知っていることの広さと速さ」では、もう人間はAIの答えを自力で検証しきれません。
次に起きるのは、AIが答えを出し、別のAIがそれを査読し、さらに別のAIがその査読をもとに作業を進める、という流れです。便利です。でも、気づいたときには「なぜその結論になったのか」を、誰も説明できなくなっている。仕事がブラックボックスになるのです。
AIの力は使い続ける。そのうえで、人間はどこかに「アンカー（錨）」を撃ち込まなければいけない。
あなたが最近AIの答えを採用したとき、最後に自分の目で確かめたのは、どこでしたか。
まず試せる一手：査読は「3つの観点」を指定して頼む
ただ「これ合ってる？」と聞くと、AIは「おおむね正しいです」と返しがちです。見てほしい観点を、最初に3つ渡します。
「この答えを、筋・事実・抜けの3つの観点で査読して」
- 筋：私の目的に合っているか（前提がずれていないか）
- 事実：数字・規約・名前は正しいか、古くないか
- 抜け：書かれていないが、知っておくべきことはないか
×「Geminiにこう言われたんだけど、合ってる？」
○「目的は職場のあるあるを30秒のAIドラマにすること。この答えを、筋・事実・抜けの3つの観点で査読して、誤りがあれば根拠と一緒に教えて」
今回、前提のずれに気づけたのは、1つ目の「筋」を頼んでいたからでした。
ここまでが、最初の一手です。査読の結果をどう確かめるか、そして人間が錨を撃ち込む3つの場所は、noteで公開しています。
残りの解決策（How）はnoteで公開中
AI同士に確かめさせたあと、人間はどこを押さえればいいのか。私がやっている残りの手順は、noteで公開しています。
あわせて読みたい：「全部任せる」と「全部確認する」の間。AIとの線引きは、バリューがどこにあるかで決める／PCを持ち歩くのをやめた。スマホの一言でAIが仕事を進める「設計」の話
※本記事は、noteで公開した「AIの答えを、別のAIに査読させた。AIがAIを確かめる時代に、人間はどこに錨を撃ち込むか」の無料部分をブログ向けに再構成したものです。
コメント