出典の迷宮─生成AIが生んだ「出典なき知識」

私事ですが先日印象的な出来事がありました。

生成AIの出力した文章の出典を確認しようとしたところ、その文章の出典とされていた別の文章もまた生成AIによって作られたものでした。つまり、出典を辿っても辿っても、そこに人間の一次情報が存在しないのです。これは、情報の信頼性を支える「出典」という概念が、生成AIの普及によって揺らぎ始めていることを示しています。

生成AIは膨大なデータを学習し、文脈に応じた自然な文章を生成します。しかし、その出力は「誰が言ったか」「どこに書かれていたか」といった出典情報を持ちません。さらに、AI同士が生成した文章を引用し合うような構造が生まれると、情報の出所が曖昧になり、まるで鏡の中の鏡のように無限に反射し続ける知識の迷宮が形成されてしまいます。

この問題は、特に教育・研究・報道など、出典の明示が重要な分野で深刻です。学生がAIを使ってレポートを書く際、出典を求められても「AIが言っていた」としか答えられません。研究者がAIの出力を参考にしても、元の論文やデータにたどり着けません。ジャーナリストがAIの文章を引用しても、裏付けが取れないのです。

では、私たちはどうすればよいのでしょうか。一つの解決策は、生成AIの出力を「参考情報」として扱い、必ず人間の手で一次情報を確認することです。また、AIが出典を示す場合でも、それが実在する文献かどうかを検証する習慣が必要です。さらに、AI開発者側も、出典情報のトレーサビリティを高める技術的工夫が求められています。

生成AIは知識の民主化を進める一方で、情報の信頼性という根幹を揺るがす可能性も秘めています。私たちはその恩恵を享受しつつも、出典の迷宮に迷い込まないための知的なコンパスを持たなければなりません。 

 …という文章を生成AIで出力してみました。「出典の迷宮」という格好いい言い回しは誰かの文章のパクリである可能性が高いのでいまのうちに謝罪しておきます。なお、出典を見つけられなかったのは事実です。(森山)