AI小説で繰り返し登場する「イライアス・ソーン」を研究者が調査

何度も現れる架空の人物

主要な人工知能システムが作った物語を調べた研究者らは、目を引く反復を記録した。チャットボットが「イライアス・ソーン」という男性を繰り返し創作し、灯台守、時計職人、司書、探検家として登場させることが多いという。確立された経歴のない人物だが、そのさまざまな姿がAI制作の書籍、音楽の掲載情報、動画、さらには疑わしい健康関連の資料にまで広がっている。

この発見は、OpenAI、Anthropic、Googleに関連するシステムが生成した約20,000編の物語の分析に基づく。Viceがまとめた報道によると、少数の名前と職業の組み合わせが標本の88パーセントに登場した。イライアスという灯台守の人物は、物語のほぼ3分の2に現れた。

このパターンが重要なのは、生成システムが通常、膨大な可能性の中から出力を生み出すものとして紹介されているためだ。実際には、研究は、その出力が一見安全な架空の素材からなる、驚くほど狭い語彙へ収束し得ることを示唆する。繰り返し観察された他の名前にはマーラやエララがあり、司書や時計職人といった職業も頻繁に出てきた。

反復が生まれる理由

報道によると、研究者らはイライアス・ソーンを説明できる単一の本やオンラインコミュニティーなど、明白な出所を探したが、説得力のある起源は見つからなかった。そこで関心は、特定の学習事例から、モデルの開発・調整方法へ移る。安全性やアラインメントの処理は、著作権のある登場人物、露骨な内容、その他の危険な内容の再現を抑える。こうした制約によって、モデルが学習済みパターンのより狭い領域へ戻り続ける可能性がある。

もう一つの要因として考えられるのは合成データだ。ある世代のAIシステムが作った素材が、後のシステムに使われるデータセットへ入ると、繰り返される名前やモチーフが強化され得る。その結果、無害な創作が製品をまたいで残り、やがて広いウェブ上へ出て、将来の学習の新たな素材になる。証拠はこの名前を最初に生んだモデルを特定していないため、この仕組みは起源を追跡した系譜ではなく、説明の一つにとどまる。

この出来事は、面白いチャットボットの癖以上のものだ。モデルの均質化を具体的に示している。異なる企業のシステムでも、操作画面やブランドが違うにもかかわらず、似た答えを作る場合がある。出版社、教育者、開発者にとって、生成物の一見具体的な描写は、人物や出典が実在するかを判断する頼りにならない。

実用上の教訓は明快だ。チャットボットが生成した名前、職業、洗練された物語の細部にも検証が必要である。イライアス・ソーンが一貫した人物に見えるのは、多くのシステムが繰り返し作り上げるからであって、実在を示す証拠があるからではない。この反復は、モデルの学習、安全性調整、合成データが時とともに創造的な出力を狭める仕組みを研究する際の、有用な指標にもなる。