生物の進化プロセスにおいて、環境への適応を無視した過度で急速な突然変異は、システム全体の統合を妨げ、結果として個体の脆弱性を生み出します。現在、テクノロジーの最前線で起きているAIの急激な進化も、これと似た「統合不全」を起こしつつあります。
最新のAIツールは、もはや人間には追いつけない速度で進化していますが、実は「AI自身も、AIの進化に追いつけていない」という事実をご存知でしょうか。
最新の自律型エージェントAI「MANUS」に対して特定の自動化タスクを指示したところ、MANUSは「必要なAPIが公開されていないため不可能です」と回答しました。しかし、実際にはそのAPIは公開されており、別のリサーチ特化型AIはその事実を正確に把握していたのです。
つまり、情報収集を担うAIと、実行を担うAIの間で完全に知識が分断されており、AI自身が「自分にできること」を過小評価してフリーズしてしまうという事態が発生しています。事実無根の嘘をつくハルシネーションの逆、「逆ハルシネーション」とも言える事象です。
このエピソードは、最新ツールを盲信することの危険性と、システム全体を俯瞰して最終的なファクトチェックを行う「人間の見識」の重要性を改めて浮き彫りにしています。
現在構想中の書籍『崩壊するデジタル帝国』のテーマにも直結するこの事象について、具体的な顛末をnoteに執筆しました。テクノロジーと社会システムの未来に関心のある方は、ぜひご一読ください。
【詳細な考察はこちら】
AIの進歩にAIが追いつけない！―最新エージェント「MANUS」の自己否定から見るデジタル帝国の矛盾