賢くなりすぎるAI、新しい組織論の構築が不可欠に

xtech.nikkei.com

前回は、企業におけるAI（人工知能）エージェント導入の短期及び中期的なリスクについて指摘した。今回は長期的なリスクを整理していこう。

　長期的リスクには、どんなものがあるか。5年を超えてAIエージェントがさらに進化すると、米国の著名な発明家であるレイ・カーツワイルが著書『The Singularity Is Near』で示唆した「技術的特異点」のシナリオが現実味を帯びる。AIが自己改良能力を手に入れ、指数関数的に賢くなっていく局面になると、人間がその挙動を予測しきれなくなる。