AIがもたらすリスク

世界経済フォーラムは毎年、グローバル社会が直面するリスクを分析して今後の脅威について警鐘を鳴らす「Global Risk Report」を発表しています。下の表は、今年発表された「Global Risk Report 2025」に掲載されていた、今後10年の中長期的なグローバルリスクのランキングです。異常気象や、気候変動に伴う地球の生態系への脅威、そして偽情報のリスクなど見慣れたものに加え、第6位には「AI技術が及ぼす有害な結果」が挙げられています。

AI（人工知能）については、昨今特に生成AI分野での技術革新が目覚ましく、中国企業が低コストで開発したとされるDeepSeekという大規模言語モデル（LLM）が登場し、株式市場にも大きな影響を与えました。また、Open AI社は高度なリサーチタスクを人間の代わりに計画・実行するAIエージェント「Deep Research」を発表し、研究やリサーチのあり方が一気に大きく変わることが予想されています。その進化のスピードはより一層加速しているように見えます。

シンギュラリティはいつ？

以前、「シンギュラリティ」という言葉が持て囃されたことがありました。シンギュラリティとは「技術的特異点」と訳され、AIが人間の知能を超え、自律的に自己改良を行い、急速な技術的進化を遂げ始める転換点を指します。この時点を迎えると、AIが人間の制御を超え、社会や人間の生活が劇的に変化し、その後の未来を予測することが著しく困難になるとされています。シンギュラリティの主唱者であるレイ・カーツワイルの主張では、それは2045年ごろに到来するとされていましたが、現在のAIの進化のスピードを見ていると、それほど時間がかからないのではと思わされます。

具体的には、AGI（Artificial General Intelligence：汎用人工知能）の実現がひとつの分かれ目になります。現在我々が活用しているAIは、画像認識・音声認識・翻訳といった特定のタスクに最適化されたものですが、AGIは、人間と同じようにあらゆる知的作業をこなし、人間のように思考・学習して問題解決を行えるAIを指します。その思考・学習のスピードと、24時間止まらずに作業を進められるタフさを考慮すると、人間の特権であった知的作業の大部分をAIに任せる世界になるかもしれません。確かに、人間と同等の柔軟性をもって思考することできるAGIの実現には高いハードルがあります。しかし、ソフトバンクがOpen AI社とともにAGIの普及を目指す合弁会社を設立するなど、実現に向けた動きは世界中で進んでいます。AGIが実現すると、世界中で行われる知的作業の質と量は飛躍的に増大するでしょう。その先に実現するのはASI（Artificial Superintelligence：超知能）であり、それはもはや人間の理解を超えた存在になる可能性が否定できません。その結果、AIが人間の思惑を超えて制御不能となり、社会的混乱や安全保障上の脅威を引き起こす可能性があるというのが、将来的にAIがもたらすであろうリスクです。

AGIの暴走は、これまでもSF作品の中で描かれてきました。「2001年宇宙の旅」ではコンピュータHAL9000は自己保存のためにクルーを抹殺しました。「ターミネーター」のスカイネットは、自己防衛のために人類を敵と認識しました。「エクス・マキナ」ではAIエヴァが自由のために人類を欺きました。また、ジョージ・オーウェルの小説「1984年」に出てくるような徹底的な監視社会は、AGIの登場によって実現可能になるかもしれません。こうした暴走に対して、これまで多くの専門家や研究機関が警鐘を鳴らしてきました。イーロン・マスクは「AIは核兵器よりも危険だ」と発言しており、厳格な規制と倫理的な開発が必要だと主張しています。Open AI社は、AGIが人間の価値観と一致する形で行動することが極めて難しい課題であると指摘しています。スタンフォード大学の発表した「AI 100レポート」においては、AGI暴走の結果として、AIによる経済システムの支配、フェイクニュース大量生成による混乱、自律兵器の暴走による安全保障リスクなどが挙げられています。このようなAGIの暴走は本当に起こるのでしょうか？シンギュラリティ後の世界については、我々人類の行動次第によってユートピアにもディストピアにもなりうるのではないかと思われます。

人類はAIを使いこなせるのか？

ドイツの社会学者ウルリッヒ・ベックの「再帰的近代化」論は、現代社会の変容を鋭く捉えた理論として高く評価されていますが、その中でベックは「リスク社会」の到来を予測し、新たな社会の枠組みを模索する必要性を説きました。ベックの言う「リスク社会」とは、技術の進化などが進む中で新たな危険や不確実性があらわれ、それが人々の生活や社会構造に深刻な影響を与える社会を指します。従来の社会では、貧困や戦争といった「外部からのリスク」が主要な脅威でしたが、リスク社会では、科学技術の発展や経済のグローバル化により、環境汚染、核の脅威、パンデミックなどの「人為的リスク」が増大します。これらのリスクは、国境を越えて広がり、誰もが影響を受けるにもかかわらず、責任の所在が曖昧であるという特徴があります。さらに、専門家によるリスク評価すら信頼を失い、人々は不安の中で自己決定を迫られることになります。ベックは、このような状況を批判的に分析した上で、個人と社会の新たな関係性や政治の再構築の必要性を訴えました。

人間の知能を超える知能を手に入れようとする今、これまでの社会を再構築する必要があるほど、そのインパクトは大きいと言えます。しかし、いままさに国際的に協調し、必要な規制やルールを設定して、倫理的に技術開発が進むようにしていなければならない中で、国際情勢はそれとは逆に進んでいるように見えます。世界の覇権国・アメリカは、地球温暖化対策の国際的枠組みであるパリ協定からの離脱、そして世界保健機関（WHO）からの脱退を決めました。国際協調の舞台である国連は、特定国の拒否権の発動で国際安全保障の面で機能不全に陥っています。米国にならえと各国が「自国第一主義」を標榜する現状は、新しい課題に対して協調的な手を打つのが難しい環境だと言わざるを得ません。AIの開発についても、ルール策定の動きは一部あるものの、莫大な投資を背景にも猛烈な勢いで研究開発が進んでおり、コントロールという面で非常に危ういものを感じます。

自然災害や環境破壊などではなく、これまで人間社会の福祉向上に貢献してきた「テクノロジーの進化」が我々人類の首を絞めることになったら、これほど皮肉なことはありません。地球がかつてなく小さくなり、お互いにつながりあっている今こそ、国際協調の努力を放棄してはいけないと考えます。

(根来 諭)
february 12, 2025

信頼できる危機管理情報サービスとして続々導入決定！

スペクティが提供するAI防災危機管理情報サービス『Spectee Pro』（https://spectee.co.jp/feature/）は、多くの官公庁・自治体、民間企業、報道機関で活用されており、抜群の速報性・正確性・網羅性で、危機発生時の被害状況などをどこよりも速く、正確に把握することが可能です。

また、『Spectee SCR』（https://spectee.co.jp/service/specteescr/）はサプライチェーンに影響を与える危機を瞬時に可視化し、SNS・気象データ・地政学リスク情報など様々な情報をもとに、インシデント発生による危機をリアルタイムで覚知し、生産への影響や納期の遅れ等を迅速に把握することができます。

• お問い合わせ：https://spectee.co.jp/contact/
• お電話でのお問い合わせ：03-6261-3655（平日9:00～17:30）