静岡災害デマ、画像生成AIの急速な進化がもたらす新しい時代

国際情勢
BCP・危機管理

2022.09.28

台風15号が記録的な豪雨を静岡県にもたらしました。気象庁によると静岡市駿河区では12時間雨量が観測史上最多となる404.5ミリを観測。これは平年の9月降水量の約1.5倍に当たる量とのことです。この大雨により、静岡県各所では広範囲で冠水・浸水や土砂災害、大規模な停電・断水の被害が発生しました。特に断水については静岡市清水区を中心に6万軒以上で発生し、29日から段階的に解消するものの、完全復旧は10月まで持ち越しになる見込みです。

3名がお亡くなりになり、ライフラインの途絶をもたらす深刻な災害となってしまった今回の豪雨ですが、災害自体とは別に残念な事象が起こりました。それはフェイク画像の拡散です。

下の画像は、9月26日の午前4:39にツイッター上に投稿された画像になります。住宅群が完全に水に浸かってしまっている、非常に衝撃的な画像で、これを見て慌ててリツイートしてしまった方もおられたのではないでしょうか。SNSへの投稿を含む災害に関する情報を収集・解析・配信しているスペクティでは、これらがAIによって作成された画像である可能性を見抜き、「これはデマである」と顧客に対して明確に注意喚起させていただきました。

フェイク画像を技術的に判定をするポイントは複数ありますが、一方で弊社のオペレーションを担うスタッフのように、普段からよく災害の情報に接している人間であれば、よく見ると画像に不自然な点が多々あることがわかります。例示しますと：

◆水の流れが激しいところと穏やかなところの境目がおかしい
◆木と家が融合してしまっているようなところが複数ある
◆水面への映り込みが不自然
◆水面の高さの方が冠水していないエリアの地面よりも上にある
◆電柱が見当たらない
◆マスメディアの報道において、ここまで広範囲に深く浸水してしまっている場所はない

しかし、慣れていない人が瞬時に見抜くことは難しい、よくできたフェイク画像だと言うことができます。これはどのように作成されたのでしょうか。この画像を投稿した方がその後のツイートで「Q. 写真の入所元は。A. Stable Diffusion。”flood damage, shizuoka”のキーワードで出しました」と明かしています。

「Stable Diffusion」とは、ロンドン拠点の企業Stability AI社が先月（2022年8月）に公開した画像生成AIです。画像生成AIの進化はこのところ大きく加速しており、特にテキストを入力することで画像を生成する「text to image」という分野については、人工知能を研究する非営利団体Open AIが2021年1月に発表した「DALL-E」、その後今年7月に公開された「DALL-E2」や「Midjourney」など次々と新しいものが登場しています。「Stable Diffusion」もその系譜に連なるものではありますが、大きな特徴は膨大なデータで学習したAIモデルをオープンソースで公開しており、誰でも使える形で提供している点で、実際にこれをベースとした多くのサービスやアプリが一気に登場しています。

実際のデモをココで試すことができます。「Enter your prompt」の欄に好きなワードを入力し、右の「Generate Image」をクリックすれば、そのワードに即した画像が自動で生成されます。ちなみに、生成画像の権利は作成者にあり、商用利用も可能となっています。下記画像は実際に「flood damage, shizuoka」と入力して生成した画像です。ほんの14秒でこれだけ精細な画像を作れてしまうことに驚きが隠せません。

画像生成AIはこれまでも度々話題になり、特にディープフェイクと呼ばれる虚偽の動画・画像による意図的な世論誘導などの弊害が指摘されてきました（ディープフェイクについてはこちら）。しかし従来は、こうした深層学習のAIモデルの構築には特別な知識や高性能なコンピュータが必要だったところ、Stable Diffusionの登場で「画像生成AIの民主化」が一気に進み、誰でも気軽に画像を作成できるようになったというわけです。

これまでも災害時にデマ投稿がなされることはよくありました。しかし、そのほとんどが別の場所で起きた全く別の事象の画像を、あたかも今起きているかのように投稿するものがほとんどで、今回のように一から作られたものは記憶にありません。画像生成AIが気軽に利用できるようになることで、誰でもクオリティの高いデマ画像を拡散することができるようになった・・・今回のデマ騒動が明らかにしたのはこの点です。

フェイクの問題だけではなく、Stable Diffusionの登場でイラストレーターの仕事が奪われてしまうのではないかという懸念や、AIが作成した画像が他者の著作権を侵害した際の責任問題、またAIに学習させるために他人の著作物を読み込ませることの是非など、様々な倫理的・法的な議論が巻き起こっています。デマ投稿は、最悪の場合には二次災害につながる恐れもあり、厳罰化による抑止も考えなければいけないでしょう。テクノロジーの進化に対し、明らかに社会制度や法概念、我々の意識がついていけていないことは明らかで、今回をきっかけに議論が進むことを願います。

最後にはなりますが、台風15号で被災された皆様にお見舞い申し上げるとともに、一刻も早い復旧を祈念いたします。

(根来諭)
September 28, 2022

信頼できる危機管理情報サービスとして続々導入決定！

スペクティが提供するAI防災危機管理情報サービス『Spectee Pro』（https://spectee.co.jp/feature/）は、多くの官公庁・自治体、民間企業、報道機関で活用されており、抜群の速報性、正確性、網羅性で、「危機発生時の被害状況などをどこよりも速く、正確に把握すること」が可能です。AIを活用して情報解析、TwitterやFacebookなどのSNSに投稿された情報から、自然災害や火災、事故などの緊急性の高い情報、感染症に関する情報など、100以上の事象を、市区町村、空港や駅、商業施設、観光地周辺といった対象と組み合わせて、「どこで何が起きているか」をリアルタイムに確認できます。