文章から動画を生成するAI

 
米Metaは先ごろ、動画生成AI「Make-A-Video」を発表しました。短い文章を入力すると、その内容を表す短い動画が生成されるというもので、Make-A-Videoは現在、64×64ピクセルの16フレームの動画を出力します。実際、公開された動画を見ると、いくつかの不自然さはあるものの面白い動画が生成されています。
 
また、米Googleの研究部門Google Researchでも、短い文章から動画を生成するAIシステム「Imagen Video」を発表しています。Imagenは「拡散モデル」で、多数の既存のデータサンプルを使って“破壊”と“回復”の方法を学習することで、新たなデータを生成するとのこと。文章を受け取ったAIが24×48ピクセルで16フレーム、毎秒3フレームの動画を生成し、この動画から追加のフレームをアップスケールして予測して最終的には128フレーム、毎秒24フレームの720pの動画が生成されます。
 
また動画以外でいうと、写真やイラストなどのAIによる静止画生成は現状かなり精密な表現が可能となっています。特に写真に至っては、ディープラーニングの技術が発展し、誰でも本物に近い（見分けがつかない）制度の画像が生成することが可能です。しかしながら、こうした技術が進むにつれ「ディープフェイク」という問題が浮き彫りになってきます。
 
『Meta、動画生成AI「Make-A-Video」を発表　「肖像画を描くテディベア」などの作品公開』
（出典：2022年09月30日　ITmedia記事より）
 
『Google、文章から動画を生成するAI「Imagen Video」を紹介　Metaに続き』
（出典：2022年10月06日　ITmedia記事より）
 

「ディープフェイク」が蔓延する時代

 
いままでも画像や動画の登場人物の顔を別人の顔と差し替える、二人の顔の特徴をミックスする、実在しない人物の画像を生成するといったいわゆる「ディープフェイク」というものはありましたが、AIの自動生成技術の進化によって誰でも一瞬で「ディープフェイク」画像・動画を生成できるような時代になっています。
 
併せてソーシャルメディアの普及により、こうしたフェイクコンテンツがあっという間に拡散され、それらが我々の社会判断に大きな影響を与えるという恐れがあります。先ごろ日本国内でもこのディープフェイクを利用した悪質な事件が発生しました。ツイッターの匿名アカウントで「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」という文言とともに3枚の画像が投稿されました。このとき静岡は台風15号による記録的な大雨で大きな被害が出ていました。今回投稿された画像は家屋が屋根付近まで水没するなど悲惨な状況を伝えた写真でしたが、実はAIを使って自動生成したものでした。
 
ディープフェイクは想像以上の影響を社会に与える可能性があります。詐欺、誹謗中傷などはもちろん、フェイクニュースによる世論操作によって国家安全保障上の問題にまで発展する恐れすらあります。しかしこうしたディープフェイク検出は非常に難しい現状であると言われています。悪用を防ぐためには国レベルで、法体制とガイドラインを整備することが望まれます。また、我々もSNSなどの画像や動画の真偽を見極める目を養うことも必要です。偽情報の場合は投稿者が前後で全く脈絡のない投稿を繰り返しているケースも多いくあります。拡散する前に一旦冷静になって、真偽を確かめるよう心がけたいものです。
 
＊＊＊＊＊＊＊＊＊