生成AIのChatGPTが登場した2022年11月からまだ1年半も経たないうちに,高性能な動画生成AI「Sora」が発表された。テレビで紹介されていただけの判断だが,筆者は驚きよりも恐怖を覚えた。
テキストでごく短い30文字ほどの文章を入力するだけで,最大60秒のストーリー動画が生成された。そこに登場するのは風景だけでなく,実在の人とまったく違わない登場人物,そしてカット割りと呼ばれる映像を効果的に見せる部分拡大や視点の変化などのカメラワークが加えられていた。ゲームのCGによる人物のような作られたキャラクターではなく,本物の俳優が演技しているような動画が生成されていた。
ChatGPTによる生成文章は,単なる情報の列挙であり,キーワードを散りばめることでそれらしく見せているが,自分の頭でも作り出せるという自信があったため,AIに頼る必要はないと判断できた。画像も,筆者は以前からPhotoshop上で手動で背景を消したり,複数の画像を合成したりできるので,画像生成AIは単に無限の素材から組み合わせるだけの仕組みだと判断できた。
文章も画像も,著作権のある素材まで使えば,その作者に似せた文章や画像を作ることはできると想像できた。
しかし,動画や音楽の生成AIはもはや,一般人が判断ができない技術になっている。
これは明らかに「文化の破壊」「エンタテインメントの破壊」である。なぜかと言えば,文章や画像は後から手動で修正が可能だが,動画や音楽は人の手で修正が加えられないからである。
通常の動画や音楽は,ストーリーや楽譜が先にあり,それを演じたり演奏したりする人が複数のパートを演じ,それを監督や指揮者が組み合わせて構築するボトムアップ型の創造物である。したがって,不具合があればその部分の演者を指導し,やり直して作り直すことができる。パート単位で差し替えることで修正することもできる。
しかし,動画生成AI,音楽生成AIは,すべてのプロセスがブラックボックスである。Aという部分をもう少し右に寄せて作り直す,などという制作者の意図を反映することができない。仮にそういう指示を加えて再構成した場合に,生成AIがその部分だけを修正してくれるという保証はどこにもない。まったく違う動画を再生成してしまうかもしれない。音楽生成AIも同様である。
使えるとすれば,最大1分のコマーシャルぐらいだろう。それ以上の作品をAIに勝手に作らせてしまってはいけない。音楽も同様である。CMの音楽や,ゲームのBGMなど,1分ぐらいの作品は,現在でもフリー素材として多く存在する。イラストや写真も同様だが,その手のフリー素材作家は,ひょっとしたら今後,仕事がなくなってしまうかもしれない。
ただし,普通の映像作家や映画監督,作曲家,そして俳優や演奏家などの仕事はなくならない。逆に,自分の作風がAIに盗用されるのを防ぐのに神経を使う必要が出てくる。余計な作業が増えるというものである。
逆に,CMに登場する俳優やお笑い芸人は,生成AIで勝手に使われてしまう危険性がある。実際,最近のパルコのCMで登場した松平健さんは半分実写のようだが,最後に出てくる大きな顔は本人に似せたCGと思われ,その表情を勝手に動かされているように見える。
動画生成AIが,著名人をキャラクターとして勝手に話をさせたら,これをだれがどう判断できるだろうか。フェイク画像・フェイク音声を作るAIなんて,もはや人新世(アントロポシーン)の終わり--AI新世の到来か - jeyseni's diary (hatenablog.com)(2022/3/19)で,筆者はAIが作り出したフェイク動画,フェイク音声に対する危機感を示した。このころはまだ,動きも不自然だったが,Soraの作り出すキャラクターの動きは,自然そのままだった。政治家や独裁者,その他,存在感のある人物が,フェイク素材として使われたら,この世の中は本当に混乱してしまう。
生成AIのためのICであるGPU(グラフィックプロセッサー)で一躍,世界一にのし上がったNVIDIA社や,それを追ってGPUを発表したIntelなどの半導体メーカーは,この生成AIの需要のために大幅な増収増益となり,これが日本の株価も押し上げて,バブル期の最高値を上回る終値を2024/2/22に記録した。これからさらに量産されるのだろうか。
生成AI用プロセッサーの増産は,人類の文化・エンタテインメントの破壊につながると筆者は警告する。人はもはや,創造的な思考をしなくなる。生成AIが作り出すおもしろいゲームにのめり込んでうつつを抜かす。世界中の経済をバブル化させ,地球環境の崩壊に導く。その間に,暴力的な国家や組織が世界を破壊する。
筆者としては,人類はいますぐに,あらゆる新開発をいったん止めるべきだと訴えたい。宇宙に関する関心も捨てるべきである。コンピュータやインターネットに関わるあらゆる技術開発を,ストップさせなければ,技術が暴走してしまう。