jeyseni's diary

「ジェイセニ」と呼んでください。批判ではなく提案をするのが生き甲斐です。

フェイク画像・フェイク音声を作るAIなんて,もはや人新世(アントロポシーン)の終わり--AI新世の到来か

人新世(アントロポシーン)をご存知だろうか。人類によって地球環境がコントロールされることを表す。

 地球は30億年前に誕生し,さまざまな歴史を刻んできた。氷河期も通り過ぎてきた。隕石の衝突で生物の体系が根本的に変わった時代もあった。そして人類が登場したが,当初は人類の存続も地球の環境に左右されてきた。文明を生んだ人類は,火を扱い,他の生物を支配し,食料を自ら生産する能力を持った。そして19世紀後半の産業革命化石燃料を使い始め,20世紀後半には原子力エネルギーを手に入れた。

 産業革命で大気汚染や海洋汚染が始まり,生態系に影響を及ぼし始め,人類自身も被害を受けるようになった。その後,20世紀末には地球温暖化という環境の変化の原因が,人類の活動であることが明確になってきた。一方,原子力エネルギーは,地球温暖化の原因となる二酸化炭素を発生しないクリーンなエネルギーと期待されたが,核分裂反応を完全にコントロールできず,建屋の崩壊,反応炉のメルトダウン放射性物質の空中放散や冷却水の水漏れ,そして水素爆発と,人類の制御能力を越えつつある。フランスを除く世界各国で廃炉の方向に向かっているが,廃炉には100年が必要とされる。危険を伴う廃炉作業を責任を持って実行できる企業も技術者も,基本的にはいなくなる。

 さらに,この原子力エネルギーを兵器に使い,原子力爆弾,そして原爆を起爆装置とした水素爆弾が開発された。その後,アメリカとソビエト連邦による冷戦でパワーバランスを取るために各国とも1万発を超える核兵器保有した。その後の核兵器削減条約によって廃棄が進んだが,現時点で両国がそれぞれ7000発ずつの核兵器を所持。その他10ヵ国が核兵器保有している。

 2022/2/24に始まったロシアのプーチン大統領のグループによるウクライナ侵攻では,核兵器の使用が噂されているほか,すでにウクライナ国内の複数の原子力発電所が攻撃を受けて占拠され,メルトダウンの危機に瀕している。人の作為的な行為により,人類自身が破滅を招きかねない事態に陥っている。

 人類が,地球の運命をコントロールできる時代のことを人新世(アントロポシーン)と呼び,産業革命あるいは原子力エネルギーを得た時期がその始まりと定義されている。

 地球温暖化は,その結果として人類を含む地球の破滅でその時代が終わるというシナリオかもしれないと考えていて,これを防ぐのが21世紀の人類の最大のテーマであると考えていた。しかしそこにウクライナ侵攻により,核戦争による人類の滅亡というシナリオが新たに加わってしまった。

 このウクライナ問題の最中,ウクライナのゼレンスキー大統領のニセ者が現れた。ゼレンスキー氏の“偽動画” AI使いうその降伏呼びかけ (msn.com)。これはAI(人工知能)技術を使った「ディープ・フェイク」と呼ばれる方法である。

 音声でも,この技術を使って有名人の音声を合成する技術が進んでいる。2022/3/18の放送で,高島ちさ子さんの声を合成して,任意のセリフを発声させる場面が紹介されていた テレ朝POST » 『ザワつく!金曜日』に“AIちさ子”が登場!最新技術で高嶋ちさ子の声を再現 (tv-asahi.co.jp)。合成音声で「私のストラディバリウスを譲ってもいい」と言わせる場面だが,これは犯罪に使われたらどうか,というところまで考えての放送だったのだろうか。バラエティだからといって使っていい,というものではない。

 かつて,わいせつな写真の顔を有名人の顔と差し替えてネットにアップするという手口が流行った。画像処理ソフトを使えば簡単なのだが,かつては10万円もするソフトを購入する必要があったものが,1000円以下,あるいは無料のソフトで同じことができるようになった。

 このときは1枚の写真の加工であり,時間もある程度かかるが,ウソは比較的簡単にバラすことはできた。

 しかし,ディープ・フェイクは,必要な技術だったのだろうか。たとえば,すでに亡くなっている有名人に話をさせる,などができるというが,それは何のために必要なのだろうか。夏目漱石福沢諭吉が話をしたからといって,それが何だというのだろうか。逆に,犯罪にも使用できるような技術を,開発することに疑問はなかったのか。

 バイオテクノロジーも,もうあらゆることが可能になっている。しかし,新たな生命体を作り出したり,ヒトをコピー(クローン)したりすることは,倫理的に問題があり,犯罪であるとして,世界中で禁止することにコンセンサスがある。残念ながら,この禁止協議を逸脱する研究者も少なからずいることは確かである。

 AIにおいても,個人を特定できる音声や映像を合成したり,それを再生・配布することは,道徳上許されない。これを犯罪とすべきではないのか。AIを含むコンピュータ業界は,倫理的,理性的な歯止めが効いていないのではないか。

 AIが人間の思考能力を超える日のことを,シンギュラリティー特異点)と呼んでおり,2045年がその日だと言われてきたが,もはや一般の人をコントロールできるフェイクな映像・音声を作れるようになった現在,ミスリードによる暴動を引き起こすことも可能である。

 もし,プーチン大統領やゼレンスキー大統領,バイデン大統領などのフェイク動画で相手を挑発するような映像ができてしまえば,これはもう世界の破滅を招く。

 ゼレンスキー大統領のフェイク動画ができているということは,この人格に何でも語らせられるということである。 

 正直このディープ・フェイク技術は恐ろしい。リアルタイムで語らせれば,別の人格としてとんでもない発言まで可能になる。Zoomなどによるオンライン会議が当たり前のようになり,画像のクオリティが少し落ちれば,ニセ者が登場しても本物とほとんど見分けがつかないかもしれない。これはもう,自分の周りでもすぐにでも実現できてしまう。すでにアバターが自分の代わりに行動するメタバースという世界のクオリティがどんどん向上し,単なるキャラクターだったアバターから,自分の顔を持たせたアバター,そして自分とほとんど同じように見えるアバターまで急速に進化している。このアバターが,自分なのか,自分の分身なのか,あるいは他人が作り出したキャラクターなのかを,認証する方法は存在しない。

 これはもう,人類が自分の理性を捨てて,カオスの世界を作り始めたことになるのではないだろうか。人が世界をコントロールする人新世は終わり,次はAIが人類や世界をコントロールする「AI新世」の到来なのかもしれない。