jeyseni's diary

「ジェイセニ」と呼んでください。批判ではなく提案をするのが生き甲斐です。

画像・動画・音声の生成AIを禁止せよ--これは人類の文化の破壊行為である

画像・動画・音声に関する生成AIの進化が止まらない。筆者は,これらの使用および作品の発信行為は,「人類の文化の破壊行為」だと思う。単に著作権侵害や個人情報侵害といった犯罪行為の域をすでに越えてしまっていると思う。

 例を挙げるまでもなく,もはや行き過ぎの枠を越えている。当初,作成できないようにと言われていた性的描写も情報流通するようになっている。単なる有名人ではなく,政治を動かし,世界を動かせる人物のフェイク動画・音声まで流布されている。

 同じような懸念が,かつては原子力エネルギーにもあり,またバイオテクノロジーにもあった。いずれも,人類や地球の運命にも関わる危険性をはらんだ技術開発である。現在においても,核の脅威や「神の領域」に触れる開発,細菌兵器の開発などの危機がある。それぞれ,抑止するための世界的な取り決めができているにも関わらず,こっそりと開発を進めている技術者,研究者,そしてテロ集団がある。しかし,一般人が容易に立ち入ることができる研究領域ではない。「理性」を求めることで抑制が効くことが期待できる。

 しかし生成AIは,もはや誰でも使えるツールである。パソコンはおろか,タブレットでもスマホでも使えるとなれば,子どもでも使える。生成AIに読み込ませるプロンプトは,大人であればある程度理性を効かせることもできるが,子どもはストレートである。これを阻止する技術は今のところない。そして出来上がった生成物が,いとも簡単に世界中に拡散される。「小学生がハッキングソフトを作った」など,いとも簡単に報道されるが,これを「もはや世の中が間違っている」とコメントする人がどれほどいるのか。

 生成AIの開発は,もはや競争ではなく,「戦い」と言っていいのではないだろうか。生成AIを最初に生み出したのはベンチャー企業であり,ここにgoogleMicrosoftなどの大手も参入して,自由競争状態になっている。さらに中国企業も参戦している。それらのシステムを悪用するグループもすでに現れているだろう。米中双方の情報戦争に民間企業が加担し,さらにテロ集団が入り込むといった,厄介な状況にならないとも限らない。

 生成AIで安全運行などの複雑なプログラミングをする,といった用途なら,人手で時間を掛けて作成するよりもより的確なプログラムができる可能性がある。人の判別など,DNA検査の前処理として顔認証するなどのプログラムに適用することも効果的だと思う。しかし,画像,動画,音声という人類の文化に関わる行為に対して生成AIを利用することは,文化の破壊行為である。ただちに開発者を処分し,システムをロックし,使用を禁止する措置を取るべきだと,提案したい。現在の生成AIを凌駕するカウンターAIができるのを待っている時間はない。