人間は楽な方に動く生き物である。そのために頭を使って手段を考えると同時に，その影響についても想像力を働かせて考察し，「倫理」というもう1つの頭で線引きをし，それ以上は前に進まないように提案し，合意を形成し，立ち止まる知恵を持ち合わせている---はずだと思いたい。
しかしこの線引きは，いとも簡単に越えられてしまうことを繰り返している。これを前進と考えるのか，堕落と捉えるのかは，まさに「人智（じんち）」の問題だろう。
クルマもロボットもコンピュータも，人間を楽にさせるための手段であり道具にすぎないと筆者は思っている。しかし，AIの登場によってどうやら人智を越える存在によって道具が動かされるようになりつつある。そしてやがて，AIがある意味での「意志」を持ってその道具を操るようになる。
AIは人智を持たないので，倫理もなければ線引きもしない。普通の人から見れば暴走しているように見える。しかし，普通でない人から見ると，頭の良い相棒であり，自分の意図を汲んで先回りして仕事をしてくれる優秀な召使のように見えるだろう。ちょうど，主人が出かけるのを察知して草履を懐で温めていた木下藤吉郎のような存在である。しかしやがて織田信長を乗り越えて天下を取った豊臣秀吉へと進化する。
歴史上には驚異的な能力を持った人物たちが登場してきた。国を統一した者，新大陸を征服した者など，歴史上のヒーローは記録に残る。しかし，しょせんは人間である。歳を取ったり，病気になったり，あるいは殺されて死んで消えてしまう。その思考回路も影響力もそこで消えてしまう。
その驚異的な人物が生み出し，人類を越える存在になっているものが2つある。「原子力」と「人工知能（AI）」である。
原子からエネルギーを取り出すという偉業を成し遂げた人類だが，そのエネルギーが地球を破壊できるほどの量の核兵器を作り出した。平和利用の原子力発電所も，その核廃棄物を処理できない。ウラン238の半減期は45億年。これまでの地球の年齢を重ねてようやく半分になる程度である。人類にとって永遠のゴミであり，それは次の世代，その次の世代にまで残した禍根であると言えるだろう。
これど同じように，AIももはや止まらない。もちろんコンピュータなので自分の意思を持つことはないだろう。しかし，AIにとってベストな答えは，一部の人にとっては有意義だが，残りの人にとっては破滅的になる危険性を持っている。
これまで，コンピュータが扱うデータには物理的な制限があった。ハードディスクの中に格納されたデータのみを基に処理されてきたからである。動かしている組織（国や企業）や個人の範囲で「必要なデータ」が処理の対象だった。外部とは物理的に切り離されていた。インターネットで世界がつながるようになっても，扱う情報は基本的には内部のデータであり，インターネットとの世界との間には，関所（ファイアウォール）が設けられ，外部とのやり取りは組織のルールに従って制限されていた。
しかし，インターネット上でコンピュータの処理が分散化されるようになり，Webブラウザーというインタフェースの上で「google検索」によって世界中のあらゆる情報にアプローチできるようになった。組織や個人にとって有用な情報を取り込み，「必要なデータ」を充実させることで，また新しいアイディアの創造ができる環境ができた。
ところが，世界にはさまざまなデータがある。正しいデータもあれば間違ったデータもある。そのデータを善悪で判断するのが人智であり，線引きである。
たとえば，「相手に危害を及ぼす」という価値観は，ごく一般的な常識から考えれば「悪いこと」である。しかし，自分の利益を守る，自分の欲望を満たす，といった目的から考えれば「やっていいこと」になってしまう。その線引きをするのが法律だが，簡単に適用基準を決めることができない。「正当防衛」という免罪符を持ち出せば，線引きの基準も変わる。さんざん法律の勉強をしてきた法曹界の人々ですら，考えが一致しないから，延々と裁判が続く。
しかし，AIが取り込む情報は，良い情報も悪い情報もすべてが対象となる。判断をさせるのはAIを使う人間であり，その人が書くプロンプトによって思いどおりの答えを出させることもできる。
それまで，創造というギフトを与えられた人たち，たとえば作家，絵描き，作曲家，デザイナーなどの「クリエイター」のデータすらAIは取り込み，あらゆる筋読みをして新規の作品を創造する。生成AIは盗人だと筆者は書いた（生成AIではなく「盗用AI」というべき--Creativeな世界は崩壊した - jeyseni's diary 2023/7/20）が，すでにこれまで人間が考えたこともない筋をAIが先に使って「創造」をできる段階になっていると思われる。それはAIが人格を持ったわけではなく，単に「総当たり」で人間より先回りして筋読みしただけなのだが，すでに人を越えてしまえることを示している。
人間の「創造」の中には，悪のギフトもある。その悪の根源は「カネ」である。詐欺も闇バイトも性産業も，そして政治の世界も，すべてカネで動いている。普通の人でも，ふとしたことから悪戯（いたずら）でgoogle検索をかければ，悪情報に簡単にたどり着くことができる。理性を持った者なら，その一線の手前で踏みとどまるが，善悪の判断がまだ形成されていない子供や若者，そして自分の生き甲斐や仕事の遣り甲斐に出会えていない大人，さらにギャンブルや犯罪に快感を覚えてしまった人たちにとって，インターネットに対して「心の線引き」をすることができない。
かつて，google検索が登場したとき，検索条件をうまく入れないと「ゴミ情報」が山のように出てきた。検索条件をうまく書き込む力と，出てきた情報から求める情報を選び出すための能力が必要だった。言葉を使い，情報を解釈する力，これが「情報リテラシー」と考えられる。初期の生成AIでは，プロンプトと呼ばれる条件の書き方がうまくないと求める結果とは異なる答えが提示されることがあった。
しかし，2025年に爆発的に展開されると言われる「AIエージェント」では，いわば検索条件をAIエージェントからどんどん提案され，使う側はYesかNoかを指示するだけで，「適切な」検索結果を提示できるようになる。すでに，プロンプトすら提案されるようになった。それが正しいプロンプトなのか，悪につながるプロンプトなのかを判断することが求められるが，そこでも単に感心して「Yes」と言ってしまうのだろう。指示する言葉すら不要な世界になってしまう。それは「人間放棄」と言えるのではないか。
AIが勝手に作ったプロンプトが，人類や地球にとって正しい答えを出すとは限らない。「正義AI」や「常識AI」と名乗る生成AIが作られたとしても，正義も常識も人によって線引きの基準が異なるので，出された答えが正しいという保証はない。
人類が，「警察」や「裁判」「法律」といういわば正義や常識を代表すると考えられる仕組みを作って線引きをしてきたように，生成AIでも「警察AI」「裁判AI」「法律AI」を同時に作って，世の中のAIを監視する必要がある。
しかし，今やAIに携わる人材はアメリカと中国が圧倒的で，その他の国でも基本的に軍隊を持っている国では軍事予算を使って集中的な開発に取り組んでいると考えられる。物理的な戦いの前にすでに情報戦が行われており，常に対抗する必要があるからである。
これに対して，日本を含む平和平和とただ口先だけの国には，切迫感がない。守る技術の開発すらできない。物理的な戦いが始まればもちろん一瞬で消えてしまうだろうし，それ以前の情報戦のカモにされていても手出しもできない。
日本の英語教育やプログラミング教育は，将来の人材育成に役立つどころか，逆にリテラシーのない若い世代を情報のルツボの中に掘り込んでいるようにも思える。スマホを与えられた小学生が，ゲームで大金を使ったり，投げ銭をしたり，そして実体の分からない相手とつながったりして闇バイトの手先にさせられてしまう。かつて，大人が仕事で失敗して借金を抱えて悪事に手を出してしまう，というパターンが，スマホを通じて若年齢化してしまい，さらに厄介なことにインターネットの秘匿性のために犯罪が広域化，国際化してしまっているのである。
日本は，国連と手を組んで「国連的常識AI」を構築するぐらいしか，存在感を示すことはできないだろう。しかし，日本のAI研究者やAI評論家は，「〇〇AIのうまい利用法」みたいな研究や書籍しか出せないのだろうか。まあ，研究費を出す文科省が分かっていないのだから，仕方がない。ウクライナをめぐる米露のとばっちりを受けてあたふたするようになるのがオチかなとも思っている。
