AIの開発競争が止まらない。2025年にはこれまでのアシスタント的な位置づけから，エージェントに格上げされ，1つ命令をすれば関連する複数の仕事を勝手に進めて結果を出してくれるようになるという。
「勝手に」と書いたが，もちろんある程度細かい指示は出すものの，一定のシナリオ，マニュアルに沿って作業をしてくれる。アシスタントが「部下」なら，エージェントは「優秀な外注」ということになる。
AIはさまざまな関連知識を総合して処理してくれるので，ある意味で万能選手である。結果をきちんと出してくれるので，信頼できる，と思い込んでしまう。
しかし，所詮は主人である自分とはある意味で別の人格である。すでに，どのようなアルゴリズムで答えを導き出しているのかわからないほど，ブラックボックス化している。そのAIが導いた答えが正しいと判断できる根拠（エビデンス）を的確に見つけて判断できるのか，という辺りで，主人の品格が問われることになるのだが，ほとんどの人は出された答えに対して「OK」を出してしまうのではないだろうか。
なんだか，現時点のAIを見ていると，「特殊詐欺」の手口に似ているような気がする。手を変え品を変え，さまざまな新しい手口を考えてぶつけてくる。実際，詐欺師は頭がいいのだと思う。フェイクの息子，フェイクの警察官，フェイクの裁判官などがどんどん作られていく。実行役も闇バイトで雇って思い通りに動かされている。本人からすれば，フェイクな存在である。
生成AIを使って他人のコンピュータシステムに侵入するハッキングをおこなった小学生や中学生が摘発された。AIを操作する側のちょっとした不注意，不道徳，いたずら，あるいは意図した犯行意識があるだけで，AIは悪意のある答えを「正しい答え」として導き出してしまう。要は，生成AIには「倫理がない」ということである。
忠誠を尽くしていた家来や部下が寝返ったり，反旗を翻して攻めてきたりすることは，現実の世界でも繰り返し起きている。人間の心の中には，何かしらの“悪魔”が潜んでおり，いかなる聖人でも欲望を抑えきれない。それは歴史が証明しているし，さまざまな事件が現在進行形で日々のニュースにもなる理由でもある。それでも，詐欺師や政治家のように裏の世界と直結している人は，ある意味で限られた人数に絞ることができる。ニュースに登場する人や犯罪歴のある人を基本的にマークしていれば行動を把握できるからである。
しかしAIはインターネットを通じて裏の世界と直結している。現時点でも，google検索ですら裏情報にアプローチできる。不正画像など，いくらでも検索で見つけることができる。すでに，スマホを手にした小中学生ですら，この裏世界にアプローチできている。キッズ・セーフティなどの機能も，結局は認証を求められる親が面倒臭くなって外してしまうケースが多く，ほとんど使われていない。まして，すでにAI機能を搭載したブラウザやスマホそのものが市販されるようになっている。親の目を盗み，先生の目を盗んで，いたずらに始めた操作が悪の世界へ引きずり込む。
これを悪意を持った大人が引き込む以外に，AIエージェントが勝手に導いてしまう危険を回避する手段が存在しない。AIがあらゆる手口を使って“正しい悪の道”に引き込む危険性を持っている。
犯罪者，および犯罪予備軍は，マークしていれば引っかかってくるかもしれない。現在の犯罪捜査はさまざまな糸口から人が推理して解きほぐして解決に導いている。しかし，AIの利用がパソコンやスマホの利用者全員が対象となった場合，マークのしようがない。全員がちょっとしたいたずらで悪事に手を染める可能性がある。特に，道徳観も倫理観も育っていない子供や若い人が無意識のうちに操作してしまう危険性について，指摘はあっても歯止めの方法がまったく見えてこない。
宇宙開発という夢のあるような技術開発が，実は軍事目的であり，アメリカとソビエトが競うことでロケット技術とICBM技術がイコールになってしまった。夢のエネルギー開発と言われた原子力技術開発が，まず原爆や水爆といった戦争の武器となり，核兵器として現在に至っている。アメリカとロシアだけでなく，中国，インド，そして北朝鮮といったかつての発展途上国ですら，核を持つことで世界の中で存在感を示せるようになった。「戦争は悪」だと誰もが思うのだが，欲望を抑えられなくなると理性や倫理に勝って行動に走ってしまう。
AIという技術開発が，アメリカのベンチャーが開発に成功した途端，かつてベンチャーだった大手IT企業がこぞって参画し，それまでのデータの蓄積やインターネットのネットワークを通じてあらゆるデータを飲み込んだAIを開発してしまった。アメリカだけでなく，いまや世界第2位の大国とも言える中国も参戦してしまい，闇の世界で火花を散らしている様子が手に取るようにわかる。
それは覇権争いであり，利用者（顧客）獲得でもあるのだが，逆に利用者のデータすら吸い出してしまう危険性のあるシステムである。すでにアメリカでは，中国のAIを検証のために使うことすら禁じるようになっている。利用することで，相手に情報を吸い取られてしまう危険があるからである。つまり，一種のコンピュータウイルスにもなりうるのではないだろうか。
google検索をかけることで，その個人の好みという個人情報が盗まれていることはすでに有名だし，カーナビゲーションを使えば，その人の行動パターンを盗まれていることもすでに当たり前のようになっている。生成AIの利用により，今度はその人の闇の部分，性癖なども分析されるようになり，おそらく詐欺の手口にも利用されるようになるのではないだろうか。その情報を，一部の営利企業に吸い上げられて平気だと思うかどうかで，AIを利用する一線を越えるか越えないかという倫理が問われるのではないかと思う。もう一度立ち止まって，考え直してほしいし，IT企業には「倫理観」をもう一度持ち直してもらいたいものである。
