フェイク画像・フェイク音声を作るAIなんて，もはや人新世（アントロポシーン）の終わり--AI新世の到来か - jeyseni's diary (2022/3/19)と書いたのが3年前だが，このころはまだ画像合成や音声合成など，力技で偽情報を作成していたので，特に動画では解像度が低かったりして，作り物だろうという判断もできた。
ところがChatGPTを皮切りとする生成AIが普通になってしまった現在，実に精巧な偽情報がまかり通るようになっている。
そして想像するに，詐欺グループが詐欺と見破られないようなシナリオ作りに，AIが使われ始めているように感じる。たとえば，かつてはオレオレ詐欺のキャストは1人だったものが，現在では7人ぐらいで構成したシナリオで畳みかけてくるらしい。医者，本人，警察，市役所，弁護士など，複数のキャストによる波状攻撃で，完全に主導権を奪われてしまうようなのである。
詐欺グループと被害者の関係は，コールセンターを思い浮かべる。ある一定のパターンはあるものの，顧客はそのパターンに合わない無理難題を吹きかけてくる。そうなれば，知恵を働かせるか，さもなければ自分では処理できないので，上司にバトンタッチして解決してもらうか，しかない。しかし，パターン以外の対応は基本的にはできないから，相手の主張を飲むような形にならざるをえないことも多い。カスタマーハラスメントとも言える。
詐欺グループは，そうした無理難題を押し付けて混乱させ，お金や個人情報へのアクセスを許してしまう。
ここはまさにAIを使って，詐欺対応システムを構築すべきではないだろうか。
ChatGPSといったすべての情報を飲み込むのではなく，「正しい文章」「正しい言葉遣い」のみを学習させ，またすべての電話番号やチャットネームを学習し，少しでも怪しい表現や怪しいルートからのアクセスに対して少なくとも一次ブロックできる仕組みを，キャリアやSNSプラットフォームが早急に構築しないと，大変なことになる。
というのも，詐欺をする側がおそらくすでにAIを利用し始めていると考えられるからである。
現在，闇バイトへの応募などで詐欺の末端の「実行役」や「受け子」として登録されている人の数は1万人以上にもなるという。指示役はほとんどが海外に逃れており，ネットを通じてしか情報のやり取りがない。ますます巧妙になる手口のことを考えると，詐欺のシナリオ作りを1人の人間が考え出しているとは思えない。また，連絡に使われている専用SNS自身も，詐欺グループが裏で関与しているのではないかとさえ思える。
このブログは，貧弱な筆者の頭でまとめているが，それでも「こんな裏があるのではないか」という疑問点が出てくる。こういう「考察」こそ，生成AIの出番であり，意外な見方ができる可能性がある。
サスペンスドラマでも，AIを犯罪に利用する場面が頻繁に登場するようになった。ドラマだエンタテインメントだと思っているうちに，現実の世界で実際に犯罪が起きるようになっている。トリック系の謎解きで事件を解決するアニメに，こうしたAI犯罪を題材にしたら，おそらくスカッとした解決ができないし，面白くないだろう。しかし，もはやトリック系の犯罪は過去のものになろうとしている。
筆者は生成AIには批判的で，いまだに着手していないが，特にネットセキュリティー分野では活用してほしいと思っている。ただし，そこで「AIを使って〇〇しました」と公言しないようにしなければ，必ずその穴を突いてこられるだろう。
ただ，もはや現代社会に「信頼できる組織」というものがあるのだろうか，という疑問も一方である。政治の世界の汚さは相変わらずだが，メーカーや金融企業の不正，公僕であるはずの警察や消防，自衛隊の隊員による犯罪，法律の番人であるはずの弁護士や裁判官，命を預ける医者や看護師，終末をサポートしてくれるはずの介護士，そして人格の基礎を形成する教育機関の教員までが，おかしくなっている。
その流れで，家族もおかしくなってきている。少なくとも生き物の常識として，「家族を絶対に守る」のが原則だと思うのだが，今の人類にその本能的な使命感がなくなりつつあるような気がする。生物学的に体格や筋力で勝るオスが家族を構築し，家族を守り，子孫を残すという原則を，現代の人類は失いつつあるように思える。
スマホの使用時間が1日10時間が当たり前という。片時もスマホを離さない。歩きながらでもスマホを見る。正直，筆者には理解できない。個人がプライバシーの危険を承知で情報発信することも信じられないし，それを見て楽しむというイヤラシイ環境ができあがっていることも嘆かわしい。ネットワークというバーチャルの側にはまり込んでしまっており，その無法地帯の中で詐欺に引っかかるのもやむを得ない状況にある。
おそらく，ディスプレイ上で人間がチェックできる情報は，すべての情報の1％にも満たないだろう。（たとえばこの文章を書くのに30分かかっているが，同じような文章を生成AIは5秒で作ってしまうだろう）。画面の内容を見て，チェックして，おかしいと感じて，手を打つのに1分かかるとして，その間にその何万倍もの情報が通り過ぎて行ってしまうような「ザル」監視だと思われるのである。
違反クルマへの現場確認，追跡に連続カメラの配置の提案--事故が起きてからでは遅い - jeyseni's diary (2025/2/26)と，現実の世界でも監視側の情報収集があまりにもお粗末な状況であることを書いた。バーチャルの世界では，犯罪的な情報の抽出に人間の判断ではもはや追いつかない。
OpenAI社やgoogle，X，そして中国のDeepSeekなど，ベンチャーから大手まで生成AIの運用にばかり走っているが，そこに「正義」が感じられない。ウクライナ紛争やガザ侵攻の解決策を出すAIに期待をしてきたが，何の答えも出なかった。そこに戻ってきたアメリカのトランプ大統領によって，一気に何らかの停戦が実現し，交渉が始まるというちょっとした奇跡が起きている。交渉後の世界がどうなるのかという不安はあるものの，とにかく戦争に巻き込まれた市民や動員されている兵士にとって，自分の命の危険から少しでも回避できているという事実は大きい。
すべての情報をAIにぶち込んだら，答えは羅列になって正解は出ない。トランプ大統領の考え方に対抗できる人物が出てこないとすると，「平和」という信念を掲げたAIを構築しなければ，犯罪をなくすことはできない。詐欺，万引きといったミミッチイ犯罪ばかりが目立つ日本だが，平和，繁栄，教育といった世界に誇れる実績を持つ日本が，世界をリードする「平和AI」を構築して世界を救うシナリオを発信してほしいと願うばかりである。
