jeyseni's diary

「ジェイセニ」と呼んでください。批判ではなく提案をするのが生き甲斐です。

SNSアプリに「不適切語チェック機能」の実装を要望

SNSによる誹謗中傷,人権侵害,ハラスメントがやまない。インターネットでつながっているアプリである。アプリ側での対策法について,提案する。

 Microsoft Wordは,執筆屋としては欠かせないソフトである。おせっかいな機能も満載だが,筆者が使っているのは,スペルチェック機能とマクロ機能である。

 マクロ機能については,用語のスタイル統一など,日々お世話になっている。またスペルチェック機能は,英語の文章を書く際に,単語の綴りや文法チェックなどで指摘してくれる。いずれもありがたい存在である。

 LINEをはじめとしたSNSアプリについて,筆者は「不適切語チェック機能」を実装を要望したい。誹謗中傷,人権侵害,ハラスメントとなるワードが入力されると,これを発信できないようにする,あるいは発信しても削除されるようにする機能である。

 現在,一部のメールアプリには,不適切語を含むメールを受信の際にフィルタリングする機能が装備されている。SNSアプリには,不適切語を送信させない機能が求められる。

 当初,日本語入力システムなど,ローカル側で不適切な文章を作成できない機能を考えたが,さすがにこれは言論の自由がどうこうとか騒ぐ人たちがいるだろうから,難しいかもしれないと考えた。しかしマイクロソフトジャストシステムgoogleなども,実装することは不可能ではないと考える。

 アプリ制作者がこれを回避するのなら,あとはキャリアがフィルタリングする機能を実装すべきである。

 アプリ,機器プラットフォーム,そしてキャリアのいずれもが,この不適切語に対する発信防止,作成防止,フィルタリングの機能を実装することによって,言葉による被害者を出さない仕組みとなると考える。AI機能で順次内容を適切化することも,必要である。

 これを行わない事業者は,いずれ駆逐されるだろうと言いたい。