9月6日、公安部が「国家反诈AI」を公開した。App・WeChat・Alipayの3つの入口から、Q&A・ニュース・辞典が無料で使える。公安システムが大規模言語モデルを一般人向けツールに載せるのは初めて。不審な場面をその場で入力すれば、AIがリスクを見抜き、類似事例の動画まで出してくる。

知らない番号から電話があり、相手が曖昧な言い方で振り込みを求めてきたとしよう。あなたが戸惑っているとき、隣に経験豊富な派出所(交番)のベテラン警官が座っていて、「この手口は10年前からあった」と教えてくれ、事例の動画まで見せてくれる――「国家詐欺対策AI」はまさにこのベテラン警官のデジタル版で、常にあなたのスマホの中にいる。例え話はここまでだが、実際はこうだ:この「ベテラン警官」の裏側には大規模言語モデル、マルチモーダルモデル、エージェント技術を融合したシステムがあり、文章・音声・動画でのやり取りが可能。しかも、あなたは派出所(交番)に出向く必要がない。
事件

スマホの中の詐欺対策警官、どう使う?

9月6日、国家詐欺対策AIがApp、WeChatミニプログラム、Alipayミニプログラムの3つの入口で同時に公開され、Q&A、ニュース、辞典という3つのコア機能を提供する。

使い方は3通り。Q&A:不審な場面を入力すると、AIがリスクを判断し、手口を見抜き、事例動画で手法を解説してくれる。ニュース:最新の詐欺の手口や予防知識をここで入手できる。辞典:よくある詐欺用語や套路をいつでも調べられる。

3
つのコア機能(Q&A/ニュース/辞典)
出典:IT之家
3
つの入口(App/WeChat/Alipayミニプログラム)
出典:IT之家
文字+音声+動画
対応するマルチモーダルインタラクション形式
出典:IT之家
1
開発主体:上海市公安局
出典:IT之家

技術面では大規模言語モデル(文章を理解・生成できるAI。チャットや文章作成に使う)、マルチモーダルモデル(文章・画像・音声・動画を同時に処理できるAI)、エージェント(自力でタスクを分解し、ツールを呼び出して複数ステップの操作をこなすAIプログラム)を融合している。このツールは上海市公安局が独自開発したもので、インターネット企業の製品ではない。なぜ詐欺対策に公安システム自らが乗り出したのか?

なぜ重要か

昔は派出所(交番)へ、今はAppで

以前は不審な情報に遭遇したら、96110に電話するか自分でネット検索するしかなかったが、今ではもう一つの道が加わった――状況を入力すれば、AIがその場で分析してくれる。

公式リリースは9月6日に統一して行われ、App、WeChat、Alipayミニプログラムが同時にオープン。公安システムが一般人向けに直接使える詐欺対策ツールに大モデル(自然言語を理解・生成できる大規模AIシステム)を組み込んだのは初めて。Q&A機能では、ユーザーが不審な場面――たとえば「誰かがカスタマーサポートを装って画面共有を求めてきた」――を入力すると、リスク分析、詐欺タイプ識別、予防提案という3つの観点から回答し、事例動画も添えてくれる。質問は定型文でなくても、口語的な説明でも認識可能だ。

2つめは詐欺対策ニュース。App内に国家反詐中心や上海「803」反詐新メディアマトリクスのコンテンツを埋め込み、頻発する詐欺の警告や典型事例の解説を定期的に更新。図解とショート動画で、従来は各プラットフォームや各公式アカウントに散らばっていた詐欺対策コンテンツを一つの入口にまとめた。

3つめは詐欺対策辞典。『電気通信ネットワーク詐欺防止広報ハンドブック』『全民防騙指南』の電子版がAppに搭載され、カテゴリ別閲覧、キーワード検索、音声読み上げに対応する。

前述の3つのコア機能と3つの入口は、App、WeChat、Alipayミニプログラムのいずれでも完全に同じだ。

一般人への影響は直接的だ。被害に遭う直前の数秒間の迷いに対して、今すぐ確認できる手段が一つ増えた。