選挙・投資・会議…どこでも潜むディープフェイク詐欺の巧妙な手口

ポスター掲示板が注目された都知事選

小池氏の3選で幕を閉じた東京都知事選は、その結果以前の選挙期間中に色々と注目を集めました。56人もの立候補者が出てポスターの掲示場所が足りなくなるとか、その掲示板に立候補者以外の選挙とは関係ないポスターが大量に貼られ、中には亡くなった三浦春馬さんの似顔絵と名前を商業目的（ポスターにあるQRコードの飛び先が有料動画共有サイトの紹介）で無断使用していた（アミューズの抗議ですぐに謝罪・撤去）などの物議を醸し、様々な話題で盛り上がりました。過去の都知事選では誰が当選するかでその後に影響を受ける業界もあり（青島幸男氏が都知事に当選して、都市博中止を断行など）、企業経営者にとっては人ごとではない関心事でした。しかし今回は、子育て・介護支援や災害対策などそれぞれの候補者で大きな対立点は見当たらず、選挙のあり方ばかりに注目が集まりました。これを機に公職選挙法の見直しが進むのは間違いないでしょう。

偽広告の先には生成AIを使った巧妙な投資詐欺

名前や肖像の無断使用といえば、都知事選が始まる少し前、ZOZO創業者の前澤友作氏がアメリカのMeta社と日本のFacebook Japan社をそれぞれ提訴したと発表しました。前澤氏の名前や画像を無断で使用した投資名目などの偽広告が、メタが運営するフェイスブックやインスタグラムに大量に掲載されていて、そうした広告の掲載を許可していることは、パブリシティ権や肖像権を侵害しているなどとし、広告の掲載停止と損害賠償（1円）を求めています。

前澤氏ほか経済評論家の森永卓郎氏やテレビ解説者の池上彰氏などの有名人になりすましたSNSの偽広告により、昨年辺りから詐欺の被害が相次いでいるとメディアでも取り上げられています。偽広告で騙された人がコンタクトを取るとLINEなどに誘導され、そこで生成AIで作成された音声や動画が送られてきて本人だと信用させ、偽の投資話に出資させるというものです。池上彰さんも偽の自分の音声に「これだと騙されるかもしれませんね」と感心していました。偽広告の先には、生成AIを使った巧妙な詐欺が待ち構えているのです。

前澤氏はNHKの取材に対して「請求金額を1円にして、訴訟の焦点を絞ることで、詐欺につながる広告の掲載の違法性をできるだけ早く確かめたい。ブラックボックスになっているメタの対策の具体的な内容が、司法の場で明らかにされることを望んでいます」と応えています。まずは詐欺被害の入り口となる偽広告を根絶することが大事だとの考えからでしょう。

オンライン会議の出席者はディープフェイク

都知事選の最中、日経新聞に掲載された「会議相手はフェイク動画、40億円被害が示す詐欺AIの進化」という記事に目が留まりました。5月17日にイギリスFINANCIAL TIMES 電子版が報じた、英エンジニアリング大手アラップが「ディープフェイク」を使った詐欺被害に遭い、計2億香港ドル（約40億円）を失ったことを伝える記事です。日本でも今後同様の詐欺が増える可能性があると警鐘を鳴らします。確かにこの記事を読むと、アラップを騙した詐欺手法に驚くとともに恐ろしさを感じました。

騙されて2億香港ドルを振り込んでしまった香港の経理担当者は、英国本社のCFOを名乗る男からメールを受け取り、テレビ会議に参加しました。そこには偽のCFOの他、数名の同僚社員も参加していたので疑うこともなかったといいます。その結果偽のCFOから命じられるままに香港にある5つの銀行口座に合計15回振り込んだのです。後に本社に問い合わせたらそんな会議はなく、詐欺であることが判明したというのです。会議に参加していた同僚もディープフェイクのデジタルクローンでした。

昨年の夏、当コラムの「生成AIを使った詐欺が次に狙うのは、あなたの会社かもしれない」で「動画生成AIを使えばビデオチャットでなりすましも可能になってしまいます。メールで案内があるウェブセミナーや講座でも、主催者や実施母体を慎重に確認する必要があります」と警鐘を鳴らしましたが、まさにその通りの犯罪が現実に起こっているのです。

生成AIだから騙されただけでなく

アラップ社の偽のオンライン会議でも、参加者は画面の向こうでじっとしているだけではなかったはずです。時には質問したり同意を求めたり、何かしらの発言や動きもあったでしょう。実際に会ったことのない本社のCFOはともかく、同僚もディープフェイクだと気付かないレベルだったということです。少なくともオンライン会議の画面では判別が着かないくらいに生成AIのレスポンスが良くなっているのです。

生成AIのクオリティや反応スピードが劇的に向上しているだけではありません。アラップ社側にも隙があったはずです。詐欺グループはまず、大金を扱える経理担当者を特定し、メールアドレスを入手しなければなりません。経理担当者の同僚で、会議に参加してしかるべき人を特定することも簡単ではありません。しかし、それらを入念に調べ上げ、周到な準備をしたうえでの犯行です。思いつきではなく明確にターゲットとされ、社内の情報も筒抜けになっていた可能性があります。

会議に参加した偽の同僚の顔や音声はどのように手に入れたのでしょうか？しかし、ターゲットとなる人間さえ特定できれば、SNSに自撮り写真や動画をアップしていればそこからAIに学習させることは容易です。SNSになくても本人と接触する方法はいくらでも考えつきますし、隠れて写真を撮ることも、偽電話をかけて会話の音声を録音するなどということは簡単にできてしまいます。
東京のオフィス街ではランチタイムに首からIDカードをかけたまま外に出る人が多いですが、写真や動画を撮られれば一発アウトで特定されてしまいます。

日経新聞の記事では、関係者を装い、偽の送金指示をメールなどで行うBEC（ビジネスメール詐欺）は現在世界で月間約6600万件が確認されており、日本は前年比35%増と昨年の伸び率が世界でトップだったとしています。そして「日本でのBECの急増は今後、偽のテレビ会議などを利用した大がかりなAI詐欺の増加を示唆する」と警鐘を鳴らしています。

オンラインでの会議が普通になった今、参加者の本人確認のための2段階認証も必要なのかもしれません。