150ドル。これだけで、アメリカ大統領の声を偽造し、数千人の有権者に届けることができる。2024年1月、ニューハンプシャー州の民主党予備選で実際に起きたことだ。
政治コンサルタントのスティーブン・クレーマーは、ElevenLabsという音声AIツールを使い、バイデン大統領の偽ロボコールを5,000〜25,000人に送りつけた。「11月のために票を取っておけ」——予備選への投票を思いとどまらせる内容だ。合計26の訴因で起訴され、FCCから600万ドルの罰金を科された。ところが2025年6月、陪審は無罪の評決を下した。既存の法律がこのケースには適用できないと判断されたからだ。法律が想定していない攻撃だった。
48時間の空白を突かれたスロバキア
もっと巧妙な事例がある。2023年9月、スロバキアの総選挙。Progressive Slovakia党首シメチカがジャーナリストと電話で「少数民族の票を買収して選挙を操作する方法」を相談している——そんな偽音声がSNSに投稿された。投票48時間前。スロバキアにはメディア沈黙ルールがあり、報道機関は選挙直前に反論も検証もできない。その空白を、ディープフェイクが正確に突いた。
シメチカは世論調査でリードしていたが、敗北した。偽音声が決定打だったかは証明できない。だが、制度の穴をAIが突いたという事実は残る。
Metaのポリシーは「偽動画」を対象にしていたが、「偽音声」は抜け穴だった。攻撃者は常にルールの隙間を探す。
日本も、アメリカも、インドも
これは「遅れた国」の問題ではない。世界中が追いつけていない。
日本。2026年衆院選で、高市首相への支持を訴えるAI生成動画がXで約80万回再生された。野田・斉藤両代表が政見放送中に踊り出す改ざん動画も拡散。日本ファクトチェックセンターが検証した96本のうち16本がディープフェイク関連だ。2025年参院選ではほぼゼロだったのが、わずか1年で急増した。公職選挙法にディープフェイクの規定は、ない。
アメリカ。連邦法は存在せず、州法を作っても違憲判決が相次ぐ。それどころか2026年3月、共和党NRSCが民主党候補タラリコのAI生成映像を公式広告として公開した。”AI GENERATED”のラベルは冒頭3秒ほど比較的見える程度で、その後は右下隅に薄く小さい文字。政党自身がディープフェイクを武器にし始めている。
インドに至っては勧告のみ。強制力ゼロだ。
韓国だけが先行した、しかし
世界で唯一、本気で立法したのが韓国だ。選挙90日前からAIディープフェイクを全面禁止、違反には最大7年の禁固刑。世界最厳格の規制だ。
結果はどうだったか。2024年総選挙で388件の違法ディープフェイクが報告された。そのうち97件、25%はプラットフォームが削除を拒否。選挙ディープフェイク専用条項での起訴実績はゼロだ。法律を作っても、執行できない。最も厳しい規制を敷いた国ですらこの有様だという事実は重い。
技術は止められない。だから制度が走るしかない
今の音声クローン技術は、数秒の音声サンプルから高精度の偽声を生成できる。コーディング不要、ブラウザで完結。人間がディープフェイクを見抜ける確率はランダム推測とほぼ同じだ。つまり、見分けられない。
ディープフェイクは技術の問題ではない。社会制度の問題だ。技術の進化は止まらない。止めようとする発想自体が間違っている。制度が追いつくしかないのだが、世界中どこも追いつけていない。韓国ですら25%が残存し、起訴ゼロ。アメリカは政党自身が使い始めた。日本は規定すらない。
知らないことが最大のリスクだ。「自分は騙されない」と思っている人間が一番騙される。次の選挙で見ている映像が本物かどうか、もう誰にも判断できない時代に、僕らはすでに入っている。
用語集
- ディープフェイク（Deepfake） — AIの深層学習技術を用いて、実在の人物の顔や声を精巧に偽造・合成する技術。「Deep Learning」と「Fake」の造語
- ElevenLabs — 高品質な音声合成・音声クローンを提供するAI企業。わずか数秒の音声サンプルから本人そっくりの声を生成できる
- ロボコール（Robocall） — 自動音声による大量電話発信。選挙運動や詐欺に悪用されるケースが増加している
- メディア沈黙ルール（Election Silence / Moratorium） — 投票日直前の一定期間、選挙報道や選挙運動を制限する制度。欧州諸国で広く採用されている
- FCC（Federal Communications Commission） — 米国連邦通信委員会。通信・放送の規制を管轄する独立機関
- NRSC（National Republican Senatorial Committee） — 全米共和党上院選挙委員会。共和党の上院選挙運動を統括する組織
