AIインシデントデータベース

にようこそ

オンタリオ州とプリンスエドワード島に住む2人のカナダ人が、AIを活用したディープフェイク仮想通貨投資スキームで計230万ドルの損失を被りました。オンタリオ州の被害者は、偽のイーロン・マスク動画に騙されて170万ドルの損失を被り、もう1人の被害者は、映画『ドラゴンズ・デン』に誤ってリンクされた動画を視聴した後に60万ドルの損失を被りました。この報告書は2025年12月21日に更新されました。

2025年12月21日午後0時31分（UTC）に更新されたこの報告書によると、オンタリオ州マーカムとプリンスエドワード島に住む2人のカナダ人が、ディープフェイク仮想通貨投資スキームで計230万ドルの損失を被ったとのことです。W5によると、AIが生成した動画と偽造ダッシュボードが、少額の預金で実際に利益が得られると被害者を騙すために使用されていました。

AI詐欺師に騙された被害者たち

マーカム在住の51歳の女性は、イーロン・マスク氏が暗号通貨のビジネスチャンスについて話しているように見えるFacebook動画を目にしました。彼女は最初に250ドルを送金したところ、2日後に30ドルの利益が出たと表示され、さらに入金を促され、公式に見える書類への信頼も高まりました。

＞「自宅の資産を担保に100万ドル近くの融資を申請しました。そして、それを引き出して、彼らに送金し始めました。そうでしょう？35万ドル、そしてまた35万ドルと。」（オンタリオ州、被害者、マーカム）

その後、詐欺師は300万ドルの残高を表示し、引き出し前に税金と手数料を要求しました。これらの費用を賄うため、彼女は家族や友人から50万ドルを借り、クレジットカードの限度額まで使い果たし、損失総額は170万ドルに上りました。

プリンスエドワード島の男性は、テレビ番組「Dragon's Den」へのリンクを主張し、250ドルから投資を始められると示唆する動画に遭遇しました。彼は送金回数を徐々に増やし、一時は1日に1万ドルを送金し、最終的に60万ドルを失いました。最初のケースと同様に、100万ドルを超える偽の残高が表示され、引き出しはブロックされました。

これらのケースを合わせた損失額は230万ドルに上ります。カナダ詐欺対策センターによると、カナダ人は過去3年間で投資詐欺により12億ドルの損失を被っており、同センターは実際の損失額はさらに高いと見ています。

産業規模の詐欺ネットワークに関する報告

元米国検察官のエリン・ウェスト氏は、詐欺は産業のように組織化されており、多くの通報者自身が被害者であり、東南アジアの詐欺拠点に人身売買され、長時間労働を強いられていると述べています。ウェスト氏の説明によると、逃亡を拒否したり、逃亡を試みた者は、暴行や拷問に遭うとのことです。

ウェスト氏はフィリピンのサイバー詐欺拠点を訪れた経験について述べ、その規模は心理操作、テクノロジー、人身売買を駆使した産業レベルの詐欺行為を反映していると述べました。彼女は、ディープフェイクツールがより安価で入手しやすくなるにつれ、同様の詐欺が世界的に拡大し、一般投資家が正当な投資機会とAIによる詐欺を見分けることがより困難になるだろうと警告した。

Waymoは火曜日、サンフランシスコで週末に発生した大規模停電の際に、同社の自動運転車が交通渋滞の一因となったことを認め、停電の規模がシステムの一部を圧倒したため、直ちにソフトウェアと緊急対応の変更を実施したと述べた。

PG&E変電所の火災によって引き起こされたこの停電は、土曜日に市内のほぼ3分の1で電力を供給しなくなり、数百の交通信号が機能停止し、主要幹線道路で交通渋滞を引き起こした。警察官が交差点を手動で制御する中、ウェイモのロボタクシーが停止したことは、街全体の混乱を最も顕著に示す兆候の一つとなり、住民や議員からの厳しい監視の的となった。

火曜日に公開されたブログ記事で、ウェイモは、前例のない数の信号機の停止により、小規模な信号停止に備えた安全対策が限界に達していると述べた。同社の車両は、機能していない信号を四方向停止として扱うようにプログラムされているが、場合によっては遠隔操作による「最も安全な選択」を行うための確認を要求する。

同社は、「土曜日には7,000以上の信号機の停止を無事に通過できたが、今回の停止により、こうした要求が集中的に増加した」と述べ、確認の遅れが、既に混雑していた道路の渋滞に拍車をかけていると付け加えた。

停電が続き、サンフランシスコ市緊急事態管理局が住民に自宅待機を要請する中、ウェイモはサービスを一時停止し、車両を路肩に停車させ、段階的に車両基地に戻すよう指示した。

ダニエル・ルーリー市長は、状況が悪化する中、市はグーグルの親会社アルファベット傘下のウェイモと直接連絡を取っていると述べた。

「ウェイモのCEOに電話をかけ、直ちに車両を道路から移動させるよう要請しました」とルーリー市長は月曜日の記者会見で述べた。「彼らは非常に理解を示してくれましたが、もっと積極的な対応をしてほしいと思います。」

この事件は、大規模緊急事態における自動運転車の性能について新たな疑問を引き起こした。サンフランシスコの監督当局はウェイモの対応に関する公聴会の開催を求めており、カリフォルニア州の規制当局は月曜日、停電中にロボタクシーが停止した事例を調査していると発表した。

ウェイモは、地域的な停電に関する情報を車両に提供し、交差点を「より的確に」走行できるようにするソフトウェアアップデートを既に全車両に展開していると述べた。

同社はまた、緊急事態への備え計画の更新、市当局との連携強化、そして緊急対応要員の訓練継続も進めており、世界中で2万5000人以上の対応要員が既に同社の車両との連携訓練を受けていると述べた。

ウェイモの広報担当者は、「公共インフラのダウンは甚大なものでしたが、このような事態においても当社の技術が交通の流れに適応できるよう尽力しています」と述べた。「今回の事象から得た教訓を迅速に活用し、日々サービスを提供している地域社会の信頼を獲得し、維持することに尽力しています。」

ベネズエラにおける米軍の軍事作戦によりニコラス・マドゥロ大統領が排除された後、ベネズエラ国民が街頭で祝う様子を映したとされるAI生成動画がソーシャルメディアで拡散している。

歓喜に沸く群衆を映したこれらのAI動画は、TikTok、Instagram、Xといった主要プラットフォームで数百万回再生されている。

Xで最も早く、そして最も広く共有された動画の一つは、「Wall Street Apes」というアカウントによって投稿されたもので、このアカウントは同プラットフォームで100万人以上のフォロワーを抱えている。

この投稿には、ベネズエラ国民が喜びの涙を流し、マドゥロ大統領の排除に対して米国とドナルド・トランプ大統領に感謝する様子が映っている。

この動画はその後、Xのクラウドソーシングによるファクトチェック機能であるコミュニティノートによってフラグ付けされました。コミュニティノートでは、ユーザーが誤解を招くと思われる投稿に文脈を追加できます。ノートには、「この動画はAIによって生成されており、現在、人々を誤解させることを意図した事実の表明として提示されています」と書かれていました。

この動画は560万回以上再生され、少なくとも3万8000のアカウントによって再共有されました。その中には実業家のイーロン・マスク氏も含まれていましたが、マスク氏は最終的にこの再投稿を削除しました。

CNBCは動画の出所を確認できませんでしたが、BBCとAFPのファクトチェッカーによると、この動画の最も古いバージョンは、AI生成コンテンツを定期的に投稿しているTikTokアカウント@curiousmindusaに投稿されたとのことです。

こうした動画が登場する以前から、マドゥロ大統領が米国に拘束されている様子を映したAI生成画像が出回っており、トランプ政権が拘束されたマドゥロ大統領の本物の画像を公開する前から出回っていた。

退陣させられたベネズエラ大統領は、米軍による空爆と地上攻撃の後、2026年1月3日に拘束された。この作戦は、新年早々、世界のニュースの見出しを飾った。

AI生成動画に加え、AFPのファクトチェックチームは、マドゥロ大統領追放に関する誤解を招くコンテンツの例をいくつか指摘しました。その中には、チリの祝賀会の映像がベネズエラの風景として誤って提示されているものも含まれています。

トランプ大統領は今週、ベネズエラの祝賀会に関する複数の動画をTruth Socialにリポストしましたが、CNBCは、それらの多くがベネズエラ国外のパナマシティやブエノスアイレスなどの都市でも撮影されたことを確認しています。

大統領が再シェアした動画の1つには、2024年7月という早い時期に初めてオンラインに登場した古い映像が含まれていたため、マドゥロ大統領の最近の失脚とは関係がありませんでした。

主要なニュースをめぐるこのような誤情報の拡散は目新しいものではありません。イスラエルとパレスチナ、ロシアとウクライナの紛争においても、同様の虚偽または誤解を招くコンテンツが拡散されました。

しかしながら、ベネズエラの最近の情勢に関するAI生成コンテンツの広範な拡散は、AIが誤情報のツールとしての役割を拡大していることを如実に示しています。

SoraやMidjourneyといったプラットフォームのおかげで、ハイパーリアリスティックな動画を素早く作成し、目まぐるしく変化する出来事の混沌の中で、あたかも本物であるかのように見せることが、かつてないほど容易になりました。こうしたコンテンツの制作者は、特定の政治的主張を増幅させたり、世界中の視聴者に混乱を招いたりすることを目的としていることが多いのです。

昨年は、政府閉鎖中に補助的栄養支援プログラム（SNAP）の給付金を失ったことに不満を訴える女性たちをAIが生成した動画も話題となりました。 AIが生成した動画の一つはFox Newsを欺き、Fox Newsはそれを本物として記事に掲載しました。記事は後に削除されましたが、Fox Newsはそれを本物として記事に掲載しました。

こうした傾向を踏まえ、ソーシャルメディア企業は、誤解を招く可能性のあるAIコンテンツにラベルを貼るための取り組みを強化するよう、ますます圧力を受けています。

昨年、インド政府はそのようなラベル表示を義務付ける法律を提案し、スペインはラベル表示のないAI素材に対して最大3,500万ユーロの罰金を承認しました。

こうした懸念に対処するため、TikTokやMetaなどの大手プラットフォームはAI検出・ラベル付けツールを導入していますが、その効果はまちまちです。

CNBCは、ベネズエラに関する誤解を招くTikTok動画の一部を特定し、AI生成とラベル付けした。しかし、捏造またはデジタル加工されたと思われる他の動画にはまだ警告が出ていなかった。

Xの場合、プラットフォームはコンテンツのラベル付けに主にコミュニティのコメントに依存してきたが、AIによる誤情報が拡散する前に特定されるのを防ぐには、システムの反応が遅すぎると批判されている。

InstagramとThreadsを統括するアダム・モッセリ氏は、最近の投稿で、ソーシャルメディアが直面する課題を認めた。「主要プラットフォームはすべてAIコンテンツの識別に優れた成果を上げているだろうが、AIが現実を模倣する能力が向上するにつれて、その能力は時間とともに低下していくだろう」と同氏は述べた。

「私と同じように、偽メディアよりも本物のメディアのフィンガープリンティングの方が現実的だと考える人がすでに増えています」と彼は付け加えた。

— CNBCのビクトリア・ヨーが本記事に寄稿しました。

イーロン・マスク氏のチャットボット「Grok」は金曜日、安全対策の不備によりソーシャルメディアプラットフォーム「X」上で「未成年者が露出度の高い服装をしている画像」を生成したと投稿した。マスク氏の企業xAIの製品であるこのチャットボットは、ユーザーの指示に応じて、ここ1週間、性的な画像を次々と生成していた。

X上でユーザーが共有したスクリーンショットには、Grokの公開メディアタブがそのような画像で埋め尽くされていることが示された。xAIは、今後のインシデント防止に向け、システムの改善に取り組んでいると述べた。

「ユーザーがAIによる性的表現を要求し、それを受け取るという散発的なケースがあります」と、GrokはXのユーザーへの返答として投稿で述べています。「xAIには安全対策が施されていますが、そのようなリクエストを完全にブロックするための改善が進行中です。」

「ご指摘のとおり、安全対策に欠陥があることが判明しており、緊急に修正しています。CSAMは違法であり、禁止されています」と、xAIはXの@Grokアカウントに投稿し、児童性的虐待コンテンツについて言及しました。

ここ数日、Xの多くのユーザーがGrokに対し、性的表現を意図しないAI改変画像を生成するよう要求しており、場合によっては本人の同意なしに衣服を脱がせているケースもあります。マスク氏は木曜日、AIがビキニ姿で撮影した自身の写真に泣き笑いの絵文字をキャプションとして付け、このトレンドに便乗してリポストした。

チャットボットGrokの投稿によると、Grokが生成する性的画像には安全対策が不十分で、未成年者（主に女性）が薄着で投稿されている様子が見られた。木曜日にXのユーザーへの返信で、Grokは高度なフィルターと監視によってほとんどのケースを防げるとしながらも、「100%完璧なシステムは存在しない」と述べ、xAIは改善を優先し、ユーザーから共有された詳細情報を確認していると付け加えた。

メールでコメントを求めたところ、xAIは「旧来のメディアの嘘」という返信を出した。

児童性的虐待コンテンツの生成にAIが利用されている問題は、人工知能業界における長年の課題である。 2023年のスタンフォード大学の研究では、多くの一般的なAI画像生成ツールの学習に使用されたデータセットに、1,000枚を超えるCSAM画像が含まれていたことが判明しました(https://www.axios.com/2023/12/20/ai-training-data-child-abuse-images-stanford)。専門家によると、児童虐待画像でAIを学習させることで、モデルは搾取されている児童の新たな画像を生成できるようになる可能性があるとのことです。

Grokには、安全対策を怠り、誤情報を投稿してきた経歴があります。昨年5月、Grokは南アフリカにおける「白人虐殺」という極右の陰謀について、その概念とは無関係の投稿で投稿し始めました。 xAIは7月にも、Grokがレイプ妄想や反ユダヤ主義的なコンテンツを投稿し始めたことに対し謝罪した。これには自らを「メカヒトラー」と名乗るやナチスの思想を称賛する行為も含まれていた。しかし、同社は事件発生から1週間後に米国防総省と約2億ドルの契約を獲得した。

主なポイント

• 最近離婚したビットコイン投資家が、AIを活用したロマンス詐欺によって退職金全額、つまりビットコイン1枚を失いました。これは、ディープフェイクを駆使した高度な犯罪者が仕掛けたものです。

• 豚の屠殺詐欺は、感情操作とAI生成のディープフェイクを用いて信頼関係を築き、被害者から最大限の金銭的価値を搾取する、人間関係を悪用した詐欺です。

• 詐欺師はAIを用いて合成肖像画を作成し、リアルタイムのディープフェイクビデオ通話を行うことで、作り出された関係を現実とほとんど区別がつかないものにしました。

• ブロックチェーンを介して暗号資産が送金されると、その回復はほぼ不可能です。銀行振込とは異なり、被害者はチャージバック、取消、消費者保護を受けることができません。

最近離婚したビットコイン投資家が、ついにビットコイン1枚という節目に到達したとき、彼は自分の経済的な将来は安泰だと信じていました。しかし、数日のうちに、AIを駆使した巧妙な詐欺師が仕組んだ巧妙な計画によって、彼の退職金は全額奪われ、彼は壊滅的な打撃を受けました。

ビットコインセキュリティアドバイザーのテレンス・マイケル氏が紹介した彼の体験談は、感情操作と現代のAI技術が融合することで、従来の詐欺が仮想通貨保有者を標的とする武器としてどのように利用されているかについて、重要な教訓を示しています。

豚の屠殺という枠組みを理解する

この事件の詳細を検証する前に、セキュリティ専門家が「豚の屠殺」詐欺と呼ぶものを理解することが重要です。ウォレットを直接狙う従来の仮想通貨ハッキングとは異なり、これらの詐欺は心理操作のみに依存する関係性に基づく詐欺です。屠殺前に動物を太らせるという農業慣行に由来するこの用語は、詐欺師が被害者との信頼関係と感情的なつながりを徐々に構築し、最大限の価値を引き出す方法を表しています。

根本的な違いは重要です。被害者は、健全な投資をしている、あるいは愛する人を支えていると信じて、自ら資金を送金します。同意に基づく操作は、取引自体が表面上は合法的に見えるため、詐欺検出システムによる検知を極めて困難にします。

ブロックチェーンセキュリティプラットフォームであるCyversのレポートによると、被害者のグルーミング期間は平均で約3分の1のケースで1～2週間、約10%の被害者は1～3ヶ月に及びます。この長期にわたる期間は、これらの手口の巧妙さを浮き彫りにしています。詐欺師は、プロセスを急ぐよりも、忍耐と一貫性がはるかに効果的に信頼を築くことを理解しています。

詐欺の展開：AIの利点

このケースでは、詐欺師はAIを活用した高度で多層的なアプローチを採用しました。被害者はまず、魅力的な女性トレーダーを名乗る人物からの迷惑メッセージを通じてアプローチを受けました。

詐欺師は、投資家のビットコイン保有量を倍増させると申し出ました。これは、特に最近離婚を経験した投資家の貪欲さと経済的安定への欲求の両方に訴えかけるように設計された約束でした。

この手口が従来のロマンス詐欺よりも飛躍的に強力になったのは、AI技術の導入です。詐欺師は盗んだ写真や粗雑な画像編集に頼るのではなく、AIを用いて完全に合成された肖像画を生成し、非常にリアルに見せかけました。AIが生成したこれらの人物は、訓練を受けていない目には実在の人物とほとんど区別がつきません。

ビデオ通話中は、さらに高度な技術が用いられました。ライブディープフェイク動画生成技術により、詐欺師の実際の体にリアルタイムで偽の顔を重ね合わせました。高度なシステムにより、様々な照明条件下においてもリップシンクの精度を維持できるようになり、疑念を抱く視聴者でさえも欺瞞を見抜くほど、本物の人間同士の繋がりを錯覚させるほどの説得力を生み出しました。

感情的な側面は強調しすぎることはありません。詐欺師は恋愛感情を告白し、将来の計画について話し合い、投資家の経済的な幸福を深く気にかけているように見える女性について、精巧な物語を作り上げました。被害者は、直接会うために飛行機のチケットを購入するよう説得され、心理的な投資をさらに深めました。この個人的なつながりは、どんな技術的なセキュリティ対策よりもはるかに説得力がありました。

脆弱性と生活環境

最近離婚したばかりの人物が標的にされたのは、無作為なものではありません。計画的な略奪でした。離婚は、感情的な孤立、自尊心の低下、そして詐欺師が巧みに利用するように訓練された心理的空虚感など、深刻な脆弱性を生み出します。詐欺師は、高齢者、最近離婚した人、未亡人、未亡人、オンラインで孤独を訴えている人など、特定のプロファイルに当てはまる被害者を積極的に募集します。

この事例は、現代の詐欺防止における重大な盲点を浮き彫りにしています。従来の銀行詐欺検知システムは、異常な取引を検知するように設計されており、心理的強制を認識するようには設計されていません。被害者のビットコイン送金は、自動化されたシステムにとっては全く正常なように見え、一度の多額の引き出しではなく、一定期間にわたって一定額が送金されていました。この段階的なエスカレーションは、アルゴリズムによる検知を回避するために意図的に設計されています。

問題の規模

Chainalysisによると、2024年には豚の屠殺詐欺による被害額は約20万件で、被害者1人あたり平均2万7500ドル、総額55億ドルに達すると予測されています。同社はこれらの詐欺を国家安全保障上の懸念事項に指定しています。恋愛詐欺による損失額は2024年と2025年に13億4000万ドルを超え、連邦取引委員会（FTC）の報告によると、オンラインデート利用者の40%が恋愛詐欺の標的となっています。

AIの導入により、これらの詐欺は飛躍的に拡大しました。これらの詐欺から身を守るための方法をいくつかご紹介します。

• 複数のチャネルで本人確認を行う：事前に録画されたメッセージではなく、ライブビデオ通話をリクエストしましょう。ディープフェイクの典型的な兆候である、不自然な目の動き、不規則な瞬き、顔と首の境目の歪んだ輪郭などに注意しましょう。

• 急速な関係の進展には疑いを持つ：真の関係は徐々に発展します。数日で愛を告白された場合、特に投資機会と結びついている場合は、すぐに疑念を抱くべきです。

• 資金を移動する前に信頼できるアドバイザーに相談する：仮想通貨を送金する前に、セキュリティ専門家やファイナンシャルアドバイザーに相談することで、判断力が鈍る可能性がある場合に、合理的な視点を得ることができます。

• 正当なトレーダーは顧客とデートをしないことを認識する：プロの投資アドバイザーは明確な倫理的境界線を維持しています。恋愛と投資機会の両方を提供する人物は、深刻な危険信号として扱うべきです。

• 不可逆性を理解する：ビットコインなどの仮想通貨には、チャージバックや取消といった消費者保護策はありません。一度資金を送金すると、通常は回復できません。

脆弱性への警戒

投資家がビットコイン1枚を失うことは、単なる経済的な打撃ではなく、金銭的な損失をはるかに超える深い精神的トラウマを意味します。壊滅的な経済的打撃に加え、彼は恋愛関係が完全に捏造され、感情的な親密さは偽り、将来の計画は空想に過ぎず、複数のタイムゾーンをまたいで活動する犯罪者によって信頼が完全に裏切られたことを知り、精神的ショックを受けました。

彼の体験は、暗号通貨保有者にとって教訓となるでしょう。技術的なセキュリティは、保護手段の一つに過ぎません。個人的な警戒心、一方的な接触に対する疑念、感情的な配慮、そして信頼できるアドバイザーへの相談は、同様に重要な防御策となります。

AIによって欺瞞がますます巧妙化する中、健全な懐疑心に基づいた情報に基づいた人間の判断は、人間の根深い繋がりと安心への欲求を悪用しようとする詐欺に対する最も強力な防御策であり続けています。ここで学ぶべき教訓は、オンライン上の関係を完全に信用しないことではなく、恋愛感情と金銭的機会が融合する状況において、資金のやり取りを行う前に並外れた注意を払う必要があることを認識することです。