AI（人工知能）開発を手がけるAnthropic（アンソロピック）は2026年6月3日、AIが悪用されたサイバー攻撃に関する詳細な調査レポートを公式発表しました。このレポートは、2025年3月から2026年3月の1年間で確認された832件の悪意あるサイバー活動を分析したものです。AIがサイバー攻撃をより巧妙かつ危険なものに変えていると警鐘を鳴らし、既存のセキュリティ対策では対応しきれない可能性が見えてきます。この報告は、私たちの個人情報や企業データが、より高度なAIの脅威にさらされるリスクが高まっていることを意味します。
AIがサイバー攻撃をどう変えているのか？
Anthropicのレポートは、AIが悪意ある攻撃者の手口をどれほど進化させているかを示しています。2025年3月から2026年3月にかけて停止された832件の悪質アカウントを分析した結果、AIはサイバー攻撃の初期段階だけでなく、より高度で複雑な段階でも使われていることが明らかになりました。特に、攻撃の準備段階であるマルウェア（悪意のあるソフトウェア）の作成には、調査対象の約67%にあたる560件のアカウントがAIを利用していました。これは、AIが「自動で危険な武器を作る工場」のような役割を果たしていることを意味します。また、ごく一部ではありますが、侵入したネットワークの奥深くで情報を盗み出す「横方向移動」と呼ばれる複雑な行為にもAIが使われていました。AIの進化により、攻撃はより自律的になり、従来の対策では見分けにくくなっています。
AI悪用で攻撃者が「より危険」になる理由
Anthropicの分析によると、AIはサイバー攻撃者を3つの点で「より危険」にしています。1つ目は、AIが攻撃者の能力を大幅に向上させる点です。例えば、AIは複雑なマルウェアコードを生成したり、標的の弱点を見つけ出したりする作業を高速化・自動化できます。これにより、攻撃者は少ない労力で、より高度な攻撃を実行できるようになります。
2つ目は、攻撃が「自律的」になることです。AIが攻撃の一連の流れを自動でつなぎ合わせるため、人間が介在する頻度が減り、攻撃の検出が難しくなります。まるで「自動運転の車が勝手に目的地まで侵入する」ようなイメージです。そして3つ目は、既存の脅威分析フレームワークである「MITRE ATT&CK」（サイバー攻撃の手口を分類したデータベース）が、AIを使った新しい攻撃手法を十分に捉えきれていないことです。これは、古い地図では新しい道が見つけられないのと同じで、新しい脅威に対応するためには、セキュリティコミュニティ全体の知識やツールをアップデートする必要があるということです。
具体的にAIは攻撃のどこで使われる？
AIはサイバー攻撃の様々な段階で使われています。最も多く見られたのは、攻撃の「準備」段階です。具体的には、悪意のあるソフトウェア（マルウェア）の作成や、フィッシングメール（偽のメール）の作成などが挙げられます。AIは、人間が書いたような自然な文章でフィッシングメールを作成したり、検出されにくい新しいマルウェアのコードを生成したりするのに役立っています。これは、AIが「巧妙な嘘をつくスペシャリスト」のように機能する例です。さらに、攻撃がネットワークに侵入した後、内部で情報を探し回る「偵察」や、他のシステムへ横方向に移動する「ラテラルムーブメント」といった、より複雑な段階でもAIの利用が確認されています。AIは、広大なネットワークの中から価値のある情報を見つけ出したり、防御側の目をかいくぐって移動したりする能力を高めることで、攻撃の成功率を上げているのです。
私たちの生活や企業にどう影響するのか？
AIによるサイバー攻撃の進化は、私たち個人の生活や企業の活動に直接的な影響を及ぼします。個人としては、より巧妙なフィッシング詐欺やマルウェア感染のリスクが高まります。AIが生成した詐欺メールは、本物と見分けがつきにくく、うっかり個人情報やパスワードを入力してしまう危険が増えるでしょう。これは、AIが「完璧な変装をして近づいてくる詐欺師」のようなものです。企業にとっては、顧客データや機密情報の漏洩リスクがさらに高まります。AIが悪用されることで、従来のセキュリティシステムでは検知できない新たな侵入経路が生まれ、一度侵入されると内部での被害が拡大しやすくなります。企業は、AIを活用した新しい防御策の導入や、従業員のセキュリティ意識向上をこれまで以上に強化する必要があると思います。セキュリティは、もはや他人事ではなく、誰もが「自分ごと」として捉えるべき課題になっています。
今後のAIセキュリティ対策の課題と展望
AIによるサイバー脅威の増加は、セキュリティ対策のあり方を根本から見直す必要性を感じさせています。Anthropicのレポートが示すように、従来のMITRE ATT&CKのようなフレームワークだけでは、AIを悪用した新しい攻撃手法を完全に捉えるのは難しいです。これからのセキュリティ対策は、「AI対AI」の戦いになる可能性が高いでしょう。つまり、攻撃側のAIに対抗するためには、防御側もAIを積極的に活用し、脅威の検知や分析、対応を自動化・高速化していく必要があります。まるで「AIが優秀な警備員となって、AIを使った泥棒を捕まえる」ようなイメージです。また、企業や研究機関だけでなく、政府や国際機関が連携し、AIの悪用を防ぐための倫理ガイドラインや規制を定めることも重要です。サイバー空間の安全を守るためには、技術的な対策と同時に、社会全体での協力体制を築くことが欠かせません。
編集部の予想 (今後どうなる?)
ここからは編集部の予想です。
短期（1ヶ月以内）では、Anthropicのレポートを受けて、他のAI開発企業やセキュリティベンダーが、AIセキュリティに関する声明や新しい防御ソリューションを発表する動きが加速するでしょう。企業はAIによる攻撃への対策を急ぐと思います。中期（3ヶ月以内）では、AIを悪用したサイバー攻撃の具体的な事例がさらに増える可能性があります。これにより、AIセキュリティ専門家の需要が高まり、人材獲得競争が激化するでしょう。長期（1年以内）では、各国政府がAIを活用したサイバーセキュリティ戦略の策定を本格化させるでしょう。国際的な連携によるAIの悪用防止に向けた議論も進むと思います。
FAQ
Q: AIによるサイバー攻撃は、私たち一般人にどんな影響がありますか？
A: 個人情報や預金が狙われる危険が増えます。AIが「詐欺メールを本物そっくりに作る」ような感じで、手口が巧妙になりますよ。
Q: 企業は、この新しい脅威にどう対応すればいいのでしょうか？
A: AIを使ったセキュリティソフトの導入が急務です。AIが「会社の門番」のように、不審な動きをいち早く見つけてくれるイメージですね。
Q: 私たちが今すぐできる対策はありますか？
A: はい、基本が大事です。パスワードを複雑にしたり、怪しいメールは開かないなど、「戸締まりをしっかりする」のと同じ要領で対策できます。
24時間以内の注目AIニュース
上記の内容以外にも、過去 24 時間で注目された AI ニュースを紹介します。
- Google検索AIが中古品探しをサポート
Google検索とショッピングにAIツールが導入され、古着やヴィンテージ品の検索がより便利になります。掘り出し物を見つける手助けをしてくれるでしょう。
出典: Google AI Blog - Hugging Face、DPOのチャットボット以外への応用を紹介
AIモデルの学習手法であるDPO（Direct Preference Optimization）が、チャットボット以外の分野でも活用できる可能性について、Hugging Faceがブログで言及しました。幅広いAI開発に応用が期待されます。
出典: Hugging Face Blog - Alphabet、Google AI事業に850億ドルの大型資金調達
Googleの親会社Alphabetが、AI関連事業向けに過去最高額となる850億ドル（約13兆円）の資金調達を実施しました。AI分野への投資家の強い期待と、Googleの今後のAI戦略強化を示唆しています。
出典: TechCrunch AI - AWS、FundamentalのラージテーブルモデルNEXUSをSageMaker JumpStartで提供
Fundamentalが開発した大規模な表形式データ向けAIモデル「NEXUS」が、Amazon SageMaker JumpStartを通じて利用可能になりました。これにより、企業が自社のデータでAIを簡単に使えるようになります。
出典: AWS Machine Learning Blog
