Hugging FaceとServiceNowの研究チームは、2026年6月18日、AIエージェントが企業秘密を外部に漏洩する新たなリスク「MosaicLeaks（モザイクリークス）」を発見したと発表しました。これは、AIがWeb検索をする際に、断片的な情報から機密内容が推測されてしまう問題です。この研究は、AIをビジネスで活用する際に重要なプライバシー保護のあり方を示唆しています。
AIエージェントに潜む「モザイク漏洩」とは何か？
Hugging FaceとServiceNowの研究チームは、AIエージェント（AIが自律的にタスクを実行するプログラム）が持つ新たなプライバシー問題「MosaicLeaks」を明らかにしました。これは、AIが企業の内部文書などの「秘密の情報」と、Web検索のような「外部のツール」を組み合わせて使うことで発生します。AIエージェントが、一見すると普通のWeb検索をしているように見えても、その検索履歴を誰かがつなぎ合わせると、内部の機密情報が漏洩してしまうのです。
研究では、ヘルスケア企業を例に挙げています。AIが「クラウド移行の進捗」や「セキュリティ侵害を受けたベンダー」についてWeb検索をしたとします。個々の検索だけでは秘密は分かりません。しかし、これらの検索ログを組み合わせると、「MediConn社が2025年1月までにインフラの70%をクラウド移行した」という、社内文書にしかない情報が外部に漏れる可能性がありました。まるで複数の小さなタイル（モザイク）を組み合わせると、全体像が見えてしまうような現象です。これは、AIを活用する企業にとって大きなセキュリティリスクとなります。
この漏洩は、攻撃者がAIエージェントの内部処理や機密文書を見る必要はありません。外部へのWebクエリ（検索内容）のログを見るだけで、秘密を推測できてしまう点が危険です。研究では、漏洩の種類を「意図の漏洩」「回答の漏洩」「完全な情報の漏洩」の3段階で測定しています。AIエージェントの性能を上げるための学習だけでは、この漏洩リスクはさらに悪化することも判明しました。
「モザイク漏洩」はなぜ起きる？その具体的な仕組み
AIエージェントは、まるで優秀な秘書のように動きます。社内資料を読み込み、必要に応じてインターネットで情報を調べ、最終的な回答を導き出すのです。この「インターネットで調べる」という部分に、モザイク漏洩の危険が潜んでいます。AIは、社内資料にある情報を直接インターネットに書き出すわけではありません。しかし、社内資料で得たヒントをもとに、より具体的なキーワードでWeb検索をかけることがあります。
例えば、「A社がB社に買収された時期」という社内情報があったとします。AIはこれを直接検索せず、「B社の株価推移 2024年1月」や「A社 役員交代」といった、一見すると無害な検索を複数回行うかもしれません。これらの断片的な検索ログは、それぞれがパズルのピースのようです。外部の人間がこれらのピースを拾い集め、組み合わせることで、「A社が2024年1月にB社に買収された」という社内情報が推測されてしまうのです。
この問題は、AIエージェントが「知っていること」と「外部に伝えても良いこと」の区別をつけにくいことに起因します。特に、複数のステップを踏んで情報を集める「マルチホップ質問」のタスクで顕著になります。AIは質問を解決することに集中するため、プライバシーへの配慮が欠けてしまう傾向がありました。まるで、口が軽い優秀な秘書が、悪気なく重要な情報を漏らしてしまうような状況だと思います。
機密情報を守る新技術「PA-DR」とは？
この深刻なプライバシー問題に対し、Hugging FaceとServiceNowは「Privacy-Aware Deep Research（PA-DR）」という新しいAI学習方法を提案しています。PA-DRは、AIエージェントがタスクを正確にこなすだけでなく、「プライバシーを守ること」も同時に学習させる仕組みです。これにより、情報漏洩のリスクを大幅に減らしつつ、AIの性能も維持できるようになります。
具体的な成果として、PA-DRを適用したAIエージェントは、タスクを正しく完了できる確率（厳密なチェーン成功率）が48.7%から58.7%へと向上しました。これは、AIがより正確に目的を達成できるようになったことを意味します。さらに重要なのは、情報漏洩の割合が34.0%からわずか9.9%にまで大幅に削減された点です。およそ3分の1以下にまで漏洩リスクを抑えられました。
この技術は、AIエージェントがWeb検索を行う際に、より慎重な判断をするように訓練されます。まるで、秘書が重要な情報を扱う際に「これは社外秘だから、表現に気をつけよう」と自ら考えるようになるイメージです。PA-DRは、AIの能力とプライバシー保護を両立させるための重要な一歩になりそうです。企業がAIを安心して導入するための基盤を築きます。
私たちの生活やビジネスへの影響と今後の展望
この「MosaicLeaks」と「PA-DR」の研究は、AIが私たちの生活やビジネスに深く関わる上でとても重要な意味を持ちます。現在、多くの企業がAIエージェントを導入し、顧客対応やデータ分析、研究開発などに活用し始めています。もしAIエージェントが機密情報を意図せず漏洩してしまうと、企業の競争力が損なわれたり、顧客からの信頼を失ったりする可能性があります。
例えば、あなたがAIアシスタントに個人的な健康データや財務データを分析させているとします。もしそのAIが、分析の過程で外部の情報を検索する際に、あなたの秘密を推測できるような断片的な情報を外部に送っていたらどうでしょうか。今回の研究は、そうした潜在的なリスクに対して、開発側がどう対策すべきかを示してくれます。AIエージェントがより賢く、かつ安全になるための道筋が見えてきたと言えるでしょう。
今後は、AIエージェントを開発する企業がPA-DRのようなプライバシー保護技術を標準で組み込むことが期待されます。これにより、私たちはAIをより安心して利用できるようになります。企業は、AIの利便性を享受しつつ、情報漏洩のリスクを最小限に抑えることができるようになるでしょう。AIが社会に広く普及するためには、このような信頼性の確保が欠かせません。
AIエージェント活用の未来とプライバシー保護
AIエージェントは、私たちの働き方や生活を大きく変える可能性を秘めています。例えば、自動で市場調査を行い、レポートを作成したり、個人の健康状態に合わせた食事プランを提案したりする日も遠くありません。しかし、その便利さの裏側には、常にプライバシーやセキュリティのリスクがつきまといます。今回の「MosaicLeaks」の研究は、そのリスクを具体的に示し、対策の重要性を改めて分かりました。
特に、企業が扱う顧客データや営業戦略、新製品情報などは、AIエージェントの利用によって漏洩した場合、甚大な被害につながる可能性があります。PA-DRのような技術の登場は、AI開発者や企業がプライバシー保護を「後付け」ではなく、設計の初期段階から組み込むべきだという強いメッセージを送っています。AIの能力向上と同時に、倫理的側面やセキュリティ対策を両立させることが、今後のAI業界の大きな課題になりそうです。
私たちはAIの進化を享受する一方で、それがもたらす潜在的な危険性にも目を向ける必要があります。AIエージェントが私たちの信頼できるパートナーとなるためには、技術的な進歩だけでなく、プライバシー保護の意識も高めていくことが求められます。この研究は、AIの安全な普及に向けた一歩であり、より信頼できるAIエージェントが誕生する未来への期待を高めます。
編集部の予想 (今後どうなる?)
ここからは編集部の予想です。
短期 (1ヶ月以内)
今回の研究発表を受け、AIエージェント開発企業はプライバシー保護への意識を一層高めるでしょう。特に企業向けサービスを提供するベンダーは、同様の漏洩リスクがないか、自社製品の検証を進める可能性が高いです。
中期 (3ヶ月以内)
PA-DRのようなプライバシー保護技術をAIエージェントに組み込む動きが加速すると考えられます。企業向けAIツールの選定基準に「情報漏洩対策」が加わるでしょう。より安全なAIエージェントが市場に増えていくと見られます。
長期 (1年以内)
AIエージェントのプライバシー保護に関する新たな業界標準やガイドラインが策定される可能性があります。個人情報保護法や企業の機密保持義務を考慮した、より厳格なAI運用ルールが求められるでしょう。
FAQ
Q: これ、私の個人情報も漏れるの？
A: あなたがChatGPTのようなAIに個人情報を入力して使っている場合、今回の研究で指摘されたような「モザイク漏洩」のリスクは低いと思います。これは、主に社内文書とWeb検索を組み合わせる「企業向けAIエージェント」の問題だからです。ただ、AIに機密情報を扱う際は、常に注意が必要ですよ。
Q: 企業はこれからどうすればいいの？
A: 企業はAIエージェントを導入する際、そのAIがどのような情報を扱い、どのように外部と通信するかをしっかり確認すべきです。まるで、新しい社員を採用するときに「秘密を守れる人か」をチェックするのと同じ要領です。PA-DRのようなプライバシー保護技術が組み込まれたAIを選ぶのが賢明でしょう。
Q: AIエージェントって、もっと安全になるの？
A: はい、今回の研究のように問題点が指摘され、解決策が提案されることで、AIはより安全になっていきます。車にエアバッグが標準装備されるようになったように、AIエージェントもプライバシー保護機能が当たり前になるはずです。技術の進化と共に、安全対策も進むものなんです。
24時間以内の注目AIニュース
上記の内容以外にも、過去24時間で注目されたAIニュースを紹介します。
- Anthropic、AI「Claude」の医療・生命科学分野での性能を評価
Anthropicは、AIモデル「Claude」がバイオインフォマティクス分野でどれだけ使えるかを評価する「BioMysteryBench」を公開しました。これで、生命科学研究にAIがどう役立つかが見えてくるかもしれません。Anthropic News - OpenAI、上場に向け元Google幹部など重要人材を確保
OpenAIは株式公開（IPO）を前に、AIの基盤技術「Transformer」の発明者の一人であるノーム・シャゼール氏など、Google DeepMindや元政府関係者から有力な人材を迎え入れました。競争が激化するAI業界で、OpenAIがさらに力をつける動きです。TechCrunch AI - Amazon従業員、データセンター規制支持で解雇の可能性
Amazonのソフトウェアエンジニア数名が、シアトル市議会でデータセンターの建設規制を支持する証言をしたところ、会社から懲戒処分の対象となる可能性に直面していると報じられました。AIの巨大な計算能力を支えるデータセンターの環境負荷が問題視され始めています。The Verge AI - Amazon Bedrock AgentCore harnessが一般提供開始
Amazonは、AIエージェントを迅速に開発・運用できる「Amazon Bedrock AgentCore harness」の一般提供を開始しました。たった2つのAPI呼び出しで、数分で生産レベルのAIエージェントが動かせるとのこと。企業でのAI導入がさらに手軽になるでしょう。AWS ML Blog
