ハッカーはAIチャットボットに「打ち明ける」ことで企業の極秘情報を入手することができる

テクノロジー専門家によると、一連の洗練されたプロンプトを使用することで、ハッカーは気付かれずに企業の「機密」データベースに侵入できるという。

「ベトナムのデジタルブレイクスルー時代」をテーマにしたOpenInfra & Cloud Native Day Vietnam 2025イベントの概要 - 写真: CHI HIEU

人工知能 (AI) は多くの価値をもたらし、特に現在では多くの企業に統合され、会社の従業員や顧客などのエンドユーザーにサービスを提供しています。そのため、AI 統合チャットボット システムは、ハッカーがデータ ストレージ システムを攻撃して情報を盗むための「狭い扉」になる可能性があります。

「現在、AIモデルを攻撃する方法は数多くあるが、最も一般的なのは、従来の情報保護システムでは『見えない』と思われる『コンテンツポイズニング』だ」と、アカマイ・テクノロジーズ・ベトナムのカントリーディレクター、ダオ・ヴィエット・フン氏は、7月26日にハノイで開催されたOpenInfra & Cloud Native Day Vietnam 2025イベントで警告した。

このイベントは、ベトナムインターネット協会（VIA）が、ベトナムオープンインフラストラクチャコミュニティ（VietOpenInfra）、ベトナムクラウドコンピューティングおよびデータセンタークラブ（VNCDC）と連携し、 科学技術省の支援を受けて開催しました。

企業の90%がオープンプラットフォームまたはソフトウェアを使用している

開会の辞で、ベトナムインターネット協会副会長兼事務局長のヴー・テ・ビン氏は、国家のデジタル変革プロセスにおけるオープンインフラストラクチャとオープンソースコードの重要性を強調しました。

ビン氏は、世界的な技術の急速な変化を背景に、企業の90%以上がオープンプラットフォームやソフトウェアをさまざまな形で使用しており、オープンインフラストラクチャはイノベーションの基盤として発展し続けていると述べた。

Red Hatの調査（2024年）によると、テクノロジーリーダーの82%が、デジタルトランスフォーメーションを推進し、イノベーションを加速させる鍵はオープンプラットフォームとソフトウェアであると考えています。Kubernetes、OpenStack、Linux、Ceph、OpenTelemetryなどのプラットフォームは、AI、IoT、5G/6Gシステム、そしてクラウドネイティブの運用においてますます重要な役割を果たしています。

「10年前、クラウドは空の雲と間違えられることもあり、オープンソースは『武術の秘伝』のように聞こえました。しかし今日、私たちは180カ国以上のグローバルなオープンインフラコミュニティと繋がり、共にコード行をイノベーションの原動力に変えています」と、ヴー・テ・ビン氏は語りました。

AIチャットボット - ハッカーがシステムに侵入するための「狭い扉」

「現在、多くの企業が、AIチャットボットなどのシステムを統合したオープンでレスポンシブなプラットフォームの有効性を積極的に活用し、業務パフォーマンスの向上やユーザーエクスペリエンスの強化に役立てています。

また、ここから「コンテンツポイズニング」攻撃を含むAIモデルへの攻撃方法が数多く出てくると、アカマイ・テクノロジーズ・ベトナムのカントリーディレクター、ダオ・ヴィエット・フン氏は警告した。

彼は、ベトナムの企業がAIを導入する際に、この形式の攻撃についてまだあまり知らないとコメントした。

したがって、悪意のある行為者は、AI モデルに誤った情報を継続的に尋ねて再学習させるという手法を使用し、情報の「中毒」を引き起こします。

クラウドシステム上の情報が「感染」していても検知されずに利用され続けると、不正確な情報を与えたり、この脆弱性を利用してデータベースに侵入し、情報を入手するなどの行為が行われることになります。

Akamai Technologies Vietnam のカントリーディレクター、Dao Viet Hung 氏 - 写真: CHI HIEU

ダオ・ベト・フン氏は、自動車会社のオンライン販売チャットボットシステムが新車をわずか1ドルで販売するように説得されたという珍しい話を紹介した。

その理由は、チャットボットとのやり取りや交渉の過程で、この顧客がデータベースに「こっそり」侵入し、チャットボットに上記の要求に同意するよう説得する方法を見つけたためです。

もう 1 つの例としては、ハッカーが適切な質問を作成して社内の AI チャットボットに送信するだけで、会社の機密文書や組織図をすべて入手できたケースがあります。

そのリスクから、Dao Viet Hung氏はAIがAIを保護できるAIセキュリティソリューションを共有しました。これは世界中の多くの大企業で使用されている形です。

このセキュリティ方式では、保存されたデータは多層の保護を統合し、「感染」しにくくなります。

AI セキュリティ システムは、どの情報がクリーンで、どの情報が攻撃の潜在的なリスクがあるかを検出し、それに基づいて迅速かつ適切な処理計画を立てることができます...

トピックに戻る

親孝行

出典: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm