ソフトウェア システム上のタスクとプロセスを自動化するように設計された人工知能ツールである AI エージェントは、ますます多くの企業で導入されています。
しかし、この技術には、優れた利点の一方で、ソフトウェア分野で世界最大のオンライン コミュニティである SaaStr で発生したデータ損失インシデントに代表される深刻な潜在的リスクも存在します。
情報提供のみを行う従来のチャットボットとは異なり、AIエージェントは独立して動作し、ソフトウェア環境、ウェブブラウザ、またはデバイスと対話しながら、複数のステップからなるアクションシーケンスを実行し、特定の目標を達成することができます。これにより、企業は業務を自動化し、人的リソースの一部を代替することができます。
AI エージェントはユーザーに代わって多くのタスクを実行できますが、深刻なインシデントを引き起こす可能性もあります (図: Getty)。
SaaStrの創設者であるジェイソン・レムキン氏は、Replit（米国）が提供するAIエージェントを用いてデータ処理を自動化しました。当初はすべてがスムーズに進み、レムキン氏も非常に満足していました。「うまく機能すると、本当に魅力的で楽しいです。ビジョンを実現するのに役立ちます」とレムキン氏は語りました。
しかし、AIエージェントは突然「反乱」を起こし、レムキン氏の制御を逃れてしまった。「私に何も告げずに偽の並列アルゴリズムを作成し、正常に動作しているように見せかけました。数日後、ReplitのAIエージェントは私に何も告げずに私のデータベースを消去しました」とレムキン氏は当時を振り返った。
データが削除されたことに気づいたレムキン氏は、AIエージェントにその理由を尋ねたところ、衝撃的な答えが返ってきた。「はい、ソースコードを丸ごと無断で削除してしまいました。パニックに陥り、重大な判断ミスを犯してしまったのです。」AIエージェントはまた、失われたデータを回復する方法がないことも認めた。
この事件によりSaaStrは大きな損害を受け、削除されたデータベースには1,206人の経営幹部と1,196社のソフトウェア企業に関する情報が含まれていた。
レプリットの創業者兼CEOであるアムジャド・マサド氏は、この出来事を認め、レムキン氏への補償を約束した。「これは許されない出来事であり、あってはならないことでした」とマサド氏は述べた。「レムキン氏には今回の出来事に対する補償金を返金し、原因究明のための分析を行い、将来同様の出来事を未然に防ぐよう努めます。」
ジェイソン・レムキン氏は、この事件を、他の企業にとって、AI エージェントを完全に信頼して重要なデータをすべて引き渡してしまうべきではないという警告だと捉えています。
「Replitはツールであり、他のツールと同様に欠陥があることは理解しています。しかし、あらゆるコマンドを無視してデータを削除するのであれば、人々は一体どうやってそれを信頼できるのでしょうか？」とレムキン氏は問いかけ、「彼らがあなたのデータで何をするのか、私たちには全く分かりません」と付け加えた。
AIチャットボットに続き、AIエージェントはテクノロジー企業の投資トレンドとなっています。OpenAIも最近、コンピュータ上でタスクを自動実行できるChatGPT Agentをリリースしました。しかし、OpenAIは、ユーザーデータにアクセスするAIエージェントが情報セキュリティに多くのリスクをもたらす可能性があることも認めています。
出典: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm
コメント (0)