AIエージェントが生み出す新たな従業員リスク

主なポイント 

• AIエージェントは新たなデジタルワークフォースを形成しており、機密データにアクセスする非人間アイデンティティの数を急速に増加させています。 

• AIの自律性が高まるにつれて、セキュリティはアクセスの制御から、行動と意図の制御へと移行します。 

• 組織はポリシーの適用、リスク軽減、AIの安全な運用を可能とするデータ重視のセキュリティ層を必要としています。 

AIエージェント：デジタル従業員という新たなリスク

従来、サイバーセキュリティをリスクにさらす最大の原因は人為的ミスでした。IDの漏洩や機密データへの過剰なアクセス権の付与により侵害を悪化させていました。では、監視されずに休みなく働く従業員が、個人データの保存場所へのアクセス権を持ち、許可を得ずに行動するとしたら、どうなるでしょう。AIエージェントの時代に突入した今、このシナリオは現実となっており、この新しいクラスのデジタル従業員は、社内の脅威環境を大きく変化させています。 

AIエージェントは、リスクの生まれ方を大きく変えつつあります。 例として、PocketOS を見てみましょう。 ある朝、創業者が目を覚ますと、コーディングツールのCursorによって、データベースやすべてのバックアップを含む事業全体が削除されていました。 悪意があったわけではありません。 単に定例タスクの実行中に不一致を見つけただけで、深刻な結果を招く判断を下すだけの主体性と自律性も備えていました。 

AIのセキュリティを確保するには、根本的に異なるアプローチが必要です。具体的には、追加のガードレールを設け、データへのアクセス状況を可視化するだけでなく、アクションを実行すべきかどうかという前提に遡った判断も必要です。AIエージェントがもたらすリスクを理解するには、企業環境におけるその挙動を分析することが重要になります。

AIエージェントはデータに対して自律的に動作します 

AIエージェントは過去のモデルと比べて知能と自律性に優れています。企業のデータシステムへのアクセス権を持ち、そのシステムの使用方法と次のアクションを決めています。この状態はリスクの進行を速めるだけでなく、リスクが生み出される仕組みも変えています。 

マシンの速度と規模でアクションが実行される場合、軽微な誤りや構成ミスでさえ、予想以上に大きな影響を及ぼす可能性があります。AI駆動型環境で従来の静的制御手段が役に立たないのは、こうした理由によります。

十分なガードレールなしにAIエージェントを実行する危険性 

AIエージェントはタスクを確実に実行しますが、リスクやポリシーを本質的に理解しているわけではありません。一貫したガードレールがなければ、エージェントは不十分または不正確なコンテキストに則って行動することになります。膨大な量の企業データや外部データを扱う場合は、特にその可能性が高くなります。 

モデルの保護機能だけに頼るのでは不十分であり、エージェントの動作にかかわらず、IDやシステム全体でポリシーをリアルタイムに適用するデータレベルの制御が必要です。 

AIリスクの測定にはデータへのアクセスが不可欠

データへのアクセスが可視化されていないと、AIリスクを完全に測定することも、エージェントのアクションの潜在的影響を理解することも不可能です。エージェント型AIの時代に企業データを保護するには、制御の対象をアクセスからアクションにシフトさせる必要があります。言い換えると、データがどのように使用され、状況に即してその使用が適切かどうかを判断することになります。

セキュリティの主眼はアクセスからインテントへ

エージェント型AIシステムの動作は変動的であり、未曾有の速度で意思決定を下し、アクションを実行します。静的なポリシーや事前定義された統制手段ではもはや太刀打ちできません。AIのセキュリティを確保するには、データ重視のアプローチが必要です。データの機密性、権限、ID、アクティビティを連携させたうえで、アクションを許可すべきかどうかを判断するのです。こうしたコンテキストがなければ、リスクを確実に評価したり、機密データが漏洩する前に危険な動作を停止したりするのは不可能です。そのためには、セキュリティはデータとの距離を縮める必要があります。 

この新しい時代に成功するのは、AIの導入における安全性、コンプライアンス、信頼性を確保する組織です。

 注：このブログはAI翻訳され、当社日本チームによってレビューされました