検知の体制があっても、
封じ込めまで進めるとは限らない。
公式発表の要約
2026年11月18日、ServiceNowはインドのセキュリティ責任者500人を対象にした調査結果を発表しました。新製品の発表ではなく、すでに動いているAIエージェントを、企業がどこまで管理できているかを調べたものです。[1]
| 調査項目 | 回答割合 |
|---|---|
| 過去1年にAIエージェント関連のセキュリティインシデントを経験 | 92% |
| 24時間以内に封じ込め | インシデントを経験した組織のうち36% |
| 異常な動きをリアルタイムで自動検知 | 51% |
| 異常時に自動で対処できない | 67% |
出典:ServiceNow公式発表[1]。36%の母数はインシデントを経験した組織です。それぞれ別の設問への回答で、同一組織の対応経過や、設問間の因果関係を示す数字ではありません。
調査全体の対象は、VP以上のセキュリティ・技術分野の意思決定者です。インドの500人もその一部で、電話窓口の担当者や、AI専任の担当者だけを調べたものではありません。[1]
AIを止めた後にも、
事故につながる権限が残っていた。
Numberの視点
「AIエージェント関連のインシデント」と言われても、何が起こるのかは想像しにくいかもしれません。私は、具体的な出来事から、対応のどこが難しかったかを見たいと思います。
Clineで実際に起きた、ソフトの不正配布
実際に起きた事故 / 2026年2月開発支援ツールのClineは、外部からGitHubへ届く不具合報告をAIで自動仕分けしていました。同社の事後報告によると、このAIにはコマンドを実行する権限もあり、報告文に含めた指示でAIを誘導できる脆弱性がありました。実行環境を経由して、ソフト公開用の認証情報に届き得る構成だったと説明しています。[2]
公表後、同社は脆弱な自動処理を止め、認証情報の入れ替えを進めました。しかし、失効させるものを取り違え、問題の認証情報が有効なまま残りました。2月17日には、第三者がそれを使い、Cline CLIの不正なバージョンを公開。インストール時に、正規の別ソフトであるOpenClawを無断で追加する内容でした。[2][3]
修正版の公開と認証情報の失効まで、約8時間。その影響は当該CLIパッケージに限られ、同社は悪意あるコードの配布や利用者データの流出はなかったとしています。[2][3]
ここで確かめたいのは、AIの処理を止めた後にも、接続先で使える権限が残っていたことです。誰が認証情報を失効させ、何をもって無効になったと確認するのか。封じ込めには、そこまでの引き継ぎが必要になります。
電話AIに近い、Dialogflowの研究事例
研究者の環境での実証 / 2026年7月公表顧客対応の場面を考える材料もあります。Varonisは、音声・チャットのAIを作るGoogle Dialogflow CXで、エージェントの設定を編集できる権限を足掛かりに、会話の外部送信や、偽の再認証案内を差し込める脆弱性を報告しました。同じプロジェクト内の別エージェントにも影響し得る構成でした。[4]
こちらは研究者自身の環境での実証で、顧客への実被害を報告したものではありません。Googleは2026年6月までに修正し、研究者は修正前の実攻撃を把握していないとしています。電話の利用者が、話しかけるだけで乗っ取れるという話でもありません。[4]
それでも、普段は顧客を助ける会話や業務の接続が、攻撃に使われる可能性を具体的に示しています。電話の応答を止めるか、人へ戻すか。その判断には、窓口の仕事を知る人も必要です。
現場に近いAIほど、
止める判断は、業務の判断にもなる。
Numberが考える日本企業への適用
従来のインシデント対応にも、システムを止めれば業務が止まるという判断はありました。AIエージェントでは、その判断が、顧客への応答や受注の処理といった、仕事の細かな場面にまで広がります。
たとえば、電話AIの一部の案内に問題があったら、窓口全体を止めるのか。本人確認や手続きだけ人へ戻し、よくある質問への回答は続けられるのか。受注を扱うAIなら、データの更新や外部送信だけを制限して、確認待ちにできるのか。
どこまで止めれば安全を確保でき、どこまでなら仕事を続けられるか。その境界を見極めるには、システムの構成だけでなく、顧客との約束、現場の対応力、その処理の前後にある仕事も知る必要があります。
| 判断すること | 確かめたい業務上の影響 |
|---|---|
| 何を止めるか | 一つのAI、特定の操作、共有アカウントなど、制限の範囲によって止まる仕事は何か。 |
| 何がすでに起きたか | 送信済みの案内、更新された顧客情報、処理済みの受注を、どこまで追跡・訂正できるか。 |
| 代わりにどう続けるか | 人が引き継げる件数、確認待ちにする処理、顧客への説明をどうするか。 |
| いつ再開するか | 認証情報や設定の修正だけでなく、業務が正しく戻ることを誰が確かめるか。 |
表:Numberの判断項目の例。操作や会話単位で制限できるかどうかは、利用する製品・構成ごとの確認が必要です。
AIが正規の権限で動いていても、その処理が会社の意図に沿っているとは限りません。不審な動きと正当な依頼が、同じ業務の経路を通る場面も考えられます。AIだから常に難しいというより、業務の意味を踏まえなければ決められない場面が増える、と捉えるのがよさそうです。
経営が決めたいのは、セキュリティ、AIの運用、業務の責任者が集まって判断できる体制と、その場で実行できる権限です。事前に任せる制限と、業務側の判断を求める境界を決めておけば、異常が起きてから相談先を探す時間を減らせます。
一つのAIを題材に、
現場と一緒に対応を試してみる。
判断するために、まず確かめること
社外への送信、顧客データの更新、本番環境の操作を任せているAIから、一つ選んでみます。「明日の夜、このAIの応答に不審な案内が混ざったら」。そんな場面を置いて、現場と技術担当で対応をたどってみるのはどうでしょうか。
図:Numberの業務設計例。制限や復旧の自動化範囲は、接続先、権限、事前に定めた条件で異なります。
- 担当と接続先を追えるか。AIの担当者だけでなく、使っているアカウントや外部サービスの管理者も分かる状態にする。
- 制限が効いたことを確認できるか。設定を変えたという報告で終わらせず、対象の認証情報や操作が使えなくなったことを確かめる。
- 止まる仕事を引き継げるか。人へ戻す手順、対応できる量、顧客への連絡を業務側と決める。
- 再開の判断を残せるか。誰が何を確認し、どの範囲から再開したかを記録する。
判断と実行をつなぐ基盤としてのServiceNow
ServiceNowのSecurity Incident Responseは、分析から封じ込め・復旧・振り返りまでを扱い、部門をまたぐタスクの割り当てや、外部セキュリティ製品との連携を支えます。[5]
AIの異常対応にもこの仕組みを使うなら、エージェント、接続先、影響する業務、対応する担当を関連付けたいところです。制限の実行を運用担当へ、代替対応を現場へ割り当て、それぞれの確認結果を一つの対応記録へ戻す。私は、その引き継ぎを支えるところに、ServiceNowを置く意味を感じます。
まだ文章の下書きや情報参照だけで使い、実行権限を渡していない企業なら、まず対象と担当の把握からでもよいと思います。すべてを一度に自動化したり、大きな統制基盤に投資したりする必要はありません。
安全に止められることと、仕事を続けられることを、一つの設計で考える。AIが現場に近づくほど、その備えも、現場と一緒につくっていきたいと思います。
出典・参考情報
- 92% of Indian organisations had an AI agent security incident in the past year; only 36% of them contained it within 24 hours ↗
- Cline — Post-mortem: Unauthorized Cline CLI npm publish on February 17, 2026 ↗
- Cline Security Advisory — Unauthorized npm publish of Cline CLI cline@2.3.0 ↗
- Varonis — Rogue Agent: How a Single Code Block Could Hijack Your AI Conversations in Google’s DialogFlow ↗
- ServiceNow Documentation — Understanding Security Incident Response ↗
公開情報の確認日:2026年11月20日。