上野 宣のセキュリティ宣言 - 第1回AIは新しい侵入口になるのか？ 攻撃者視点で考えるAI利用のセキュリティ

AIが企業システムの一部になり始めている

ChatGPTの登場以来、企業で生成AIを利用する場面が急速に増えています。例えば皆さんの組織でも、次のような用途があるのではないでしょうか。

これらは業務効率を大きく改善する便利な仕組みです。しかし、攻撃者の視点から見ると、少し違う印象を受けることがあります。それは、AIが企業システムの中に入り込んできたということです。

AIは単独で動くものではありません。多くの場合、次のようなシステムと接続されています。

つまり、AIは単なるツールではなくITインフラの一部として動作しています。これはセキュリティの観点から見ると重要な変化です。新しいシステムが増えれば、それだけ攻撃対象が増えることを意味します。

攻撃者のAIを見る視点

AIのセキュリティというと、「AI自体がハッキングされるのでは」と心配する方もいるかもしれません。しかし、攻撃者はAIシステムそのものを壊すことにはあまり興味がありません。攻撃者が欲しいのは、機密データ、認証情報、システムへのアクセス権、そして社内ネットワークへの侵入経路です。

つまり、攻撃者にとって重要なのは「そのAIが何にアクセスできるのか」という点です。例えば、AIチャットボットが社内文書を検索できる場合、そのAIが適切に制御されていなければ、攻撃者はAIを踏み台にして社内の情報を取得できてしまう可能性があります。

AIエージェントという新しいリスク

最近は「AIエージェント」と呼ばれる仕組みも登場しています。従来のチャット型AIは質問に対して答えを返すだけでした。しかし、AIエージェントはそれだけでなく、外部のシステムやツールを呼び出して実際にアクションを起こすことができます。これはAIが人の代わりにシステムを操作する仕組みで、例えば次のようなことを行います。

業務効率の面では非常に便利ですが、裏を返せば、AIエージェントが乗っ取られた場合の影響範囲はこれまでよりも大きくなります。AIエージェントは、多くの場合、次のような権限を持っています。

攻撃者が狙っているのは、まさにこうした権限です。もしAIエージェントの認証情報が漏洩すれば、攻撃者は人間のアカウントを使わずにシステムを操作できてしまいます。

シャドーAIという新しい問題

AIの利用が広がるなかで、もう一つ注意すべき問題があります。それが「シャドーAI」です。これは、IT部門が把握していないAIの利用のことで、例えば次のようなケースがあります。

この状況は、以前から問題になっている「シャドーIT」とよく似ています。実際、クラウドサービスの普及によって、組織の管理外でツールが利用されるケースは珍しくありません。

AIの場合、特に問題になるのはデータで、社員がAIに次のような情報を入力してしまうことがあります。

こうした情報は外部のAIサービスで処理されるため、組織の管理外に出てしまう恐れがあります。

AIシステムにも起きる設定ミス

AIシステムは多くの場合、クラウド環境で構築されます。クラウドには柔軟性という大きなメリットがありますが、その反面、設定が複雑になるという問題もあります。例えば次のようなミスです。

こうした設定ミスは決して珍しいものではありません。クラウドの誤設定による情報漏洩は世界中で発生しており、攻撃者はスキャンツールを使って、公開されているリソースを継続的に探しています。AIシステムも例外ではありません。担当者にとっては小さな設定ミスでも、攻撃者にとっては大きなチャンスになることがあるのです。

AIを安全に使うために必要なこと

AIのセキュリティというと、特別な対策が必要なように感じるかもしれませんが、基本的な考え方はこれまでと大きく変わりません。重要なのは次のポイントです。

AI時代のセキュリティ

AIは今後、企業システムの中でさらに重要な役割を持つようになります。しかし、どんな新しい技術であっても、攻撃者の視点は大きく変わりません。攻撃者が考えていることは、いつも同じで「どこから侵入できるか」です。

AIは便利な技術ですが、同時に新しいIT資産でもあります。だからこそ、AIを特別な存在として扱うのではなく、既存のセキュリティ管理の枠組みに組み込むべきだと筆者は考えます。まずは、自社でどのAIが使われているのかを把握することから始めてみてはいかがでしょうか。

（「SKYSEA Client View NEWS Vol.108」 2026年5月掲載）