シャドーAIに気を付けよう

いつもブログを読んでいただきありがとうございます！

最近、情報漏洩やシステムの脆弱性について話題になっていると感じるのですが、その漏洩は、実は、従業員が独自の判断で生成AIなどのツールを業務利用することで漏洩しているケースがあります。

シャドーAIとは、企業のIT部門や管理者が把握・承認していない状態で、従業員が独自の判断で生成AIなどのAIツールを業務に利用する行為（またはその状態）のことです。

クラウドが話題になった時代の出来事を思い出すと、「ググる」などの言葉が生まれたように、わからないことはインターネットに聞くのは、ほぼ常識となっています。

AIの場合は何が違うのかと言われると
　①入力したデータが再学習に使われる
　②入力情報は、他社にも伝わってしまう
　③学習したデータを取り戻すのは不可能
ということで、賢いのですが、機密情報を入れてしまうと、大変なことになります。

AIの活用は、全面禁止にはせず、ガバナンスや教育の問題が重要になります。シャドーAIに気をつけてAIを活用して行きましょう！

衝撃のデータ：77%が業務データを入力し、82%が個人アカウント

サムスン電子の事例は氷山の一角です。最新統計では次の実態が判明しています。

個人アカウントに入力されたデータは将来のモデル再学習に利用される可能性が高く、一度学習に取り込まれると、企業側から回収・削除することは技術的に不可能です。

「社内に高価なファイアウォールやDLPがあるから安心」という考えは通用しません。従来のセキュリティは生成AIの特性に対応できていないからです。

脅威の主体：従来の外部ハッカー（悪意ある侵入）に対し、AI流出は「内部の正当な従業員による善意の業務効率化」です。
流出形式：従来のファイルやDBダンプ（構造化データ）に対し、AI流出はプロンプトによる「非構造化テキストの断片」です。
既存DLPの有効性：静的パターンマッチングは、暗号化Web通信に紛れ、AI特有の言い換え（セマンティックな変化）を伴うプロンプトの前では完全に無効化されます。

不審なログインもマルウェアも存在しないため、従来の境界防御からは「正当な通常トラフィック」と見分けがつかないのです。

社内専用AIやRAG（検索拡張生成）にも重大な盲点が存在します。米Zscaler社のレッドチーム演習では、テストされた企業AIの「100%」に重大な脆弱性があり、最初の障害までの中央値はわずか「16分」でした。

入力層（Layer 1）：未承認ツールに入力された機密が再学習されるリスク（LLM02）。
検索層（Layer 2 / RAG）：社内文書をベクトルDB化する際、元のアクセス権限（ACL）が平坦化（消失）するリスク（LLM09）。権限のない一般社員が質問しただけで、役員限定の機密や給与データが引き出されてしまいます。
モデル層（Layer 3）：学習データの暗記や、外部文書から悪意ある指示を送り込む「プロンプトインジェクション」（LLM01）のリスク。