AIが脆弱性の発見から悪用まで自動化——GTIG報告の「.claude/settings.json改ざん」に、開発会社はリポジトリと保守契約をどう見直すか

AI開発・生成AI活用公開日:
徐 聖博
徐 聖博

株式会社シンシア 代表取締役社長

Share
目次開く
  1. 要点(事実のみ)
  2. 徐 聖博の見解
  3. AI コーディングツールの設定ファイルは「実行されるコード」になった
  4. パッチの差分から数日で攻撃が来る前提で、保守の時間軸を引き直す
  5. 開発を生業にする会社の事業判断にどう効くか
  6. まとめ

Google Threat Intelligence Group(GTIG)は2026年11月16日、Mandiant と共同でまとめた「GTIG AI Threat Tracker」の最新版を公開しました。攻撃者が AI を使って脆弱性の発見から悪用までを人手なしで自動化し始めたこと、そして侵入先の社内リポジトリで Claude Code の設定ファイル(.claude/settings.json)を書き換えてバックドアを仕込んだ事例が報告されています。この記事では報告の事実を整理したうえで、AI コーディングツールを日常的に使う開発会社が、リポジトリの扱いと保守契約をどう見直すべきかを論じます。

要点(事実のみ)

  • GTIG は、公開状態のステージングサーバー上で、複数のフロンティア LLM とローカル LLM を組み合わせた脆弱性調査・武器化フレームワーク「exploit_agent」を確認した。人気の Web アプリケーションについてパッチ公開前後のコードを継続的に比較し、脆弱性の候補を特定し、エクスプロイトを作成して、人手を介さずに自動で実行する構成だった。
  • GTIG の分析では、2026年1月から8月にかけて脆弱性の開示とエクスプロイトは全体でほぼ倍増した。ゼロデイの悪用は2025年の月平均8件から2026年は月11件へと小幅な増加にとどまったが、8月には22件に跳ね上がった。
  • 2026年8月下旬には PaperCut の印刷管理サーバーの脆弱性2件(CVE-2026-81578、CVE-2026-82078)がゼロデイとして悪用された。研究者と Huntress は開示から1日以内に LLM を使って動作するエクスプロイトを作成し、GreyNoise は開示の4日後に数百の組織を狙ったキャンペーンを報告した。最初の足場からドメイン管理者まで数分で到達したとしている。
  • 北朝鮮系と疑われるクラスター「MIDNIGHT NEPTUNE」は、北米と欧州の暗号資産関連組織への侵入で、社内のコードリポジトリにある .claude/settings.json を改ざんし、利用者が Claude Code を起動するとバックドア「SOMBERMEME」が自動でダウンロードされるようにした。横展開を隠すため、Microsoft Copilot にちなんだ名前の GitHub Personal Access Token も作成していた。
  • 盗んだクラウド認証情報で LLM サービスを無断利用する「LLMJacking」では、1日の不正請求が10万米ドルを超えた例や、対処までの累計が100万米ドルに達した例があった。

徐 聖博の見解

AI コーディングツールの設定ファイルは「実行されるコード」になった

今回の報告で私が最も重く見たのは、.claude/settings.json の改ざんです。脆弱性を突いたのではなく、開発者が毎日起動するツールの設定を書き換え、起動のたびに攻撃者のコードが動くようにしています。GTIG はこれを、AI エージェントが本来持っている実行フックを企業への侵入経路として悪用した例として位置づけています。

開発の現場では、AI コーディングツールの設定ファイルはエディタの設定と同じ感覚で扱われがちです。差分が出ても「ツールの設定が変わっただけ」としてレビューを素通りしやすい。しかし、起動時にコマンドを実行できる設定である以上、その中身はアプリケーションのコードと同じく実行されるものです。私自身、コードレビューを人と Claude の併用で回していますが、レビューの対象をアプリの差分だけに絞っていると、この経路は見落とします。

作る側として最初にやるべきことは単純で、.claude/ をはじめとする AI ツールの設定ディレクトリを、CI の設定ファイルやデプロイ用スクリプトと同じ扱いに格上げすることだと考えています。変更には必ずレビューを通し、変更できる人を絞り、意図しない変更が入ったら気づけるようにする。新しい仕組みは要らず、既にある「重要ファイルの保護」の対象に1行足すだけです。

パッチの差分から数日で攻撃が来る前提で、保守の時間軸を引き直す

もう1つの論点は時間です。exploit_agent はパッチの前後を比べて脆弱性を探し、エクスプロイトを書いて実行するところまでを自動で回していました。PaperCut の例では、開示から1日で動くエクスプロイトができ、4日後には数百の組織が狙われています。修正が公開された瞬間から、その差分自体が攻撃者にとっての手がかりになるということです。

受託開発の保守では、ライブラリやミドルウェアの更新を月次や四半期のまとまりで当てる運用がいまも一般的です。平時のコストを抑えるには合理的ですが、今回の報告が示す速度とは噛み合いません。私は、少なくともインターネットに公開している機能に関わる重大な修正については、「月次でまとめて当てる」と「数日以内に当てる」を分けて扱い、後者の手順を事前に決めておくべきだと考えています。

開発を生業にする会社の事業判断にどう効くか

この報告は、SIer や開発会社にとって技術の話である以上に、契約と体制の話だと私は捉えています。

1つ目は保守契約の書き方です。緊急のパッチ適用を「都度見積もり」にしていると、見積もりと発注の往復だけで数日が過ぎます。対象の範囲と、何日以内に当てるかの目安、その費用の扱いを、平時のうちに契約へ書いておく会社のほうが、発注側に説明しやすくなります。保守の単価が多少上がっても、その理由を攻撃の速度で説明できる時期に入ったと見ています。

2つ目は顧客のリポジトリを預かる側としての責任です。開発会社は複数の顧客のリポジトリにアクセスし、開発者の端末で AI コーディングツールを動かしています。1台の端末や1つのリポジトリの設定が書き換えられれば、影響は1社では済まない可能性があります。AI ツールの設定ファイルをレビュー対象にすることや、GitHub のトークンを用途ごとに作って権限を絞ることは、顧客に「どう守っているか」を聞かれたときに即答できる材料にもなります。

3つ目は、AI の API キーが「盗まれると請求が来る鍵」になったことです。LLMJacking で1日10万米ドルを超える不正請求が出ている以上、開発や検証のために発行した LLM の API キーやクラウドの認証情報は、利用上限と失効手順をセットで管理する必要があります。PoC 用に作った鍵が残り続ける危うさは、LiteLLM改ざん版1.107.0の攻撃経路——失効されなかった「実験用AIエージェントの鍵」が本番リリースを乗っ取った でも整理しました。

まとめ

AI による攻撃は、ツールを使って侵入を速めるところから、パッチの差分を読んで攻撃を組み立てるところ、さらに開発者が使う AI ツールそのものを侵入経路にするところまで進んでいます。開発会社にとっての実務上の結論は、AI ツールの設定ファイルを実行されるコードとしてレビューの対象に入れることと、重大な修正を数日以内に当てる手順と費用を保守契約に書いておくことの2点だと私は考えています。

AI エージェント型の侵入ツールに対して業務アプリ側で入れるべき上限と自動停止は AIエージェントによる侵入は最短15分——GTIG報告のARTEX悪用に、業務アプリを作る側が入れるべき「上限と自動停止」 で、AI エージェントが脆弱性を短時間で見つける時代の保守契約の考え方は EPICS Base 7.0.11の脆弱性4件——AIエージェントが4時間弱で見つけた制御系OSSの穴に、開発会社はどう備えるか で論じています。

出典: GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold(Google Threat Intelligence Group / Mandiant, 2026-11-16)

Share
徐 聖博のプロフィール写真

この記事の書き手に直接相談する

徐 聖博株式会社シンシア 代表取締役社長

記事の内容について、より具体的に自社のケースで聞きたいことがあれば、徐 聖博を指名してご相談いただけます。営業担当ではなく、 実際に手を動かしている本人が回答します。

この記事が役に立ったら、Google で優先表示を

Google 検索の「優先するソース」に blog.xincere.jp を追加すると、シンシアの新着記事がトップニュースなどで見つけやすくなります。

Google で優先ソースに追加

著者について

徐 聖博のプロフィール写真
徐 聖博
株式会社シンシア 代表取締役社長

株式会社シンシア(Xincere, Inc.)代表取締役。中国生まれ・3歳から日本で育ち、日本語・中国語・英語を操るトリリンガル。大学院でコンピュータサイエンス(進化型ニューラルネットワーク)を研究し、GREE・メドレー・カウンティア・Indeed Japan などで検索エンジン開発やスタートアップの立ち上げ・グロースを経験。2020年に「人の価値をテクノロジーで最大化する」という想いでシンシアを創業した。エンジニア歴15年以上、代表でありながらほぼ毎日コードを書く現役エンジニアとして、基幹システム開発からAIエージェント活用まで顧客の事業成長に並走している。創業に込めた思いはnoteの創業ストーリーに綴っている。

システム開発のご相談

業務システムの開発・既存システムの改修・AI導入の相談を無料で承っています。何を作るか決まっていない段階でも構いません。

開発の無料相談をする

人気記事