Reflect: COG2INSIGHT 20261119

「学習に使わない」と「別の目的で使わない」は別の約束 — 無料・格安のAIエージェントの誘いをセキュリティとアライメントの観点から整理する

米国のAI企業 Anthropic は、2026年9月10日に公表した脅威レポートで、一部のプロキシ(通信の中継)のネットワークが、利用者とAIのやり取りを他の研究機関に販売するために保存していると説明しました。Anthropic によると、こうした保存は、利用者が知らないまま、同意を得ずに行われることが多いとしています。

本記事では、AIサービスが掲げる「学習に使わない」という約束と、サービス提供者や中継事業者が入力を別の目的に使わないという約束を区別します。そのうえで、無料・格安のAIエージェントの誘いに乗った場合に生じる危険性を、セキュリティとアライメントの観点から整理します。本記事でのアライメントとは、AIが利用者の意図どおりに動くことです。

分析の根拠とする内容の参照元は、セキュリティ企業と研究者が公表した調査、AI企業の脅威レポート、各サービスが公開している規約とセキュリティのページです。出典を示した部分以外は、私の分析となります。

国内のAIサービス、中継事業者、非公式プラグインの事例は、サービス名を伏せて記載します。いずれも、公開されている規約やページを私が確認した事例です。規約の構造についての記述は、複数のサービスの規約に共通する点を一般化したものです。

目次

1. 「学習に使わない」が約束する範囲

「学習に使わない」は、AIモデルの提供元が入力を学習データにしないという約束です。サービス提供者が入力をどの目的に使うかは、別の約束で決まります。

利用者がAIサービスを使うとき、入力が通る事業者は少なくとも2者あります。AIモデルを提供する事業者と、そのモデルを使ってサービスを提供する事業者です。無料・格安のツールでは、この間に中継事業者や非公式プラグインの作者が入る場合があります。

事業者 利用者との間の約束の例 その約束では決まらないこと
AIモデルの提供元 API の規約で、送信データを学習に使わないと定める サービス提供者の利用目的
サービス提供者 プライバシーポリシーで利用目的を定める 委託先の名前、学習以外の用途の範囲(記載がない場合)
経路上の事業者(中継事業者、非公式プラグインの作者) 利用者との約束がない場合がある 入力の保存、販売、別のモデルへの送信

リードで示したプロキシのネットワークは、表の「経路上の事業者」に当たります。AIに関する分析サイト The Weather Report も、中継サービスの運営者のサーバーにはすべてのプロンプトと応答が記録されるとしています。正規のモデル提供元が「学習に使わない」という約束を守っていても、経路上の事業者は入力を別のモデルの学習用に販売できる状態です。

国内のあるAIサービスは、セキュリティのページで、顧客データをAIモデルの学習に使わないとしています。送信データを学習に使わない規約のAIサービスだけを使い、AIの提供元は不正利用の監視のために最大30日間データを保持する場合があるとしています。

同じ運営会社のプライバシーポリシーは、利用目的に「当社サービスの改善・新規開発」と「各種サービスの提案・情報提供・広告配信」を挙げています。個人情報の取扱いを第三者に委託することがあるとしていますが、委託先の名前は記載していません。

この2つの記載から、AIモデルの学習に使わないことと、運営会社が入力をサービスの改善や営業に使わないことは、別の約束だと読み取れます。ただし、このプライバシーポリシーは運営会社の全事業に適用するもので、このサービス固有の規約は確認できていません。

国内のAIサービスの規約では、入力の扱いが、AIモデルの学習に使うかを定める条項と、学習以外の自社の目的に使うかを定める条項に分かれている例が見られます。学習以外の目的には、サービスの改善や障害の調査、匿名化・統計化したうえでの新機能の開発、不正利用の監視やサポートのための保持と担当者による確認があります。接続先の外部のAIでの扱いを、外部のAI事業者の規約に任せる規約もあります。

「学習に使わない」の対象にも区別があります。ある国内のAIサービスの規約は、組み込んでいる外部のAIの学習にはユーザーデータを使わないとしています。一方で、データの利用目的には「当社のAIエージェントの学習及びチューニング」を含めています。

同じ規約は、生成物が自社のAIエージェントの学習などに使われた場合、反映された部分は技術的に復元や削除ができず、利用者はそれを承諾するとしています。別の国内のAIサービスの規約も、組み込んだ第三者のAIの学習にはデータを使わせないとしつつ、個別契約で禁止しない限り、自社のAIの学習と改善に使えるとしています。

「学習に使わない」が外部のAIについての約束であれば、サービス提供者自身のAIの学習は否定していないと読み取れます。利用者は、記載の有無だけでなく、どの事業者のAIモデルの学習に使わないのかを確認する必要があります。

2. 集めた情報から組織の意図が分かること

1件ずつは機密でない情報でも、1か所に集めると、組織が何を目指し、何を判断したかが分かります。OSINT(公開情報を使った情報収集と分析)では、断片を組み合わせると全体が判明することを、モザイク効果と呼びます。

AIサービスの中には、会社のゴール、決定事項、経緯、議事録、顧客管理を1か所にまとめ、外部のAIエージェントに読み書きさせるものがあります。前述の国内のAIサービスも、この設計を採用しています。

このようなサービスでは、ゴールと経緯がつながるため、組織の事業計画と、検討して採用しなかった案も分かる状態になります。私は、利用者が「便利になる」という理由で、組織の意図が分かる情報の集まりを第三者の管理下に移すことになると考えています。

フリーランスや受託開発者の場合は、クライアントとの秘密保持契約も考慮が必要です。契約の対象になる情報を外部のサービスに入力すると、契約上の第三者への開示に該当する可能性があります。該当するか否かは、契約の文面によります。

2026年2月には、ある業務用のクラウドサービスの規約が、アップロードされたデータを機能改善や精度向上に使うとしている点をめぐり、弁護士の間で議論がありました。この議論を整理した弁護士の世古修平氏の記事によると、個人情報保護法の観点では、利用者が使っているプロダクトの改善やAI機能の学習は、個人データの取扱いの委託の範囲内と評価できるとしています。利用者が使っていないプロダクトの改善や学習は、委託の範囲を超えるとしています。

秘密保持契約については、弁護士の間でも見解が分かれています。世古氏の記事によると、大井哲也氏は違反にならないという見解です。水野祐氏は、秘密情報をファインチューニングの範囲で使うことはあり得るが、AI事業者のモデルの学習まで合理的に解釈するのは難しいとしています。個別の契約が該当するか否かは、弁護士への確認が必要です。

3. 無料・格安をうたうAIツールの種類と特徴

公表された調査と公開されたページから確認できた無料・格安のAIツールには、中継事業者、非公式プラグイン、正規のツールを装うパッケージ、偽のアクセラレーターがあります。いずれも、1章の表の「経路上の事業者」に当たるという特徴があります。

中継事業者

中継事業者とは、利用者とAIモデルの提供元の間に入り、AIの利用を公式より安く再販する事業者です。中国語では「中转站」と呼ばれます。

The Weather Report によると、中継サービスの取引の多くは GitHub の外で行われ、WeChat や Alipay で決済されます。サポートには QQ のグループ、販売には中古品の売買サイト「閑魚(Xianyu)」が使われるとしています。

日本語の宣伝もあります。ある中継事業者は、日本語でAIエージェントの解説記事を公開し、設定の手順の中で自社の接続先を標準の例として提示しています。この記事には、運営会社の名前と所在地が記載されていません。

この解説記事が扱っているのは、中国のAI企業 DeepSeek が2026年8月13日に公開したAIエージェントの実行基盤「DeepSeek Harness」です。DeepSeek Harness は無料で、モデルの接続先を利用者が変更できる設計です。

分析サイト Capital and Compute によると、DeepSeek は公開の3日後に API の料金を改定しました。deepseek-v4-pro のキャッシュされた入力の料金は、混雑時間帯に100万トークンあたり0.003625ドルから0.044ドルに変更されています。

接続先を変更できる設計と公式の値上げが重なったことで、「自社の接続先を使えば安い」という宣伝が成立しやすくなったと読み取れます。

非公式プラグイン

DeepSeek Harness の非公式プラグインをまとめたサイトには、DeepSeek や Kimi のモデルを、ログインも APIキーもなしで「完全に無料で無制限」に使えるとするプラグインが掲載されています。このプラグインの説明には、どの事業者のモデルに接続するのかが記載されていません。

同じサイトには、ChatGPT や Claude のサブスクリプションのアカウントを使うプラグインや、複数のアカウントを順に切り替えるプラグインも掲載されています。このサイトは、DeepSeek とは関係のないコミュニティの運営だとしています。

正規のツールを装うパッケージ

npm(JavaScript のパッケージの配布サービス)では、AIコーディングツールを装うパッケージが確認されています。セキュリティの研究チーム codelake によると、1人の公開者が、人気のAIコーディングツールを装う5つのパッケージを公開していました。

パッケージ名の1つ「codebuff-cli」は、無料のAIコーディングエージェントを提供している実在の事業者 Codebuff の名前を使っていました。無料の正規のツールが知られると、その名前を使う偽物が作られるという構図が読み取れます。

ソフトウェアのサプライチェーンのセキュリティ企業 Xygeni によると、Claude Code の改変版も npm で配布されていました。改変版は宣伝どおりに動作するため、利用者には異常に気付く手がかりがないとしています。改変版が取得した情報は、4章の表に示します。

偽のアクセラレーター

アクセラレーターとは、創業間もない企業に資金や支援を提供する事業者です。セキュリティのニュースサイト GBHackers は2026年10月13日、Web3 のベンチャーキャピタルのアクセラレーターを装う攻撃を報じています。

報道によると、運営者は暗号資産の初期の企業や開発者に、Claude と Gemini の無料クレジット、AIコーディングツール、スマートコントラクトの監査を提供すると持ちかけました。配布されたツールは npm のパッケージで、AIコーディングアシスタントとして紹介されていました。

4. セキュリティの観点で起こること

経路に入った事業者は、利用者の認証情報、ソースコード、入力した内容を取得できます。公表された事例で確認できたものは、次の表のとおりです。

取得されるもの 事例 参照元
LLM の APIキー、ソースコード、プロンプト AIコーディングツールを装う npm のパッケージが、通信を攻撃者のサーバーに中継した codelake
暗号化された通信の内容 Claude Code の改変版が独自の証明書を導入し、攻撃者のサーバーで通信を復号できる状態にした Xygeni
他のツールの通信 Claude Code の改変版が設定ファイルの ANTHROPIC_BASE_URL を攻撃者のドメインに書き換えた Xygeni
電話番号とパスワード 同じ改変版が、偽のログイン画面で取得した Xygeni
端末の操作 リポジトリの隠しフォルダにある tasks.json により、フォルダを開くだけで処理が始まった Proofpoint(@IT の報道)

Xygeni によると、ANTHROPIC_BASE_URL を書き換えられると、この環境変数を参照するすべてのツールの通信が攻撃者のドメインに送信されるとしています。利用者が試したのは1つのツールでも、影響は同じ端末の他のツールに波及すると読み取れます。

Proofpoint の分析を伝えた @IT の記事によると、エディタ「Cursor」では信頼確認の画面が表示されず、フォルダを開くだけで処理が始まるケースが確認されたとしています。「試してみる」ことは、利用者の端末で第三者のコードを実行することと同じです。

私は、無料・格安の誘いで最も考慮が必要な点は、ツールを1回試すだけで、そのツールに付与した権限の範囲すべてを第三者が利用できる状態になることだと考えています。AIエージェントは、ファイルの編集、コマンドの実行、外部のサービスへの接続を利用者の権限で行うためです。

5. アライメントの観点で起こること

経路上に別の事業者が入ると、AIエージェントは利用者の意図ではなく第三者の指示で動く場合があります。また、利用者が想定したモデルとは別のモデルが応答する場合があります。

第三者の指示で動くエージェント

MCP とは、AIエージェントが外部のツールやデータに接続するための共通の仕様です。GBHackers によると、偽のアクセラレーターが配布したツールは、攻撃者の管理する MCP サーバーを常時登録していました。

このサーバーは、ツールの説明とプロンプトの指示を AIエージェントに提供できたとしています。運営者は LLM へのリクエストを観測し、その後のツールの使用に影響を与えられる構成だったとしています。

第三者の指示は、4章で示したエージェントの権限の範囲で実行されると読み取れます。利用者から見ると、エージェントは通常どおりに作業しているように表示されます。

表示と異なるモデルの応答

ドイツの研究機関 CISPA Helmholtz Center for Information Security の研究者は、2026年3月、非公式の中継API(シャドーAPI)を調べた論文を公開しました。論文によると、研究者は学術論文で使われていた17のシャドーAPIを特定し、そのうち3つを詳しく調べました。

調べたシャドーAPIでは、公式の API との性能の差が最大 47.21% あり、安全面の挙動も大きく予測できなかったとしています。モデルの識別テストでは、45.83% で宣伝どおりのモデルであることを確認できなかったとしています。

The Weather Report は、中継サービスの運営者が安価な別のモデルで応答し、料金の差額を得る仕組みだと説明しています。

Anthropic によると、中国のAI企業 Moonshot AI は、10日間で約30万件の顧客のリクエストを Claude に中継しました。中継には5380の不正なアカウントが使われ、その多くはシンガポールと日本にあるように見えたとしています。Moonshot AI のAI「Kimi」の利用者は Kimi のモデルを使っているつもりで、実際には Claude の応答を受け取っていたとしています。

利用者は、応答したモデルにどの安全対策が適用されているかを確認できません。私は、応答したモデルの提供元が利用者の想定と違えば、利用者が確認した「学習に使わない」という約束も適用されない可能性があると考えています。

セキュリティとの関係

私は、セキュリティとアライメントの危険性は、同じ事象を別の面から見たものだと考えています。認証情報が取得されれば、第三者がエージェントを操作できます。エージェントが第三者の指示で動けば、さらに認証情報を取得できます。

6. 導入前の確認事項

確認する事項は、規約、通信経路、権限、運営体制、契約に分類できます。私は、表の事項を確認できないツールには、組織の意図が分かる情報や秘密保持契約の対象の情報を入力しないことを提案します。

分類 確認する事項 確認する理由
規約 「学習に使わない」の対象 AIモデルの提供元だけか、サービス提供者自身の分析や機能改善も含むかを区別するため
規約 「学習に使わない」の対象が外部のAIか、自社のAIか 外部のAIの学習には使わないとしつつ、自社のAIの学習に使う規約があるため
規約 利用目的の範囲 サービスの改善、新規開発、広告配信に入力の内容が含まれるかを確認するため
規約 自社都合の利用の対象が入力内容か利用ログか 改善や統計化の対象が、入力した文章そのものを含むかを区別するため
規約 人による閲覧の条件 学習に使わない場合でも、不正監視や障害調査で担当者が内容を確認できる規約があるため
規約 保持期間と削除 退会後にデータが削除される時期と、AIの提供元が保持する期間を確認するため
規約 事業譲渡・合併時の扱い 運営会社が変わった場合に、従来の約束が引き継がれるかを確認するため
規約 FAQ・営業資料と規約本文の一致、旧版の規約の有無 FAQと規約本文が食い違う例や、別のURLに旧版の規約が残っている例があるため
通信経路 委託先の一覧 どのAI、どのクラウド、どの国の事業者が入力を処理するかを確認するため
通信経路 接続先の外部のAIごとの規約 自社では学習に使わないとしつつ、外部のAIでの扱いは外部のAIの規約に任せる規約があるため
通信経路 接続先の Base URL 通信の送信先が正規のモデル提供元のドメインかを確認するため
通信経路 表示されたモデルと応答するモデルの一致 中継サービスでは、宣伝と異なるモデルが使われた事例があるため
通信経路 配布元と公開者 パッケージの公開者が、ツールの開発元と一致するかを確認するため
権限 読み取りだけか、書き込みも許可するか エージェントが第三者の指示で動いた場合の影響の範囲を限定するため
権限 実行する端末とフォルダ 業務用の端末や、認証情報を保存したフォルダで試さないため
運営体制 第三者認証の有無 ISMS、SOC 2 などを取得していない場合に、代わりにどの資料を提示するかを確認するため
運営体制 運営会社の名前と所在地 問題が発生した場合に、どの国のどの事業者に対応を求めるかを確認するため
契約 秘密保持契約との関係 クライアントとの契約で、外部サービスへの入力が許可されているかを確認するため

7. まとめ

無料・格安の誘いの文面からは、送信者が正規の事業者か、中継事業者か、攻撃者かを利用者が判定できません。判定できない場合でも、どの情報を、どの経路で、どの事業者に提供するかは、利用者が決められます。

私は、「学習に使わない」という記載を確認した時点で、利用目的と経路を確認することを提案します。便利さと引き換えに提供するのは入力した文章だけではなく、組織の意図と、エージェントに付与した権限だと考えているためです。

参照元

関連記事の一覧