2026年11月20日、OpenAIは、AIモデルの非公開の推論を不正に取り出そうとする攻撃への対策を公表しました。狙われるのは、AIが答えにたどり着くまでに内部で生成する、通常は公開されない情報です。
OpenAIの内部テストでは、以前のリクエストで生成された推論を取り出す攻撃の成功率が、54.0%から0.2%に低下しました。ただし、比較しているのは従来のGPT-6 Astraと、防御を更新したGPT-6.2 Astra。特定条件での評価結果であり、すべての攻撃を防げるという意味ではありません。
「思考を盗む」と聞くと、私たちのChatGPTの会話が流出したのかと心配になりそうですが、今回の発表は別の問題です。何が狙われ、なぜ危険で、一般ユーザーにはどんな影響があるのかを整理します。
「AIの思考を盗む」とはどういうこと?

ChatGPTのようなAIは、難しい質問に答える際、途中の計算や判断にあたる「内部推論」を生成することがあります。OpenAIは、この非公開の推論の記録を「保護対象の推論(protected reasoning)」と呼んでいます。
通常、利用者が見る最終回答や短い推論の要約と、内部で使われた推論の記録そのものは別物。攻撃者はAIとのやり取りを悪用して、本来は見せないはずの内部推論を取り出そうとします。
ここで登場するのが「蒸留(じょうりゅう)」という技術。あるAIの回答や判断などを別のAIの学習に使う手法で、技術そのものは普通に使われています。問題になるのは、許可なくAIの能力を複製し、安全対策が十分でない別のモデルを作ろうとする「敵対的蒸留」です。

たとえるなら、答えだけじゃなくて、答えを出すまでの詳しい手順まで持ち出そうとするイメージ。ただし、人間の頭の中を読めるという話ではないよ。
なぜ内部推論を盗まれると危険なの?
OpenAIが特に問題視しているのは、高度なAIの能力だけが、安全対策を伴わずに別のAIへ移る可能性です。たとえば、元のAIが危険な依頼を断る仕組みを備えていても、その知識や能力を学んだ別のAIが同じ制限を持つとは限りません。
OpenAIは、AIの詳しい内部推論を使って学習させたモデルと、通常見られる回答・推論要約などを使って学習させたモデルを比べる研究も実施。サイバーセキュリティ分野の一部の評価では、詳しい内部推論から学んだモデルの方が高い成績を示しました。ただし、条件によっては要約から学んだモデルが上回る結果もあり、常に前者が強いと証明されたわけではありません。
つまり、問題はOpenAIの企業秘密だけではありません。AIの高度な能力が、防御の弱いモデルに引き継がれることで、危険な用途に使われやすくなる点が懸念されています。
攻撃成功率はどのくらい下がった?
OpenAIは、攻撃方法を変えながら試す自動テストで、次の結果を報告しています。数字は「AIの非公開の推論を取り出せた割合」で、低いほど防御できたことを示します。
| 狙われた情報 | GPT-6 Astra (従来の防御) | GPT-6.2 Astra (更新後の防御) |
|---|---|---|
| 以前のリクエストの内部推論 | 54.0% | 0.2% |
| 現在のリクエストの内部推論 | 22.9% | 0.9% |
出典:OpenAI公式発表(2026年11月20日)。6種類の攻撃用モデルを用いた、適応型ブラックボックス評価の集計値。
「適応型」は、攻撃側がAIの反応を見て次の試し方を変えること。「ブラックボックス」は、攻撃側がAIの内部構造を直接見られない条件を意味します。
ここは数字の見方に注意。旧モデルと新モデルではモデル自体も防御策も異なります。54.0%から0.2%への変化を、ひとつの対策だけの効果と考えることはできません。また、通常のChatGPT利用中に54%の確率で会話が漏れるという意味でもありません。
OpenAIが強化した4つの防御策
今回の対策は、何かひとつの機能を追加したという話ではありません。OpenAIは複数の防御を重ねていると説明しています。
- AIに不正な要求を見分けさせ、非公開の推論を出さないよう訓練する
- 入力内容や出力内容を検査し、推論が漏れそうな場合にブロックする
- APIで、暗号化された推論を別の会話や別モデルへ不正に持ち込めないようにする
- 多数のアカウントを使う組織的な収集活動を調査し、規約違反には対処する
GPT-6.2 AstraとSolのAPIでは、保護対象の推論を、その推論が生まれた会話履歴と結び付ける仕組みも採用。以前のメッセージを書き換えた場合には、その後の推論情報を引き継がないようにしています。防御の一部は従来のGPT-6 Astraにも適用を進めているとのこと。
普通のChatGPTユーザーへの影響は?
今回の発表は、一般ユーザーに設定変更を求めるお知らせではありません。新しい料金プランや便利機能の追加ではなく、AIの内部情報を守るための安全対策に関する報告です。
また、OpenAIが2026年9月に公表した別の組織的な蒸留事件については、データベースへの侵入や、保存済みのユーザー会話への直接アクセスが起きたわけではないと説明されています。この説明は9月の事件に関するもので、あらゆる情報流出リスクがゼロという意味ではありません。
今回名前が出てくるGPT-6.2 Astra/Solについては、モデルの違いや使い方、提供場所をまとめたミナ研の記事でも解説しています。
私たちが普段使う際は、今回の発表を理由に慌てて何かを変更する必要はなさそうです。ただし、個人情報や仕事の機密情報を入力するときは、これまでどおりサービスのデータ設定や利用条件を確認しておきましょう。
まとめ:AIの能力を守ることは、安全対策を守ることでもある
OpenAIが発表したのは、AIの非公開の推論を不正に取り出す攻撃への防御強化です。特定の内部テストでは攻撃成功率が大幅に下がり、複数の防御策を組み合わせて対処していることが分かりました。
私が今回いちばん重要だと思ったのは、AIの賢さだけがコピーされても、危険な使い方を断る安全対策までコピーされるとは限らないという点。AIが高性能になるほど、能力の流出を防ぐことも重要になっていきそうです。
出典:OpenAI「Combatting adversarial distillation」(2026年11月20日)/OpenAI「組織的なモデル蒸留活動の阻止」(2026年9月30日)





















































コメント