AI開発で問題になっている「蒸留」という手口とは

AIの世界の「蒸留」とはどんな手口なのか

AIの世界の「蒸留」とはどんな手口なのか / ※画像はイメージです。Credit: Generated by Codex (gpt-image), ナゾロジー編集部

お酒づくりの蒸留は、発酵させた液を熱して濃い蒸気を集め、冷やして強いお酒にする作業です。

AIの開発者はこの言葉を借りて、大きなAIの中身を小さなAIに煮詰めることを「蒸留」と呼んでいます。

元になる大きなAIは「先生」、新しく作るAIは「生徒」と呼ばれます。

開発者は先生に何千、何万という質問を投げ、その答えを生徒に手本として学ばせます。

答えの一つ一つには先生が学んだことが詰まっているため、生徒はデータ集めや人による評価といった手間を飛ばして、先生に似た力を身につけられるのです。

つまり、AIを使って答えをたくさん眺めるだけで、その中身をまねできてしまうというわけです。

小さなAIを作るための蒸留そのものはまっとうな技術で、2000年代にはすでに研究されていました。

問題になるのは、他社のAIを勝手に蒸留する場合です。

2025年初めには、中国のDeepSeekが30万ドル足らずで作ったとするAI「R1」について、OpenAIのAIから引き出した答えを学習に使ったのではという疑いが持ち上がりました。

DeepSeekなどはこうした非難を退けてきましたし、AnthropicやOpenAI自身も、ネット上のデータを許可なく学習に使ったと批判されたことがあります。

しかも先生のAIは、最後の答えだけでなく、答えごとの確率や、答える前にたどった考えの記録まで渡してしまうことがあります。

そこで大手各社は、この考えの道筋を暗号にした文の塊として利用者側に返し、次の質問のたびにそれを送り返してもらう仕組みをとっています。

中身の読めない封筒を、利用者に預けておくようなものです。