Китайски компании използват отговори, код и решения на проблеми, създадени от водещи американски модели с изкуствен интелект, за обучение на по-малки китайски модели с изкуствен интелект.
Практиката се е преместила от академичните експериментални среди в масовата индустриална употреба, съобщи Ройтерс.
Информационната агенция основава своите открития на преглед на повече от 300 китайски академични статии, патенти, корпоративни оповестявания, обяви за наемане на работа и правителствени документи.
Още: Ефектът Nvidia: САЩ блокират индиректния достъп на Китай до чипове
Методът, наречен "дестилация", използва мощен модел на "учител" за генериране на отговори или задачи, които разработчиците след това използват за обучение на по-малък модел "ученик". Дестилацията не е незаконна и се използва и извън Китай. Тя не може да възпроизведе пълните възможности на водещ модел или да премахне необходимостта от усъвършенствана изчислителна мощ, но може да развие и съхрани избрани умения в по-малки и по-евтини системи.
Докладът идва малко след като Вашингтон предприе допълнителни мерки за ограничаване на достъпа на Китай до усъвършенствани чипове от компании като Nvidia и преди срещата на върха на Азиатско-тихоокеанското икономическо сътрудничество (АТИС) на 18-19 ноември в Шънджън, където се очаква президентът на САЩ Доналд Тръмп да се срещне с китайския лидер Си Дзинпин.

Източник: Getty Images
Какво е "дестилация"
Дестилацията на знания (knowledge distillation) е техника за машинно обучение, при която един по-малък и по-евтин модел се обучава да имитира поведението на голям, сложен и много по-мощен модел. Процесът често се нарича обучение тип "учител – ученик".
Процесът работи чрез изпращане на хиляди заявки. Разработчиците задават хиляди сложни въпроси, логически задачи или команди за писане на код на голям, вече обучен модел. Всички генерирани отговори и стъпки на разсъждение се записват и структурират в нова база данни. Тези готови, висококачествени отговори се използват като учебен материал за по-малък модел, който се настройва да дава същите резултати.
Това се прави с цел спестяване на хардуер и енергия. Обучението на голям модел от нулата изисква хиляди скъпи специализирани чипове и огромна изчислителна мощ. Дестилацията позволява на компании с ограничен достъп до такъв хардуер да постигнат сходни резултати много по-бързо. От значение е и по-ниска цена при работа. По-малките дестилирани модели изискват много по-малко ресурси, за да отговарят на потребителите, което ги прави значително по-евтини за поддръжка и внедряване.
Какво показват документите
Китайски компании са разработили софтуер за автоматизиране на събирането на данни от американски модели, а специализирани служители подготвят данните, използвани за обучение на по-малки китайски модели, гласят документите, прегледани от Ройтерс.
Бивш инженер от Alibaba Group коментира, че предимството на екипите с ограничени изчислителни ресурси е, че една скъпа заявка върши двойна работа - веднъж американски модел отговаря на труден въпрос, а след това китайският екип запазва примера за обучение на локална система.
Така например в статия от ноември 2024 г. става ясно, че изследователи от Шанхайския университет Джиао Тонг са избрали около 5000 отговора на модела o1 на OpenAI, превели са ги с GPT-4o mini и са създали 10 750 двуезични примера за обучение, за да обучават допълнително модела Qwen2.5-72B на Alibaba. Същите изследователи предупреждават обаче, че силната зависимост от дестилацията може да задуши оригиналните иновации и да остави разработчиците зависими от пробиви в по-модерните лаборатории.
Изследователи от Alibaba пък са описали по-систематичен подход в статия от април 2025 г., използвайки GPT-4 и GPT-4o за генериране на учебни материали на езици, различни от китайски, след което усъвършенствали и оценявали отговорите на по-малки Qwen модели.