Западные стартапы адаптируют открытые китайские модели для местных компаний
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Открытые веса позволяют адаптировать одну базовую модель к разным правилам и культурам, но такая настройка меняет не только безопасность, и то, чью норму пользователь получает в ответах.
Hirundo редактирует веса открытых моделей, чтобы менять ответы на политически чувствительные темы и снижать риски кибератак и опасных знаний. Lazarus AI сняла обязательную цензуру с вариантов Qwen: темы определили по утёкшим правилам, а ответы для переобучения генерировала Gemini Flash. Бывший главный научный сотрудник Эрик Хартфорд сообщил, что ReAligned развёрнут примерно в десятке американских компаний. Hirundo называет задачей адаптацию к требованиям западных заказчиков, а не создание антикитайской модели. Исследовательница Ориане Питер возражает, что универсально безопасная или «западная» настройка невозможна: выравнивание зависит от культуры и применения, а единый центр может создавать когнитивную однородность. Грэм Уэбстер из DigiChina отмечает, что для обычных задач вроде сайта кофейни политическая настройка часто не имеет практического значения.
Источники 1