OpenAI показала LASER — способ автоматически находить пограничные случаи для проверки безопасности чатов с 10 000-кратной экономией вычислений
Материал подготовлен Sintelligent с помощью ИИ. Время публикации восстановлено по журналу сборки. . Обновлено: .
Проверку безопасности чатов автоматизируют самим ИИ — аудиторов становится меньше, чем диалогов.
Система по очереди генерирует синтетические диалоги и берёт обезличенные реальные, обучает лёгкий классификатор на разметке рассуждающей модели и подбирает примеры у границы с 50% неопределённости, добавляя разнообразие. По заявлению OpenAI, это требует примерно в 10 тысяч раз меньше вычислений на проверку, чем случайная выборка, и сокращает работу специалистов по политике с нескольких итераций до часов; поиск по миллиардам диалогов идёт через приближённые скалярные произведения в векторной базе.
Источники 1