Google DeepMind выпустила Gemini Robotics 2.5 и открытый бенчмарк безопасности ASIMOV-Jailbreak
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Роботы с языковыми моделями прошли испытания на реальных заводах с успешностью 96%, и вместе с ростом умений появляется общий способ измерять, насколько их трудно склонить к опасным действиям.
DeepMind выпустила новую версию системы управления роботами Gemini Robotics 2.5. По данным компании, успешность выполнения задач выросла на 30–100% относительно прошлой версии, скорость — на 20–30%, при этом модель заметно лучше работает с мелкими точными движениями: гуманоид Apptronik Apollo 2 завязывает бант, модель справляется с подачей еды щипцами и работой с пипеткой. В испытаниях вне лаборатории роботы Apollo 2 на заводах Mercedes-Benz в Европе комплектовали автодетали с успешностью 96% — для промышленного применения этого пока мало, отмечают в DeepMind. Симуляционное окружение для обучения генерировалось с помощью Gemini 4 Argon, но сама модель работает на облачных серверах, то есть с задержкой. Для проверки безопасности выложен открытый набор ASIMOV-Jailbreak: 1500 промптов, провоцирующих робота на небезопасные действия; с Argon в контуре система отражает 98,8% атак. Модель доступна партнёрам — Agile Robots, Apptronik и Boston Dynamics.
Источники 1