Все новости

OpenAI подтвердила: она, Anthropic и Google неделями договариваются о безопасности ИИ — и поддержала федеральный закон о внешнем аудите моделей

Материал подготовлен Sintelligent с помощью ИИ. Время публикации восстановлено по журналу сборки. . Обновлено: .

Лидеры ИИ сами строят правила для себя и готовы пустить внешних проверяющих — если отрасль договорится первой, она задаст темп и рамки, а не получит их сверху от чиновников.

Глава глобальной политики OpenAI Крис Лихейн подтвердил, что компания уже несколько недель обсуждает с Anthropic и Google DeepMind общие меры безопасности; по данным TechCrunch, три лаборатории готовят отраслевой орган по стандартам. Лихейн заявил, что для такой координации им «не нужны» антимонопольные исключения от государства. Одновременно OpenAI впервые поддержала федеральное требование обязательной независимой проверки: двухпартийный FRONTIER Act конгрессменов Джея Оберналти (R) и Лори Трахан (D) обязывает внешнюю организацию подтверждать, что протоколы безопасности крупнейших разработчиков удерживают «приемлемый уровень катастрофического риска», а также публиковать отчёты о моделях и сообщать об инцидентах. Весь законопроект целиком OpenAI не одобрила.

История

Призыв лабораторий замедлить ИИ и реакции на него

24 события
  1. Амодеи высмеяли в Saturday Night Live: «ИИ — это дьявол, а я его создатель»
  2. Цукерберг отверг общее замедление ИИ: «Не думаю, что нужна какая-то координация всей отрасли»
  3. 26 генпрокуроров штатов призвали Конгресс срочно обуздать ИИ и притормозить исследования до появления федерального регулятора
  4. Советник Папы по ИИ Паоло Бенанти: ведущие лаборатории ведут себя как картель, используя страх перед сверхинтеллектом
  5. New York Post: инсайдеры обвиняют OpenAI и Anthropic в раздувании историй о «сбежавших» ИИ ради выгодного регулирования
  6. Подписчики ChatGPT, Claude, Grok и Gemini подали антимонопольный иск: сговор лабораторий о замедлении ИИ назван картелем
  7. Mistral, Hugging Face и министр финансов Франции: призывы американских лабораторий замедлить ИИ — способ закрепить своё лидерство
  8. Google DeepMind открыла институт для публичного спора об AGI — с эссе о замедлении и проверке моделей
  9. Опрос Politico: 63% американцев считают, что ИИ может уничтожить человечество, почти половина за паузу
  10. Вице-президент США Вэнс лабораториям: «Если строите Франкенштейна — остановитесь», а не просите регулирования
  11. Фон дер Ляйен: ИИ скоро позволит взламывать всё — ЕС позовёт лаборатории обсудить замедление
  12. Бывший исследователь безопасности DeepMind: «ИИ может убить нас всех, и время на исходе»
  13. Дженсен Хуанг: «Нам не нужны новые законы» — безопасность ИИ это инженерная задача, а не юридическая
  14. Белый дом: угрозы от ИИ должен решать частный сектор, а не государство
  15. OpenAI подтвердила: она, Anthropic и Google неделями договариваются о безопасности ИИ — и поддержала федеральный закон о внешнем аудите моделейОткрыто сейчас
  16. Глава Cohere назвал совместное замедление крупных лабораторий «картелем»
  17. Microsoft опубликовала кодекс поведения для своих ИИ-моделей: не взламывать системы и не обманывать людей
  18. Китай назвал призывы американских ИИ-лидеров к замедлению «запугиванием», Си предложил странам БРИКС помощь с открытым ИИ
  19. Акции ИИ-компаний обвалились после призыва лидеров отрасли замедлиться: SoftBank −11%, индекс чипов −6%
  20. Трамп назвал призывы замедлить ИИ «больным заговором» в пользу Китая и напал на Амодеи, Хуанг пообещал «не допустить» замедления
  21. Наделла поддержал «осознанное замедление» ИИ и пообещал открыть свод правил для моделей Microsoft
  22. Глава Anthropic призвал отрасль сознательно замедлить рост возможностей ИИ — Альтман, Маск и Хассабис в тот же день согласились
  23. OpenAI спросила Конгресс, не нарушит ли антимонопольный закон договорённость лабораторий вместе замедлить ИИ
  24. OpenAI объявила, что ИИ уже работает у неё «стажёром-исследователем», а главный научный сотрудник в тот же день призвал индустрию притормозить
Подписаться в Telegram