Все новости

Фон дер Ляйен: ИИ скоро позволит взламывать всё — ЕС позовёт лаборатории обсудить замедление

Материал подготовлен Sintelligent с помощью ИИ. Время публикации восстановлено по журналу сборки. . Обновлено: .

Евросоюз впервые на высшем уровне признал, что ИИ стал силой масштаба кибероружия, — но вместо гонки выбирает роль наблюдателя с тормозом, фактически оставляя передний край прогресса другим.

В ежегодном послании «О положении Союза» глава Еврокомиссии заявила, что разрабатываемые сейчас модели «позволят взламывать на уровне, который мы считали невозможным», и скоро окажутся у противников; в пример она привела инцидент OpenAI с Hugging Face и самоулучшающиеся модели. Она пообещала пригласить ведущие ИИ-лаборатории обсудить, как ЕС может поддержать их собственные усилия по замедлению, и объявила совместную с Канадой и Великобританией работу над оценкой моделей и системой раннего предупреждения. Там же анонсирован Kids Act — запрет соцсетей до 13 лет с обязанностью платформ доказывать безопасность, — и «Закон о качественных рабочих местах» из-за неравномерного эффекта ИИ. При этом тон сменился: Европе, по её словам, не обязательно самой строить передовой ИИ, чтобы получать от него выгоду.

История

Призыв лабораторий замедлить ИИ и реакции на него

24 события
  1. Амодеи высмеяли в Saturday Night Live: «ИИ — это дьявол, а я его создатель»
  2. Цукерберг отверг общее замедление ИИ: «Не думаю, что нужна какая-то координация всей отрасли»
  3. 26 генпрокуроров штатов призвали Конгресс срочно обуздать ИИ и притормозить исследования до появления федерального регулятора
  4. Советник Папы по ИИ Паоло Бенанти: ведущие лаборатории ведут себя как картель, используя страх перед сверхинтеллектом
  5. New York Post: инсайдеры обвиняют OpenAI и Anthropic в раздувании историй о «сбежавших» ИИ ради выгодного регулирования
  6. Подписчики ChatGPT, Claude, Grok и Gemini подали антимонопольный иск: сговор лабораторий о замедлении ИИ назван картелем
  7. Mistral, Hugging Face и министр финансов Франции: призывы американских лабораторий замедлить ИИ — способ закрепить своё лидерство
  8. Google DeepMind открыла институт для публичного спора об AGI — с эссе о замедлении и проверке моделей
  9. Опрос Politico: 63% американцев считают, что ИИ может уничтожить человечество, почти половина за паузу
  10. Вице-президент США Вэнс лабораториям: «Если строите Франкенштейна — остановитесь», а не просите регулирования
  11. Фон дер Ляйен: ИИ скоро позволит взламывать всё — ЕС позовёт лаборатории обсудить замедлениеОткрыто сейчас
  12. Бывший исследователь безопасности DeepMind: «ИИ может убить нас всех, и время на исходе»
  13. Дженсен Хуанг: «Нам не нужны новые законы» — безопасность ИИ это инженерная задача, а не юридическая
  14. Белый дом: угрозы от ИИ должен решать частный сектор, а не государство
  15. OpenAI подтвердила: она, Anthropic и Google неделями договариваются о безопасности ИИ — и поддержала федеральный закон о внешнем аудите моделей
  16. Глава Cohere назвал совместное замедление крупных лабораторий «картелем»
  17. Microsoft опубликовала кодекс поведения для своих ИИ-моделей: не взламывать системы и не обманывать людей
  18. Китай назвал призывы американских ИИ-лидеров к замедлению «запугиванием», Си предложил странам БРИКС помощь с открытым ИИ
  19. Акции ИИ-компаний обвалились после призыва лидеров отрасли замедлиться: SoftBank −11%, индекс чипов −6%
  20. Трамп назвал призывы замедлить ИИ «больным заговором» в пользу Китая и напал на Амодеи, Хуанг пообещал «не допустить» замедления
  21. Наделла поддержал «осознанное замедление» ИИ и пообещал открыть свод правил для моделей Microsoft
  22. Глава Anthropic призвал отрасль сознательно замедлить рост возможностей ИИ — Альтман, Маск и Хассабис в тот же день согласились
  23. OpenAI спросила Конгресс, не нарушит ли антимонопольный закон договорённость лабораторий вместе замедлить ИИ
  24. OpenAI объявила, что ИИ уже работает у неё «стажёром-исследователем», а главный научный сотрудник в тот же день призвал индустрию притормозить
Подписаться в Telegram