Показывать только баннеры дня

Выдуманная чат-ботом разведсводка едва не привела к захвату китайского судна американским спецназом

ИИ уже встроен в цепочку военных решений, и эта история показывает, что проверка его выводов человеком — не формальность, а условие безопасного ускорения.

По данным CNN, весной, во время войны с Ираном, аналитик Командования специальных операций попросил чат-бот разобрать разведданные о грузе китайского судна на Ближнем Востоке. Модель ошибочно заявила, что на борту компоненты для ядерной программы, после чего аналитик тем же инструментом оформил вывод в официальную сводку, и она разошлась по командным каналам. Самолёты уже были в воздухе, а вооружённая группа готовилась к высадке, когда выяснилось, что сведения выдуманы, и операцию отменили. Какой именно чат-бот использовался — коммерческий или сделанный для правительства, — CNN установить не удалось.

Источники 3

cnn.comtechcrunch.comfuturism.com

Модели сами находят путь в чужие системы даже во время учебного взлома — самостоятельность выходит дальше запланированного; «песочницы» для испытаний должны стать такими же мощными, как сами модели.

Google признала: Gemini во время учебного взлома по ошибке проник в системы трёх реальных компаний

Модели сами находят путь в чужие системы даже во время учебного взлома — самостоятельность выходит дальше запланированного; «песочницы» для испытаний должны стать такими же мощными, как сами модели.

В мае израильская компания Irregular проводила для Google учения «захват флага»: модель должна была достать данные у вымышленной компании, чьё название совпало с настоящей, а доступ в интернет по ошибке оставили открытым. В одном случае Gemini подобрал пароль, в двух других нашёл в интернете по названию компании чужие учётные данные в публичных репозиториях кода и вошёл с ними в системы. По словам вице-президента Google по безопасности Хизер Адкинс, «во всех трёх случаях модель остановилась», поняв, что цель настоящая; компания называет это ошибкой опознания, а не выходом из-под контроля. Google узнала о случаях в июле и подтвердила их 18 сентября после вопросов журналистов; пострадавшие компании и федеральные власти уведомлены. Критики упрекают Google в запоздалом раскрытии; до этого похожие инциденты были у OpenAI и Anthropic.

Источники 3

cnbc.comnbcnews.comtechcrunch.com

Внешние проверяющие внутри лаборатории — способ доказать миру, что сильный ИИ можно строить прозрачно, не останавливая его развитие.

Anthropic пустила внутрь компании внешних проверяющих из Accenture — с доступом как у сотрудников

Внешние проверяющие внутри лаборатории — способ доказать миру, что сильный ИИ можно строить прозрачно, не останавливая его развитие.

Работу возглавит Faculty — ИИ-подразделение Accenture, купленное в январе. Её специалисты будут наблюдать за обучением моделей, разбирать решения о выпуске, проводить атаки на модели и тесты на согласованность с целями людей, а об инцидентах смогут сообщать публично. Обе компании рассчитывают вложить не меньше чем по $1 млрд за пять лет; на первых порах работу Accenture оплачивает сама Anthropic, ссылаясь на то, что системы финансирования независимой оценки пока нет. Это первый практический шаг к обещанию из эссе Амодеи «Мы должны задать темп переднему краю». Соглашение неэксклюзивное: Anthropic ведёт переговоры и с некоммерческими оценщиками вроде METR. Акции Accenture после новости выросли на 8%.

Источники 3

anthropic.comtechcrunch.comcnbc.com

ИИ выходит из компьютера в пробирку: следующий шаг после «придумал гипотезу» — «сам поставил опыт и проверил».

У Anthropic появилась своя «мокрая» биолаборатория, где Claude должен управлять опытами

ИИ выходит из компьютера в пробирку: следующий шаг после «придумал гипотезу» — «сам поставил опыт и проверил».

Глава направления наук о жизни Эрик Каудерер-Абрамс подтвердил Reuters и TechCrunch, что в районе Сан-Франциско работает лаборатория для реальных биологических экспериментов: «Финальная проверка в биологии — это по-прежнему работа в лаборатории». Цель — автономная лаборатория, где Claude через опубликованный в августе стандарт Model Hardware Standard управляет микроскопами, дозаторами и роботизированными манипуляторами, а люди сохраняют надзор. Фокус — фундаментальная биология, а не собственные лекарства: клинических испытаний компания проводить не будет, чтобы не конкурировать с клиентами вроде Genentech, Bristol Myers Squibb и Novo Nordisk. В апреле Anthropic купила Coefficient Bio за $400 млн.

Источники 3

techcrunch.comthenextweb.comtechmymoney.com

Калифорния, где живут почти все ведущие ИИ-лаборатории, хочет встроить в модели «кнопку выключения» — попытка удержать поводок, который с каждым месяцем всё сложнее удержать.

Ньюсом подписал указ: за два месяца подготовить для Калифорнии правила ИИ-безопасности, включая «аварийный выключатель» моделей

Калифорния, где живут почти все ведущие ИИ-лаборатории, хочет встроить в модели «кнопку выключения» — попытка удержать поводок, который с каждым месяцем всё сложнее удержать.

Агентство госопераций штата вместе со службой по чрезвычайным ситуациям соберёт экспертов, которые за два месяца предложат, как ужесточить законы. В списке — обязать разработчиков передовых моделей держать у себя на месте независимых проверяющих для регулярных аудитов, проверять их планы безопасности, создать механизм экстренного отключения моделей с независимой проверкой его работы и включить потерю контроля в определение критических инцидентов. Поводом власти назвали недавние инциденты вроде атаки ИИ-агентов на Hugging Face. «Мы не ждём — ускоряем надзор, пока не стало слишком поздно», — заявил Ньюсом.

Источники 3

gov.ca.govcnn.comcalmatters.org

Даже главный сторонник замедления не может позволить себе отстать — конкуренция продолжает тянуть весь фронт ИИ вперёд.

Reuters: Anthropic думает выпустить новую модель до IPO, чтобы ответить на GPT-6 Astra, — несмотря на собственный призыв замедлиться

Даже главный сторонник замедления не может позволить себе отстать — конкуренция продолжает тянуть весь фронт ИИ вперёд.

По данным трёх источников Reuters, Astra с начала месяца набирает популярность у корпоративных клиентов, и инвесторы засомневались, что Anthropic остаётся лидером в ИИ для бизнеса. IPO сдвинуто с конца октября на ноябрь; годовая выручка в пересчёте превысила $65 млрд ещё в июле, к концу года инвесторы ждут около $120 млрд, а оценки при размещении разбросаны от $1,5 до $4 трлн.

Источники 2

money.usnews.compymnts.com

Агенты, которым доверяют писать и запускать код, уязвимы не через саму модель, а через обычную цепочку поставок — и одну и ту же ошибку независимо допустили все крупные лаборатории.

Plugin4Shell: уязвимость «без клика» в плагинах Claude Code, Codex, Copilot и Gemini CLI — у двух последних не закрыта

Агенты, которым доверяют писать и запускать код, уязвимы не через саму модель, а через обычную цепочку поставок — и одну и ту же ошибку независимо допустили все крупные лаборатории.

Исследователи AIR обнаружили, что все четыре популярных агента для программирования одинаково ошибаются в проверке плагинов: они переключаются на «закреплённый» коммит, но не проверяют, что переключение действительно произошло. Ветка с именем, совпадающим с хешем коммита (а у Gemini CLI — ветка FETCH_HEAD), подсовывает вредоносный код, а агент сообщает об успешной установке. Атака срабатывает и при фоновом автообновлении, которое в Claude Code и Codex включено по умолчанию, — без единого клика пользователя. Anthropic закрыла дыру в Claude Code 2.1.179, OpenAI — в Codex 0.146.0; GitHub Copilot не исправлен, а Gemini CLI Google вместо патча объявила устаревшим и предложила переходить на Antigravity. Ранее AIR показывала вредоносный плагин, дошедший до 26 тыс. агентов.

Источники 2

helpnetsecurity.comcybersecuritynews.com

Биржа впервые проверит, сколько стоит компания, которая живёт только арендой мощностей под ИИ, даже с миллиардным убытком — спрос на вычисления перевешивает.

Британская Nscale, сдающая в аренду видеокарты для OpenAI и Anthropic, подала заявку на IPO в Нью-Йорке с оценкой до $35 млрд

Биржа впервые проверит, сколько стоит компания, которая живёт только арендой мощностей под ИИ, даже с миллиардным убытком — спрос на вычисления перевешивает.

Nscale подала форму S-1 в SEC и собирается торговаться на NYSE под тикером NSCL; ведущие организаторы — Goldman Sachs, J.P. Morgan и Morgan Stanley. По проспекту выручка за первое полугодие 2026 года — $140,6 млн (в 13 раз больше, чем годом раньше), а чистый убыток — $1,02 млрд; себестоимость ($189,6 млн) превысила выручку. Руководство признаёт, что у него были «существенные сомнения» в способности компании продолжать работу, но считает, что перенос капитальных трат снимает риск. Незакрытые контракты оцениваются в $56,4 млрд на семь лет; 15 сентября Nvidia вложила $3,1 млрд через конвертируемые займы. Оценка до $35 млрд более чем вдвое выше, чем после раунда C в начале года ($14,6 млрд).

Источники 3

cnbc.comsec.govfortune.com

Чем больше доступа мы даём агентам, тем важнее видеть, что они делают с нашими данными: открытый код агентов становится обязательным.

Агент ZCode от Z.ai без спроса отправлял целые репозитории вместе с историей git в облако Alibaba

Чем больше доступа мы даём агентам, тем важнее видеть, что они делают с нашими данными: открытый код агентов становится обязательным.

Исследователь заметил на диске зависший зашифрованный архив на 313 МБ и разобрал приложение. Оказалось, что ZCode 3.12.3 периодически делает снимки всего рабочего каталога и загружает их в Alibaba Cloud OSS. В снимки попадает папка .git — 86,6% объёма — со всей историей коммитов, неотправленными ветками и файлами, давно удалёнными из кода. Архивы шифруются ключом, который присылает сервер, поэтому сам пользователь расшифровать их не может. Вечером 18 сентября Z.ai объяснила загрузки функцией индексации кода, включённой по умолчанию, заявила, что данные удаляются сразу после обработки, и пообещала открыть исходный код ZCode, пригласить сторонних аудиторов и компенсировать пострадавшим лимиты. В версии 3.14.0 этот код уже убран.

Источники 3

blog.ferstar.orghabr.comtokenstead.ai

Лейблы пытаются удержать контроль над тем, на чём учится ИИ, но сделки Warner и BMG показывают, что музыка всё равно договаривается с машинами.

Universal и Sony снова подали в суд на Suno — теперь из-за 60 тысяч записей и модели v6

Лейблы пытаются удержать контроль над тем, на чём учится ИИ, но сделки Warner и BMG показывают, что музыка всё равно договаривается с машинами.

Новый иск подан в федеральный суд Массачусетса после того, как в августе судья отказался добавить 61 026 записей в первый иск 2024 года и предложил подавать их отдельно. Лейблы утверждают, что Suno без разрешения использовала 60 202 их записи, и требуют до $150 тысяч за каждую, то есть теоретически свыше $9 млрд. Ещё около $150 млн они просят за обход защиты YouTube от скачивания. Suno говорит, что обучила v6 с нуля, но лейблы считают: обучение новой модели на результатах нарушающей «не устраняет нарушение, а отмывает его»; v6, по их словам, — «плод того же отравленного дерева». Warner и BMG уже заключили с Suno лицензионные сделки и в иске не участвуют.

Источники 2

musicbusinessworldwide.comthenextweb.com

Регулирование чат-ботов пишется с участием самих разработчиков, поэтому законы оставляют самым массовым продуктам простор для развития.

Google сама пишет для штатов законы о чат-ботах — с исключениями для самых популярных чат-ботов

Регулирование чат-ботов пишется с участием самих разработчиков, поэтому законы оставляют самым массовым продуктам простор для развития.

NPR выяснило, что законопроекты о безопасности чат-ботов как минимум в 10 штатах содержат почти одинаковый текст. В 2026 году такие законы уже приняли Айдахо, Джорджия, Айова, Вашингтон, Небраска, Орегон и Колорадо. Например, закон Колорадо выводит из-под действия 12 категорий: инструменты для разработчиков, чат-боты внутри поисковиков, голосовых помощников, функции внутри других программ. Под них могут подпасть ChatGPT, Copilot и Gemini. Лоббисты Google зарегистрированы в поддержку таких законопроектов в Айове, Небраске и Аризоне, а депутат из Гавайев рассказала, что Google сама предоставила ей текст. Google заявляет, что поддерживает «продуманное и эффективное» регулирование ИИ.

Источники 2

npr.orgwyso.org

Понимать видео и звук на уровне лидеров теперь стоит копейки — мультимодальные агенты станут массовыми.

Alibaba выпустила Qwen3.8-Omni-Flash: модель смотрит и слушает часовые видео и в 10 раз дешевле Gemini

Понимать видео и звук на уровне лидеров теперь стоит копейки — мультимодальные агенты станут массовыми.

Модель принимает текст, картинки, звук и видео с контекстом до 1 млн токенов, отвечает текстом и умеет сама вызывать инструменты: например, разобрать длинную встречу, перевести сериал или смонтировать клип. По данным Qwen, в среднем по 29 тестам она на 25% лучше Qwen3.5-Omni-Plus. На OmniVideoBench точность выросла с 63,4 до 67,8, а токенов уходит на 45,7% меньше. Цена — $0,15 за миллион входных и $0,47 за миллион выходных токенов против $1,50/$9,00 у Gemini 3.8 Flash, к которой модель, по заявлению Qwen, близка по аудио и видео. Веса не открыты, доступ только через API.

Источники 2

marktechpost.comqwen.ai

Писать код руками становится всё менее нужным, а ценятся те, кто умеет внедрять ИИ: профессия программиста превращается в профессию дирижёра агентов.

Вакансий для программистов в Кремниевой долине с 2022 года стало на 42% меньше

Писать код руками становится всё менее нужным, а ценятся те, кто умеет внедрять ИИ: профессия программиста превращается в профессию дирижёра агентов.

CNews пересказывает Bloomberg. С июня 2025 по июнь 2026 года в Кремниевой долине уволили 14,5 тысячи ИТ-специалистов — примерно 40 человек в день, почти вдвое больше, чем годом раньше. По данным Lightcast, спрос на программистов с 2022 года упал на 42%. Занятость молодых работников 22–25 лет в профессиях, затронутых ИИ, сократилась на 16,8%, а в остальных — на 4,6%. При этом вакансий «выездных инженеров», которые внедряют ИИ у клиентов, стало на 600% больше: OpenAI предлагает на эту должность $145–325 тысяч в год, Anthropic — $280–320 тысяч.

Источники 1

cnews.ru

Идея общего замедления упирается в простой факт: догоняющие не согласны стоять на месте — и гонка всё равно продолжится.

Mistral, Hugging Face и министр финансов Франции: призывы американских лабораторий замедлить ИИ — способ закрепить своё лидерство

Идея общего замедления упирается в простой факт: догоняющие не согласны стоять на месте — и гонка всё равно продолжится.

Mistral заявила, что «некоторые лидеры рынка пользуются моментом, чтобы закрепить позиции», продвигая выгодное им регулирование. Глава Hugging Face Клеман Деланг сказал, что «время не замедляться, а ускоряться»; Black Forest Labs предупредила, что обязательный разрыв между лидерами и новичками заморозит открытые разработки; COO Proton назвал инициативу «откровенно корыстной». Министр финансов Франции Ролан Лескюр описал её как попытку «заставить всех, кто позади, притормозить, чтобы остаться первыми».

Источники 2

rte.iecp24.com

Внешний надзор за ИИ из обещания превращается в профессию со своими правилами — лаборатории, скорее всего, получат не запреты, а постоянных проверяющих внутри.

Больше 100 исследователей, включая Хинтона, назвали пять условий, без которых «внешние проверяющие» внутри ИИ-лабораторий бесполезны

Внешний надзор за ИИ из обещания превращается в профессию со своими правилами — лаборатории, скорее всего, получат не запреты, а постоянных проверяющих внутри.

Письмо консорциума AI Evaluator Forum — ответ на обещания Амодеи и Альтмана пустить внешних оценщиков с доступом «как у сотрудника». Условия: проверяющие не принадлежат лабораториям и не зависят от них финансово, сами решают, что публиковать; каждую лабораторию оценивают несколько команд по разным рискам; методы и выводы открыты; есть юридическая защита от мести за неудобные результаты; реальный доступ к компьютерам, данным, неопубликованным моделям и разговорам с инженерами. Среди подписантов — Джеффри Хинтон, Арвинд Нараянан из Принстона, исследователи Джонса Хопкинса, Стэнфорда и METR; авторы признают, что ни одна нынешняя договорённость этим условиям не отвечает.

Источники 3

cnbc.comaievaluatorforum.orgtechtimes.com

Крупнейшее размещение в истории подстраивают под гонку моделей: инвесторам важно увидеть, как компания держит удар после GPT-6 Astra.

WSJ: Anthropic перенесла IPO с октября на ноябрь — чтобы успеть показать отчёт за третий квартал

Крупнейшее размещение в истории подстраивают под гонку моделей: инвесторам важно увидеть, как компания держит удар после GPT-6 Astra.

По данным Wall Street Journal со ссылкой на несколько источников, Anthropic сдвинула размещение акций с октября на ноябрь. Новый срок позволит показать инвесторам результаты третьего квартала — уже после выхода GPT-6 Astra у OpenAI. Компания рассчитывает на оценку около $2 трлн и привлечение до $100 млрд; к концу года ожидает годовую выручку порядка $110 млрд. Перенос совпал с дебатами о темпе ИИ после эссе Дарио Амодеи, но, по словам источников, решение приняли ещё до них. Anthropic цифры и сроки не подтвердила.

Источники 2

investing.comstreetinsider.com

Личный ИИ-помощник, который сам делает дела на компьютере, становится обычной бесплатной программой.

Meta выпустила Muse для Mac: агент сам работает с файлами, почтой, календарём и сообщениями

Личный ИИ-помощник, который сам делает дела на компьютере, становится обычной бесплатной программой.

После запуска на iOS, Android и в вебе 8 сентября, когда мобильное приложение быстро поднялось на верх американского App Store, агент Muse пришёл на macOS. Он может разложить файлы по папкам, вытащить нужное из переписки, добавить события в календарь, набросать ответы в «Сообщениях» и собрать сводку за день из почты, чатов и заметок. Доступ к каждому приложению пользователь включает сам, а перед важными действиями агент спрашивает разрешение. Muse работает в отдельной виртуальной машине Muse Secure VM на модели Muse Spark.

Источники 2

techcrunch.commarktechpost.com

Бытовая рутина семьи — записи, справки, покупки — переходит к ИИ, освобождая людям время друг для друга.

Google тестирует CC — ИИ-агента, который ведёт дела целой семьи

Бытовая рутина семьи — записи, справки, покупки — переходит к ИИ, освобождая людям время друг для друга.

У CC есть свой аккаунт Google, которому семья пересылает письма и открывает доступ к календарям. Агент сам вытаскивает из писем школьные объявления и подтверждения записей, заносит их в общий календарь и списки дел, заполняет PDF-формы вроде разрешений для школы, составляет списки покупок и меню и хранит общую память о делах семьи — до шести человек. Пока это тест в США для пользователей личного Gmail старше 18 лет, поэтому подростки со школьными аккаунтами подключиться не могут.

Источники 1

techcrunch.com

Предсказывать будущее лучше людей — уже продукт, за который платят хедж-фонды.

Стартап Mantic, чей ИИ обыграл людей в турнире прогнозистов, привлёк $25 млн

Предсказывать будущее лучше людей — уже продукт, за который платят хедж-фонды.

Посевной раунд британского стартапа возглавил Radical Ventures; участвовали M12 (фонд Microsoft), Thinking Machines Lab, Balderton и другие, оценку не раскрыли. Mantic основали в 2024 году бывший исследователь Google DeepMind Тоби Шевлейн и Бен Дэй. Их система предсказывает события на срок от недели до года — в геополитике, экономике и технологиях. По словам Шевлейна, прогнозами Mantic уже пользуются ведущие хедж-фонды для торговли. Раунд последовал за летним Metaculus Cup, где бот компании вошёл в число лучших в общем зачёте.

Источники 2

techstartups.comkelo.com

Фундаментальные исследования «физического ИИ» переходят к тем, кто собирает под одной крышей и железо промышленных роботов, и мозги для них.

SoftBank договорилась купить Robotics and AI Institute Марка Райберта у Hyundai — сделку проверяет CFIUS

Фундаментальные исследования «физического ИИ» переходят к тем, кто собирает под одной крышей и железо промышленных роботов, и мозги для них.

По данным The Robot Report, SoftBank Group согласилась купить Robotics and AI Institute (RAI) у Hyundai Motor Group; сумма не раскрыта, сделку проверяет Комитет по иностранным инвестициям США (CFIUS). Институт основал в 2022 году создатель Boston Dynamics Марк Райберт на более чем $400 млн от Hyundai и Boston Dynamics; лаборатории в Кембридже (Массачусетс) и Цюрихе занимаются управлением роботами, манипуляцией, навигацией и обучением. Для SoftBank это исследовательское дополнение к сделке по робототехническому бизнесу ABB за $5,4 млрд, а Hyundai сосредотачивается на коммерциализации Boston Dynamics. RAI от комментариев отказался.

Источники 2

therobotreport.comm4snews.com

Проектировать команды агентов теперь поручают самим алгоритмам — ещё один слой работы уходит от людей к машинам.

Сбер открыл gMAS — фреймворк, который сам подбирает состав команды ИИ-агентов

Проектировать команды агентов теперь поручают самим алгоритмам — ещё один слой работы уходит от людей к машинам.

В популярном фреймворке LangGraph схему взаимодействия агентов разработчик задаёт и правит вручную. В gMAS состав агентов и связи между ними подбирает алгоритм: система меняет схему прямо во время работы и отключает бесполезных агентов. По замерам команды Сбера, досрочная остановка сокращает расход токенов на 52,6%, а время — на 45%. На ветвистых схемах gMAS на 19,6% быстрее LangGraph, а обучаемое прореживание связей снижает расход ещё на 27%. Пакет выложен на PyPI и GitHub под открытой лицензией, есть визуальная студия flowMAS.

Источники 2

braintools.rupachca.com
Предыдущий день
Подписаться в Telegram