Главный учёный Tencent предупредил о приближении биологических рисков передовых моделей
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
По мере роста биологических возможностей моделей решение публиковать открытые веса всё сильнее зависит от проверки рисков, а не только от качества самой модели.
По данным South China Morning Post в пересказе The Next Web, Яо Шуньюй заявил на научном мероприятии в Гонконге, что возможности моделей в биологии могут приблизиться к порогу практического вреда, как это уже произошло в кибербезопасности. Он призвал китайские компании серьёзно учитывать безопасность при выпуске открытых моделей и отметил, что биологические риски могут быть сложнее киберрисков. Выступление последовало за запуском модели Hy4 4 ноября. Tencent заявляла, что исключила из её обучения материалы об эксплуатации уязвимостей и использовала данные по защите; по внутренней оценке компании, Hy4 обладает базовыми знаниями биологии, но слабее ведущих моделей в проектировании экспериментов. Яо признал аргументы Anthropic в пользу закрытых передовых моделей, но предложил сочетать открытые и закрытые разработки, поскольку открытые модели могут помогать защитникам.
Источники 1