Все новости

Главный учёный Tencent предупредил о приближении биологических рисков передовых моделей

Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .

По мере роста биологических возможностей моделей решение публиковать открытые веса всё сильнее зависит от проверки рисков, а не только от качества самой модели.

По данным South China Morning Post в пересказе The Next Web, Яо Шуньюй заявил на научном мероприятии в Гонконге, что возможности моделей в биологии могут приблизиться к порогу практического вреда, как это уже произошло в кибербезопасности. Он призвал китайские компании серьёзно учитывать безопасность при выпуске открытых моделей и отметил, что биологические риски могут быть сложнее киберрисков. Выступление последовало за запуском модели Hy4 4 ноября. Tencent заявляла, что исключила из её обучения материалы об эксплуатации уязвимостей и использовала данные по защите; по внутренней оценке компании, Hy4 обладает базовыми знаниями биологии, но слабее ведущих моделей в проектировании экспериментов. Яо признал аргументы Anthropic в пользу закрытых передовых моделей, но предложил сочетать открытые и закрытые разработки, поскольку открытые модели могут помогать защитникам.

Источники 1

История

Запуск Tencent Hy4 и оценка её рисков

3 события
  1. Tencent Hunyuan выпустила модель Hy4 flash: 12 млрд активируемых параметров, контекст 1 млн токенов и 0,5 юаня за млн входных токенов
  2. Главный учёный Tencent предупредил о приближении биологических рисков передовых моделейОткрыто сейчас
  3. Tencent выпустила Hy4 со зрением и управлением программами; веса обещает опубликовать в ближайшие дни