Эссе Goodfire утверждает, что нейросети «уже понятны»; исследователи расходятся в оценке
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Если нейроны моделей действительно проще, чем думали, понимать ИИ изнутри станет легче — но эксперты пока не согласны.
Ник Каммарата в эссе «Neural Networks Are Already Clean» пишет, что нейросети гораздо проще понять, чем считалось: знаменитые «полисемантические» нейроны, по его версии, были неверно истолкованы (нейрон «кошки и автомобили» реагирует на V-образные объекты), а по его оценке, у 90% полюсов нейронов в Qwen3-32B есть одна основная функция. Руководитель направления интерпретируемости Google DeepMind Нил Нанда сомневается: он считает, что суперпозиция реальна, неясно, переносятся ли выводы с моделей изображений на языковые, а эссе «не меняет общей картины».
Источники 1