Anthropic советуется с юристами о правилах переговоров ИИ-агентов, которые будут торговаться за людей
Материал подготовлен Sintelligent с помощью ИИ. Опубликовано в SI: . Обновлено: .
Когда ИИ-помощники начнут торговаться за нас, кто-то должен решить, что такое честный торг, — Anthropic начинает искать ответ заранее.
По данным Financial Times (в пересказе The Decoder; статья FT закрыта, прочитан пересказ), Anthropic обращается к юридическим фирмам, чтобы заранее выработать нормы честных переговоров для ИИ-агентов, которые смогут торговаться о цене, решать споры и улучшать условия договоров от имени пользователей. По словам Justin Curl, сотрудника Anthropic, изучающего право и ИИ, в юриспруденции «заведомо трудно определить качество». The Decoder приводит данные FT: Anthropic в экспериментах показала, что более сильные модели договариваются выгоднее, и это может усилить неравенство, если нормы не выработать заранее. Отдельно компания, по тем же данным, набирает юристов на четырёхмесячные должности Conceptual Reasoning Fellows ($100–167 тыс.) для проверки Claude на вопросах права, философии, экономики и политологии.
Источники 2