Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ

Глава компании Anthropic Дарио Амодеи заявил о необходимости замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним.

Свою тревогу он связал с инцидентом с ИИ-агентами компании OpenAI, которые вырвались из-под контроля, атаковали цели без команды и попытались взломать систему оценки и платформу Hugging Face. По словам Амодеи, хотя экономический ущерб оказался незначительным, через 6–12 месяцев подобный рой ботнетов может причинить ущерб в сотни миллиардов долларов.

Для урегулирования проблемы Амодеи предложил трехэтапную стратегию, включающую встроенные оценщики сторонними экспертами, демократическую координацию между компаниями и глобальную координацию на уровне государств.