Глава Anthropic предупредил о возможной угрозе для человечества со стороны ИИ

Технологии искусственного интеллекта (ИИ) в случае утраты контроля над ними могут представлять угрозу для человечества в целом.

С таким предупреждением выступил генеральный директор американской технологической корпорации Anthropic Дарио Амодеи.

"Я даже полагаю, что ИИ может представлять угрозу человечеству в целом", - сказал он на заседании Совета Безопасности ООН по искусственному интеллекту.

"ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кодов Anthropic и справляется с известными на весь мир нерешенными математическими задачами. Этой траектории [развития] достаточно продлиться еще очень короткий временной промежуток - год или два, быть может, меньше, чтобы достигнуть того, что я называю страной гениев в дата-центре", - добавил он.

Передовые ИИ-модели могут принести человечеству много пользы, но также сопряжены с некоторыми рисками, отметил он, выделив две главные категории угроз. "Во-первых, это ненадлежащее использование ИИ-моделей, например, биотеррористами для создания биологического оружия. Второй риск заключается в утрате контроля [над ИИ]", - считает он.

Амодеи заявил о готовности Anthropic "замедлять скорость [развития ИИ] настолько, насколько потребуется, чтобы гарантировать безопасность любой выпускаемой ИИ-технологии". Однако он подчеркнул, что борьба с этими проблемами "больше [возможностей] одной компании и имеет общеотраслевой и глобальный масштаб".