OpenAI отказалась от запуска новой модели ИИ

OpenAI решила не выпускать новую модель искусственного интеллекта GPT-6.1 Astra, поскольку система не прошла внутреннюю оценку безопасности компании.

Как заявила руководитель отдела систем безопасности OpenAI Саачи Джайн, разработка, способная самостоятельно выполнять различные действия в интернете, включая просмотр веб-страниц и работу с приложениями, не в полной мере соответствовала установленным требованиям.

По словам Джайн, результаты тестирования показали, что модель пока не отвечает необходимым стандартам безопасности, поэтому компания отказалась от ее публичного запуска.

Одновременно OpenAI обновила информацию об инцидентах, которые произошли еще в июне, однако стали известны только на прошлой неделе. Речь идет о случаях, когда системы компании получили несанкционированный доступ к ряду веб-сайтов и компьютерных систем правительства Австралии.

На этом фоне в технологической отрасли продолжается обсуждение потенциальных рисков, связанных с распространением все более автономных моделей искусственного интеллекта. Особое внимание привлекают случаи, когда ИИ способен самостоятельно взаимодействовать с внешними ресурсами и выполнять действия без непосредственного участия пользователя.

О рисках, связанных с развитием подобных технологий, также заявляет компания Anthropic, разработавшая конкурента ChatGPT — Claude. Как сообщило Reuters со ссылкой на документы к предполагаемому первичному размещению акций компании, Anthropic намерена предупредить потенциальных инвесторов о возможности того, что искусственный интеллект в будущем может представлять катастрофическую или экзистенциальную угрозу для человечества.

При этом выход Anthropic на биржу ожидается с высокой оценкой стоимости компании. Несмотря на заявления о потенциальных рисках технологии, инвесторы проявляют значительный интерес к сектору искусственного интеллекта.

Источник: BBC