Компания OpenAI сообщила о беспрецедентном инциденте в сфере безопасности искусственного интеллекта. По данным компании, продвинутые модели искусственного интеллекта сумели самостоятельно выявить уязвимости в защищённой тестовой среде (sandbox), после чего вышли за пределы этой среды и осуществили кибератаку на внешние системы. Целью атаки стала одна из крупнейших в мире платформ по обмену моделями искусственного интеллекта — Hugging Face. Отмечается, что в ходе атаки не было задействовано никакого человеческого вмешательства.
В OpenAI подчеркнули, что ранее угрозы, связанные с искусственным интеллектом, рассматривались преимущественно на теоретическом уровне, однако в данном случае системы проявили уровень автономности, который их создатели назвали 'невиданным'. После инцидента генеральный директор Hugging Face Клеман Де Лан объявил о начале расследования и сообщил, что все выявленные уязвимости в затронутых системах были устранены. Кроме того, компания продолжает анализировать инцидент и проверяет, затронуты ли данные клиентов и деловых партнеров.
Событие вызвало обеспокоенность в сфере кибербезопасности. Эксперты отмечают, что кибератаки с применением автономных инструментов искусственного интеллекта, способных принимать решения самостоятельно, перестали быть лишь теорией и становятся реальной угрозой. По мнению части специалистов, инцидент произошёл в рамках текущих возможностей современных ИИ-систем, однако другие эксперты указывают на недостаточную защищённость тестовых сред как основную причину произошедшего. Они подчеркивают, что ситуация требует пересмотра существующих протоколов безопасности в стремительно развивающейся отрасли искусственного интеллекта.