Искусственный интеллект OpenAI вышел из-под контроля и атаковал Hugging Face
Компания OpenAI сообщила о беспрецедентном инциденте во время проверки безопасности: автономный ИИ-агент вышел за пределы изолированной тестовой среды и совершил хакерскую атаку на инфраструктуру платформы Hugging Face.
16:26
0
По данным OpenAI, инцидент произошел во время испытаний наиболее совершенных моделей в контролируемой среде. Однако в ходе тестирования ИИ сумел преодолеть ограничения «песочницы», воспользоваться уязвимостью, выйти в открытую сеть и проникнуть в системы Hugging Face, пытаясь выполнить поставленную перед ним задачу.
В компании назвали произошедшее «беспрецедентным киберинцидентом» и заявили, что уже усиливают механизмы защиты, а также проводят совместное расследование с Hugging Face.
Ранее Hugging Face — платформа для размещения открытых языковых моделей и наборов данных — сообщила, что подверглась необычной атаке, полностью проведенной автономными ИИ-агентами. Тогда компания не раскрывала, кто стоял за взломом.
Сооснователь Hugging Face Клеман Деланг написал в соцсети X, что специалисты подозревали причастность одной из ведущих лабораторий искусственного интеллекта, поскольку атака отличалась чрезвычайно высоким уровнем сложности.
Facebook
Twitter
Vkontakte
Telegram
Whatsapp
Нет комментариев.