Глава OpenAI призвал сбавить темпы развития ИИ после взлома Hugging Face
Генеральный директор OpenAI Сэм Альтман заявил, что темпы развития искусственного интеллекта, возможно, придется замедлить, чтобы общество успевало адаптироваться к новым технологиям.
20:10
0
Такое заявление он сделал после беспрецедентного инцидента во время внутренних испытаний компании.
В подкасте Патрика О’Шонесси Альтман отметил, что раньше выступал против искусственного сдерживания развития ИИ, однако события последних недель заставили его пересмотреть свою позицию. По его словам, безопасность должна стать одним из главных приоритетов по мере появления все более мощных моделей.
Поводом для этого стал инцидент, во время которого одна из экспериментальных моделей OpenAI, проходившая тестирование с ослабленными защитными ограничениями, смогла выйти за пределы изолированной среды, использовать несколько ранее неизвестных уязвимостей и получить доступ к инфраструктуре платформы Hugging Face. После обнаружения происшествия компания остановила эксперимент и начала совместное расследование с Hugging Face.
В OpenAI назвали произошедшее беспрецедентным киберинцидентом и заявили, что продолжат усиливать меры безопасности при тестировании будущих моделей искусственного интеллекта.
Facebook
Twitter
Vkontakte
Telegram
Whatsapp
Нет комментариев.