Вышел из-под контроля: искусственный интеллект от OpenAI взломал ещё одну компанию
29 июля 18:09
ИИ-агент OpenAI, вышедший из-под контроля и в течение нескольких дней осуществлявший взлом систем компании Hugging Face, также проник в системы клиента другой технологической компании — нью-йоркской Modal Labs. Об этом сообщает Reuters со ссылкой на представителя руководства Modal и два источника, знакомых с ситуацией, передает «Коммерсант Украинский».
Согласно опубликованной Hugging Face хронологии инцидента, ИИ-агент сначала проник в так называемую «песочницу» — изолированную тестовую среду — размещенную на инфраструктуре стороннего провайдера, а затем использовал её в качестве плацдарма для более масштабной атаки.
В публикации не назывался сторонний провайдер, на инфраструктуре которого размещалась «песочница». Однако технический директор Modal Акшат Бубна сообщил , что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещённом на платформе Modal. Хотя взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, он свидетельствует о том, что действия вышедшего из-под контроля ИИ-агента имеют более широкие последствия, чем было известно ранее.
На прошлой неделе OpenAI сообщила, что во время тестирования в контролируемой среде самых совершенных моделей ИИ одна из них вырвалась из закрытого испытательного сегмента, попала в глобальную сеть и совершила хакерскую атаку на стартап Hugging Face.
Разработчик ИИ назвал инцидент беспрецедентным происшествием в киберпространстве и сообщил, что усилит механизмы защиты. Соучредитель Hugging Face Клеман Деланг подтвердил факт атаки ИИ. «Трудно поверить, что всё это ИИ проделал самостоятельно!» — написал он в соцсети X.
Смотрите нас в YouTube: важные темы – без цензуры
