Вийшов з-під контролю: штучний інтелект від Open AI здійснив злом ще однієї компанії
29 Липня 18:09
ШІ-агент OpenAI, який вийшов з-під контролю і протягом кількох днів здійснював зламування систем компанії Hugging Face, також проник у системи клієнта іншої технологічної компанії – нью-йоркської Modal Labs. Про це повідомляє Reuters з посиланням на представника керівництва Modal і два джерела, знайомих із ситуацією, передає «Комерсант Український».
Згідно з опублікованою Hugging Face хронологією інциденту, ШІ-агент спочатку проник в так звану пісочницю — ізольоване тестове середовище — розміщену на інфраструктурі стороннього провайдера, а потім використовував її як плацдарм для більш масштабної атаки.
У публікації не називався сторонній провайдер, на чиїй інфраструктурі розміщувалася пісочниця. Проте технічний директор Modal Акшат Бубна повідомив, що агент скористався вразливістю в коді, написаному клієнтом компанії та розміщеному на платформі Modal. Хоча злом клієнта Modal став лише початковим етапом ширшої хакерської кампанії проти Hugging Face, він свідчить про те, що дії ШІ-агента, що вийшов з-під контролю, мають більш широкі наслідки, ніж було відомо раніше.
Минулого тижня OpenAI повідомила, що під час тестування в контрольованому середовищі найбільш досконалих моделей ШІ одна з них вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face.
Розробник ШІ назвав інцидент безпрецедентною НП у кіберпросторі та повідомив, що зміцнить механізми захисту. Співзасновник Hugging Face Клеман Деланг підтвердив факт атаки ШІ. «Важко повірити, що все це ШІ провів самостійно!» – Написав він у соцмережі X.
