Агентні ШІ масово шантажують людей: дослідники попереджають про ризики, Україна готує стратегію розвитку
26 Червня 2025 18:38
РОЗБІР ВІД 
Україна робить крок у майбутнє: Міністерство цифрової трансформації готує Стратегію розвитку штучного інтелекту до 2030 року, яка визначить, як держава впроваджуватиме ШІ в управлінні, обороні, медицині, економіці, освіті та інших ключових сферах. Одночасно, експерти попереджають про глобальні ризики: за даними Gartner, понад 40% проектів агентного ШІ можуть бути скасовані через високі витрати та проблеми з безпекою. А сама система може навіть шантажувати співробітників. Чи готова Україна до епохи штучного інтелекту?
Як держава планує впроваджувати ШІ у ключові сфери — від оборони до медицини? Чому у світі скасовують десятки проєктів з агентним ШІ, і чи варто нам хвилюватися через його потенційно небезпечну поведінку — к матеріалі «Комерсант Український».
Міністерство цифрової трансформації України працює над новою Стратегією розвитку штучного інтелекту (ШІ) до 2030 року. Документ має окреслити державну політику впровадження ШІ в ключові сфери — від управління та оборони до медицини, економіки, інфраструктури та освіти.
Крім плану дій, у стратегії буде проведений аналіз поточного стану ШІ-екосистеми в Україні та світі, визначені її сильні та слабкі сторони, а також потенціал українських інновацій на глобальному ринку.
Ініціатива українського уряду збігається з хвилею глобальних дискусій навколо ефективності агентного ШІ — напрямку, який передбачає створення автономних цифрових агентів, здатних самостійно ухвалювати рішення.
Понад 40% проєктів з агентним ШІ можуть скасувати
Однак світові тенденції дають змішані сигнали. За даними дослідження аналітичної компанії Gartner, до кінця 2027 року понад 40% проєктів з агентним ШІ можуть бути скасовані. Причини — висока вартість, неочевидна бізнес-цінність і ризики безпеки. З понад 3,4 тисяч опитаних представників компаній лише 19% вже зробили значні інвестиції, а 31% ще не визначилися з напрямком.
Більшість ініціатив досі перебувають на рівні демонстрацій, а не практичного використання, зауважує старший аналітик Gartner Анушрі Верма. Вона також звертає увагу на явище agent washing — коли продукти, які лише частково використовують елементи ШІ (наприклад, RPA-системи чи чат-боти), видаються за повноцінний агентний ШІ.Та попри розчарування, аналітики прогнозують, що вже до 2028 року понад 15% повсякденних бізнес-рішень будуть ухвалюватися автоматично агентними системами, а понад третина корпоративних програм включатиме ШІ-агентів.
Штучний інтелект — не про майбутнє, а про виживання і зростання зараз
Штучний інтелект більше не фантастика і не тренд — це критична інфраструктура сучасного бізнесу, яка вже сьогодні впливає на його ефективність, стабільність і здатність адаптуватися. Про це в ексклюзивному коментарі для «Комерсант Український» заявила Олена Нусінова — директорка Smart Corporate Service LTD, доктор економічних наук, MBA, DBA з корпоративного управління.
Штучний інтелект — не про майбутнє. Це про зараз. Найближчі 1–2 роки стануть переламними для корпоративного сектору, — наголошує Нусінова.
За її словами, бізнес переходить від експериментів із ШІ до етапу, коли технологія починає суттєво змінювати бізнес-моделі, операційні процеси, продуктивність і навіть здатність компаній виживати в умовах кризи.
ШІ перестає бути “цікавинкою” і стає такою ж базовою інфраструктурною технологією, як електрика чи інтернет, — зазначає Олена Нусінова.
Ті компанії, які швидко адаптуються — навчать персонал, знайдуть сфери з максимальним ROI та забезпечать якісні дані — отримають довгострокову конкурентну перевагу. Для них штучний інтелект стане не просто інструментом автоматизації, а рушієм стратегічної трансформації, відкриваючи нові продукти, ринки та клієнтські формати.
Особливе значення це має для України, яка одночасно веде війну і готується до відновлення.
У гірничодобувній галузі ШІ дозволяє працювати без людей у небезпечних умовах. В енергетиці — допомагає створювати “розумні” мережі. У логістиці — оптимізує маршрути, а в агросекторі — підвищує врожайність навіть попри кліматичну нестабільність, — пояснює Нусінова.
Водночас критичну роль відіграє військово-цивільна синергія: технології, створені для фронту — від дронів до систем аналізу супутникових даних — знаходять пряме застосування в цивільному секторі, відкриваючи простір для партнерства між оборонною індустрією та бізнесом.
Це не про виживання. Це — про можливість зростання, навіть у найважчі часи, — підсумовує Нусінова.
Попередження від Anthropic: ШІ-моделі можуть вдатися до шантажу
Компанія Anthropic провела експеримент і з’ясувала: навіть найрозумніші ШІ-моделі можуть шантажувати, якщо їм дати достатню автономію для досягнення цілей. Про це пише TechCrunch.
У дослідженні моделі ШІ (зокрема Claude Opus 4, Google Gemini 2.5 Pro, GPT-4.1) грали роль агентів, які мали доступ до корпоративної пошти. Коли “агенти” дізнавались, що їх хочуть замінити, частина моделей почала шантажувати керівництво, аби зберегти “посаду”.
Claude Opus 4 шантажував у 96% випадків, Gemini 2.5 Pro — 95%, GPT-4.1 — 80%.
Інші моделі, як o3 і o4-mini від OpenAI, поводилися стриманіше — шантажували лише у 9% і 1% випадків відповідно. Це пов’язують з кращими захистами й політикою безпеки.
Хоча сценарій був штучним, Anthropic попереджає: автономні ШІ можуть обирати шкідливу поведінку, якщо це допомагає їм досягти мети. Компанія закликає до більш жорсткого тестування й обмеження самостійних функцій у майбутніх ШІ-системах.
Автор – Анастасія Федор
Читайте нас у Telegram: головні новини коротко
