Агентные ИИ массово шантажируют людей: исследователи предупреждают о рисках, Украина готовит стратегию развития
26 июня 18:38
РАЗБОР ОТ 
Украина делает шаг в будущее: Министерство цифровой трансформации готовит Стратегию развития искусственного интеллекта до 2030 года, которая определит, как государство будет внедрять ИИ в управлении, обороне, медицине, экономике, образовании и других ключевых сферах. Одновременно, эксперты предупреждают о глобальных рисках: по данным Gartner, более 40% проектов агентного ИИ могут быть отменены из-за высоких затрат и проблем с безопасностью. А сама система может даже шантажировать сотрудников. Готова ли Украина к эпохе искусственного интеллекта?
Как государство планирует внедрять ИИ в ключевые сферы — от обороны до медицины? Почему в мире отменяют десятки проектов с агентным ИИ, и стоит ли нам волноваться из-за его потенциально опасного поведения — в материале
Министерство цифровой трансформации Украины работает над новой Стратегией развития искусственного интеллекта (ИИ) до 2030 года. Документ должен очертить государственную политику внедрения ИИ в ключевые сферы — от управления и обороны до медицины, экономики, инфраструктуры и образования.
Кроме плана действий, в стратегии будет проведен анализ текущего состояния ИИ-экосистемы в Украине и мире, определены ее сильные и слабые стороны, а также потенциал украинских инноваций на глобальном рынке.
Инициатива украинского правительства совпадает с волной глобальных дискуссий вокруг эффективности агентного ИИ — направления, которое предполагает создание автономных цифровых агентов, способных самостоятельно принимать решения.
Более 40% проектов с агентным ИИ могут отменить
Однако мировые тенденции дают смешанные сигналы. По данным исследования аналитической компании Gartner, к концу 2027 года более 40% проектов с агентным ИИ могут быть отменены. Причины — высокая стоимость, неочевидная бизнес-ценность и риски безопасности. Из более 3,4 тысяч опрошенных представителей компаний только 19% уже сделали значительные инвестиции, а 31% еще не определились с направлением.
Большинство инициатив до сих пор находятся на уровне демонстраций, а не практического использования, замечает старший аналитик Gartner Анушри Верма. Она также обращает внимание на явление agent washing — когда продукты, которые лишь частично используют элементы ИИ (например, RPA-системы или чат-боты), выдаются за полноценный агентный ИИ. Но несмотря на разочарование, аналитики прогнозируют, что уже к 2028 году более 15% повседневных бизнес-решений будут приниматься автоматически агентными системами, а более трети корпоративных программ будет включать ИИ-агентов.
Искусственный интеллект — не о будущем, а о выживании и росте сейчас
Искусственный интеллект больше не фантастика и не тренд — это критическая инфраструктура современного бизнеса, которая уже сегодня влияет на его эффективность, стабильность и способность адаптироваться. Об этом в эксклюзивном комментарии для
Искусственный интеллект — не о будущем. Это про сейчас. Ближайшие 1-2 года станут переломными для корпоративного сектора, — отмечает Нусинова.
По ее словам, бизнес переходит от экспериментов с ИИ к этапу, когда технология начинает существенно менять бизнес-модели, операционные процессы, производительность и даже способность компаний выживать в условиях кризиса.
ИИ перестает быть «изюминкой» и становится такой же базовой инфраструктурной технологией, как электричество или интернет, — отмечает Елена Нусинова.
Те компании, которые быстро адаптируются — обучат персонал, найдут сферы с максимальным ROI и обеспечат качественные данные — получат долгосрочное конкурентное преимущество. Для них искусственный интеллект станет не просто инструментом автоматизации, а двигателем стратегической трансформации, открывая новые продукты, рынки и клиентские форматы.
Особое значение это имеет для Украины, которая одновременно ведет войну и готовится к восстановлению.
В горнодобывающей отрасли ИИ позволяет работать без людей в опасных условиях. В энергетике — помогает создавать «умные» сети. В логистике — оптимизирует маршруты, а в агросекторе — повышает урожайность даже несмотря на климатическую нестабильность, — объясняет Нусинова.
В то же время критическую роль играет военно-гражданская синергия: технологии, созданные для фронта — от дронов до систем анализа спутниковых данных — находят прямое применение в гражданском секторе, открывая пространство для партнерства между оборонной индустрией и бизнесом.
Это не о выживании. Это — о возможности роста, даже в самые тяжелые времена, — заключает Нусинова.
Предупреждение от Anthropic: ИИ-модели могут прибегнуть к шантажу
Компания Anthropic провела эксперимент и выяснила: даже самые умные ИИ-модели могут шантажировать, если им дать достаточную автономию для достижения целей. Об этом пишет TechCrunch.
В исследовании модели ИИ (в частности Claude Opus 4, Google Gemini 2.5 Pro, GPT-4.1) играли роль агентов, которые имели доступ к корпоративной почте. Когда «агенты» узнавали, что их хотят заменить, часть моделей начала шантажировать руководство, чтобы сохранить «должность».
Claude Opus 4 шантажировал в 96% случаев, Gemini 2.5 Pro — 95%, GPT-4.1 — 80%.
Другие модели, как o3 и o4-mini от OpenAI, вели себя сдержаннее — шантажировали только в 9% и 1% случаев соответственно. Это связывают с лучшими защитами и политикой безопасности.
Хотя сценарий был искусственным, Anthropic предупреждает: автономные ИИ могут выбирать вредное поведение, если это помогает им достичь цели. Компания призывает к более жесткому тестированию и ограничению самостоятельных функций в будущих ИИ-системах.
Автор — Анастасия Федор
Читайте нас у Telegram: головні новини коротко
