Контроль отстает: только половина компаний имеют инструменты надзора за ИИ
25 февраля 20:20
Новый отчет Microsoft Cyber Pulse фиксирует стремительное распространение ИИ-агентов в крупном бизнесе: четыре из пяти крупных компаний уже применяют их в ежедневной работе, передает «Коммерсант Украинский».
В то же время системы управления и контроля часто не успевают за скоростью масштабирования.
ИИ-агенты выходят за пределы ИТ-отделов
По данным компании, более 80% предприятий из списка Fortune 500 развертывают активных агентов, созданных с помощью low-code и no-code платформ — в частности Fabric, Foundry, Copilot Studio и Agent Builder.
Разработка больше не ограничивается техническими специалистами. Агентов создают и внедряют сотрудники различных подразделений — от продаж до финансов. Их используют для:
- подготовки коммерческих предложений,
- анализа финансовых данных,
- обработки уведомлений о безопасности,
- автоматизации рутинных процессов.
Больше всего активных агентов сосредоточено в регионе EMEA (42%). Далее — США (29%), Азия (19%) и другие страны Америки (10%). По отраслям лидируют технологии и разработка ПО (16%), производство (13%), финансовые услуги (11%) и розничная торговля (9%).
Риск «shadow AI»
В отчете предупреждают: стремительное развертывание агентов сопровождается рисками. Часто они получают чрезмерный доступ к данным, а их использование не всегда прозрачно для руководства.
Это создает явление так называемого «shadow AI» — инструментов, которые работники применяют без согласования с ИТ-службами. По оценкам Microsoft, 29% сотрудников уже используют такие агенты в своей работе.
Национальный технический директор кластера стран Северной Европы в Microsoft Ренате Страздина отметила:
«ИИ-агенты становятся цифровыми коллегами, часто опережая способность организаций внедрить надлежащее управление».
Она подчеркнула, что для Украины — одной из главных целей кибератак — инновации должны развиваться вместе с принципами Zero Trust, централизованным управлением и постоянным мониторингом.
Готов ли бизнес к контролю
Только 47% компаний сообщили о наличии специальных инструментов контроля для генеративного ИИ. В Microsoft подчеркивают: управление искусственным интеллектом не может оставаться исключительно в зоне ответственности ИТ или CISO.
К процессу должны быть привлечены юристы, специалисты по комплаенсу, HR и топ-менеджмент.
Для украинского бизнеса эти тенденции имеют особое значение. Компании в сфере ИТ, финансов, производства и государственного сектора все активнее интегрируют ИИ-инструменты. В то же время постоянная киберагрессия повышает требования к контролю доступа, защите данных и персональной ответственности руководства.
Распространение ИИ-агентов уже меняет способ работы крупных компаний. Следующий этап — определить, кто и как будет контролировать этих «цифровых коллег».
