ИТ-директорам необходимо дифференцировать риски ИИ для усиления корпоративного управления

В современном мире искусственный интеллект (ИИ) стал неотъемлемой частью бизнеса, однако, как отмечает старший вице-президент и полевой технический директор Saviynt, не все ИИ-инструменты одинаковы по своему влиянию и рискам. Если одни ИИ-системы помогают автоматизировать рутинные повседневные задачи, то другие способны кардинально изменить принципы работы целых отраслей и общества. В свете этого, подходить к вопросам безопасности данных, конфиденциальности и корпоративного управления с универсальным подходом к любому ИИ-инструменту, каким бы разным он ни был, нереалистично.

Разнообразие ИИ и его риски

Для ИТ-руководства, которое сталкивается с растущим числом угроз, связанных с приложениями, агентами и процессами на базе ИИ, первый и самый разумный шаг — это калибровка рисков в зависимости от типа ИИ. Проблема заключается в том, что, несмотря на огромное желание компаний использовать потенциал ИИ для трансформационных изменений, многие буквально "тонут" в его обилии.

Согласно статистике, 62% предприятий как минимум экспериментируют с ИИ (данные McKinsey), а 79% уже разворачивают ИИ-агентов (по данным PwC). Аналитики IDC прогнозируют, что к 2028 году в эксплуатации будет более 1,3 миллиарда ИИ-агентов.

Амбиции против реальности: безопасность и управление

Директора по информационным технологиям (CIO), технические директора (CTO) и другие руководители стремятся внедрять ИИ для повышения уровня автоматизации, сокращения издержек и экономии времени. Их цель — выявлять скрытые инсайты и освобождать сотрудников от монотонных задач и сложных вычислений, с которыми ИИ-агенты справляются лучше. Однако на пути к этим похвальным амбициям возникают серьезные препятствия. Знакомые проблемы безопасности и корпоративного управления по-прежнему воспринимаются как главные барьеры. Несмотря на то, что глобальный тренд ИИ, несомненно, будет ускорять автоматизацию процессов, более половины респондентов (52%) опроса PwC назвали кибербезопасность одной из двух главных проблем при использовании ИИ-агентов.

Управление изменениями и необходимость базовой оценки

Еще одно постоянное препятствие — это управление изменениями. Технологические сдвиги могут быть ошеломляющими, когда привычные процессы, устоявшиеся модели распознавания и доменные знания оказываются под угрозой со стороны прорывных инноваций. Для эффективного управления этим процессом CIO, директорам по информационной безопасности (CISO), риск-менеджерам и другим специалистам необходимо установить исходный уровень.

Как и в эпоху клиент-серверных приложений, а затем и облачных сервисов, ИТ-руководителям следует провести процесс обнаружения, чтобы понять, что происходит в их инфраструктуре. Необходима специально разработанная система мониторинга, подобная ITAM (управление ИТ-активами), CMDB (база данных управления конфигурациями) или CASB (брокер безопасности облачного доступа) для "теневых" ИТ (несанкционированные ИТ-системы), но ориентированная на ИИ. Это позволит создать единую систему учёта и управления доступом для эпохи идентификации и ИИ.

Дифференцированный подход к рискам ИИ-агентов

ИТ-руководители могут обнаружить, что многие наблюдаемые ИИ-активности несут относительно низкий риск. Например, персональные агенты для сканирования, анализа и понимания данных обычно не представляют большой угрозы. То же самое можно сказать об ИИ-сервисах суммаризации, встроенных в онлайн-поисковики или программы для управления личной информацией.

Однако в корпоративной среде, основанной на агентском ИИ (где ИИ-системы действуют автономно для выполнения задач), необходимо действовать с осторожностью. Сила и риски агентских ИИ-процессов заключаются в их способности пересекать различные системы, рабочие процессы и выполнять автоматизацию. На ранних этапах развития агентского ИИ неизбежны ошибки. Некоторые первопроходцы могут не установить адекватные "ограничители" (guardrails), что может привести к избыточной автономности ИИ-агентов. Это, в свою очередь, чревато потерей данных, удалением записей, нарушениями конфиденциальности, несоблюдением политик и другими проблемами.

Недостаточность традиционного управления идентификацией и доступом

Уже сейчас наблюдаются многочисленные примеры, когда агентские ИИ-процессы получают одобрение от устаревших систем управления идентификацией, как будто это новые сотрудники в HR-отделе. Для таких процессов необходима тщательная оценка атрибуции решений, контекста, намерений, входных данных и предупреждающих сигналов до предоставления доступа.

Кроме того, CIO и CISO должны быть начеку против излишнего энтузиазма, когда ИИ-энтузиасты, возможно, разочарованные ограничениями корпоративного ИТ-управления, экспериментируют и даже внедряют несанкционированные инструменты и сервисы "для выполнения работы". Им необходимо контролировать "теневые" ИТ (несанкционированные ИТ-системы) и "тайные" или "неофициальные" проекты ("skunkworks"), чтобы ни люди, ни ИИ-агенты не действовали по своему усмотрению.

Смотрите также:

Компьютеры Mac на чипах Apple Silicon ломаются в два раза реже моделей на Intel http://kupidonchik.org/kompyuteryi-mac-na-chipah-apple-silicon-lomayutsya-v-dva-raza-rezhe-modeley-na-intel/.

Интересности на тему: Ученые выявили связь между менопаузой и изменениями в структуре мозга

Классные советы в статье "Специальный выпуск Connections, посвященный чемпионату мира по футболу 2026 года" здесь.

Необходимо понимать "известные и неизвестные" факторы и поощрять прогрессивное использование ИИ с каскадными уровнями одобрения, зависящими от роли и задачи. Требуются практические "ограничители", подкрепленные инструментами и культурой, которые помогают корректировать курс, если возникает опасность.

Идентификация как основа безопасности ИИ

Управление идентификацией находится в основе всего этого. Благодаря системе, которая контролирует доступ ИИ-систем к различным сервисам, а также постоянному мониторингу и принципам безопасности с нулевым доверием (zero-trust security), организации могут максимально эффективно использовать ИИ, избегая при этом существенных рисков. В противном случае они могут столкнуться с новым ландшафтом угроз, где атаки будут направлены не только на бизнес-операции, но и на производственные цеха, заводы и коммунальные службы, которые все чаще работают на стыке информационных технологий (ИТ) и промышленных операционных технологий (ОТ), Интернета вещей (IoT) и потоков агентского ИИ.