Использование нейросетей привело к росту уязвимостей в корпоративном ПО

Исследования компании Checkmarx показывают тревожную тенденцию в сфере разработки программного обеспечения: 75% организаций осознанно выпускают продукты, содержащие известные уязвимости. Появление инструментов искусственного интеллекта значительно ускорило процесс создания кода, однако вместе с этим выросли и риски информационной безопасности.

Сокращение времени до кибератаки

Ранее у разработчиков было достаточно времени на исправление ошибок после релиза. Еще в 2018 году средний период с момента обнаружения уязвимости до ее эксплуатации хакерами составлял около 840 дней (более двух лет). Современные инструменты автоматизации кардинально изменили ситуацию:

• Сегодня среднее время до реализации угрозы сократилось до двух суток.
• По прогнозам экспертов, в ближайшие два года этот показатель уменьшится до одной минуты.

Такое ускорение создает критические риски для отраслей, работающих с конфиденциальными данными, в частности, для сектора здравоохранения. Учреждения этой сферы уже сталкиваются с учащающимися атаками программ-вымогателей и давлением регуляторов, поэтому необходимость оперативного устранения уязвимостей становится вопросом выживания.

Проблема «AI-центричных» приложений

Особую опасность представляет практика создания приложений исключительно через чат-боты с искусственным интеллектом, без участия программистов в проверке кода. Подобные продукты часто содержат критические недочеты:

• Слабая или полностью отсутствующая система аутентификации пользователей.
• Открытый доступ к корпоративным базам данных.
• Базовые ошибки в архитектуре безопасности.

Смотрите также:

Google I/O и противоречия: между элитными демонстрациями и повседневными нуждами http://kupidonchik.org/google-i-o-i-protivorechiya-mezhdu-elitnyimi-demonstratsiyami-i-povsednevnyimi-nuzhdami/.

Интересности на тему: Демократическая партия США пересматривает подход к предвыборной повестке

Классные советы в статье "Уязвимость ИИ-инфраструктуры стран Персидского залива: зависимость от подводных кабелей" здесь.

Недавние отраслевые исследования выявили более 5000 приложений, созданных нейросетями, которые непреднамеренно открывают доступ к личным и финансовым данным, медицинским картам, а также внутренним корпоративным перепискам в открытой сети. В отчете отмечается, что развитие технологий искусственного интеллекта делает «стандартный» подход к выпуску заведомо уязвимого кода экономически и стратегически неоправданным.

* — деятельность компании запрещена на территории РФ