Почему барьеры безопасности для ИИ должны строиться на здравом смысле, а не на законах

В ближайшие месяцы для европейского бизнеса вступит в силу Закон ЕС об искусственном интеллекте (EU AI Act). Однако эксперты сомневаются, что государственное регулирование сможет поспевать за стремительным развитием технологий. На практике гораздо более важную роль в создании барьеров безопасности для ИИ сыграют человеческий прагматизм, существующие правовые нормы и судебные иски. Именно судебная практика станет ключевым фактором, определяющим правила игры в сфере ИИ.

Скорость технологий против медлительности законов

В последние годы технологии искусственного интеллекта развиваются по экспоненте. Новые версии ведущих базовых моделей выходят практически ежемесячно, а не раз в два года, как это было раньше. В то же время законотворческий процесс традиционно неповоротлив: прохождение документов через многочисленные комитеты и согласования занимает годы. Новые нормативные акты часто вступают в силу слишком поздно и уже не соответствуют реалиям быстро меняющегося рынка.

Прецедент с моделью Mythos от Anthropic

Наглядным примером стала языковая модель Mythos от компании Anthropic. Эта разработка вызвала серьезную обеспокоенность во всем мире из-за своей способности выявлять уязвимости нулевого дня — ранее неизвестные бреши в безопасности ИТ-систем. Теоретически это ставит под угрозу глобальную цифровую инфраструктуру.

Создатели объявили о выходе Mythos 7 апреля, планируя ограничить ее использование узким кругом технологических гигантов и банков, таких как Apple и Goldman Sachs. Однако уже к 22 апреля Anthropic пришлось расследовать сообщения о том, что неавторизованные пользователи получили доступ к модели. Весь процесс от презентации до возникновения реальной угрозы занял считанные дни. В таких условиях законодатели физически не успевают изучить новые риски и скорректировать нормативную базу.

Роль судебных исков и прецедентного права

Поскольку новые законы опаздывают, регулирование отрасли ложится на плечи юристов и существующие правовые механизмы. Бизнесу придется полагаться на прагматизм и инстинкт самосохранения. Угроза многомиллионных штрафов и судебных разбирательств заставит компании действовать осмотрительнее гораздо быстрее, чем официальные директивы.

В качестве примера в обзорах приводится ИИ-стартап Mercor, оцениваемый в 10 миллиардов долларов. Компания уже столкнулась с семью коллективными исками после утечки данных. Истцы обвиняют Mercor в нарушении конфиденциальности, в частности:

• в слежке за компьютерами подрядчиков и передаче этих данных клиентам;
• в использовании записей собеседований кандидатов для обучения моделей ИИ;
• в обучении клиентских моделей на материалах, защищенных авторским правом других компаний.

Примечательно, что эти иски основаны на уже существующих законах о конфиденциальности, кибербезопасности и правилах хранения записей. Это доказывает, что для привлечения компаний к ответственности за нарушения в сфере ИИ не требуются новые специализированные законы. Судебные прецеденты сформируют стандарты рынка гораздо быстрее парламентов.

Прагматичный подход к защите данных

В сложившихся условиях компаниям необходим прагматичный подход к созданию и использованию ИИ-моделей. Организации должны быть готовы в любой момент обосновать и защитить методы обучения, использования и работы своих ИИ-приложений — как перед регуляторами, так и перед страховыми компаниями, предоставляющими полисы киберстрахования.

По аналогии с тем, как судебные иски в свое время сформировали правила работы с аллергенами в ресторанах или информированное согласие пациентов в больницах, судебная система настроит ИИ-индустрию под жесткие стандарты безопасности.

Смотрите также:

Самостоятельная сборка ПК: почему это больше не выгодно http://kupidonchik.org/samostoyatelnaya-sborka-pk-pochemu-eto-bolshe-ne-vyigodno/.

Интересности на тему: Google* запускает ИИ-агентов для отслеживания информации

Классные советы в статье "Apple обновляет систему родительского контроля для привлечения семейной аудитории" здесь.

Для минимизации рисков компаниям необходимо выстроить четкую систему управления данными:

• точно знать происхождение и историю используемых данных;
• контролировать места их хранения;
• отслеживать, как ИИ и автономные агенты получают доступ к информации;
• непрерывно мониторить результаты работы алгоритмов.

Без базовой гигиены данных риск совершить критическую ошибку возрастает в разы. Даже при отсутствии профильного законодательства об ИИ компании могут понести колоссальные убытки из-за судебных исков, основанных на действующих нормах права.