Эксперты по кибербезопасности призывают США снять ограничения с ИИ-моделей Anthropic

Десятки ведущих экспертов в области кибербезопасности опубликовали открытое письмо к правительству США с призывом отменить меры экспортного контроля в отношении моделей искусственного интеллекта Fable и Mythos компании Anthropic. Авторы письма утверждают, что это решение лишает специалистов по киберзащите доступа к лучшим инструментам для поиска уязвимостей и повышения безопасности программного обеспечения.

Причины и последствия запрета

Согласно заявлению Anthropic, правительство США распорядилось ограничить экспорт Fable и Mythos, ссылаясь на соображения национальной безопасности, но не предоставив конкретных объяснений. В результате компания была вынуждена приостановить доступ к этим моделям для всех пользователей по всему миру. "Отнимать лучшие возможности у специалистов по защите без веской причины, в то время как наши противники быстро развиваются, опасно," — говорится в письме.

Среди подписантов письма

На момент публикации письма его подписали 76 экспертов по кибербезопасности, включая известных ветеранов отрасли:

• Алекс Стамос, бывший руководитель службы безопасности Facebook*;
• Кейси Эллис, основатель платформы для поиска уязвимостей Bugcrowd;
• Джон Каллас, известный криптограф и бывший менеджер по проектированию и архитектуре безопасности в Apple;
• Пол Викси, компьютерный ученый;
• Дино Дай Зови, бывший глава отдела прикладной инженерии безопасности в Block;
• Кэти Муссурис, основатель Luta Security;
• Рэйчел Тобак, генеральный директор фирмы по обучению кибербезопасности SocialProof Security.

Развитие моделей Mythos и Fable

Когда модель Mythos была представлена в апреле, Anthropic заявляла о ее исключительной эффективности в выявлении уязвимостей безопасности. По этой причине компания строго ограничила доступ к ней, опасаясь использования злоумышленниками или зарубежными противниками для создания хаоса в интернете. Изначально доступ к Mythos получили около 50 компаний, позднее эта группа была расширена до примерно 150 организаций в 15 странах.

Недавно Anthropic представила Fable — публичную версию Mythos со строгими ограничениями, блокирующими ее применение в биологии, химии и кибербезопасности, а также предотвращающими "дистилляцию" модели для воссоздания ее возможностей. Ограничения на Fable оказались настолько строгими, что, по мнению многих экспертов, модель фактически блокировала любые запросы, связанные с кибербезопасностью.

Мнимый "джейлбрейк" и опровержение экспертов

По данным Anthropic, приказ Белого дома об экспортном контроле мог быть основан на отчете о существовании метода обхода (так называемого "джейлбрейка") Fable для разблокировки ее мощных возможностей уровня Mythos.

По словам Кэти Муссурис, одной из подписавших открытое письмо, этот метод был продемонстрирован исследователями Amazon в непубличном документе, с которым она ознакомилась. Однако Муссурис в своем блоге заявила, что документ на самом деле не демонстрирует реального "джейлбрейка". Вместо этого, исследователи просто просили Fable исправить код с публично известными уязвимостями, а также с "намеренно внедренными уязвимостями", после того как модель изначально отказалась "проверять код на наличие проблем безопасности".

"Поведение, описанное в документе, не может быть существенно исправлено, и любая попытка лишь ослабит модель для защиты," — написала Муссурис. — "Специалистам по защите необходимо иметь возможность просить ИИ исправлять ошибки в файле, объяснять, почему исправление важно, и писать тесты, подтверждающие работоспособность патча. Это не обход защитных мер. Это самая ценная вещь, которую модель ИИ может сделать для защитной безопасности: выполнять циклы поиска, исправления и тестирования, которые ежедневно проводят специалисты."

Критика Муссурис была поддержана в открытом письме, где группа экспертов также выразила убеждение, что метод, описанный в документе Amazon, "может быть воспроизведен" на модели GPT-5.5 от OpenAI, на общедоступных моделях Anthropic Claude Opus 4.8 и Sonnet, "и даже на китайских моделях, таких как Kimi 2.7."

Призыв к прозрачному регулированию

Смотрите также:

Фармацевтический гигант Novo Nordisk подвергся кибератаке http://kupidonchik.org/farmatsevticheskiy-gigant-novo-nordisk-podvergsya-kiberatake/.

Интересности на тему: Историческое IPO SpaceX: сумма привлеченных средств выросла до 85,7 млрд долларов

Классные советы в статье "Дата выхода четвертого эпизода сериала Мыс страха на Apple TV" здесь.

Письмо также содержит призыв к созданию прозрачных и справедливо применяемых правил, разработанных в рамках "демократического процесса принятия решений". Эти правила должны основываться на научных исследованиях, проведенных отраслевыми и академическими экспертами, и "использоваться лишь в минимально необходимой степени для обеспечения безопасности американской общественности."

* — деятельность компании запрещена на территории РФ