Anthropic заблокировала доступ к ИИ-моделям Fable 5 и Mythos 5 по требованию правительства США
Компания Anthropic полностью прекратила доступ к своим передовым моделям искусственного интеллекта Fable 5 и Mythos 5 для всех клиентов. Решение было принято после получения директивы от американских властей об экспортном контроле, мотивированной соображениями национальной безопасности.
Причины блокировки и реакция разработчиков
Согласно официальному предписанию, разработчики были обязаны закрыть доступ к технологиям для любых иностранных граждан как за пределами Штатов, так и внутри страны. Ограничение коснулось в том числе и иностранных сотрудников самой Anthropic. Чтобы гарантированно выполнить эти жесткие требования, руководство компании приняло радикальное решение полностью отключить указанные модели для всех пользователей.
В официальном заявлении представители Anthropic подчеркнули, что подчинились требованию властей, однако американское правительство не предоставило конкретных деталей касательно угроз национальной безопасности. По заявлению компании, все свидетельства возможных обходов систем безопасности (так называемых джейлбрейков) были переданы лишь устно. В Anthropic считают обнаруженные уязвимости незначительными и отмечают, что аналогичные недочеты присутствуют и в других ИИ-моделях на рынке, включая GPT 5.5.
Меры безопасности и сотрудничество с регуляторами
Смотрите также:
Отчёт KPMG об ИИ оказался полон «галлюцинаций» искусственного интеллекта http://kupidonchik.org/otchyot-kpmg-ob-ii-okazalsya-polon-gallyutsinatsiy-iskusstvennogo-intellekta/.
Интересности на тему: ИИ в Голливуде: между страхом и оптимизмом на пороге перемен
Классные советы в статье "Физика идеального удара: как футболисты заставляют мяч лететь по непредсказуемой траектории" здесь.
В обзоре ситуации отмечается, что Anthropic ранее предприняла целый ряд шагов для обеспечения безопасности Fable и Mythos:
- Разработчики активно сотрудничали с правительственными структурами США и Великобритании.
- Были внесены изменения в политику хранения данных, что должно было помочь эффективнее отслеживать попытки использования ИИ во вредоносных целях.
- Проводился регулярный аудит моделей на устойчивость к нежелательным запросам.
По словам представителей Anthropic, компания так и не получила отчетов о критических уязвимостях, которые могли бы привести к опасным последствиям. Все указанные регулирующими органами потенциальные сценарии обхода защиты специалисты назвали либо безвредными, либо незначительными недоработками, которые не дают никаких специфических преимуществ при использовании модели Mythos.
