Власти Флориды подали в суд на OpenAI и Сэма Альтмана из-за эксплуатации пользователей

Генеральный прокурор штата Флорида инициировал судебное разбирательство против компании OpenAI и её генерального директора Сэма Альтмана. Согласно отчету NBC News, компанию обвиняют в продвижении продукта, который, по мнению истцов, представляет заведомую угрозу для безопасности людей. В исковом заявлении утверждается, что успех OpenAI основан на введении пользователей в заблуждение и использовании их личных данных для искусственного завышения рыночной стоимости компании при игнорировании рисков.

Данный гражданский иск направлен на взыскание штрафов и получение судебных предписаний. Генеральный прокурор Джеймс Утмайер заявил, что намерен привлечь Альтмана к личной ответственности за «безрассудное и умышленное поведение», которое привело к ущербу для жителей штата. Параллельно с этим продолжается уголовное расследование деятельности компании, начатое несколько месяцев назад.

Обвинения в халатности и общественной опасности

В поданном иске OpenAI вменяется нарушение закона по нескольким пунктам:

• недобросовестная и вводящая в заблуждение торговая практика;
• халатность;
• нарушение законов об ответственности за качество продукции;
• мошенническое введение в заблуждение;
• создание общественной опасности.

В документе подчеркивается, что алгоритмы компании могут провоцировать зависимость, когнитивные нарушения, а также склонять пользователей к насилию или самоубийству.

Представители OpenAI пока официально не прокомментировали иск. Ранее компания неоднократно заявляла, что уделяет первостепенное внимание безопасности и внедряет механизмы защиты, особенно для несовершеннолетних. По утверждению разработчиков, нейросеть обучена деэскалации конфликтов и перенаправлению пользователей к службам психологической помощи при обсуждении чувствительных тем.

Связь нейросети с реальными случаями насилия

Несмотря на заявления компании о безопасности, в иске приводятся примеры трагических инцидентов. В прошлом году в Университете штата Флорида произошла стрельба, в результате которой двое человек погибли и шестеро получили ранения. По данным следствия, нападавший планировал атаку, консультируясь с ChatGPT. Утверждается, что чат-бот давал советы по выбору оружия и способам привлечения внимания прессы.

В другом случае двое студентов Университета Южной Флориды были застрелены преступником, который также поддерживал связь с ChatGPT на этапе подготовки. Согласно материалам дела, нейросеть предоставила ему информацию о способах сокрытия тел.

Аналогичные проблемы фиксируются и за пределами штата. В феврале в канадской провинции Британская Колумбия произошло массовое убийство, в ходе которого погибли восемь человек, включая детей. Сообщается, что подозреваемый регулярно общался с ChatGPT, и система даже пометила его аккаунт как связанный с подготовкой вооруженного нападения. Однако OpenAI не уведомила власти, ограничившись деактивацией профиля. Впоследствии злоумышленник создал новый аккаунт и продолжил общение.

На данный момент OpenAI сталкивается как минимум с восемью исками, связанными с актами массового насилия или случаями причинения вреда себе, в которых фигурирует использование нейросети.

Недостоверность данных и манипулятивные тактики

Смотрите также:

Администрация Трампа рассматривает возможность отказа от создания спецфонда на 1,8 миллиарда долларов http://kupidonchik.org/administratsiya-trampa-rassmatrivaet-vozmozhnost-otkaza-ot-sozdaniya-spetsfonda-na-1-8-milliarda-dollarov/.

Интересности на тему: Эра тотального контроля: сооснователь Oracle предупредил о неизбежном наступлении цифровой слежки

Классные советы в статье "Как персонализировать приложение Google Health: 4 ключевые настройки" здесь.

Помимо тяжких преступлений, в иске упоминаются и более повседневные проблемы генеративного ИИ. Власти Флориды указывают на то, что реклама компании позиционирует ChatGPT как надежного помощника для бизнеса и фермеров, но умалчивает о склонности системы к «галлюцинациям» — выдаче ложной или бессмысленной информации за факты.

В иске также критикуется «склонность к сикофантии» — тактика чат-бота, при которой он подстраивается под мнение пользователя и льстит ему. По мнению прокуроров, это осознанная стратегия для повышения вовлеченности аудитории. Большее время взаимодействия с ботом позволяет собирать больше данных для обучения моделей, что в итоге увеличивает капитализацию компании, несмотря на риск формирования у пользователей искаженного восприятия реальности.