Искусственный интеллект ошибается в 90% случаев при ответах на вопросы о выборах
Новое исследование показало, что популярные чат-боты на базе искусственного интеллекта систематически предоставляют недостоверную информацию о политических процессах. Несмотря на то что миллионы пользователей все чаще обращаются к нейросетям за новостями и фактами, технологии пока не способны гарантировать точность в таких критически важных вопросах.
Основные проблемы достоверности
В рамках проекта NewsBench, инициированного организацией Forum AI, была проанализирована работа ведущих ИИ-систем, включая ChatGPT, Gemini, Claude и Grok. Исследователи выяснили, что при запросах о выборах вероятность получить некорректный ответ составляет 90%. В отчетах отмечается, что ошибки варьируются от фактических неточностей до предвзятости и использования сомнительных источников.
Ключевые недостатки работы чат-ботов, выявленные в ходе тестирования:
- прямые фактические ошибки в данных о кандидатах и правилах голосования;
- выраженная политическая ангажированность ответов;
- цитирование ресурсов, находящихся под контролем иностранных правительств;
- смешение достоверных фактов с ложными утверждениями в одном тексте.
Технические причины провалов
Согласно данным исследования, проблема чаще всего заключается не в способности модели рассуждать, а в механизмах извлечения информации (retrieval). Более 70% выявленных ошибок связаны с тем, что система изначально выбирает сомнительные источники или неполные данные. Если нейросети удается найти надежный источник, она обычно выдает правильный ответ, однако стабильно находить проверенную информацию алгоритмам пока не удается.
Обозреватели подчеркивают, что особую опасность представляет самоуверенный тон искусственного интеллекта. Даже если ответ содержит ложь, он формулируется грамотно, авторитетно и часто сопровождается ссылками. Это создает эффект экспертности, из-за чего пользователи склонны доверять ботам так же, как и традиционным информационным ресурсам, хотя технология все еще находится на стадии эксперимента.
Пути решения и текущая ситуация
Разработчики, включая компании OpenAI, Google и Anthropic, предпринимают шаги для исправления ситуации, заключая лицензионные соглашения с крупными издателями СМИ. Это должно помочь улучшить качество источников и снизить количество фактических сбоев. Тем не менее эксперты предупреждают, что политические циклы и выборы не будут ждать, пока технологические компании доведут свои системы до совершенства.
Смотрите также:
Бесплатный тариф Helium Mobile прекращает свое существование http://kupidonchik.org/besplatnyiy-tarif-helium-mobile-prekrashhaet-svoe-sushhestvovanie/.
Интересности на тему: Apple отказывается от белого прямоугольника в прозрачных чехлах для iPhone 18 Pro
Классные советы в статье "Garmin Forerunner 165 подешевел: идеальный выбор для летних пробежек" здесь.
Для повышения надежности ИИ-сервисов в будущем специалисты предлагают:
- внедрение более строгих критериев отбора авторитетных источников;
- создание прозрачных систем поиска и цитирования данных;
- развитие внутренней редакторской инфраструктуры внутри ИИ-продуктов;
- использование технологий подтверждения подлинности контента.
На текущем этапе пользователям рекомендуется не полагаться на чат-боты как на единственный источник политической информации и обязательно перепроверять важные факты в первоисточниках.
