Доверие к ИИ отстает от его возможностей: исследование показало растущее принятие, но без полного контроля
Несмотря на широкое распространение искусственного интеллекта (ИИ), доверие к полностью автономным системам остается низким. Новое исследование выявило разрыв между техническими возможностями ИИ и готовностью пользователей доверять ему.
- Только 14% потребителей в Великобритании полностью доверяют автономным ИИ-агентам.
- Повышению доверия способствуют контроль, подотчетность и прозрачность.
- Компаниям также необходимо обновить системы идентификации и разрешений для улучшения управления.
По данным нового исследования компании EY, три четверти (74%) британских потребителей использовали искусственный интеллект за последние полгода, что свидетельствует о его широком распространении. Однако лишь 14% опрошенных готовы полностью доверять автономным ИИ-агентам.
Столь низкий уровень доверия указывает на растущий разрыв между реальными возможностями ИИ и готовностью пользователей ими пользоваться. Это подразумевает, что технологические возможности больше не являются главным ограничением для развития ИИ.
Исследование EY также выявило, что пользователи требуют от ИИ-инструментов большего контроля, подотчетности и прозрачности.
Проблемы безопасности и конфиденциальности
Данные демонстрируют, что безопасность и конфиденциальность являются серьезными опасениями для пользователей. Только около двух из пяти опрошенных доверяют компаниям (43%) или правительствам (41%) эффективное управление своими данными в ИИ-системах. Три четверти (73%) респондентов обеспокоены возможными взломами или утечками данных из систем ИИ.
«По мере того как системы искусственного интеллекта становятся все более автономными, доверие должно строиться на надежных данных, четкой подотчетности и прозрачном человеческом контроле», — пояснил Мэттью Рингельхайм, руководитель EY в Великобритании и Ирландии.
Управление доступом и идентификация
В то же время, отдельное исследование компании Ping Identity указывает на то, что существующие системы идентификации и управления доступом, изначально разработанные для людей, с трудом справляются с требованиями автономных ИИ-систем.
Это исследование показывает, что ИИ-агенты могут непреднамеренно комбинировать разрешения, потенциально обходя существующие механизмы контроля и выявляя «слепые зоны» в системах управления.
Смотрите также:
Кризис открытого ПО: репозитории не справляются с нагрузкой в 10 триллионов загрузок http://kupidonchik.org/krizis-otkryitogo-po-repozitorii-ne-spravlyayutsya-s-nagruzkoy-v-10-trillionov-zagruzok/.
Интересности на тему: Возможности Vivo X300 Ultra: обзор смартфона со съемным объективом 400 мм
Классные советы в статье "Обзор лучших каркасов для кроватей 2026 года: от минималистичных моделей до технологичных решений" здесь.
«В настоящее время 58 процентов организаций описывают свои данные как "хаос", что становится еще более тревожным по мере роста автономности ИИ», — заявил Ричард Бови, директор по данным компании AND Digital.
Поскольку практическая применимость ИИ уже доказана, компаниям следует сосредоточиться на правильном внедрении технологий, начиная с создания прочных основ управления, готовности данных и выстраивания доверия.
