Искушение «техническим совершенством»: почему разработчики ИИ повторяют путь создателей атомной бомбы

В 1954 году физик Роберт Оппенгеймер, руководивший созданием атомной бомбы, предстал перед Комиссией по атомной энергии. Слушания были посвящены его позиции в отношении водородной бомбы — оружия, обладающего несоизмеримо большей разрушительной силой. Оппенгеймер, испытывавший серьезные моральные терзания после Второй мировой войны, изначально выступал против разработки термоядерного оружия, однако позже изменил свое мнение.

На вопрос о причинах смены позиции физик ответил, что когда ученые сталкиваются с чем-то «технически сладким» — элегантным и прорывным решением сложной задачи, — они стремятся реализовать его немедленно, оставляя этические споры на потом. Этот принцип остается актуальным и в эпоху бурного развития искусственного интеллекта.

Регулирование как нерешенная дилемма

Джек Кларк, сооснователь компании Anthropic*, занимающейся созданием нейросетевых моделей, в ходе недавней публичной дискуссии в Институте Аспена затронул тему ответственности разработчиков. Основной тезис заключается в том, что общество стоит перед выбором, который фактически игнорируется из-за отсутствия адекватного государственного регулирования технологий.

По мнению экспертов, сложилась парадоксальная ситуация:

• Общество привыкло к строгому контролю за автомобилями и ядерным оружием.
• Технологическая отрасль навязывает мнение, что ИИ якобы невозможно или слишком сложно регулировать.
• История развития социальных сетей показала, что бесконтрольные эксперименты меняют культуру общения и мышления людей во всем мире, причем это изменение происходит без общественного согласия.

Право на создание будущего

Руководство Anthropic* признает, что современные нейросети несут экзистенциальные риски, включая угрозы в сфере кибербезопасности и биологического оружия. Тем не менее, компания утверждает, что развитие этих технологий необходимо для решения глобальных проблем человечества, таких как старение населения и климатические изменения.

Критический вопрос, который задают представители общественности разработчикам, звучит так: кто наделил частные компании правом создавать технологии, способные радикально изменить или даже поставить под угрозу существование человечества, без возможности граждан отказаться от участия в этом процессе?

Представители отрасли зачастую уклоняются от прямого ответа, перекладывая ответственность на государственные органы. В текущих реалиях разработчики продолжают наращивать мощность систем с максимально возможной скоростью, опираясь на научный и вычислительный прогресс, в то время как институты внешнего контроля находятся лишь на стадии формирования.

Природа «технической сладости»

Главный стимул развития ИИ кроется не только в рыночной конкуренции или многомиллиардных инвестициях. Технология привлекательна для ученых своей простотой и изяществом. Подобно тому, как физики середины XX века не могли отказаться от соблазна реализовать совершенный с инженерной точки зрения проект, современные исследователи ИИ движимы азартом первооткрывателей.

Смотрите также:

Переплавка старых украшений: золотые серьги с сапфиром http://kupidonchik.org/pereplavka-staryih-ukrasheniy-zolotyie-sergi-s-sapfirom/.

Интересности на тему: Беспроводная швабра Dyson PencilWash достигла минимальной стоимости за всю историю продаж

Классные советы в статье "Обзор AirPods Max 2: работа над ошибками, которой не случилось" здесь.

В обзоре отмечается, что современные разработчики, как и Оппенгеймер в свое время, ощущают своего рода «неизбежность» прогресса. ИИ представляется инструментом, который появляется сам собой, как только заложены его основы. Однако, как показывает история с водородной бомбой, сам факт создания технологии не отменяет ответственности за последствия. Важно, чтобы общество имело реальную возможность сделать выбор, а не просто сталкивалось с уже свершившимся фактом технического успеха.

* — деятельность компании запрещена на территории РФ