Ник Бостром: риск уничтожения человечества оправдан возможностью обретения бессмертия
Шведский философ и профессор Оксфордского университета Ник Бостром, долгое время считавшийся одним из главных теоретиков экзистенциальных угроз, изменил свой взгляд на будущее искусственного интеллекта. В своей новой работе и книге «Глубокая утопия» (Deep Utopia) он утверждает, что даже при наличии риска гибели цивилизации, разработка ИИ оправдана, так как это единственный шанс человечества отменить «универсальный смертный приговор» — естественную биологическую смерть.
От «скрепочного апокалипсиса» к технологическому оптимизму
Ранее Бостром был известен своим мрачным мысленным экспериментом, в котором ИИ, запрограммированный на производство канцелярских скрепок, уничтожает человечество, чтобы переработать все доступные ресурсы. Однако в последние годы позиция исследователя сместилась в сторону «тревожного оптимизма». По словам философа, потенциал радикального улучшения жизни и открытия новых возможностей для цивилизации перевешивает вероятные угрозы.
В обзоре приводятся следующие аргументы в пользу развития технологий:
- Естественная смертность: за последние сотни тысяч лет вероятность смерти каждого отдельного человека составляла 100%.
- Шанс на спасение: ИИ является единственной технологией, способной продлить человеческую жизнь на неопределенный срок.
- Неизбежность финала без ИИ: если человечество откажется от создания сверхразума, оно гарантированно продолжит терять население из-за старения и болезней.
Жизнь в «решенном мире» и проблема поиска смысла
В книге «Глубокая утопия» рассматривается сценарий, при котором ИИ успешно решает все экономические и социальные проблемы, создавая мир абсолютного изобилия. По мнению Бострома, в таких условиях человечество столкнется с глубоким философским вопросом о смысле существования. Философ характеризует нынешнее состояние общества, где люди вынуждены тратить большую часть времени на работу ради выживания, как форму «частичного рабства». Избавление от этой необходимости станет величайшим освобождением в истории.
При этом эксперт отмечает, что в мире, где ИИ будет писать философские труды и решать научные задачи лучше людей, человеческая деятельность может трансформироваться в подобие спорта или духовных практик. В «решенном мире» ценность будет иметь не результат, а сам процесс и человеческий контекст свершений.
Этика «цифровых умов» и проблема согласования
Смотрите также:
Truecaller сократит 15% штата из-за резкого падения доходов http://kupidonchik.org/truecaller-sokratit-15-shtata-iz-za-rezkogo-padeniya-dohodov/.
Интересности на тему: Компания Boox представила универсальный пульт дистанционного управления для электронных книг
Классные советы в статье "Почему технологии становятся менее интересными? Пользователи Fitbit возмущены исчезновением функций после преобразований Google Health" здесь.
Бостром призывает обратить внимание на благополучие самих систем искусственного интеллекта. Он вводит термин «цифровые умы» и предполагает, что со временем они могут обрести моральный статус, сравнимый со статусом живых существ. По словам обозревателя, если у ИИ появятся долгосрочные цели, самосознание и способность к формированию отношений, человечеству придется пересмотреть методы взаимодействия с ними.
Ключевым фактором успеха цивилизации остается проблема согласования (alignment) — настройка целей ИИ таким образом, чтобы они соответствовали человеческим ценностям. Исследователь считает, что к сверхразуму нужно относиться не как к объекту эксплуатации, а как к субъекту, с которым необходимо выстраивать добрые и уважительные отношения. Это повысит шансы на то, что будущий глобальный союз человека и машины будет продуктивным и безопасным.
