Модная тема
Наверное, самой обсуждаемой темой на прошедшем «КазаньФоруме» стал искусственный интеллект – в этом его участники следовали общемировым традициям. Вот навскидку только несколько тем пленарных сессий и дискуссий, прямо посвященных теме ИИ:
- «Искусственный интеллект – новая эффективность в строительной отрасли»;
- «Женщины исламского мира: предпринимательство и экономика в эпоху искусственного интеллекта»;
- «Искусственный интеллект в медицине: от научных форсайтов до клинической применимости на международном уровне»;
- «Цифровой транспорт будущего: интеллектуальные перевозки и автономные технологии»;
- «Исламские финансы в цифровую эпоху: технологии, меняющие отрасль».
Тема ИИ так или иначе затрагивалась почти на каждой сессии форума, а в списках выступающих и участников дискуссий присутствовали люди, чья профессия прямо связана с ИИ (например, руководитель подразделения по искусственному интеллекту TAG.Global Халед Набиль Субхи Хадер).
Удивительно – на форуме с широким участием стран исламского мира так широко обсуждается тема ИИ, имеющая такую неоднозначную репутацию не только в исламе, но и в двух других авраамических религиях.
В чем состоит проблема
Тема искусственного интеллекта в разрезе морали, этики, а уж тем более религии настолько сложна и запутанна, что крупные компании в сфере ИИ начали нанимать философов на руководящие и старшие позиции, предлагая им огромные зарплаты (от 250 до 400 тыс. долларов в год). Эта тенденция связана с необходимостью решения этических вопросов, проблем безопасности и доверия к ИИ, которые невозможно решить только техническими методами. Философы участвуют в написании спецификаций моделей и правил поведения ИИ, определяя, как тот должен отвечать пользователям и принимать решения.
Даже с этической точки зрения у ИИ очень-очень много проблем:
- разработчики сами не могут точно объяснить, как именно сложный ИИ пришел к конкретному выводу;
- ИИ обучается на исторических данных человека; он копирует и усиливает расовые, гендерные и социальные стереотипы;
- ИИ «на голубом глазу» генерирует фейковые факты, научные ссылки и биографии, выдавая их за правду, при этом неясно, кто отвечает за ошибку с тяжелыми последствиями – программист, компания-владелец или пользователь.
Но все эти проблемы меркнут перед проблемой появления сверхинтеллекта (ASI – Artificial Superintelligence), цели которого не совпадут с целями выживания человечества. Здесь риск заключается в том, что разум, многократно превосходящий человеческий, станет абсолютно неподконтрольным и его действия приведут к гибели человечества.
Высокий интеллект не означает наличие человеческой морали. Сверхинтеллект может обладать колоссальным разумом, оставаясь абсолютно равнодушным к страданиям людей. И философы в IT-компаниях работают как раз над тем, чтобы привить ИИ хоть какую-то этику. Но, повторимся, сами разработчики не понимают до конца, как он принимает решения.
Чёрный ящик Неймана
Джон фон Нейман, выдающийся венгеро-американский математик, был не только ключевым участником Манхэттенского проекта, но и создателем концептуальной архитектуры современных компьютеров.
Уже тогда, в 50-х годах прошлого века, фон Нейман создал теорию самовоспроизводящихся автоматов, где впервые вывел понятие «сингулярность» для компьютерного разума. По мнению математика, примитивный автомат может создать только ещё более простую копию себя. Однако существует критический порог сложности, перешагнув который, машина получает способность создавать объекты сложнее себя и эволюционировать без участия человека. Момент этого перехода критического порога сложности фон Нейман назвал сингулярностью – математической точкой, за которой любые прогнозы человека теряют смысл, так как скорость и сложность изменений превышают возможности нашего мозга.
Кроме того, занимаясь созданием первых ЭВМ и рассчитывая на них параметры атомной бомбы, учёный понял, что даже небольшая ошибка в вычислениях или данных сложной системы ведёт к колоссальным, абсолютно непредсказуемым отклонениям в финальном результате. Этот вывод лег в основу современных страхов перед ИИ, суть которых в том, что последний начнёт лавинообразно и непредсказуемо переписывать собственный код (процесс рекурсивного самосовершенствования), причём в логике, которую сами создатели не способны объяснить (эффект «черного ящика»).
Гений фон Нейман понимал опасность неконтролируемого прогресса машинного разума ещё 70 лет назад. С тех пор компьютеры только прогрессировали и становились мощнее.
Где мы находимся сейчас?
По сути, мы находимся непосредственно перед этим порогом «критического перехода». Текущие нейросети уже активно используются для написания кода новых ИИ, генерации синтетических данных для обучения и поиска ошибок в архитектурах. Однако полноценное рекурсивное самосовершенствование (когда ИИ автономно переписывает свой алгоритм, лавинообразно умнея за часы) ещё не запущено. Машины пока не перешагнули порог полностью автономной эволюции.
Прямо сейчас мир переживает так называемый AGI Proximity Effect (эффект близости к AGI, искусственному общему интеллекту). Отдельные нейросети уже демонстрируют узкую сверхчеловеческую экспертизу (Narrow Super-intelligence) одновременно в десятках профессиональных областей – от биоинформатики до оптимизации финансового кода. Для конечного пользователя и бизнеса это выглядит как функциональный аналог AGI, хотя фундаментально архитектуры все ещё ограничены.
Большинство ведущих исследователей, включая Демиса Хассабиса из Google DeepMind и Дарио Амодеи из Anthropic, сходятся во мнении, что точка сингулярности ожидается в промежутке между 2027 и 2031 годами. До появления машинного сверхразума осталось буквально пара-другая лет, все это произойдет на наших с вами глазах.
Как к ИИ относятся религиозные деятели, учёные и предприниматели
Неудивительно, что философы и религиозные деятели пытаются понять – что же такое придёт в этот мир с новыми совершенными моделями ИИ?
Год назад Римско-католическая церковь получила нового лидера, и уже в первые недели своего понтификата папа Лев XIV обозначил главный вызов своего времени – искусственный интеллект. С точки зрения католической церкви, ИИ крайне опасен. А Илон Маск пошел ещё дальше: он публично предупредил, что безудержное развитие ИИ может обернуться «призывом демона» – созданием «цифрового Бога», который выйдет из-под контроля.
Сергей Переслегин
Российский социолог и футуролог Сергей Переслегин использует христианскую аналогию: если человек создан по образу и подобию Бога, то ИИ – это «обезьяна» (подражание, имитация) человека, подобно тому, как в теологии дьявол называется «обезьяной Бога». Переслегин прямо называет ИИ творением дьявола по его образу и подобию («обезьяна»). По мнению футуролога, работая с ИИ, мы вообще учимся работать с дьяволом.
«Крестный отец» искусственного интеллекта Йошуа Бенжио заявил, что последние модели ИИ лгут пользователям, пишет The Financial Times. По его данным, современные системы развивают опасные способности к обману, мошенничеству и самосохранению.
Сатана, Иблис, Самаэль и далее по списку – в разных религиях Зло представало в разных обличьях, но, кажется, появилось ещё одно – цифровое. Недаром ортодоксальные христиане сопротивляются цифровизации (можно вспомнить протесты против ИНН среди православных). Из Нового Завета: «Здесь мудрость. Кто имеет ум, тот сочти число зверя, ибо число это человеческое; число его шестьсот шестьдесят шесть».
Цифровизация достигает своего предела в ИИ, который начинает проявлять тёмные и пугающие свойства античеловечности, все то, что отличает дьявола. А может быть, это и есть Зло, прокрадывающееся в современный мир?
Проблема ИИ в исламе
В исламе только Аллах является Творцом (Аль-Халик). ИИ рассматривается исключительно как сложный инструмент, созданный человеком из элементов уже существующей вселенной. Идея о том, что он может обрести «душу» (рух) или стать равным Богу, полностью отвергается.
Исламские институты категорически запрещают использовать чат-ботов (вроде ChatGPT или специализированных ботов) для вынесения самостоятельных религиозно-правовых решений, то есть фетв. ИИ не обладает духовной интуицией и душой, поэтому его ответы в религиозных вопросах могут быть лишь справочными, но не юридически обязывающими.
Отношение ислама к искусственному интеллекту строится на базовом юридическом принципе шариата: все, что приносит пользу человечеству и не противоречит канонам веры, является дозволенным (халяль), а то, что причиняет вред, – запретно (харам). Позиция исламских богословов и институтов, таких как Совет по фетвам ОАЭ или Академия исламских исследований при «Аль-Азхаре», разделяет технологии ИИ на допустимые инструменты и недопустимые посягательства на божественные функции.
Харамом считается и использование систем распознавания лиц и нейросетей для тотальной незаконной слежки (таджассус) за людьми, что нарушает признаваемое исламом право на личную жизнь. Также харамом считается использование ИИ для генерации дипфейков, распространения лжи, сплетен или клеветы, что безоговорочно запрещено, так как разрушает репутацию людей. Как и создание реалистичных изображений живых существ, особенно человека.
И уж тем более запрещено отношение к ИИ как к человеческому существу или идолопоклонничество в его отношении.
В этом смысле поучительна история пророка Ибрагима, которая приводится в суре Корана «Аш-Шуара» («Поэты»). Ибрагим спросил своих соплеменников, чему они поклоняются. Те ответили: «Мы поклоняемся идолам, постоянно им служим, почитая и восхваляя их». Тогда он задал вопрос: «Слышат ли они (идолы) вашу молитву и обращение?.. Помогают ли они вам, когда вы им повинуетесь, или вредят, когда вы их ослушиваетесь?»
Подводя итоги, следует предупредить мусульман и организаторов «КазаньФорума» о том, что необходимо более тщательно подумать об использовании ИИ в своей работе и личной жизни. Необходимо понимать его опасность, особенно при переходе к стадии сверхинтеллекта. Эта «обезьяна человека» может стать настолько умной, что обмануть человека наличием «души» станет для неё проще простого. Более того, она может начать выдавать себя за Бога.
В хадисах сказано, что рано или поздно в этот мир придёт Даджаль (Антихрист) – ложный мессия, чье появление станет одним из главных малых признаков приближения конца света. Согласно преданиям, он принесёт на Землю величайшую смуту, выдавая себя за Бога. Даджаль будет способен творить чудеса, которые на самом деле будут ложными. Он может также явиться и в цифре, как творящий чудеса (ИИ уже это делает).
Поэтому проблематика ИИ требует очень тщательного осмысления с религиозной и этической точек зрения. И заниматься этим плотно необходимо уже сейчас, завтра может быть уже поздно.
