В редакцию журнала «Фома» пришло письмо:
В нашу жизнь все больше и больше входят высокие технологии. Компьютеры управляют уже едва ли не всеми сферами жизни. С искусственным интеллектом мы вынуждены общаться постоянно — например, позвонив в банк, вызывая врача на дом. Пишут, что скоро появятся такси, где вместо человека-водителя будет искусственный интеллект.
И вот возникает мысль: куда приведет эта тенденция? Что, если в результате развития технологий разные системы искусственного интеллекта будут объединены, и появится супермощный искусственный интеллект, который станет управлять вообще всем на планете Земля? Который будет контролировать жизнь каждого человека, да не просто контролировать, а определять! Исходя из каких-то своих критериев?
А в таком случае не сбудется ли то, что апостол Иоанн Богослов описал в своем «Откровении»? Ведь оно написано иносказательным языком, и может быть, антихрист будет вообще не человеком, а именно таким вот искусственным интеллектом? Может быть, прозревая будущее, апостол увидел именно это, но не смог выразить внятно, потому что в его эпоху просто не было таких понятий? Как думаете, допустима такая версия?
Игорь
Попытаюсь ответить нашему читателю — но сразу предупреждаю, что я не богослов, что излагаю свою позицию и не настаиваю на ее безошибочности.
Начнем с конца — может ли действительно антихрист быть не человеком, а искусственным интеллектом (иначе говоря, компьютерной программой)? Кстати, в самом тексте Откровения Иоанна Богослова (в 13-й главе) антихрист вообще не называется человеком, он там называется зверем: «И стал я на песке морском, и увидел выходящего из моря зверя с семью головами и десятью рогами: на рогах его было десять диадим, а на головах его — имена богохульные. Зверь, которого я видел, был подобен барсу; ноги у него — как у медведя, а пасть у него — как пасть у льва; и дал ему дракон силу свою и престол свой и великую власть». Более того, даже не один зверь, а два: «И увидел я другого зверя, выходящего из земли; он имел два рога, подобные агнчим, и говорил как дракон».
Если исходить только из текста Апокалипсиса (так по-гречески звучит слово Откровение), то действительно, кто такой антихрист, не понять. Более того, самого слова антихрист в Апокалипсисе нет, в Новом Завете оно используется только в первом и втором посланиях апостола Иоанна Богослова. Поэтому может показаться, что у нас действительно открывается простор для толкования. Написано «зверь», ясно, что написано иносказательно, что зверь — это поэтический образ. Значит, зверем этим может быть кто угодно — хоть человек, хоть демон, хоть компьютерная программа...
Но на самом деле толковать Священное Писание нужно, учитывая не только его отдельные фрагменты, но и всё сказанное об этом же в других местах. А о конце мира, об антихристе писал не только апостол Иоанн Богослов. Вот что об этом же говорит апостол Павел: «Да не обольстит вас никто никак: ибо день тот не придет, доколе не придет прежде отступление и не откроется человек греха, сын погибели» (2Фес 2:3). То есть ясно сказано — человек.
Можем ли мы отвергать эти апостольские слова? На каком основании? Этак можно, в угоду своим гипотезам, объявить ошибкой или аллегорией вообще любое место в Священном Писании, которое нам мешает. Многие, конечно, именно так с Библией и поступали (вспомним хотя бы, как обошелся с Евангелием Лев Толстой), но это явно ошибочный путь.
Более того — размышляя о том, как понимать те или иные места Священного Писания, мы не можем игнорировать то, как толковали их святые отцы. Толкований на Откровение Иоанна Богослова много, они разные, не во всем друг с другом согласные, но по-моему, никто из отцов не считал, будто антихрист — это не человек, а нечто принципиально иное. И тут не сработает аргумент, что, мол, отцы были людьми своей эпохи, про компьютеры и программы не знали, потому и неспособны были такое предположить. Если мы верим, что они действительно святые, что на них действительно воздействовал Дух Святой, то уж нашли бы они такие слова, чтобы пусть иносказательно, языком своего времени выразить столь важную мысль: антихрист будет не человеком. Но ничего такого отцы не говорили.
Но все же в письме нашего читателя поставлена очень важная проблема. Пускай искусственный интеллект и не станет антихристом — значит ли это, что вопрос закрыт, что никакой духовной угрозы он не представляет, никаких вызовов для христианского сознания тут нет?
Думаю, все тут есть — и угрозы, и вызовы. И не потому даже, что в теме искусственного интеллекта есть какая-то особая специфика. Проблема шире.
Дело в том, что не существует никакой «духовной жизни» в отрыве от того постоянного нравственного выбора, который каждому из нас приходится постоянно делать. Что такое, говоря по-простому, духовная жизнь? Это общение с духовным миром: с Богом, святыми, ангелами и демонами. Общение не на материальном, физическом уровне, конечно, а внутреннее, то есть в пространстве собственной души. Наша душа — это и есть и место, и способ, и цель такого общения.
А душу формирует обычная жизнь, в которой нам приходится взаимодействовать с другими людьми, совершать те или иные поступки. Можно помочь нуждающемуся, а можно пройти мимо. Можно поверить человеку, а можно и не поверить. Можно поддержать гонимых, а можно испугаться неприятностей... Много чего можно. И каждый такой выбор влияет на состояние души. Каждый такой выбор либо приближает нас к Богу, либо отдаляет.
Но на этот выбор очень сильно влияют внешние обстоятельства. Иначе говоря, все то, что вокруг нас, все те условия, в которых мы живем. Да, есть люди высочайшего духовного уровня, которые не ломаются под гнетом самых страшных бедствий, которые, подобно поэту Александру Солодовникову, могли бы сказать: «Решетка ржавая, спасибо! // Спасибо, лезвие штыка! // Такую волю дать могли бы // Мне только долгие века» (см. нашу публикацию «Александр Солодовников: путями скорби и любви»). Однако большинству решетка и штык явно не полезны. В ситуации насилия, угнетения, издевательств гораздо проще нарушить заповеди Божии, чем соблюсти их. Для очень и очень многих такая ситуация оказывается непреодолимым соблазном.
Именно поэтому нам не должно быть все равно, как устроена окружающая среда, насколько она способствует или препятствует обычной нравственной жизни (а отсюда уже, опосредованно, и духовной). Да, часто можно слышать, что Церковь вне политики, и это верно в том смысле, что Церковь не должна включаться в партийную борьбу, не должна стремиться к политической власти, не должна разделять своих членов по политическим убеждениям. Но это не значит, что она, Церковь, не вправе давать нравственную оценку каким-либо тенденциям нашей обыденной жизни.
Поэтому и об искусственном интеллекте верующим людям стоит рассуждать именно с этой позиции: какой окажется жизнь, основой которой станут информационные технологии. Будет ли искусственный интеллект влиять на наши повседневные поступки? Что окажется проще — поступить по заповедям, или вопреки им?
Иначе говоря, вопрос весь в том, кто и с какой целью станет применять искусственный интеллект. Будет ли он использоваться для создания тоталитарного общества, где начнут принудительно навязываться некие ценности, а тех, кто несогласен, мгновенно возьмут к ногтю? Сейчас много говорят об «электронном концлагере», и в этих разговорах немало болезненной конспирологии, но ведь и частичная правда тоже есть. Правда в том, что технически электронный концлагерь вполне возможен и частично уже кое-где реализован (одна лишь китайская система «социального рейтинга» чего стоит).
При этом нужно трезво понимать: в современном обществе, при тотальном внедрении во всё и вся высоких технологий, главные решения все равно принимают люди. Люди, облеченные властью. Искусственный интеллект — это не какая-то иная форма разума, не живое мыслящее существо, а всего лишь компьютерная программа. Программа, которую написали люди, которую применили люди, которую подправить или вообще отключить тоже могут люди. Страшилки про «восстание машин», про то, что искусственный интеллект захватит власть над миром и уничтожит человечество — это традиционные сюжеты научной фантастики, но это художественная литература, а не реальное прогнозирование будущего. Любой заглючивший компьютер можно выключить. Пусть даже используя болгарку (как это недавно было с фэйсбучными серверами, когда из-за криворукости программистов случился сбой в мировом масштабе).
И кстати: миф о всевластье искусственного интеллекта очень выгоден тем людям, которые реально принимают решения. Это всевластье как бы снимает с них моральную ответственность за происходящее. Я сам в микроскопическом масштабе столкнулся с этим несколько лет назад, когда искусственный интеллект Сбербанка не принял у меня уплату дачных взносов и заблокировал личный кабинет. На все мои звонки специалисты удрученно говорили: «Мы тут ни при чем, это всё Система, мы с ней ничего не можем сделать». Однако после скандала в соцсетях оказалось, что очень даже можно укротить Систему.
Повторю: сам по себе искусственный интеллект — это лишь инструмент, который может применяться и в благих целях. Например, в медицине, в контроле безопасности на производстве, в онлайн-переводчиках, в транспорте, и так далее. Но его можно использовать и для создания ада на земле, для такого электронного концлагеря, по сравнению с которым оруэлловский «телекран» из знаменитого романа «1984» показался бы детским садом. Особенно если соединить информационные технологии с биологическими (тоже многократно звучавшая в фантастике тема, и тоже вполне осуществимая если не прямо сейчас, то в ближайшем будущем).
Насколько такое вероятно? На мой взгляд, вполне. Исторический опыт показывает, что если есть возможность использовать какую-то штуку во зло, она обязательно рано или поздно будет использована во зло.
Но источник этого зла — дурная человеческая воля. Вот ей-то и надо противостоять словом и делом, пока такая возможность еще есть.
Антихрист, конечно, не будет искусственным интеллектом. Но искусственный интеллект, употребленный во зло, может создать такой мир, в котором настоящего антихриста, «человека погибели», примут на ура. Потому что почва уже подготовлена.
