Время прочтения: 4 мин.
Стивен Хокинг часто мелькал в новостях. О недавно вышедшем фильме, основанном на его личной истории, «Теория всего», сразу говорили как о претенденте на Оскар. В 1963 году Стивену поставили страшный диагноз - болезнь Лу Герига, и, с прогнозом прожить еще два года, он сделал блестящую карьеру, стал автором международных бестселлеров, получил десятки почетных степеней и широкое признание как один из самых блестящих физиков-теоретиков со времен Эйнштейна.
Хокинга явно не пугали личные страхи. Однако в интервью BBC Хокинг признался, что глубоко обеспокоен будущим человечества. Причиной его беспокойства является искусственный интеллект, или ИИ, создание интеллектуальных машин, способных "перехитрить" своих создателей. То, что началось с суперкомпьютера Watson от компании IBM, способного ловко обыгрывать шахматных гроссмейстеров и лучших игроков на "Jeopardy", может в ближайшем будущем, по мнению Хокинга, поставить мат своим создателям, став правителем Земли.
"Разработка полноценного искусственного интеллекта может означать конец человеческой расы", - сказал Хокинг.
Научная фантастика уже подготовила нас к такому сценарию. В таких фильмах, как Терминатор и Матрица, людям доставляют проблемы враги, управляемые искусственным интеллектом. Предстоящий фильм Мстители изображает супергероев, вынужденных сражаться с Ультроном, машиной с искусственным интеллектом, решившей уничтожить человечество.
Существует огромная разница между способностью творить и способностью контролировать. Как выразился директор Google Рэй Курцвейл: "Может быть очень трудно написать алгоритмический моральный код, достаточно сильный, чтобы содержать, и в тоже время сдерживать, супер-умное программное обеспечение." Величайшая опасность научного прогресса заключается в возможности того, что то, что мы создадим, осознает свою собственную жизнь и больше не станет подчиняться ни своему создателю, ни человеческим ценностям.
Это то, что на протяжении веков было подсознательным посланием знаменитой легенды о пражском големе. В еврейской традиции Магараль, раввин Иегуда Лев из Праги, использовал свои знания еврейского мистицизма, чтобы магически оживить кусок глины и превратить его в сверхчеловека, защитника еврейского народа. На его лбу он написал еврейское слово "Эмет" – Истина, которое мистически придавало существу его силу.
Однако, к своему ужасу, Магараль вскоре понял, что голем, получив свою огромную силу, становился все менее контролируемым. Версии этой истории разнятся. В одной из них голем влюбился и, когда его отвергли, превратился в кровожадного монстра. В другой, он впал в необъяснимую ярость. В самом захватывающем рассказе сам Магараль был виноват (что-то похожее на ошибку программиста) в том, что забыл деактивировать голема непосредственно перед Шабатом. Это позволило голему осквернить святость дня и стать виновным в смертной казни.
Какова бы ни была причина, Магараль пришел к выводу, что голема нужно было "отпустить". Раввин стер первую букву слова эмет, с числовым значением 1, символизирующим единого Б-га, который один может дать жизнь. Остались только две буквы, на иврите обозначающие смерть: "мет". Голем больше не олицетворял волю Творца и не носил на лбу Б-жьего знака, и превратился в пыль.
Многие ученые считают, что именно легенда о големе вдохновила Мэри Шелли написать свой знаменитый роман о Франкенштейне, о научном эксперименте, который создает жизнь, только для того, чтобы позже столкнуться с ужасающими результатами, когда эксперимент набирает весьма неправильные обороты.
Творение без контроля - это формула катастрофы. История научных достижений убедительно свидетельствует о той простой истине, что прогресс, освобожденный от моральных и этических ограничений, может дать нам знание, позволяющее проникнуть в тайны ядерного синтеза, но ценой того, что человечество окажется под угрозой всеобщего уничтожения.
История пражского голема - это парадигма опасности позволить тому, что мы создаем, выйти далеко за рамки наших намерений. Искусственный интеллект, как расширение наших интеллектуальных возможностей, безусловно, имеет много преимуществ. Но он не может по-настоящему "мыслить." У него нет моральной чувствительности. Он не разделяет этических ограничений своего программиста. И он не ограничивается ценностями тех, кто его породил.
Стивен Хокинг оказал нам столь необходимую услугу, предупредив нас о реальных опасностях ИИ. Но что я нахожу поразительным (и весьма удачным), так это другое важное откровение, только что приписанное ему: Хокинг публично признал, что на самом деле он атеист. В ответ на вопрос журналиста о его религиозных убеждениях он недвусмысленно заявил: "Б-га нет."
Возможно, Б-г, в которого я и многие другие верят, также глубоко сожалеет об "искусственном интеллекте", которым Он наделил человечество. Возможно, мы являемся самой яркой иллюстрацией страха, который мы сейчас выражаем перед нашими технологическими созданиями, способными разрушить наш мир из-за сомнений в своем Создателе.
Источник aish.com
Перевод Анастасии Яценюк