Искусственный интеллект никогда не перестает удивлять и разрушать стеклянные потолки, которых, по-видимому, для него не существует. Мы поговорили о человеческой панике, вызванной растущей мощью машин, с раввином Хагаем Лундиным, главой ешивы «Хесдер» в Холоне и главой Бейт-мидраша в Академической академии Оно, лектором и автором многих книг по философии. Мы говорили об этом после его недавней обнадеживающей статьи, опубликованной в этом контексте.
В начале интервью раввин Лундин упомянул роль Торы в успокоении, но не в смысле самоуспокоения, а в смысле усвоения смысла стиха: «Господь добр ко всем, и милость Его над всеми делами Его». Из веры в существование Творца проистекает понимание того, что сценарии конца света по различным и странным причинам сбудутся. «Даже искусственный интеллект, со всеми его трудностями и необходимостью осторожности, будет развиваться к лучшему».
Отсюда раввин Лундин переходит к рациональному объяснению своих обнадеживающих слов: «Искусственный интеллект пугает мир по нескольким причинам: от того, что он сделает людей ненужными, приведет к массовой безработице, фейковым новостям и многому другому, но главным образом из-за опасений по поводу общего искусственного интеллекта, который разовьет сознание и выйдет из-под контроля человека, например, из-за страха, что искусственный интеллект придет к выводу, что для выполнения своей цели он должен уничтожить людей».
«Этот страх, что машина обретет человеческое сознание, и голем восстанет против своего создателя, - это страх, существовавший издавна», - говорит раввин Лундин, упоминая таких персонажей, как Франкенштейн и другие, а также научно-фантастические книги и фильмы, в которых представлены подобные сценарии. «В основе этого лежит материалистическое восприятие, которое видит физический мир как подобие всего сущего; это то, что мы в иудаизме называем идолопоклонническим восприятием. В прошлом люди были более самодостаточны, чем сегодня, и представление о том, что мир полностью материален, наполняло их до такой степени, что они даже воплощали Бога в статуе. С тех пор это восприятие развилось, и они поняли, что Бог не материален, но восприятие того, что все, что можно почувствовать и измерить количественными инструментами, по-прежнему имеет психологический контроль над человечеством. И поэтому, когда вы рассматриваете компьютеры, они выглядят как нечто, что может быть человеком, потому что, согласно этому восприятию, человек - это материальное творение, которое отличается от компьютера только тем, что у него больше данных и интеллекта, которому можно научиться, и поэтому, если компьютеры накопят достаточно данных, они станут людьми уже сегодня. Это исходное предположение, которое порождает страх перед компьютерами».
«Все это происходило в реальности компьютеров предыдущих поколений, когда разница между человеком и компьютером была более очевидной, когда, несмотря на все данные, которые добавлялись в компьютер, он все еще не мог создавать новые данные, и это успокаивало человечество. Теперь появился искусственный интеллект, и, так сказать, компьютер не только отвечает на то, что находится в сети, но и создает ответы на новые вопросы, и это уже пугает людей, потому что компьютер сможет создать новую реальность точным образом с бесконечным количеством данных, которые человек не сможет распознать, и таким образом мы получаем компьютер, который может превратиться в человека, который уничтожит всех».
«Вот здесь вступает в игру еврейская концепция», - говорит раввин Лундин, напоминая нам, что человек - это не просто набор данных и информации, но и душа, термин, который переводится как способность создавать жизнь, которая является не просто набором данных, а чем-то большим, чем-то за пределами. Раввин Лундин сравнивает это со льдом, который является не просто охлажденной водой и скоплением молекул, а возникновением новой молекулярной реальности. То же самое относится и к муравьям, которые при определенном количестве перестают быть просто муравьем и еще одним муравьем, превращаясь в муравейник - новую реальность коллективного разума».
«Этот переход от небытия к бытию - это то, что компьютеры не могут создать», - говорит раввин Лундин, подчеркивая, что новые ответы компьютера - это не что иное, как сбор данных со всей сети. «Искусственный интеллект никогда не сможет создать собственную жизнь, у него не будет самосознания, которое могло бы уничтожить человечество. Возможно, и именно этого боятся, что появятся злоумышленники, которые внесут в искусственный интеллект опасные данные, например, данные для управления ядерными ракетами. Эта проблема возникает каждый раз, когда появляется новая технология, и здесь вступает правило «Бог добр ко всем, и милость Его распространяется на все Его дела».
«Большинство людей хотят жить, и поэтому ресурсы и способности добрых людей будут больше, чем ресурсы и способности злых людей, стремящихся уничтожить мир. Следовательно, будет регулирование и борьба, направленная на предотвращение катастрофы для человечества, но страх перед тем, что компьютер выйдет из-под нашего контроля, не возникнет. Технология продвинет мир вперед во многих отношениях, но страх перед самосознанием ИИ и перед тем, что робот станет человеком, - это идолопоклонство».
В конце интервью раввин Лундин также затронул вопрос безработицы, который беспокоит многих, опасаясь, что искусственный интеллект сделает многие профессии ненужными. В этом вопросе раввин Лундин также стремится успокоить: «Произойдет технологическое обновление, которое сделает некоторые профессии ненужными и создаст новые. Возможно, нам не понадобится кто-то, кто будет закручивать винты в машины, и нам не понадобятся бухгалтеры с таблицами XL, но понадобится кто-то, кто будет принимать решения, основанные на ценностях, например, во что стоит инвестировать больше, в безопасность или эстетику. Это решение, основанное на ценностях, касается нового творения, и оно всегда будет существовать, и для этого нам понадобятся люди».
Те, кто, тем не менее, найдет технологические альтернативы, найдут на их место другие творческие и этичные профессии. «Мир движется к профессиям, основанным на инновациях, творчестве и этике», - говорит раввин, отмечая, что с развитием технологий ожидается снижение затрат, поскольку не будет необходимости в людях для выполнения технической работы, и смысл будет заключаться в дальнейшем балансировании экономики.
«В этом мире есть Бог, и все эти рациональные экономические термины - это перевод слова «провидение». Бог ведет мир к лучшему, и человечество прогрессирует», - говорит раввин, завершая рекомендацией предоставить молодому поколению этические и творческие пути образования, которые всегда будут востребованы.