Уже через 40 лет человечество попадет в ситуацию, которую ученые называют прогрессивный тупик
04.04.2012, 00:27 "Российская газета" - Федеральный выпуск №5746 (73)
Текст: Юрий Медведев
В Москве состоялся Международный конгресс "Глобальное будущее 2045". Свой прогноз представили многие знаменитости, в частности, изобретатель планшетного сканера Рэймонд Курцвейл, президент Международной ассоциации Всемирной истории Дэвид Кристиан. Одним из "гвоздей" форума стало выступление кандидата физико-математических наук из НИИ ядерной физики МГУ Александра Панова, который считает, что наша цивилизация стоит на пороге кардинальных перемен. С ним встретился корреспондент "РГ".
На форуме прозвучало много прогнозов будущего, но, пожалуй, самый фантастический дал знаменитый Рэймонд Курцвейл. Он заявил, что технический прогресс каждые десять лет ускоряется в два раза, а значит, за XXI век человечество совершит рывок на 20 тысяч лет вперед. Согласны?
Александр Панов: Категорически нет. На самом деле технический прогресс в его нынешнем виде миновал пик своей скорости и замедляется. Парадоксально? Действительно, с одной стороны, чтобы массово внедрить печатный станок Гутенберга, потребовалось 400 лет, обычный телефон - 50 лет, мобильник - 7 лет, социальные сети - три года. Казалось бы, темпы только нарастают, и тем не менее думаю, что самый стремительный участок прогресса уже пройден. Давайте представим, что обычный человек из 1900 года попал в 1960-й. Это будет невероятный шок. Он увидит огромные самолеты, потоки автомобилей, телевизоры, радио, компьютеры - все это ошеломляет. Совсем иная ситуация, когда человек из 1960 года попадет в нынешний. Не думаю, что он испытает шок. Ведь самолеты и автомобили по своей сути не изменились, телевидение всего лишь обзавелось цветом, радио - вообще "старое", к мобильникам и мобильным компьютерам люди в принципе были готовы, они вряд ли поразят воображение. Яркий пример замедления темпов развития - космос. Разве можно сравнить темпы освоения космоса в середине XX века и сейчас? Человек из 1960 года был бы глубоко разочарован тем, что в 2012 году не освоена даже Луна. Словом, думаю, что и современный человек, попав в 2050 год, не будет так уж сильно удивлен тем, что там увидит.
Вы один из авторов известной кривой Снукса-Панова, которая описывает всю эволюцию человечества и биосферы. Где-то в середине этого века кривая вдруг устремляется в бесконечность. Это что - конец цивилизации?
Александр Панов: Точка, а вернее зона, где кривая срывается в бесконечность, называется сингулярностью. Конечно, речь не идет о том, что здесь цивилизация закончится и нас ждет апокалипсис. Вовсе нет. Суть в том, что все нынешние правила и законы развития в зоне сингулярности перестают работать, они должны кардинально измениться. Как? Никто не знает. Обычный способ прогнозирования с помощью экстраполяции в зоне сингулярности не работает. Ясно одно: человечество попадет в совершенно новую для себя ситуацию, которой никогда не было в его истории. Это очень серьезный вызов, к нему надо быть готовым.
Но ведь и раньше человечество переживало тяжелейшие моменты. Чем они отличаются от этой "страшной" сингулярности. Откуда она обрушится на нашу голову?
Александр Панов: Почему обязательно страшной? Да, в истории Земли всегда были периоды кардинальных переломов или фазовых переходов. Их преодоление давало резкий импульс развитию. Первый из таких кризисов случился около полутора миллиардов лет назад, когда на Земле "властвовали" микроорганизмы-прокариоты. Они выделяли кислород, как ядовитый для них продукт жизнедеятельности. Постепенно этот газ отравил и атмосферу, и самих "властителей". На Земле разразился глобальный экологический кризис. Казалось бы, биосфера должна погибнуть. Но она выжила, так как на ее периферии уже существовали другие микроорганизмы, использовавшие кислород. Они и создали новую биосферу. Это типичный фазовый переход, когда что-то попадает в кризис, начинает вымирать, но находится кандидат, который может стать новым лидером эволюции. Эволюция перескакивает на новый равновесный уровень.
Речь не идет о том, что здесь цивилизация закончится и нас ждет апокалипсис. Мы находимся в точке, сопоставимой по значимости с зарождением жизни на Земле Другой фазовый переход произошел 12-15 тысяч лет назад. Тогда человек настолько интенсивно занимался охотой, что истребил почти всю фауну, служившую основой его пропитания. Люди начали умирать от голода, численность населения быстро уменьшилось в разы. И снова выход был найден. В этой первобытной цивилизации уже существовали какие-то зачаточные формы земледелия, которые постепенно стали основой нового способа производства. Произошла неолитическая революция, возникло аграрное производство.
А всего в истории цивилизации и биосферы известно 18 фазовых переходов, например, возникновение городов или первая промышленная революция в XIV-XV веках. Важно подчеркнуть, что каждый переход - это ответ на глобальный кризис.
Ну произойдет в середине этого века еще один. Почему вы утверждаете, что он будет каким-то небывалым?
Александр Панов: Здесь совершенно иная ситуация. В ходе эволюции кризисы происходят все чаще, расстояния между ними сокращаются в геометрический прогрессии, и каждый последующий промежуток времени в среднем в 2,67 раза короче предыдущего. По расчетам очередной переход попадал почти точно на 1991 год, и именно тогда развалился СССР, следующий - на 2007-й, а в 2008 году грянул финансовый кризис. Сейчас предсказывается новая точка - 2015 год. Сингулярность эволюции - это не просто кризис, а точка концентрации кризисов, после которой дальнейшего ускорения событий быть не может.
Но разве распад СССР или финансовый кризис оказались таким уж революционным явлением, изменившим мир?
Александр Панов: Совершенно верно. Именно это и указывает, что мы вошли в зону сингулярности, когда прежние закономерности перестают работать. Ведь все предыдущие фазовые переходы были для цивилизации революциями, кардинально ее изменившими. И что важно, всегда подчинялись геометрической прогрессии. Сейчас картина изменилась: расчеты говорят, что должен произойти очередной кардинальный перелом, но его нет. Старый закон ускорения фактически перестает работать. Это означает, что мы находимся в зоне сингулярности.
С чем это можно сравнить?
Александр Панов: Мы находимся в точке, сопоставимой по значимости с зарождением жизни на Земле. Можно сказать, что мы живем в супернеобычное время. Хочу отметить, что сегодня существует много различных моделей, которые различными путями выводят к одной и той же зоне сингулярности где-то в первой половине этого века. Такое совпадение указывает, что к нему нужно отнестись очень серьезно.
Может, все это математика. В реалии никаких катастрофических наложений кризисов друг на друга нет?
Александр Панов: Все специалисты твердят о "букете" кризисов - энергоресурсов, экологии, информационном, мировоззренческом. Ведь сегодня для всех очевидно, что модель общества потребления себя исчерпала. Наконец назревает глобальный кризис науки, хотя это, возможно, и не проблема ближайших десятилетий.
Странно. Ведь именно наука всегда находила ответы на вызовы времени. Кто же их будет искать в будущем, если не она? Инопланетяне?
Александр Панов: Ничего не бывает вечного. Давайте посмотрим на факты. Число научных публикаций в мире с 1817 года по 2007 год постоянно росло. Но, начиная с 2007 года, впервые произошел спад. Кто-то скажет, что виноват экономический кризис, но они не редкость в истории, однако число публикаций никогда не падало, даже в годы Великой депрессии. Так что сегодня мы наблюдаем уникальный феномен - впервые число публикаций снижается, причем не только в бумажных журналах, но и в электронных изданиях. Это очень тревожный признак.
Каковы общие причины кризиса? Об одной писал Станислав Лем еще в 1963 году. Каждая решенная научная задача порождает несколько новых, поэтому количество проблем начинает расти экспоненциально. Но число ученых не может расти столь быстро, их не хватает на все актуальные проблемы. Есть и другая причина: на самых фундаментальных направлениях исследования становятся все дороже. На создание коллайдеров, телескопов, космических аппаратов тратятся десятки миллиардов долларов, а в перспективе сложность задач требует сотен тысяч. Но возможности человечества ограничены.
Что же вместо науки?
Александр Панов: Наука, как метод познания природы, не исчезнет, но вместо нее лидером прогресса может стать какая-то иная форма человеческой деятельности. Например, представим, что мы найдем инопланетные цивилизации. Это может дать нам доступ в некую информационную среду, содержащую море различных данных. Изучение этой информации уже не будет наукой в обычном понимании. Очень часто придется принимать истинность информации на веру, ведь проверить ее будет невозможно. Вера становится ключевым элементом такой деятельности, что совсем не похоже на обычную науку.
P.S. Многие ученые делают ставку на создание искусственного интеллекта, который станет настоящим прорывом в будущее, изменит его сильнее, чем появление компьютера.
Александр Панов утверждает, что мощность компьютеров, как и их память, можно увеличивать сколько угодно, но это ни на шаг не приблизит нас к созданию искусственного интеллекта. Несмотря на то что нейрофизиологи обзавелись целым арсеналом сложнейших приборов, они не продвинулись в понимании, как работает мозг. А без этого говорить об искусственном интеллекте бессмысленно.
«СИНГУЛЯРНОСТЬ ЭВОЛЮЦИИ И БУДУЩЕЕ ФУНДАМЕНТАЛЬНОЙ НАУКИ»
Александр Панов, астрофизик, автор «кривой Снукса – Панова», описывающей Сингулярность: «... Зона сингулярности – это фактически концентрация кризисов, и мы это время будем ощущать как кризисы, наползающие друг на друга... Поэтому в постсингулярной стадии, если человечество живет, то оно живет, поддерживая множество механизмов компенсации кризиса. Это не будет простая жизнь».
Думаю, что я буду выглядеть таким немного скептиком на этом конгрессе, потому что буду больше говорить не столько о грядущих наших победах, сколько о возможных проблемах. Конкретно я хочу рассказать сейчас о трех основных вещах. Во-первых, обрисовать немножко, что такое сингулярность эволюции, та пресловутая вертикаль, которая здесь обсуждается. Во-вторых, обсудить немного возможную судьбу науки в сингулярной и постсингулярной фазе эволюции. И, в-третьих, коснуться возможной роли искусственного интеллекта в связи с проблемами науки.
Эволюция представляет собой ускоряющийся процесс, с чем сейчас согласны практически все. Причем это не просто ускоряющийся процесс, а процесс, ускоряющийся в режиме с обострением. Это означает, что в течение конечного времени скорость процесса формально должна была бы достигнуть бесконечной скорости и всякие линейные прогнозы после этой точки становятся невозможны.
К понятию сингулярности эволюции можно прийти различными путями. Исторически один из первых путей был в виде демографической сингулярности. Что это такое? Оказывается, что население Земли растет не по экспоненте, как предполагал Томас Роберт Мальтус, а быстрее. Население Земли растет по гиперболе и существует некоторая точка t* (которая как раз и называется точкой сингулярности), где эта гипербола формально обращается в бесконечность. Это положение сингулярности нетрудно вычислить, что было сделано уже в 1960 году Хайнцем фон Фёрстером и его соавторами, и получилось значение «2026 год». Затем это было сделано Иосифом Самуиловичем Шкловским в 1965 году, он получил значение «2030 год», как видите, очень близкое. Если вместо гиперболы нарисовать значение для единицы на n, то получится просто линейная функция времени, которая должна в некоторой точке обращаться в ноль. И Шкловский нарисовал как раз вот эту кривую, где видно, что получается линейная функция для единицы на n, которая в точке t* действительно обращается в ноль.
Второй путь к сингулярности – это так называемая технологическая сингулярность. Про нее здесь столько всего было сказано, что я просто не буду повторяться. Она связана с именами Ирвинга Гуда, Вернора Винджа, [Ханса] Моравека и Рэя Курцвейла, который здесь уже перед нами выступал, я чуть позже, возможно, к этому вернусь.
Третий путь к сингулярности – это понятие сингулярности как общей эволюционной сингулярности. Значит, здесь было несколько предшественников. В 1996 году Грэм Снукс, ученый-эволюционист из Австралии, представил эволюцию биосферы и затем человечества как единый процесс, выразив ее в так называемых волнах жизни. «Волны жизни» – это некие качественные переходы. И оказалось, что этот процесс происходит в режиме ускорения с коэффициентом «тройка». То есть каждая следующая фаза примерно в три раза короче предыдущей. Главное, что Грэм Снукс рассмотрел процесс эволюции биосферы и человеческого общества единым образом, хотя он не ввел понятия сингулярности. Затем сам Рэй Курцвейл в 2001 году, по крайней мере, не позже, тоже рассмотрел процесс эволюции биосферы и человеческого общества как некий единый процесс. Он выразил этот процесс в так называемых парадигмальных сдвигах.
Затем очень важный шаг сделал Игорь Михайлович Дьяконов: в 1994 году он рассмотрел так называемые восемь фазовых переходов Дьяконова в человеческой истории. Он также обратил внимание, что эти фазовые переходы следуют в режиме с ускорением, т.е. промежуток времени между каждыми двумя последующими переходами уменьшается. Дьяконов в 1994 году ввел понятие исторической сингулярности. Это был совершенно независимый способ введения понятия сингулярности вот по сравнению, например, с технологической и демографической сингулярностью. На этом графике нарисованы положения точки этих восьми фазовых переходов Дьяконова, а по оси ординат отложена частота фазовых переходов на единицу времени. Ну и видно, что здесь возникает эта характерная вертикальная асимптота, о которой, собственно говоря, и идет речь.
Сергей Петрович Капица в 1996 году добавил к фазовым переходам Дьяконова еще несколько точек, которые покрыли уже всю историю человечества. И потом я обнаружил, что так называемые границы между геологическими эпохами, которые на самом деле являются границами между биологическими эпохами, гладко ложатся на ту же самую кривую.
Получилось 19 точек, промежутки между точками образуют очень точную геометрическую прогрессию. В том, что это геометрическая прогрессия, легко убедиться после небольшого математического преобразования: должна получиться прямая, и вот эта прямая совершенно замечательно видна на этом рисунке. Коэффициент ускорения получился 2,67, что почему-то близко к числу e – если кто-то знает, что такое число e, поймет, о чем речь. И нетрудно было вычислить, где находится предел этой последовательности – сингулярность эволюции. Для всех точек, начиная от момента возникновения жизни и кончая последней точкой, так называемой информационной революцией, эта сингулярность оказывается равной 2004 году. А если сделать экстраполяцию только по точкам новой эры, получается 2015 год. То есть значение получается не очень точное, но это, как правильно говорил Акоп Назаретян, первая половина XXI века.
Что я хочу сказать, в чем суть вот этих самых точек? Важно, что каждая точка – это, конечно, качественное изменение эволюционирующей системы. Но это не только качественное изменение, которое возникает в ответ на преодоление некоторого эволюционного кризиса. (Там существуют два основных типа таких эволюционных кризисов – это кризисы эндо-экзогенные и кризисы техно-гуманитарного баланса. Я не буду об этом рассказывать просто потому, что на это сейчас нет времени.) Еще важно, что во время этих фазовых переходов используется так называемый фактор избыточного многообразия. То новое, что возникает в новой фазе, не возникает в момент фазового перехода. Используется то, что возникло до того, но существовало где-то на периферии эволюционирующей системы. Например, млекопитающие возникли задолго до того, как вымерли динозавры, но лидерами эволюции они стали после того, как вымерли динозавры, и вот произошел очередной фазовый переход.
Еще важен закон Седова (закон иерархических компенсаций): когда возникает новый лидер эволюции, старые эволюционирующие системы не исчезают, они только меняют свое место в эволюционирующей системе, уходят где-то немножко на ее периферию, может быть, несколько редуцируются.
В чем смысл этой общей эволюционной сингулярности? Это сингулярность всего эволюционного развития, начиная с момента возникновения жизни. Во-первых, это не точка, это некий период, который занимает, ну, грубо говоря, действительно первую половину XXI века, может быть, первые две трети XXI века. Что происходит в это время? В это время обязан сломаться прежний режим эволюции, потому что просто чисто математически эволюция не может ускоряться тем же самым способом. И предсказание, чисто механически и математически, за эту зону сингулярности, невозможно.
Но можно ли, тем не менее, что-нибудь сказать о том, что будет потом, избегая вот этой прямой линейной экстраполяции, которая становится невозможной? Кое-что сказать можно. Здесь нужно вспомнить, чем были эти фазовые переходы, и вспомнить, что точка сингулярности, или зона сингулярности, – это фактически концентрация кризисов, концентрация этих самых фазовых переходов. Поскольку зона сингулярности – это фактически концентрация кризисов, и мы вот это время сингулярности будем ощущать как кризисы, наползающие друг на друга, то, если человечество выживает в постсингулярной стадии, обязаны быть выработаны компенсирующие механизмы для каждого кризиса. Поэтому в постсингулярной стадии, если человечество живет, то оно живет, поддерживая множество механизмов компенсации кризиса. Это не будет простая жизнь.
Можно перечислить много разных примеров таких механизмов компенсаций: ну, например, исчерпание минеральных ресурсов влечет неизбежность введения замкнутых технологических циклов, что сложно. Это могут быть разные запреты, например запрет на определенные виды научных исследований. Например, может возникнуть запрет на любые опыты с живыми существами. Представляете, как это затормозит развитие наук о живом. Еще одна важная проблема, с которой мы столкнемся, – это резкое торможение освоения космоса, о чем говорил Кричевский. Темпы освоения космоса сейчас упали очень резко по сравнению с тем, что было в предыдущем веке. И, по-видимому, в ближайшие десятилетия, а может быть, даже и дольше, основная часть эволюции будет ограничена только планетарными масштабами, что переводит нас в ситуацию ограничения ресурсов.
Теперь я бы хотел сказать о том, что у меня больше всего болит. Я, как ученый- астрофизик, больше всего беспокоюсь о судьбе науки. Вот что можно сказать о судьбе науки в постсингулярной стадии. Во-первых, можно кое-что сказать из неких таких общефилософских предположений сразу. Любое прогрессивное явление в эволюции не может быть прогрессивным вечно, лидеры в эволюции сменяют друг друга. В этом смысле наука – типичное прогрессивное явление, она возникла в ответ на некие кризисы и служила для их преодоления. Так вот, наука как основа формирования вектора развития человеческой цивилизации не может быть вечным лидером. Отсюда следует, что произойдет смена лидерства, значит, науке на смену должен прийти какой-то другой лидер, о котором мы пока ничего не знаем. Закон Седова говорит о том, что наука при этом не исчезнет полностью, она перейдет в некое более подчиненное состояние, просто она займет иное место в человеческой цивилизации.
Это общефилософские утверждения, но можно сказать и кое-что более конкретное. Станислав Лем еще в 1963 году ввел понятие информационного кризиса, связанного с наукой. Это что такое? Каждое новое открытие приводит к возникновению новых научных проблем, на которые еще нет ответа. Поэтому количество нерешенных научных проблем растет экспоненциально. Но количество ученых в том же режиме расти не может, поэтому ученых через некоторое время будет не хватать на возникающие научные проблемы. Возникает то, что он назвал «разрывом фронта науки»: не все научные проблемы, которые должны быть исследованы, реально исследуются, наука теряет свою целостность и начинает деградировать.
Хочу обратить внимание, что это один из видов недостатка ресурсов. Другой вид недостатка ресурсов можно более прямо связать с наиболее фундаментальными науками – это наука о микромире и наука о космосе, такие как астрофизика и космология. Дело в том, что стоимость научных исследований вот в этой наиболее фундаментальной области непрерывно возрастает. И более того, улучшение методов, развитие новых технологий и т.д. не позволяет преодолеть эту тенденцию. В частности, можно упомянуть, например, все растущий и растущий размер коллайдера. Сейчас построен огромный коллайдер LHC, и коллайдер еще больших размеров, возможно, построить уже будет просто невозможно. Все растущие и растущие телескопы и т.д. Однако земные ресурсы ограниченны, и поэтому должен быть положен предел вот этому самому росту.
Ограничение ресурсов и рост научных исследований ведет к тому, что количество научных исследований в единицу времени начинает падать. Падение количества новых открытий в единицу времени снижает интерес к науке, снижение интереса к науке снижает финансирование науки. Снижение финансирования науки еще более сокращает поток научных открытий, возникает петля положительной обратной связи, которая может привести к внезапному коллапсу финансирования фундаментальной науки. Это очень простой процесс, можно построить математические модели этого процесса, я это сделал. Вот здесь описание модели, я на нем не буду останавливаться, покажу сразу результаты.
В том конкретном варианте предполагается, что финансами науку ограничат сверху, просто, как показано на этой кривой, они сначала растут, растут, а потом во что-то упираются, логистическая кривая. Это необязательное предположение, модель работает и в других предположениях. И вот что получается для количества научных результатов в единицу времени. Сначала они растут, вместе с ростом финансирования, а потом возникает такой участок, когда финансирование растет, а количество результатов начинает падать из-за того, что единица научного исследования становится все более дорогой. И потом внезапно наступает коллапс финансирования, который связан как раз вот с той петлей положительной обратной связи, о которой я говорил.
Вот эту модель я построил в 1996 году, у меня не было экспериментальных данных, с которыми я мог бы ее сравнить. И вот недавно, в 2010 году, удалось найти данные по количеству публикаций в год, начиная с 1817 года и кончая 2010-м. Видите, такая вот растущая кривая, и у нее есть несколько интересных очень мест. Ну, во-первых, я не могу не показать вот это место, связанное с 1950-м годом, здесь находится одна из точек моей кривой, которая называется информационной революцией. Вы видите, как в момент информационной революции скакнуло внезапно количество публикуемых научных статей. А вот другое важное место: вы видите, что в последние несколько лет количество научных публикаций внезапно стало падать. Этот процесс начался в 2007 году, и естественно попытаться его связать с наступившим экономическим кризисом. Но это далеко не первый экономический кризис в истории человечества. Была и Великая депрессия 1930-х годов и др., и никогда раньше количество научных публикаций не падало, оно упало впервые. А финансирование науки, как видно на этой кривой (это, правда, Соединенные Штаты), продолжает расти. То есть получается что-то очень похожее как раз на ту фазу, которую я показывал в своей модели, – финансирование растет, а количество результатов уже начало падать. Естественный вопрос: может быть, падает только количество обыкновенных журнальных публикаций? Ничего подобного. Вот известный электронный журнал, архив препринтов, в нем количество публикаций тоже начало падать. То есть оно начало падать везде, это некий тотальный процесс.
Как может быть преодолен этот кризис? Я пока не знаю, как это сделать. Я хочу только обсудить, можно ли использовать искусственный интеллект, о котором здесь много говорили, для преодоления этого кризиса. Ну, например, недостающее число ученых заместить роботами. Или внедрить какой-то способ выращивания знаний, вместо натурных обыкновенных экспериментов. Мое мнение состоит в том, что надежды на искусственный интеллект очень сильно переоценены.
В основном надежды на возникновение искусственного интеллекта, более сильного, чем человеческий, связаны с понятием технологической сингулярности и с законом Мура, ростом мощности аппаратной базы. У меня возникают два вопроса к этой кривой. Первый вопрос: как оценивалась мощность мозга, скорость, с которой работает мозг? Она оценивалась на количестве нейронов, количестве синапсов и частоте срабатывания синапсов. Это очень примитивная оценка. Вот возьмем амебу. Там вообще нет нервной системы, никакой, а она обладает, тем не менее, очень сложным поведением. И все эти информационные аспекты, которые есть у амебы, должны присутствовать и в мозге. Поэтому, скорее всего, это очень сильно недооцененная величина, может быть, на десяток порядков. И самое главное, что закон Мура, рост мощности аппаратной базы, дает только необходимые, но не достаточные условия возникновения мощного искусственного интеллекта.
Я просто прочитаю одну цитату: «За прошедшие 15 лет разум наших электронных вычислительных машин улучшился в миллионы раз. В течение нескольких десятилетий следует ожидать увеличения характеристик разума машин, по крайней мере, в несколько десятков тысяч раз. Разум таких машин по основным параметрам будет заведомо превосходить разум человека». Это было написано в 1975 году, и такие слова говорили непрерывно на протяжении развития компьютерных технологий. И говорят сейчас в той же самой форме и теми же словами. С чем связана эта ошибка? А ошибка связана с тем, что необходимое программное обеспечение гораздо более консервативно, на много порядков величин, чем развитие аппаратной базы.
У меня тут несколько примеров такого консерватизма, я на этом останавливаться не буду. Хочу только отметить, что те технологии, которые сейчас используются при программировании искусственного интеллекта – нейронные сети, эвристическое программирование, экспертные системы, эволюционное программирование, – были изобретены между 1955 и 1961 годами. Это произошло значительно более пятидесяти лет назад, и с тех пор не было придумано ничего принципиально нового. В области программирования искусственного интеллекта наблюдается глубочайший застой. И дело в том, что мы просто не понимаем, как на самом деле думает человек.
Проблема здесь вот в чем, я бы так сформулировал: компьютер обрабатывает информацию, человек обрабатывает смыслы. По умолчанию предполагается, что смыслы могут быть выражены информационным образом, но никто никогда не доказал, что это так. Я приведу простой примитивный контрпример: если смысл представляется квантовыми состояниями, то это не есть информация. Потому что важнейшим свойством информации является то, что она может быть скопирована, сдублирована. А квантовые состояния не копируются по теореме не-клонирования состояний. Это простейший контрпример, но на самом деле ситуация может быть еще гораздо хуже. Мы совершенно не понимаем, каким образом представляются вот эти самые смыслы. Более того, существует теорема Роджера Пенроуза. Утверждение Роджера Пенроуза состоит в следующем: существует очень много активностей человеческого мозга, которые не могут быть представлены активностью компьютера, но очень трудно доказать, что это действительно невозможно.
Есть один вид активности – специальный тип математической активности мозга, когда можно доказать абсолютно строгую теорему, что любой конечный автомат, основанный на любых известных физических принципах в настоящее время, не может представить некоторые формы математической активности мозга. Это математическая теорема, ее опровергнуть просто невозможно. На самом деле она является родственницей первой теоремы Гёделя о неполноте. На этом я уже не буду останавливаться, но что из нее следует? Из нее следует, что для того, чтобы создать искусственный интеллект, превосходящий по мощности человеческий, нужно открыть вот эти самые неизвестные физические принципы, а невозможно предсказать, когда мы их откроем.
Пожалуй, я на этом закончу. Я хочу сказать, что не надо особо надеяться на искусственный интеллект, что он нам поможет преодолеть кризис, который нарастает в науке. Я не знаю ни одного надежного пути, который может преодолеть этот кризис. Хотя есть несколько путей, которые должны обсуждаться. Я, может быть, смогу о них поговорить на наших круглых столах, если будет соответствующее время. Спасибо за внимание.
