Люди как вид чрезвычайно озабочены своим будущим. Мы любим строить догадки о том, куда нас приведет эволюция. Мы пытаемся представить, какими будут наша техника и технологии через десятилетия и столетия. И мы фантазируем о том, как встретимся с разумными инопланетными существами, которые продвинулись гораздо дальше нас. В последнее время происходит нечто вроде слияния этих размышлений и фантазий. Говоря об эволюции, многие футурологи предсказывают сингулярность (единичность, неповторимость). Они заявляют: скоро наступит время, когда компьютеры станут настолько мощными, что смогут воспроизводить человеческое сознание, либо полностью поглощать его. Параллельно некоторые провидцы полагают, что разумная жизнь, которую мы встретим во вселенной, будет машинной, а не существующей в гуманоидных мешках с мясом, какими являемся мы с вами.
Эти размышления могут предложить нам возможное решение парадокса Ферми, по поводу которого уже давно идут споры. Речь идет о кажущемся отсутствии разумной инопланетной жизни, несмотря на тот факт, что такая жизнь возможна. Если искусственный интеллект это неизбежный конечный пункт технологий и биологии, то, пожалуй, инопланетяне — это исключительно развитые машины — настолько совершенные и продвинутые, настолько отдалившиеся от знакомых нам биологических форм, что мы не узнаем их, даже если увидим. Точно так же мы можем себе представить, что межзвездная связь между машинами настолько оптимизирована и так хорошо зашифрована, что мы не можем отличить ее от шума. С такой точки зрения, кажущееся отсутствие разумной жизни в космосе может быть иллюзией, вызванной нашей собственной отсталостью.
В прогнозах футурологов есть и более глубокий смысл. Наши представления о появлении разумных машин изобличают наши фантазии (зачастую невысказанные) о том, что такое совершенство: не мягкое и биологическое, как мы с вами, а нечто твердое, цифровое и наверняка невероятно мощное. Для некоторых людей такое будущее это будущее надежды и величия. Для других это будущее страха и порабощения. В обоих случаях мы исходим из того, что машины — это апофеоз эволюции сознания.
На первый взгляд, логика таких предположений о космическом машинном разуме кажется весьма солидной. Экстраполяция траектории нашей с вами технической эволюции говорит о том, что по мере совершенствования и усложнения компьютерных технологий способности и возможности наших биологических умов и тел могут стать все менее привлекательными. В определенный момент мы захотим переместиться в новую оболочку, построенную на заказ в соответствии с нашим воображением. Точно так же, эта технологическая траектория может привести нас туда, где мы будем создавать искусственный интеллект, который либо будет безразличен по отношению к нам, либо обгонит и подчинит нас (а может, просто раздавит).
Сторонники таких доводов утверждают, что биология не в состоянии обеспечить существование всех внеземных цивилизаций и человеческой цивилизации в далеком будущем. Трудности, сопряженные с освоением космического пространства, колоссальны, как в пространственном, так и во временном плане. Чтобы стать межзвездным видом, нам могут потребоваться крепкие и надежные машины, а не слабые белковые организмы с жалким в своей недолговечности сроком годности. Машина может жить вечно и идеально воспроизводить себя, не страдая от склонной к ошибкам естественной эволюции, отличающейся гибкостью и изменчивостью. Формы жизни, проектирующие себя сами, могут также приспосабливать себя к особенностям окружающей среды. В течение жизни одного поколения они могут адаптироваться к огромным межзвездным промежуткам времени и пространства, а также к окружающим условиям внеземных миров.
Если связать все это воедино, вполне может возникнуть впечатление, что человечество — это просто миг, скоротечная фаза. Люди воспринимают эти идеи достаточно серьезно, и такие влиятельные фигуры, как Элон Маск (Elon Musk) и Стивен Хокинг (Stephen Hawking), открыто предупреждают об опасностях всепоглощающего искусственного интеллекта. В то же время кибернетик Рэймонд Курцвейл (Ray Kurzweil) наделал много шума своими работами и конференциями, где рассматриваются вопросы приближающейся сингулярности. Но действительно ли живые организмы стремятся стать умнее и долговечнее? И действительно ли биологический разум это всеобщий тупик, обреченный уступить первенство господству машин?
Пожалуй, нет. В этой истории есть много чего еще.
В модных описаниях неизбежного триумфа машинного разума содержится много очень важных предубеждений и посылок, которые не позволяют превратить их в реальность. Абсолютно неясно, ведут ли нас современные компьютерные технологии к сингулярности или к грандиозному моменту нашего величайшего превосходства как вида. И все равно, будущее может оказаться потрясающим.
Некоторые из этих экстравагантных идей возникли на базе поразительных предположений Джона фон Неймана (John von Neumann) о самовоспроизводящихся автоматах, изложенных в изданной после его смерти книге «Теория самовоспроизводящихся автоматов» (1966 г.) Эта работа помогла утвердить концепцию о машинах, которые создают новые машины, причем происходит это в прогрессии, ведущей к неконтролируемому взрыву, способному просто уничтожить другие формы жизни, если они встанут на пути машин. Фон Нейман также рассматривал вопрос о том, как такие машины смогут моделировать и воспроизводить часть функций и действий человеческих нервных клеток.
С тех пор развитие электроники и связи определенно оказало огромное воздействие на повседневную жизнь человека, причем даже на то, как мы решаем задачи и думаем о новых вопросах и проблемах. Кто из нас в современном мире интернета не гуглил в сети в поисках ответа на вопрос, не попытавшись даже подумать об ответе самостоятельно или спросить другого человека? Часть наших коллективных познаний сегодня загружена в вездесущее облако данных. Важность и значимость индивидуальных знаний и кругозора постепенно снижается. Возможно даже, что в процессе этого уменьшается значение личного опыта, относящегося к специализации.
Непонятно, к чему это нас приведет. Если хотите, не исключено, что мы в плане сознания движемся к состоянию улья, коллективного организма, больше похожего на колонию термитов или на мышиную стаю в норе. Вместо развития своего интеллекта и сознания, мы, похоже, перекрываем путь необработанным входным данным, и учимся быть все более пассивными. Пессимист увидел бы в этом картину того, как наш разум глохнет, превращаясь в составную часть замкнувшейся в себе стаи, а не в группу постоянно совершенствующихся гениальных личностей.
История учит нас, что практически невозможно предугадать долговременные последствия революционных технологий. Здесь можно привести один пример. Когда в конце 1700-х была изобретена паровая машина с возвратно-поступательным движением поршня, это изменило жизнь человечества. Предсказать это не смог никто. Точно так же, никто не смог предсказать появление двигателя внутреннего сгорания и электричества, которые спустя 150 лет превратили паровую машину в устаревший реликт. В равной мере, никто не смог предугадать, что сжигание углеводородов может серьезно навредить нашему виду, изменив состав земной атмосферы.
Мы также не можем привести веских доказательств того, что наша разновидность разума это нечто большее, чем странный результат эволюции длиной в миллиарды лет, и что в космических масштабах такая эволюция является оптимальной. (Справедливости ради надо сказать, что нет и весомых доказательств противного — данных, указывающих на то, что мы странный выверт эволюции.) Положительный момент здесь состоит в том, что когда мы пытаемся экстраполировать наши ощущения от сознания и интеллекта, дабы предложить некую конкретику о состоянии внеземного разума и его мотивов, нам крайне сложно это сделать.
Такая аргументация звучит чрезвычайно удручающе. Получается, что мы глупеем, не можем предсказать собственное будущее, и понятия не имеем, какие разумные существа существуют в космосе (и существуют ли вообще). Однако я утверждаю, что здесь есть и светлые пятна, потому что эти самые действия сил самоанализа заставляют нас смотреть в глаза неким суровым, но удивительным реальностям нашей культуры и наших технологий.
Одной из таких реальностей является вопрос энергетизма (учение, рассматривающее материю как энергетическое образование). Эту тему поднимал фон Нейман, но часто игнорировали в своих беседах футурологи. В компьютерном дизайне ключевым фактором является соотношение вычислительной емкости и энергопотребления. Иногда это соотношение измеряют в вычислениях на джоуль. Микропроцессоры сегодня становятся все сложнее, а кремниевая архитектура все меньше и меньше (сейчас она измеряется десятками нанометров). И тем не менее, показатели эффективности по-прежнему улучшаются. В результате соотношение вычислений на джоуль с каждым годом неизменно увеличивается.
Правда, увеличение с каждым годом все больше замедляется. Некоторые исследователи даже утверждают, что на пути процессорной архитектуры где-то в будущем стоит «стена» энергоэффективности, составляющая примерно 10 гига-вычислений на джоуль по таким действиям как простое умножение.
Это серьезное препятствие для настоящего искусственного интеллекта и для аппаратуры загрузки мозга. Если оценивать необходимую для преодоления этой стены вычислительную мощность (измеряемую скоростью и сложностью операций), то получается, что энергоэффективность должна в миллиард раз превышать показатели стены.
Это можно изложить и иначе. Наш мозг потребляет энергию мощностью 20 ватт. Если вы хотите загрузить себя целиком в машину, используя сегодняшние компьютерные технологии, то вам понадобится источник энергии примерно такой же мощности, какую вырабатывает китайская гидроэлектростанция «Три ущелья», являющаяся самой крупной в мире. Чтобы перевести в компьютерную форму все 7,3 миллиарда живых умов, потребуется энергия мощностью 140 тысяч петаватт. Это примерно в 800 раз больше всей солнечной энергии, попадающей в верхние слои земной атмосферы. Да уж, до перехода человечества в трансцендентальное состояние нам пока далеко.
Одно из возможных решений — обратиться к нейроморфной архитектуре. Такие кремниевые конструкции, которые имитируют некоторые аспекты реальных биологических нейронов и их связей. Исследователь Дженнифер Хаслер (Jennifer Hasler) из Технологического института штата Джорджия и ее единомышленники полагают, что если нейроморфная система сделана правильно, она может уменьшить потребности в энергии у похожей на мозг искусственной системы как минимум на четыре порядка. К сожалению, даже после такого большого скачка останется зияющая дыра в энергоэффективности порядка 100 тысяч, и только после ее преодоления можно будет выйти на уровень человеческого мозга.
Безусловно, в истории компьютерных технологий полно якобы непреодолимых препятствий, которые рушатся год за годом. Поэтому терять оптимизм пока не следует. Однако очень важно то, что ничего из этого нельзя считать данностью. Вполне может оказаться, что кремний и его собратья просто не в состоянии запечатлеть всю сложность, глубину и необычайную эффективность современного человеческого мозга, как их ни формируй и ни складывай.
Техно-оптимисты любят предлагать альтернативу, говоря о возможности квантовых вычислений, в которых используются совпадающие квантовые состояния атомов или систем вместо традиционных компьютерных транзисторов. Сторонники такой альтернативы говорят, что умопомрачительная вычислительная емкость, обеспечиваемая наложением состояний, может решить проблемы энергии и скорости, поставив нас на путь создания сверхразума.
Универсальный квантовый компьютер Тьюринга может обладать по сути безграничным вычислительным ресурсом, по крайней мере, на бумаге. Британский физик Дэвид Дойч (David Deutsch) блестяще и немного лукаво сформулировал эту идею в своей работе «Квантовая теория, принцип Черча-Тьюринга и универсальный квантовый компьютер» (1985 г.). Что примечательно, он предложил читателю выяснить подробности того, как решить эту задачу.
По-настоящему универсальный компьютер теоретически может с любой требуемой точностью имитировать какую угодно конечную физическую систему, в том числе, мозг — да и другие квантовые компьютеры, раз уж на то пошло. В квантовом поле моделирование можно осуществлять параллельно в больших объемах, а вероятностные испытания проводить с умопомрачительной скоростью. Но несмотря на колоссальные лабораторные и теоретические успехи последних лет, практическая реализация таких концепций — чрезвычайно сложная задача. Хотя некоторые примеры практического применения предлагаемых квантовых вычислений существуют, скажем, контекстуализированный поиск, который в полной мере вписывается в рамки когнитивных вычислений, (это лучший образец многочисленных усилий по созданию искусственного интеллекта), до настоящего разумного искусственного интеллекта пока еще очень далеко. А еще сегодня активно ведутся дебаты о том, сможет ли вообще работать искусственный разум, созданный по аналогии с человеческим.
Здесь тоже поднимает свою голову проблема энергоэффективности. Чтобы манипулировать главной единицей вычислений, какой является кубит (квантовый бит) — будь это атом или какой-то другой квантовый объект — нужно очень мало энергии. Но связать воедино все компоненты квантового компьютера (деликатно сохранив все эти тонкие квантовые состояния) очень тяжело. Для этого понадобятся многочисленные системы обеспечения и инженерные разработки, которые будут жадно поглощать энергию. Мы даже приблизительно не знаем, каким в реальном мире будет соотношение между вычислениями и энергией при квантовых вычислениях.
Есть и другие факторы, вызывающие не меньшую тревогу. Квантовый компьютер на «n» кубитов за один цикл может выполнять 2n вычислений, но для обеспечения этих вычислений потребуется решить сложнейшую задачу с потоком данных. Для моделирования всей нашей вселенной, состоящей из 1089 частиц и фотонов, по некоторым расчетам может хватить 296 кубитов. Но как, черт возьми, ввести все эти 1089 начальных состояний? Еще труднее другое. Как выбрать правильные решения из квантового моделирования? Моделировать человеческий мозг будет немного проще, но все равно в этом случае необходимо представить в количественной форме и инициировать как минимум 1014 нейронных связей (их примерно столько у нас в голове), чтобы начать процесс вычислений. Предположительно нам понадобится квантовый мозг с очень высокой пропускной способностью, и сенсорный интерфейс с окружающим миром с высококачественным воспроизведением. Это еще одно неизвестное, а возможно также, непреодолимая преграда.
Честно говоря, я упрощаю те методы и технологические уловки, которые можно использовать. Мои представления о будущем могут оказаться слишком ограниченными. Тем не менее, я думаю, что есть основания для более сдержанной реакции на оптимистические прогнозы об искусственном разуме человеческого уровня. Мы должны признать: хотя создать аппаратуру по поддержанию разума, сравнимого или даже превосходящего человеческий, возможно, она может не обеспечить тот экспоненциальный рост вычислений, о котором так часто говорят.
Иными словами, математические основы экспоненциально совершенствующегося машинного интеллекта могут оказаться здравыми и основательными, а вот практические барьеры — непреодолимо высокими.
Чтобы понять, к чему это может привести, я (немного лицемерно) вырву лист из книги футурологов и проведу сумасбродное экстраполирование. Мне хочется понять, что случится, если мы синтезируем идею медленного развития машинного интеллекта и парадокс Ферми. Сделать это было бы интересно и весьма познавательно.
Давайте предположим, что некий развитый космический разум успешно превращается в машинную форму, либо же его обгоняют супер-умные машинные создания, которые, однако, не превосходят его в геометрической прогрессии. Что произойдет дальше?
Поскольку эти машины ограничены показателями эффективности, существует возможность, что они в итоге начнут оглядываться на свое прошлое в поисках новых способов и уловок для продвижения вперед. Им будет известно (как это известно нам), что биология работает, и что работает она очень хорошо. Согласно оценкам некоторых ученых, мозг современного человека имеет вычислительные пределы, но для переделки такого сложного органа может потребоваться машина, которая лишь чуть-чуть умнее его. Иными словами, может существовать более оптимальная траектория, которая уведет нас прочь от машины обратно к биологии, обладающей удивительной энергоэффективностью.
Кроме того, нет никакой гарантии, что машинный разум будет абсолютно рационален, и сможет быть таковым. Чтобы взаимодействовать со сложной вселенной, где в самой математике содержатся недоказуемые теоремы, может понадобиться малая толика иррациональности. Сегодня мы обычно строим предположения о том, что будущее нашего разума в какой-то иной форме, кремниевой, а может, квантовой, так как мы считаем, что эти формы превосходят плоть. Пожалуй, тот же самый спектакль разыгрывается с любым другим разумом. Машина может захотеть снова стать биологическим созданием по практическим соображениям энергетизма, либо по другим причинам, которые мы не в состоянии представить и понять.
Если жизнь широко распространена и регулярно приобретает разумные формы, то наверное, мы живем во вселенной, где разум был в прошлом, и будет возникать в будущем. Вселенной 13,8 миллиарда лет, а наша галактика почти такая же древняя. Звезды и планеты формируются последние 13 миллиардов лет. Нет убедительных оснований думать о том, что космос не сделал ничего интересного за те восемь миллиардов лет, что прошли до рождения нашей Солнечной системы. Когда-нибудь мы можем решить, что для будущего разума на Земле нужна биология, а не машинные расчеты. Возможно, неисчислимое множество разумов миллиарды лет назад уже прошло через этот переходный период.
Эти ранние разумы давным-давно могли дойти до такой точки, где приняли решение вернуться из машинной формы в биологическую. Если это так, то возвращается и парадокс Ферми: где сейчас все эти инопланетяне? Простой ответ состоит в том, что они могли отгородиться, поскольку межзвездные перелеты исключительно трудны, особенно для физических, биологических существ. Возможно, разум существует, но вернувшись в биологическую форму, он поплатился за это, оказавшись в изоляции.
Эти ранние разумы могли когда-то создавать мега-конструкции и запускать плоды своей космической инженерной мысли от звезды к звезде. Может быть, что-то еще осталось там, и не исключено, что мы вот-вот найдем это при помощи своих постоянно модернизируемых астрономических приборов. Недавний ажиотаж по поводу звезды KIC 8462852, яркость которой меняется необъяснимым для известных природных механизмов способом, основан на признании того, что наши приборы сегодня достаточно чувствительны, чтобы исследовать такие возможности. Может быть, инопланетные цивилизации отступили, перейдя в уединенное биологическое состояние, а остатки конструкций их механической эпохи разрушились под воздействием космической радиации, испарений и взрывающейся звездной грязи.
Возможно, наше нынешнее состояние это по космическим меркам короткий промежуток между первым поколением машинного разума и следующим поколением. Машинный интеллект или трансцендентальное состояние в других частях галактики могли оказаться недолговечными в качестве межзвездной силы; предыдущие могли уже исчезнуть, а следующие пока не появились. Возможно, у них не было времени для визита к современному человечеству. Может быть, машинный разум мечтает снова стать биологическим, вернувшись в изолированное состояние на огромных просторах межзвездного пространства. Наше технологическое будущее может быть именно таким — отказ от машинных фантазий и возвращение к более спокойному, но и более эффективному органическому существованию.
Не стоит стыдиться, признавая исключительно гипотетический характер этих идей. И есть нечто особенное в тех вопросах, которые порождают эти идеи. Мы исследуем возможное будущее для нас самих. Можно себе представить, что вселенная уже подсказывает нам, какие у нас есть варианты. Такие действия по исследованию самих себя не похожи ни на что в человеческой деятельности, и даже из-за одного этого на них стоит обратить внимание.
Калеб Шарф — научный руководитель по астробиологии, работающий в Колумбийском университете в Нью-Йорке. Он автор книги Extrasolar Planets and Astrobiology (Внесолнечные планеты и астробиология) и лауреат премии Шамбли за работы по астрономии.
