Сингулярность: как выжить в эпицентре прогресса

Вы готовы к Cингулярности? Пускай это непривычное слово всё ещё звучит как название научно-фантастического финильма, но на самом деле технологическая сингулярность — это реальная научная концепция, которая способна навсегда изменить будущее человечества – наше с вами будущее. Эксперты спорят о том, приведет ли Сингулярность к утопическому будущему или к антиутопическому кошмару. Рэй Курцвейл, известный футуролог, считает, что Сингулярность приведет к слиянию людей с машинами, что создаст новую эру беспрецедентного интеллекта и возможностей. Но существуют ли альтернативы у этого утопического сценария? Давайте разберемся.

У истоков

Термин «сингулярность» изначально возник в различных научных областях, где он используется для описания уникальных и исключительных явлений, которые не соответствуют норме. В математике, например, сингулярность — это точка, в которой функция ведет себя хаотично — например, расходится к бесконечности или вообще не определена.

Аналогично этому в физике сингулярность относится к точке в пространстве-времени, где законы физики нарушаются. Самый известный пример — сингулярность, которая, (как математически обосновал Хокинг) существует в центре черной дыры, где сила гравитации улетает в бесконечные значения. Звучит контр-интуитивно, но против математики не попрёшь…

Понятие «технологическая сингулярность» (англ. technological singularity) — это гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и – что немаловажно – необратимым, что порождает (теоритически) радикальные изменения самого по себе характера человеческой цивилизации, той ее структуры и содержания, которю мы мыслили и осознавали до сих пор.

Иначе говоря, техно-сингулярность относится к той точке развития цивилизации, в которой машины и программы превосходят человеческий интеллект, что приводит к экспоненциальному росту и совешенно непредвиденным последствиям. В то время как одни видят в сингулярности ключ к раскрытию человеческого потенциала, другие уже давно предупреждают о потенциальных опасностях создания машин, которые превзойдут нас интеллектуально (а в перспективе, возможно, ещё и нравственно!)  В этой статье мы исследуем мир сингулярности, от его истоков до потенциальных рисков и выгод для нас-любимых. Так что пристегнитесь и приготовьтесь к интригующей поездке в эпицентр прогресса!

Волнительная гипотеза

Станислав Улам, известный математик, в своих мемуарах «Посвящение Джону фон Нейману» (1958) вспоминает о своих беседах с Нейманом, другим легендарным математиком. Они оба обратили внимание на очевидный факт, что поскольку прогресс технологий неизменно ускоряется, то однажды с неизбежностью должен наступить такой момент, когда люди не смогут поспевать за технологиями — то есть, наступит то, что математики в своей области называют сингулярностью. Но на этот раз это будет не странностью и анамалией в некотором математическом уравнении, а особенным, качественным переворотом в истории человечества.

В 1965 году Ирвинг Гуд ввел идею сингулярности в по отношению к технологиям. Он предположил, что когда машины окажутся способны создавать другие машины, превосходящие способности людей, может произойти своего рода «интеллектуальный взрыв».

Представьте себе некий симбиоз роботизированных машин с начинкой из интеллектульных нейросетей, машин, которые изобретают новые технологии, открывают новые научные принципы и разрабатывают сложные даже для лучших наших инженеров системы, со скоростью, с которой люди просто не могут сравниться. Очеидно, что это может привести к радикальным достижениям в таких областях, как медицина, исследование космоса и искусственный интеллект.

Концепция сингулярности в том смысле как мы понимаем её сегодня была впервые введена математиком и программистом Вернором Винджем в начале 1990-х годов. В своем эссе «Грядущая технологическая сингулярность» Виндж предсказал, что когда мы наконец создадим машину, которая будет умнее нас, история станет непредсказуемой.

Вообразите: машины становятся в миллионы и миллиарды раз умнее нас, людей, и начинают самосовершенствоваться с безумной скоростью, абсолютно наплевав на то, что когда-то Чарльз Дарвин назвал эволюцией видов и на что потребовались целые эпохи. В тот же момент вы внезапно обнаруживаете, что уже живете не в привычном-знакомом-уютном мире, а в мире, где интеллектуализированные нейро-роботы делают все, от вождения наших автомобилей до конструирования виртуальных миров неотличимых от реального. Страшно, да?

Сингулярность: как выжить в эпицентре прогресса

Ключевыми структуро-образующими элементами сингулярности будут являются искусственный интеллект и машинное обучение. ИИ относится к способности машин выполнять задачи, которые обычно требуют человеческого интеллекта, такие как распознавание речи, понимание естественного языка и игра в сложные игры.

Когда я задумываюсь над этим и смотрю на все эти прогнозы через привычную для меня оптику скептического мышления, ненароком вспоминается эпизод, который сильно впечатлил меня в школьные годы. Это была большая талантливая статья в журнале «Популярная механика» об игре Го, в которой рассказывалось, что в ближайшие десятилетия (!) невозможно будет создать программу, которая смогла бы обыграть человека в этой игре, (в отличие от шахмат), поскольку для этого потребовались бы не просто огромные вычислительные мощности, но необходимость имитировать целый ряд алгоритмов человеческой психики. Приводились каскады аргументов самых авторитетных математиков и программистов, упоённо доказывающих нерушимость одного из бастионов нашей культуры, одного из драгоценных камней в интеллектуально-эстетической сокровищнице нашей цивилизации – игры Го. И ровно через одну неделю после выхода этой статьи была создана программа, которая обрушила этот бастион. Не через десятилетия! Через неделю!

Машинное обучение — это часть ИИ, которая включает в себя разработку алгоритмов, которые могут учиться на данных и со временем повышать свою производительность. ИИ похож на сверх-умный мозг робота, который может делать такие вещи, как распознавать речь, понимать естественный язык, делать рационально-логические выводы и принимать оптимальные решения. Машинное обучение — это то, где мозг робота может учиться на данных и со временем совершенствоваться. Ускоренно совершенствоваться. Невообразимо быстро!

И тут все начинает немного пугать. Поскольку искусственный интеллект и машинное обучение продолжают развиваться, интеллектуальные агенты и нейросети стали уже сегодня обыденностью, многие эксперты предсказывают, что сингулярность становится все более вероятной уже в самом обозримом будущем. Например, Рэй Курцвейл, футуролог и технический директор Google, предсказал, что мы достигнем сингулярности к 2045 году, то есть, по большому счету, завтра. Это означает, что мы мчимся к будущему, в котором роботы умнее нас, и мы понятия не имеем, какие шаги они предпримут в процессе своего становления. При этом необходимо подчеркнуть, что «роботы» в этом контексте – понятие в высшей степени метафорическое. На самом деле мы понятия не имеем какую физическую форму существования, какой материальный облик могут принять эти интеллектуальные порождения цифровой эволюции.

 

 

Прогнозы

В 2000 году Элиэзер Юдковски, американский эксперт в области искусственного интеллекта, выдвинул гипотезу о том, что в будущем может появиться программа ИИ, способная к самосовершенствованию со скоростью, намного превышающей возможности человеческого восприятия. Юдковский предложил два индикатора приближающейся эпохи: рост технологической безработицы и быстрое распространение идей. Специально перед публикацией этой статьи я аналитически формализовал актуальную статистику по этим показателям через Big Data. Итог: беспрецендентный качественный рост всех показателей.

«Возможно, это будет самая стремительная техно-революция, которую когда либо знало человечество. Вероятно, она обрушится на нас как гром среди ясного неба, будет полной неожиданностью даже для ученых, вовлеченных в процесс ее становления… Что будет после этого через пару месяцев (или пару дней)… Я мог бы привести только одну аналогию – появление человечества. Мы с вами окажемся в постчеловеческой эре. Невзирая на мой технологический оптимизм, мне было бы намного комфортнее, если бы меня от этих сверхъестественных событий отделяло бы не двадцать лет, а тысяча», — писал Юдковски.

Несмотря на неопределенность вокруг сингулярности, многие эксперты предсказывают, что она может оказать глубоко положительное влияние на общество. Оптимисты-сингулярности (сингу-оптимисты?) предсказывают, что это приведет к развитию новых технологий, которые могут улучшить нашу жизнь так, как мы даже представить себе не можем.

Сингулярность: как выжить в эпицентре прогресса

Одним из самых перспективных направлений развития искусственного интеллекта является здравоохранение. Алгоритмы искусственного интеллекта разрабатываются, чтобы помочь диагностировать и лечить целый ряд заболеваний, от рака до диабета. Эти алгоритмы способны обрабатывать огромные объемы данных и выявлять закономерности, которые люди могут упустить, что приводит к более точной диагностике и более эффективному лечению.

Но ИИ не ограничивается только здравоохранением. Он также используется в таких областях, как транспорт, финансы и образование. Например, разрабатываются беспилотные автомобили, которые сделают наши дороги более безопасными и эффективными. Алгоритмы искусственного интеллекта используются для выявления мошенничества в финансовых транзакциях, экономя компаниям миллиарды долларов. А в образовании ИИ используется для персонализации обучения, адаптации учебных материалов к конкретным потребностям каждого учащегося.

Вот лишь некоторые примеры развития технологий последних лет:

  1. GPT-3: модель обработки языка, разработанная OpenAI, которая считается самой продвинутой языковой моделью ИИ на сегодняшний день.AlphaGo: компьютерная программа, разработанная Google DeepMind, которая победила лучшего в мире игрока в настольную игру Го, продемонстрировав способность ИИ учиться и принимать стратегические решения.

    3.  Tesla Autopilot: автономная система вождения, разработанная Tesla, которая может управлять рулевым управлением, ускорением и торможением автомобиля и может произвести революцию в автомобильной промышленности.

    4.  Google Duplex: система обработки естественного языка, разработанная Google, которая может поддерживать разговоры с людьми и назначать встречи или бронировать места от их имени.

    5.  DeepMind AlphaFold: система нейронной сети, разработанная DeepMind от Google, которая может предсказывать свертывание белков, что потенциально может привести к значительному прогрессу в открытии лекарств и лечении заболеваний.

    6.  IBM Watson: система когнитивных вычислений, разработанная IBM, которая может анализировать большие объемы данных и давать рекомендации на основе полученных результатов, с приложениями в здравоохранении, финансах и других отраслях.

    7.  Neuralink: компания, основанная Илоном Маском, которая разрабатывает интерфейсы «мозг-машина» для улучшения когнитивных способностей человека и потенциального создания симбиотических отношений между людьми и ИИ.

Когда мы приближаемся к сингулярности, важно помнить, что технология сама по себе не является хорошей или плохой. Это просто инструмент, и, как любой инструмент, его можно использовать как во благо, так и во зло. Мы должны убедиться, что мы используем его для улучшения человечества.

В ходе нескольких опросов, проведенных экспертами в 2012 и 2013 годах, был сделан вывод, что искусственный сверхинтеллект может быть создан в период с 2040 по 2050 год.

Однако быстрые темпы технологического развития также вызывают обеспокоенность по поводу сокращения рабочих мест. По мере того, как машины станут более интеллектуальными, они смогут выполнять задачи, которые ранее были прерогативой людей. Это может привести к массовым потерям рабочих мест и экономическим потрясениям. Сингулярность — это потенциально не только виртуальное солнце и цифровая радуга!

Сингулярность: как выжить в эпицентре прогресса

Чтобы решить эти проблемы, многие эксперты призывают изменить наше отношение к работе. Вместо того, чтобы рассматривать работу как нечто, что связано исключительно с занятостью, они утверждают, что мы должны начать рассматривать работу как форму творческого самовыражения, то, что обогащает нашу жизнь и способствует улучшению общества.

Этот сдвиг в мышлении потребует от нас переоценки наших систем образования, нашего трудового законодательства и наших систем социальной защиты. Это потребует от нас принятия новых форм работы, таких как предпринимательство и гиг-экономика. Но если мы сможем успешно осуществить этот сдвиг, мы сможем создать мир, в котором технологии и человеческое творчество будут работать рука об руку, создавая лучшее будущее для всех.

Какой можно сделать из этого вывод? Ну, для начала, может быть, не слишком привязывайся к своей работе. Как только «роботы» возьмут верх, вы можете довольно быстро остаться без неё. (А заодно и без жизни, если что-то пойдет не так). Возможно, однажды мы проснемся в мире, где все просто тусуются с нашими приятелями-роботами, потягивая коктейли, сделанные роботами, и смотрим фильмы о роботах, или летаем с эльфами в виртуальных мирах, которые создали ИИ-ы) Или… будем прятаться в наших бункерах, ожидая, когда закончится апокалипсис, как в сериале The Last of Us. Время покажет.

Говоря о научно-фантастических фильмах, можно вспомнить парочку примеров. Помните Скайнет из «Терминатора»? Неплохая иллюстрация Сингулярности. А как же «Матрица»? Это Singularity на стероидах. Нетрудно представить будущее, в котором мы все живем в компьютерной симуляции, ожидая, пока наши повелители роботов дадут нам следующий набор инструкций. Будущее — это загадка, а Сингулярность — лишь один из многих диких вызовов, с которыми нам приходилось иметь дело. Справимся и с этим!

Сингулярность: как выжить в эпицентре прогресса

Выводы, надежды, ожидания

По мере того, как мир движется к будущему стремительного технического прогресса, становится все более очевидным, что мы действительно находимся на пороге технологической сингулярности. Но с большой силой приходит и большая ответственность. Стремясь к этому эпицентру прогресса, мы должны спросить себя, как нам выжить? Как гарантировать, что мы по-прежнему контролируем свою судьбу и что технологии не выходят из-под нашего контроля?

Ответ заключается в понимании тонкостей сингулярности и технологий, которые будут определять наше будущее. Мы должны стать экспертами в области искусственного интеллекта, машинного обучения и робототехники. Мы должны понимать нюансы этих технологий, а также их этические и моральные последствия.

Но самое главное – мы должны стать мастерами адаптации. Мы должны уметь адаптироваться к быстро меняющемуся технологическому ландшафту и к тем тревожащим вызовам, которые с ним связаны. Мы должны быть готовы принять грядущие изменения, бросить вызов нашим предубеждениям и научиться мыслить нестандартно.

Сингулярность принесет с собой как риски, так и возможности. С одной стороны, мы увидим беспрецедентный прогресс в области здравоохранения, транспорта и связи. Мы сможем решить некоторые из самых насущных мировых проблем, от изменения климата до бедности.

Но, с другой стороны, мы также столкнемся с серьезными проблемами. Нам придется решать вопросы конфиденциальности, безопасности и регулирования прав и свобод разумных, мыслящих нейро-систем. Мы должны убедиться, что используем технологии на благо человечества, а не во вред ему.

Чтобы выжить в эпицентре прогресса, мы должны подходить к сингулярности с осознанностью и осторожностью. Мы должны быть готовы учиться, адаптироваться и развиваться вместе с технологиями, даже если в какой то момент и перестанем осмысливать их развитие. Мы должны быть открыты для новых идей и готовы сотрудничать с другими, чтобы гарантировать, что мы используем технологии ответственным и этичным образом. Возможно, мы должны быть готовы и к борьбе.

Прежде всего, мы должны помнить, что сингулярность не является самоцелью. Это просто ступенька на пути к будущему, которое до сих пор в значительной степени неизвестно. Выбор, который мы делаем сейчас, определит, как будет выглядеть это будущее и сможем ли мы им гордиться. Выбор этот – глубоко личный и индивидуальный, возможно сегодня более ответственный нежели в любой иной момент нашей долгой истории. Взять ответственность за своё личное разитие, или отдать свою свободную волю на усмотрение грядушим разумным нейросетям, которые начнут трансформацию нашего мира? Выбор – какую политическую позицию занять, когда придет неизбежное время общественного обсуждения по вопросам контроля над технологиями качественно нового уровня. Какой будет ваша политическая позиция и какова будет степень вашего личного участия?

Итак, давайте примем сингулярность как наше высоковероятное будущее, но давайте сделаем это с широко открытыми глазами. Мы должны обеспечить ответственное и этичное использование технологий и принять изменения, которые неизбежно придут с ними. Если мы сможем это сделать, мы сможем создать мир более процветающий, более справедливый и более полноценный, чем все, что было раньше. Необычность может быть пугающей перспективой, но она также вдохновляет. Давайте примем его с распростертыми объятиями и вместе построим светлое будущее для себя и для грядущих поколений. Давайте подойдем к этому с чувством удивления и любопытства, но также со здоровой дозой скептицизма и осторожности. Только тогда мы можем надеяться пройти эпицентр прогресса с изяществом и мудростью.

Дмитрий Бурлуцкий