Терминатор против Стивена Хоукинга

Вам никогда не снился кошмар, в котором ваш пылесос или смартфон с легким немецким акцентом требует вашу одежду, ботинки и мотоцикл? Современные технологии настолько обгоняют простые потребности большинства людей и так облегчают буквально любую нашу деятельность, что стоит задуматься о возможности замещения машинами гомо сапиенс. А знаменитости от науки и технологий, видимо, порою просыпаются в кошмарах.

Robot-killer

28 июля в Буэнос-Айресе прошла крупнейшая в мире конференция, посвященная исследованиям в создании искусственного интеллекта. На ней было подписано коллективное письмо, призывающее мировую общественность и лидеров стран запретить разработки и использование искусственного интеллекта или роботизированных летальных систем. Подобные новшества науки и военной техники способны сами выбирать жертву (человеческую) и принимать решение об ее уничтожении.

Конференция и само письмо получили большую огласку в СМИ благодаря некоторым подписантам, среди которых оказались: глава Tesla Элон Маск, один из создателей Apple Стив Возняк, глава Google Deep Mind Демис Хассабис, создатель Skype Яан Таллин, профессор Ноам Чомский и профессор Стивен Хоукинг.

Данные знаменитости и просто очень умные люди описывают автономное оружие как третью революцию в военном искусстве – после изобретения пороха и ядерной бомбы. По мнению подписантов, с современным законодательством и развитием индустрии уже в ближайшие десятилетия появление подобных машин на поле боя станет реальностью. Особые волнения вызывают возможность нелегального распространения данных систем и непредсказуемость последствий.

Очередной виток в развитии военных технологий может привести к гонке вооружений. Подобная отрасль исследований открывает новые горизонты для самых смелых решений в военной науке, которая потребует апробации теории на практике. Если сейчас на разработки по созданию искусственного интеллекта выделяются огромные средства, то с появлением уже готовых машин копирование создаст возможности для неограниченного распространения технологии по всему миру. В нашумевшем письме, с одной стороны, признаются положительные эффекты замены людей на поле боя машинами – меньше потерь, но с другой стороны, указывается на возможность попадания «терминаторов» в руки террористов, криминальных банд и диктаторов.

Собственно, огорчает лишь некоторая тривиальность видения будущего. Глобального повелевающего и испепеляющего людей интеллекта Стивен Хоукинг со товарищи не предсказывает. Все гораздо проще: массовое производство роботов-убийц как аналог «калашникова» можно будет изготовить в ближайшем гараже и использовать для истребления себе подобных, что осложнит задачу поимки создателей и «заказчиков» преступления.

Терминаторы не зашагают железной поступью по черепам землян. Искусственный интеллект лишь угрожает новой гонкой вооружений и большим распространением непринужденного насилия вообще. Идея подписантов и самого письма скорее в том, чтобы указать на конечные цели, то, к чему человечество может двигаться и чего оно хочет.

Остановить развитие технологий и развитие программ невозможно. Грань между машиной, которая намеренно сбивает пешехода или той, которая выбирает, врезаться в толпу или в одиноко стоящего зеваку, определяется людьми. Уже сейчас есть технологии, способные делать такой выбор.

Возняк, Маск и Хоукинг пытаются добиться от человечества постановки правильного вопроса, выбора между развитием и бесконечным воспроизводством и самоуничтожением. Нужны ли нам терминаторы или тракторы? Скорее необходимо и то, и то. Другое дело – четко понимать, зачем развивать данные технологии с прицелом на далекое будущее. Запретить развитие технологий невозможно. Как и произошло на женевской конференции ООН в апреле, когда Великобритания категорически отклонила предложения о запрете «роботов-убийц». Военно-промышленный комплекс приносит этой стране, как и многим другим, миллиарды долларов дохода. Более того, военные или «двойного назначения» технологии зачастую двигают и тянут за собой гражданский сектор с самыми гуманными последствиями. Главное – понимать, зачем такие технологии человечеству вообще.

Кстати, в знаменитой франшизе «Терминатор» опорной точкой всего повествования является «Судный день» – так же называется вторая часть фильма, – который начался с ядерной атаки Skynet на Россию. Искусственный интеллект Skynet решил начать захват мира с провокации войны. С выходом новых фильмов и телесериала «Хроники Сары Коннор» дата холокоста человечества постоянно отдалялась, что вызвано постоянными перемещениями во времени и борьбой людей против Skynet. В последнем фильме с Арнольдом – «Терминатор: Генезис» – дата судного дня выпадает на октябрь 2017 года.

Источники: Future Of Life, Guardian, Stop Killer Robots.

Том Мартинс.

Leave a Reply

Your email address will not be published. Required fields are marked *