Почему я перестал работать над задачами Бонгарда (перевод)

Итак, вернемся к нашему вопросу: как было бы здорово иметь «актроидов», беременных ядерными или биологическими бомбами, верно? Может быть даже «нуктроиды», как насчет такого? Конечно, только мы знали бы, что они на самом деле нуктроиды. Для террористов они сойдут за обычных людей.

Насколько недоразвитым должен быть человек, чтобы верить в подобное! Подумайте о ядерном оружии. Когда оно впервые появилось на сцене, во второй половине 20-го века, изначально им владели только пять стран: США, Великобритания, Франция, Советский Союз и Китай (победители во Второй мировой войне). Постепенно в ядерный клуб вошли другие страны, некоторые из них открыто (Индия, Пакистан), другие тайно (Израиль). Теперь каждое государство-изгой может иметь свои ядерные игрушки или мечтать ими обзавестись. В то время, когда я это писал, в международном сообществе был сильный страх, что проамериканский диктатор в Пакистане будет свергнут экстремистскими исламистами, а ядерные бомбы, которыми обладает Пакистан, попадут в руки террористов. Не секрет, что Иран, объявленный врагом США, планирует создать собственное ядерное оружие. Турция, в настоящее время союзник США, планирует построить свои собственные «энергетические» ядерные заводы; но через один-два десятилетия Турция может превратиться в центр радикального исламизма из-за его постепенно меняющейся демографии, и поэтому в будущем мы можем получить в этом же регионе еще одну ядерную державу вроде Ирана. И как же искажённое воображение и кривая логика сделают невозможным для государств-изгоев или даже отдельных лиц обладание и управление «нуктроидами» в обозримом будущем?

Технологии распространяются. Это совсем не то, что может быть заключено внутри национальных границ. Особенно сейчас, когда мы говорим о глобализации, мы должны понимать, что знания тоже «становятся глобальными», включая и специальные знания, необходимые для создания сверхмалого оружия массового уничтожения или смертоносных человекоподобных роботов.

Итак, как же всё это связано с работой над безвредными проектами, такими как автоматизация задач Бонгарда?

Как я уже объяснял ранее, речь идёт не только об автоматизации задач Бонгарда. Речь идет об автоматизации познания. Вот что, в принципе, может делать программа Phaeaco, которую я разрабатывал:

Эта анимированная картинка начинается с изображения нескольких кварталов, полученных с Google Earth. Затем она показывает результат последовательного применения различных «фильтров», которые выполняют простую «обработку изображения». Затем изображение обрабатывается способами, специфичными для Phaeaco (которая полагает, что на входе одна из проблем Бонгарда), пока не будет получено изображение, на котором идентифицированы жилые кварталы. Теперь представьте, что это ваш город — ваш дом, возможно, находится в одном из этих кварталов, и что над ним пролетает беспилотный летательный аппарат, идентифицирующий кварталы, как показано выше, в режиме реального времени. Вооруженный бомбами дрон может быть достаточно «умным», чтобы выбрать нужный квартал и направить туда бомбу — «умным», но лишенным морали.

Любой, кто работает над тем, чтобы сделать машины умными, и особенно желающий «оживить» машины, должен понимать серьезность этических проблем, связанных с такими усилиями. Взгляните на электронное сообщение, отправленное студентом Университета Индианы (IU, академическое учреждение, в котором я защищал свою диссертацию) в 2008 году (выделено мной):

Всем привет,

В четверг, 17 января состоится первая встреча университетского клуба робототехники. Мы — группа старшекурсников и выпускников разных специальностей с общим интересом к робототехнике, автоматизации,
синтетической жизни и искусственному интеллекту. Мы призываем людей оживлять вещи, что бы это ни значило.

Кто-нибудь в Университете понимает этические проблемы, с которыми играют эти дети? Действительно ли важно заниматься клонированием и изучением стволовых клеток? Разве совсем не важно, что эти ребята или, может быть, их дети, могут в не столь отдаленном будущем в результате таких игр превратиться в свободный набор квантовых частиц? Или это безразличие связано с отдаленностью будущего, тогда как другие этические проблемы в науке присутствуют здесь и сейчас? Но разве серьезность угрозы нуктроидов и ее логическая неизбежность не впечатлят любого?

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *