Ладно, так где же здесь этические проблемы?
Они в отдаленной возможности создания интеллектуальных машин, которые действуют и даже выглядят как люди. Если это произойдет, в конечном итоге, несомненно, будет создано интеллектуальное оружие массового уничтожения. Именно это я хотел бы объяснить.
An actroid (credit: GNU license)
Взгляните на фотографию женщины слева. Она выглядит реальной? На самом деле, это кукла, называемая «актроид» (actroid). Вы можете узнать больше об актроидах, кликнув по изображению, но в общем, актроид — это «гуманоидный робот, обладающий сильным визуальным сходством с человеком», который «может имитировать такие реалистичные функции, как моргание, речь и дыхание». Вот этот, показанный на фотографии, — это интерактивный робот, способный распознавать и обрабатывать речь и реагировать на неё. Такие роботы включают в себя достаточно «искусственного интеллекта», чтобы отбиваться от навязчивых воздействий, таких как пощечина или толчок, при этом иначе реагировать на более мягкие прикосновения, такие как похлопывание по руке. «Кожа сделана из силикона и кажется очень реалистичной» (полагаю, без ненужных деталей под одеждой.)
Теперь представьте подобного робота в недалеком будущем. Представьте, что она (он или оно) имеет достаточную вычислительную мощность в компьютере, расположенном в её черепе (или в грудной клетке, не важно), чтобы позволить ей вести себя естественным образом, как человек. А также представьте, что в её животе скрывается не кишечник (что было бы для неё бесполезно), а небольшая ядерная бомба.
Невозможно? Почему? Я же говорю не о современных технологиях, когда ядерные бомбы похожи на мастодонтов, а о технологиях будущего, которые смогут уменьшить что угодно.
И речь идет не о ядерной бомбе, способной уничтожить целый город, а о такой, которая может испепелить, скажем, несколько кварталов, а еще множество сделать необитаемыми.
Примечание. Читатель привёл возражение, что существует предел тому, насколько малым может быть ядерное оружие из-за известной критической массы радиоактивного материала для запуска ядерных цепных реакций, а также из-за наличия других деталей и механизмов, которые должна иметь ядерная бомба, чтобы функционировать как контролируемое устройство. Я с этим не спорю. Хотя мы не можем предсказать технологии будущего, основываясь на том, что известно сейчас. Допустим, что подсадить ядерную бомбу в матку действительно никогда не удастся. Но я не намерен сводить круг обсуждаемых вопросов лишь к ядерному оружию. Это может быть биологическое оружие: «бомба», распространяющая смертельные вирусы, даже без взрыва, работающая просто от кашля или чихания актроида. Поэтому, когда вы читаете о «ядерном оружии» в этой статье, пожалуйста, понимайте это как обозначение для «оружия массового уничтожения».
Что ж… полагаю, вы действительно не возражаете, что это правдоподобный сценарий. Но вот во что вы по-настоящему верите (или, может быть, просто надеетесь), это что именно мы, наша сторона, наша армия получит такое чудесное оружие. У врага его не будет, поэтому именно мы, с нашими превосходными технологиями, выйдем победителем и будем жить долго и счастливо, сокрушив варваров. О, да!