Что можно сделать?
Видеть проблему — это одно, но понять, что делать, это совсем другое. Я не хочу создавать впечатление, будто знаю, как мы можем справиться с угрозой нуктроидов. Все что я могу, это предложить следующее:
- Исследования, направленные на создание машин, которые выглядят как люди, должны быть отмечены как чрезвычайно опасные или, по крайней мере, этически сомнительные. Такие исследования не должны финансироваться. Заметьте, я не призываю к запрету любых исследований в области искусственного интеллекта и когнитивной науки; только лишь к сдержанности в отношении исследований, определенно направленных на создание машин, которые могут вводить людей в заблуждение и сходить за людей. Компьютеры, которые могут, например, сочинять хорошую музыку или переводить с одного языка на другой, вряд ли представляют опасность. Так же как не опасны осознающие, сознательные машины. По крайней мере, сознательную машину, понимающую важность самосохранения и сохранения человечества, вероятно, труднее убедить пойти и взорваться среди людей — в отличие от исламистских террористов-смертников. Эта последняя мысль предполагает, что здравый смысл, вероятно, является желательным качеством для машин: чем больше сознательности, тем меньше угрозы нуктроидов; но сознательными их должен делать закон, а не добрая воля свободного рынка; и сознательность должна быть человеческий по сути, а не по форме и внешним проявлениям. Нам нужны роботы, которые работают для нас, но не роботы, вводящие нас в заблуждение своим видом или поведением.
- Старшеклассники, студенты, выпускники и вообще все участники образовательных системах США, Европы, Японии, Австралии и других стран должны преодолеть свое наивное отношение «Давайте оживим материю» и осознать всю серьезность таких усилий. Дети не могут сами обнаружить важность этого вопроса, поэтому академические учреждения должны научать своих студентов и предпринять соответствующие меры. Если университеты, такие как мой собственный IU (университет Индианы), могут быть весьма серьезны в отношении этики процедур, касающихся психологических экспериментов на людях и даже на животных (мне это известно из первых рук), то настало время более серьезно относиться к тому, с какими машинами экспериментируют их студенты, специализирующиеся на искусственном интеллекте и когнитивной науке.
- Американцы должны повзрослеть и отказаться от своего подросткового подхода к оружию, высоким технологиям и ценности «неамериканской человеческой жизни» (что, к сожалению, для многих из них является синонимом «недожизни»). Это самая сложная часть моего предложения. Нельзя просто сказать целой культуре — делайте это, не делайте то. В данном случае дело осложняется существованием в США класса богатой элиты, в интересах которого поддерживать неосведомленность общества, представления моего дворника «давайте их всех уничтожим», потому что отсутствие сознательности общества увеличивает краткосрочные выгоды богатого класса (например, они поддерживают войны, которые помогают им производить, рекламировать и продавать больше оружия за рубежом). Это усугубляется американским мифом о том, что неважно, бедны ли вы, ведь если вы достаточно способны, вы можете подняться на самый верх. Десятилетиями верящие в эту сказку бедные американцы не возражают против того, что их держат в узде (т.е. возможности оставаться бедными как на уровне кругозора, так и политических представлений моего дворника), потому что представление, что каждый может подняться наверх, подслащает пилюлю и делает её более приемлемой. Я должен заметить здесь, что я считаю так называемую американскую мечту «из грязи в князи» мифом, по крайней мере по двум причинам: во-первых, имеет значение, родились ли вы черным, латиноамериканцем и т.д. — в конце концов, каков процент небелых миллиардеров в США? И во-вторых, это аналогично выигрышу джекпота в лотерее: да, вы можете стать единственным счастливым победителем, и вы даже можете тешить свое эго, думая, что победа в жизни — это не только удача, а что само наличие джекпота предполагает огромное количество неудачников; но каковы шансы, что у вас хватит ума и воли, чтобы стать единственным победителем и получить высокий социальный статус? И действительно ли так привлекательно жить в обществе с горсткой победителей и миллионами неудачников, в результате чего полчища бездомных людей роются в мусоре, в то время как вы — «добрый христианин» — презираете их за то, что они не сумели подняться и оказались среди неудачников?
Примечание. Здесь следуют некоторые цифры, которые поддерживают мою предыдущую позицию. Согласно опросу, который появился в журнале где-то в период с 2003 по 2006 год, о котором я сожалею, что не записал название (мне о нем сообщили друзья), можно прийти к выводу, что 17% американцев считают, что они принадлежат к верхнему 1% финансового статуса в США. Соответствующий процент среди британцев составляет около 3%. Когда американцев спрашивали, надеются ли они достичь верхнего 1% в течение своей жизни, процент тех, кто так считал, удваивался (34%). Это означает, что 16% американцев обманываются относительно своего нынешнего положения, а огромные 33% (одна треть!) заблуждаются относительно своего будущего. Я считаю, что этот опрос является очень показательным в отношении американских иллюзий; если кто-нибудь знает источник этого опроса, пожалуйста, дайте мне знать. (Особая благодарность читателю Уолтеру ван Хьюстедену, который довел до моего сведения эту статью [ссылка не актуальна, прим.пер.], где приводятся различные результаты опросов общественного мнения, которые, похоже, очень похожи на те, на которые я здесь ссылаюсь; исходный источник моих данных, похоже, является опросом Гэллапа в июле 2000 года .)
По вышеуказанным причинам я понимаю огромную трудность общения с культурой в целом. Таким образом, единственный способ действий, который кажется мне возможным, — это повысить осведомленность людей, имея как можно больше голосов в унисон по этому вопросу, и делать это, в первую очередь, в наиболее анархической, относительно нецензурируемой среде общения, какую человечество когда-либо знало: Интернет.
Примечание переводчика
Я не вполне разделяю позиции автора, а местами и вовсе с ними не согласен. Тем не менее, само обозначение проблем в тех сферах человеческой деятельности, в частности в области научных исследований, которые несут потенциальную угрозу, хотя бы в силу своей неизведанности, очевидно полезно и достойно распространения.