Безопасность искусственного интеллекта

to be or not to beСейчас в результате ДТП на дорогах гибнет 10-20 человек в год на 100 тысяч жителей. Где-то чуть меньше, где-то больше. Для нашей страны это пара десятков тысяч человеческих жизней в год. Это что-то вроде натурального налога, плата за удобство и выгоду быстрых (относительно) и дешевых (относительно) перемещений себя и грузов в пространстве. Есть аналогичные сборы за ресурсы (гибель шахтеров и работников других добывающих отраслей), за производство, даже и за развлечения. В общем, надо признать, что обязательность связанных жертв отчасти стимулирует усилия по некоторому их снижению (техника безопасности), но никак не может заставить отказаться от удобства и преимуществ.

DragonИскусственный интеллект и машинообучаемые роботы рано или поздно тоже покажут зубки, это неизбежно. Как неизбежны и те удобства и выгоды, которые они принесут в нашу жизнь. И хотя их жертвы, возможно, не будут злонамеренными, как и большинство жертв транспортных происшествий или взрывов бытового газа, но будут столь же статистически обязательными. Появится и статистика, выражаемая в числе жертв на 100 тысяч населения в год. Не так уж важно сейчас, как именно будут умирать люди — задавленными беспилотниками, отравленными автоматическими кулинарами или из-за ошибок роботов-врачей. Вопрос в том, сколько девственниц в год мы готовы отдавать на съедение дракону с деревни, чтобы, поплакав, в остальное время спокойно жить с комфортом.

Источник: VK.com

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *