Loading
беспилотный автомобиль

Беспилотные автомобили: Кто решает, кому жить, а кому умирать?

2025 год. Женщина доедает свой тост, выпивает последний глоток кофе и выходит на улицу. Она садится в свой беспилотный автомобиль и говорит ему ехать в офис. В пути она просматривает утренние новости на планшете, а машина плавно двигается по улице. Зелёный свет — автомобиль выезжает на перекрёсток. В этот момент на дорогу выскакивает мяч, а за ним ребёнок, который пытается его поймать. Слишком поздно: бортовой компьютер быстро вычисляет, что столкновение неизбежно. В данной ситуации есть два выхода. Машина может снизить скорость, но это не спасёт ребёнка. Или он может попытаться увернуться, выехать на встречную полосу, и тогда погибнет его пассажир. Что должна сделать машина? Спасти женщину, которая её купила, или невинного ребёнка? 

А что бы сделали вы?

Добро пожаловать в этику беспилотных автомобилей.

Однако на самом деле машина не будет делать выбор, она поступит так, как диктуют ей алгоритмы. Реальный выбор был сделан несколькими годами ранее, когда этот алгоритм был спроектирован. И тот настоящий выбор работает сейчас. Мы сами решаем, кто сможет решать, кому жить, а кому умирать.

Если вам нужны доказательства того, что выбор происходит сейчас, то компания Ford объявила, что её автомобили смогут работать полностью автономно к 2021 году. А Tesla с прошлого года продаёт машины, которые оснащены всем оборудованием, необходимым для автономной работы.

Тем не менее, для большинства потребителей полностью автономные автомобили относятся к далёкому будущему. В настоящее время все новости сосредоточены на плюсах беспилотных транспортных средств: снижение количества аварий, перестройка наших городов, а также уменьшение расходов на страхование.

Это лишь несколько примеров влияния новой технологии на нашу жизнь. Однако СМИ, как правило, не упоминают о возможных негативных последствиях. В этом следует виним потребителей, прессу и компании: просто изображение прекрасного будущего продаётся лучше, чем объяснение некоторых рутинных моментов. Такова жизнь. И одна из проблем, входящих в число этих рутинных моментов (а именно этический алгоритм), будет решать, кому умереть.

Компании, занимающиеся разработкой беспилотных авто, придерживаются мнения, что «практичности» не требуется водитель. Особо подчеркнём следующее:

«В настоящее время частные компании решают, кому беспилотный автомобиль позволит жить, а кого убьёт».

На самом деле это происходит почти со всем искусственным интеллектом в мире. Более 2000 выдающихся учёных и бизнес-лидеров подписали документ Asilomar AI Principles, в котором изложены принципы, которыми необходимо руководствоваться при создании искусственного интеллекта. Там даже есть раздел «Этика и Ценности». Но кто решает, какой системы этических норм стоит придерживаться? А ведь это, в буквальном смысле, влияет на нашу способность жить. По подсчётам компании Ford, у нас осталось менее пяти лет. Сейчас самое время решить, кто будет создавать правила этики для беспилотных автомобилей. Будут ли это компании, которые нацелены на получение прибыли, правительство с его политической подоплёкой или более широкое общество, жизнь которого поставлена на карту? В конечном счёте, компании и правительство будут преобладать, но мы можем заставить их вести с нами диалог и прислушиваться к нашему мнению.

Это переломный момент в общественной морали.

Для нас это шанс создать моральный кодекс, который бы мы хотели для нашего общества и который будет доступен для всеобщего обозрения. Нет сомнений, что до этого люди, компании и правительства тоже руководствовались определёнными моральными принципами, но они не были достаточно прозрачными. Но если я пролезу перед вами без очереди, вы не будете знать, каким моральным кодексом я воспользовался, чтобы оправдать это. Но когда автомобиль решит убить своего пассажира, мы все будем знать, чем он руководствовался. Однажды созданное программное обеспечение будет определять поведение машины в ситуациях, когда аварии с летальным исходом не избежать. Эти строки кода будут следовать определённому этическому принципу, который мы согласуем путём диалога или молчания.

Сейчас уникальное время, потому что современное поколение людей может участвовать во всеобщем диалоге, касающемся этических принципов, по которым мы хотим жить. Впервые они будут вписаны в наши продукты и сервисы. Они будут определять, чью жизнь автомобиль сохранит, а чью — нет. Но важнее всего то, что они будут направлять развитие общества и других его технологий. Этические дебаты должны выйти за пределы научных кругов и захватить всё человечество.

Сейчас мы можем либо сами принять участие в такой переломный момент, либо позволить другим (компаниям, правительству) сделать это за нас. А что выберете вы?

comments powered by HyperComments