Вершитель судеб на дорогах? Моральный аспект автоматически пилотируемого транспорта

Эксперименты с автоматически пилотируемым транспортом сулят нам совсем скорое наступление светлого будущего: улицы городов наполнят «умные» транспортные средства, отличающиеся безупречной манерой вождения, и гарантирующие полную безопасность всем участникам дорожного движения. Но так ли совершенна программа автопилота, и не сбудутся ли прогнозы из самых страшных фантастических фильмов?

Уже сейчас на дорогах нашей столицы можно увидеть городской транспорт с буквой «А» на борту – такой машиной управляет автопилот. Во всем мире количество беспилотников на дорогах продолжает увеличиваться, и цифры статистики говорят о том, что этот транспорт далеко не так безопасен и совершенен, как кажется на первый взгляд.

В США зафиксирован случай, когда беспилотник стал причиной аварии, в которой пострадал, а позже – скончался пешеход. Автопилот не распознал препятствие и не остановил вовремя транспортное средство.

Такое ДТП – далеко не единственное: автономные автомобили не раз провоцировали аварии. Но удивляет одно – производители нейронной сети автопилота утверждают, что во всех названых случаях сбоя программы зафиксировано не было – беспилотная технология сработала корректно.

Несколько дней назад в Вене беспилотный автобус совершил наезд на переходившую дорогу женщину – этот инцидент заставил власти страны ужесточить требования к беспилотным транспортным средствам, и заморозить испытания беспилотных автомобилей.

Возможно, что и другие государства последуют австрийскому опыту и перестанут так беспечно доверять искусственному интеллекту жизнь и имущество.

Насколько этична программа автоматического пилотирования транспорта?

Учитывая реальную возможность столкнуться на улице с беспилотным автомобилем, возникает закономерный вопрос – на основании какого алгоритма будет принимать решение программа, когда ситуация на дороге будет сложной, неоднозначной, нетипичной?

Наделен ли автопилот моральными качествами, и заложен ли в программе приоритет ценности человеческой жизни, а не имущества?

На эти вопросы до сих пор нет однозначного ответа – исследования в этой области засекречены и являются коммерческой тайной разработчиков нейронной сети автопилота.

Просто бизнес – ничего личного

Однако эксперты утверждают, что любой сценарий выбора программы строится на приоритете минимальных издержек. В нейронной сети человек имеет приоритет перед животным, также в программу закладывается стоимость транспортных средств всех марок и моделей, цена объектов и оборудования дорожной инфраструктуры, репутационные риски и имиджевые потери от возможных аварий.

Стоимость человеческой жизни не является статичной величиной – этот показатель варьируется для разных стран, и его также учтет «умная» программа. Таким образом формируется своеобразная иерархия ценностей для автопилота, но никто не может утверждать, что человек в ней занимает высшую ступень.

Эксперты считают, что массовое внедрение на транспортные средства программы автопилота станет реальностью только тогда, когда процент смертельных аварий по вине программы будет ниже, чем количество ДТП, вызванных ошибками пилотирования живых водителей.

Но и в этом случае все участники дорожного движения имеют право знать, на основе каких принципов работает нейронная сеть, что закладывается при проектировании ее алгоритмов.

Чтобы транспорт стал полностью автономным, производителям беспилотной технологии придется раскрыть карты, и убедить общественность в том, что автопилот всегда будет действовать во благо человека. Но и тут есть множество проблем и неопределенностей: чья жизнь более ценна – ребенка или инвалида на коляске, и как учитывать риски для пассажиров?

Эти и многие другие вопросы, касающиеся моральной стороны автоматического пилотирования транспорта, еще предстоит решить, а пока остается признать, что данная технология еще далека от совершенства.