Предприниматель Сунил Пол о том, кто должен думать об этических аспектах новой технологии — производители или регулирующие и законодательные органы.
Представьте: вы едете на автомобиле по городу, и вдруг перед вами на дорогу выбегает ребенок, погнавшийся за мячом. Затормозить вовремя вы не успеваете. Повернете ли вы на встречную полосу, по которой едет грузовик?
Эта ситуация и другие сценарии «Проблемы вагонетки» — мысленного эксперимента, предложенного в 1967 году британским философом Филиппой Фут, — сейчас волнуют умы инженеров, специалистов по этике и законодателей, так как по улицам городов во всем мире начинают курсировать беспилотные автомобили. Как и человек за рулем, автопилот тоже должен будет принимать решения за долю секунды, в том числе, и в таких ситуациях, как в предложенном выше примере.
Один производитель автомобилей — концерн Daimler, выпускающий Mercedes-Benz, — уже заявил, что для них приоритетом всегда будет безопасность пассажира машины, а в беспилотном автомобиле пассажирами являются все. Это значит, что будущий Mercedes-Benz убьет ребенка, но не станет подвергать риску тех, кто сидит в салоне машины. Почему автоконцерн создает систему, действия которой выглядят так аморально? Во-первых, это самое простое решение. Как бы мы ни хотели создать систему, которая будет учитывать все возможные сценарии, она усложнит и без того очень сложный проект. Во-вторых, не стоит забывать об интересах компании. Mercedes-Benz продает свои машины тем, кто будет в них ездить, а не пешеходам, детям или законодателям.
Инженеры прогрессивны, а законодатели консервативны
Обсуждение того, каким будет наше автоматизированное будущее, идет непросто, и инженерам и законодателям нужно будет научиться понимать друг друга и приходить к какой-то общей позиции. Инженер всегда хочет двигаться вперед с максимальной скоростью, а законодатель считает необходимым придержать коней. Как предприниматель из Кремниевой долины, я понимаю энтузиазм инженеров. Как эксперт Бюро технической оценки проектов при Конгрессе США, я также понимаю испытываемое регуляторами беспокойство относительно будущего с неясными последствиями. Я на собственном опыте научился тому, как искать компромисс между этими позициями, когда лоббировал первый в США закон о пиринговом каршеринге и затем участвовал в создании райдшеринга будучи сооснователем и президентом компании Sidecar.
Сегодня технологические и автомобильные компании, работающие над разработкой беспилотных автомобилей, говорят, что ставят во главу угла законопослушность, постоянную бдительность и даже «максимальную параноидальность» своих машин. ПО их автопилотов составлено так, чтобы любой ценой избежать столкновения с пешеходами. Большинство аварий с участием беспилотных автомобилей Google произошло вследствие того, что в них врезались сзади машины с водителями за рулем, которые не ожидали «параноидального» поведения беспилотных автомобилей.
Однако решения подобные тому, что принял концерн Daimler, и такие получившие громкую огласку аварии как в случае с Tesla (в прошлом году электрокар в автономном режиме врезался в полуприцеп, что вызвало смерть водителя), могут спровоцировать законодателей на решительные действия.
Картина в целом
Беспилотные автомобили и грузовики могут сделать концепцию Vision Zero (программу по достижению нулевой смертности в ДТП) реальной, как никогда ранее. На данном этапе развития технологий люди, которые делают акцент на авариях, напоминают скептиков, возражавших против ремней и подушек безопасности. До того, как они были протестированы, массово внедрены и законодательно утверждены, многие люди беспокоились, что эти меры обеспечения безопасности будут калечить детей и испортят внешний вид автомобилей. Однако, если мы посмотрим на картину в целом, то увидим, что потенциально беспилотные автомобили могут сделать городские улицы безопасными для пассажиров, пешеходов и велосипедистов. И законодатели могут ускорить этот процесс.
Представьте себе, что существуют городские зоны, где разрешено движение только беспилотных автомобилей. Впервые с появления автомобилей пешеходы и велосипедисты в этих зонах смогут быть уверенными, что машины станут подчиняться правилам и будут уступать им дорогу. В этих зонах беспилотного вождения можно будет отменить законы о переходе улиц в неположенном месте, введенные по настоянию автоклубов и автопроизводителей. Некоторые эксперты с помощью теории игр даже предсказали, что пешеходы, взаимодействуя с беспилотными автомобилями, обретут такую уверенность, что станут более активно отстаивать свое право на передвижение пешком, в результате чего машинам будет труднее перемещаться по городу.
Запрограммированная паранойя
Мы можем спрогнозировать, что однажды для беспилотных автомобилей потребуется ввести особые зоны передвижения, потому что это следует из того, каким образом происходит разработка беспилотных систем. Полная автоматизация автомобиля, при которой человек вообще никак не участвует в управлении машиной — так называемый 5 уровень автоматизации — будет достигнута еще не скоро. При более низком, 4 уровне автоматизации, машина может ехать без водителя, но только в определенных ситуациях, и такие системы уже тестируются. То есть, автомобили, используемые в райдшеринге или в службе доставки, могут быть оснащены системой автоматизации 4 уровня, чтобы ездить, например, по городским улицам с ограничением скоростного режима или по стандартизированным высокоскоростным магистралям. Для езды в других зонах или ситуациях повышенной сложности по-прежнему будет нужен человек за рулем.
Из-за проблем с юридической ответственностью беспилотные автомобили, скорее всего, будут очень законопослушными и параноидальными. В 2015 году Volvo объявили, что будут нести всю ответственность за спроектированные этим концерном беспилотные системы вождения, приравняв их таким образом к тормозам и другим мерам обеспечения безопасности. С учетом того, как такие вопросы решаются в судах, автопроизводители, скорее всего, будут обязаны частично, а может, и в полном объеме, выплачивать компенсации по искам, связанным с отказом этих систем автоматизации. В США за год выплачивается около 200 млрд долларов по искам в связи с автомобильными авариями, и это примерно равняется размеру суммарной прибыли ведущих мировых автоконцернов, из чего следует, что разработчики беспилотных автомобилей приложат все усилия, чтобы их системы автоматизации были параноидальными.
Пока суды будут разбираться со всеми этими исками, регуляторы, оценивающие беспилотные системы, столкнутся с новыми проблемами. Технологии машинного обучения, которые сейчас используются при программировании беспилотных автомобилей, например, нейронные сети и статистические системы, эффективны, потому что они позволяют усвоить большие объемы данных и проиграть различные сценарии, с которыми может столкнуться автомобиль. Но из-за этого процесса обучения становится труднее предсказать, как беспилотные автомобили будут вести себя в будущем, потому что не каждый сценарий можно отработать заранее и нельзя вычислить, почему система машинного обучения повела себя так, а не иначе.
Традиционное программное обеспечение, а также некоторые виды машинного обучения, например, системы, основанные на правилах, ведут себя предсказуемо. Это не значит, что в таком ПО не бывает багов, но есть проверенные способы поиска и исправления этих проблем. Однако когда баги возникают в новых системах машинного обучения, их очень трудно обнаружить и исправить. Что еще хуже, трудно быть полностью уверенным в том, что проблема действительно устранена.
Ведутся исследования, которые позволят нейронным сетям и статистическим системам объяснить, почему они повели себя так, а не иначе. Это будет очень важно для эффективного регулирования беспилотных автомобилей.
Задача законодателей состоит в том, чтобы способствовать такому развитию событий, финансируя исследования и разработки в этой области, стимулируя инженеров и сотрудничая с ними.
Законодательство завтрашнего дня
Сегодня регуляторы заново оценивают правила и законы организации дорожного движения с учетом того, что беспилотные автомобили будут запрограммированы следовать букве этих законов. Мы все тоже подчиняемся очень мощному «коду» — законам и правилам, в которых учитываются вопросы этики. Ни беспилотный автомобиль, ни его создатель не должны решать «проблему вагонетки» и другие сложные этические вопросы. У нас уже есть такие инстанции, как суды и органы законодательной власти, которые обязаны следить за справедливостью и выносить решения о том, что правильно, а что нет.
В ситуации с погнавшимся за мячом ребенком решать, может ли автомобиль пересекать двойную сплошную линию, чтобы спасти чью-то жизнь, должен не автоконцерн. Автопроизводителям нужны законы и правила, как действовать в таких сложных ситуациях. Если беспилотные системы не могут гарантировать безопасности пешеходам при нынешних правилах дорожного движения, законодатели должны изменить эти правила, а создатели ПО следовать им.
Беспилотные автомобили изменят наш мир, особенно города и пригороды. Со времен Второй мировой войны мы были ограничены механическими возможностями машин. Теперь мы проектируем наше будущее, исходя из возможностей не двигателей, тормозных систем или руля, а только ПО. Поскольку нашей целью является реализация концепции Vision Zero, наши суды и органы законодательной власти должны сделать все возможное, чтобы системы автономного вождения были такими, как хотим все мы, а не только владельцы этих беспилотных автомобилей.
Подписывайтесь на наш канал в Яндекс.Дзен. Не только крипта, но и много эксклюзивных историй, полезных материалов и красивых фото.
Источник: https://ru.insider.pro/
Новое сообщение Можем ли мы доверять беспилотным автомобилям появилось на КриптоВики.
КриптоВики
Автор: admin
