Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред
Пока инженеры и маркетологи продолжают радовать нас очередными достижениями в создании автономных транспортных средств, а также доказательствами их безусловной выгоды и безопасности, философы и футурологи задумываются над вопросами, которые, в общем случае, инженерно решить невозможно. И один из главных подобных вопросов: как научить компьютер, управляющий автопилотом, сделать правильный выбор в ситуации, когда оба выбираемых варианта плохие. Давить пешехода на дороге или уходить с дороги, убивая тех, кто в машине? И то и другое решение противоречит первому из законов робототехники, который гласит, что робот не может причинить вреда человеку. Но выбрать-то надо.
И вот один из главных в мире научных журналов Nature публикует результаты работы одного из главных в мире научных центров — Массачусетского технологического института. Два года исследований, миллионы респондентов в 233 странах. Обработаны 40 миллионов ответов. Ради кого жертвовать собой и пассажирами? И кем можно пожертвовать ради себя? Чтобы научить робота, надо хотя бы понять, как поступил бы в такой ситуации человек.
Крайние позиции, в общем, понятны. Практически все готовы пожертвовать собой, только бы не наезжать на детскую коляску. Но никто не согласен жертвовать собой ради кошки. А вот внутри этого широкого спектра уже интереснее. Девочку, например, жальче, чем мальчика. Но вот доктора-мужчину жальче, чем доктора-женщину. Зато женщина атлет или женщина госслужащий имеют преимущество перед мужчинами тех же занятий. Не знаю, как определяется на дороге женщина-госслужащий, но пространство для феминистических интерпретаций богатое. С бодипозитивизмом, правда, не очень. Полных людей согласны давить без разбора. Им уступают разве что старики. Но, что интересно, полную женщину жальче, чем полного мужчину. А вот старушку, наоборот — менее жалко, чем старика.
Многое зависит и от региона. В Азии традиционно ценят людей старшего возраста. В то время, как в Латинской Америке готовы давить стариков ради молодых. Но вообще у пешехода больше шансов, чем у водителей. Особенно у тех, кто переходит дорогу на зеленый, нежели на красный. Впрочем, в бедных странах особенной разницы в отношении к нарушителям нет. И еще множество, множество разных нюансов.
Понимаете? Да мы сами не знаем, как будем вести себя в той или иной ситуации. Потому что количество факторов, которые надо учесть в момент выбора, не определено однозначно. Как и не формализуемо такое понятие, как интуиция.
И чем больше мы видим исследований, тем ближе мы к окончательному принятию неизбежного: да, автомобили с автопилотом возможны. Но только в том случае, если на дороге будут только одни автомобили с автопилотами. И совершенно не будет людей.
И вот один из главных в мире научных журналов Nature публикует результаты работы одного из главных в мире научных центров — Массачусетского технологического института. Два года исследований, миллионы респондентов в 233 странах. Обработаны 40 миллионов ответов. Ради кого жертвовать собой и пассажирами? И кем можно пожертвовать ради себя? Чтобы научить робота, надо хотя бы понять, как поступил бы в такой ситуации человек.
Крайние позиции, в общем, понятны. Практически все готовы пожертвовать собой, только бы не наезжать на детскую коляску. Но никто не согласен жертвовать собой ради кошки. А вот внутри этого широкого спектра уже интереснее. Девочку, например, жальче, чем мальчика. Но вот доктора-мужчину жальче, чем доктора-женщину. Зато женщина атлет или женщина госслужащий имеют преимущество перед мужчинами тех же занятий. Не знаю, как определяется на дороге женщина-госслужащий, но пространство для феминистических интерпретаций богатое. С бодипозитивизмом, правда, не очень. Полных людей согласны давить без разбора. Им уступают разве что старики. Но, что интересно, полную женщину жальче, чем полного мужчину. А вот старушку, наоборот — менее жалко, чем старика.
Многое зависит и от региона. В Азии традиционно ценят людей старшего возраста. В то время, как в Латинской Америке готовы давить стариков ради молодых. Но вообще у пешехода больше шансов, чем у водителей. Особенно у тех, кто переходит дорогу на зеленый, нежели на красный. Впрочем, в бедных странах особенной разницы в отношении к нарушителям нет. И еще множество, множество разных нюансов.
Понимаете? Да мы сами не знаем, как будем вести себя в той или иной ситуации. Потому что количество факторов, которые надо учесть в момент выбора, не определено однозначно. Как и не формализуемо такое понятие, как интуиция.
И чем больше мы видим исследований, тем ближе мы к окончательному принятию неизбежного: да, автомобили с автопилотом возможны. Но только в том случае, если на дороге будут только одни автомобили с автопилотами. И совершенно не будет людей.
1