Главная » Советы автолюбителям » Философ Кирилл Мартынов – о новой этике, роботах-автомобилях и нейросетях – Москва 24

Философ Кирилл Мартынов – о новой этике, роботах-автомобилях и нейросетях – Москва 24

Философ Кирилл Мартынов – о новой этике, роботах-автомобилях и нейросетях

Фото: m24.ru/Александр Авилов

Так этика из теоретической проблемы становится инженерной, которая к тому же имеет социальную сторону.

– Например, машина-робот едет по дороге, соблюдает ПДД, и вдруг на проезжую часть выбегает ребенок, которого там не должно быть, что должен делать робот?

– Да, с одной стороны, дискуссия об этике смещается из университетских аудиторий в современные инженерные проекты. И с другой стороны, когда мы обсуждаем этику для роботов, мы на самом деле актуализируем дискуссию о человеческой этике.

Если общество выпускает на дороги и вообще в реальный мир каких-то существ, которые принимают решение автономно (так как в этом есть экономическая целесообразность), то что должно быть обеспечено? Вы должны обеспечить, чтобы эти системы не приносили вреда, даже если они попадают в чрезвычайную ситуацию, то они должны принимать решение, которое доставит минимальный вред. И еще решение машины в трудной ситуации должно быть понятно и объяснимо для людей, иначе, роботы могут стать источником социального недовольства.

Фото: m24.ru/Александр Авилов

Человек – это единственный субъект, который способен совершить преступление, поскольку он единственный, кто способен нести ответственность.

Так что если некий автономный технологический объект – робот – действует в мире самостоятельно, то мы можем ставить вопрос о его юридической ответственности. Да, на первом этапе мы ставим вопрос о том, кто виноват – его создатель или он сам? Но современное развитие техники в значительной степени выстраивается вокруг идеи системы нейронных сетей, которая не столько программируется, сколько учится. То есть роботы – это машины, которые тренируются и обучаются сами. Следовательно их создатели, возможно, уже не могут нести ответственности за каждый результат такого обучения.

Фото: m24.ru/Александр Авилов

Фото: m24.ru/Александр Авилов

Есть ли такие вещи, которые человек может делать, а компьютер нет? В чем разница между искусственным интеллектом и человеческим разумом?

Сейчас компьютеры из контролируемого алгоритмического пространства, как это было в XX веке, готовятся сделать шаг в реальный мир, полный противоречий и конфликтов. Даже в простом примере с ребенком на дороге мы видим, как повторяется эта история, как вопрос о разуме вдруг становится вполне прагматическим, инженерным и обретает социальное звучание. Это значит, что специалисты по этике, которые будут помогать программировать машины, будут востребованы компаниями-производителями.

Законы робототехники Айзека Азимова:

  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  • Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
  • Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

Фото: m24.ru/Александр Авилов

Ведь человеческая этика совершенно неочевидная вещь даже для самих людей.

И робот, который программирует сам себя в этой сфере, он может изобрести все, что угодно, у него могут возникнуть совершенно необычные для нас идеи, исходя даже из понятных нам предпосылок. С другой стороны, критики алгоритмического подхода, основанного на этих ветвях решения, говорят, что у него есть очевидная проблема – его можно взломать.

Фото: m24.ru/Александр Авилов

Фото: m24.ru/Александр Авилов

Категорический императив – это принцип, согласно которому поступать всегда нужно так, как если бы твоя воля была общим законом Вселенной.

Если ты хочешь жить в таком мире, где все поступки совершаются по этому принципу, и которые касаются тебя, и которые касаются других людей, то твой поступок корректен.

Проблема вагонетки – мысленный эксперимент, предложенный английским философом Филиппой Фут в 1967 году. Суть эксперимента: дать человеку побыть в роли случайного свидетеля приближающейся трагедии, когда неуправляемая вагонетка или поезд катится по рельсам, к которым прикованы пять человек. Испытуемый не может помочь им, успеть их отвязать, он может только перевести стрелку на запасной путь, который, впрочем, тоже не свободен, к нему привязан один человек. И надо сделать этический выбор – действовать или бездействовать, а если спасать, то кого?

– Люди не хотят быть убийцами, даже если это полезно, даже если это минимизирует вред.

Но здесь важно отметить, что прикладная философия и машинная этика исследует не то, как люди принимают решения в жизни на самом деле, а то, какие решения они должны принимать. И тогда перед философами сегодня стоит фантастическая амбициозная задача – предложить новую этику. Если мы выводим на улицы наших городов большое количество роботов, которые классно запрограммированы на мораль, то они начинают влиять на общество.

– Если робот лучше, чем ты, то для тебя это не самая приятная новость, и тебе тоже захочется быть хорошим. Машины станут примером идеального поведения.

Если мы решим задачу с обучением роботов, чтобы, во-первых, они успешно справлялись с этическими вызовами, а, с другой стороны, их решения были для нас понятны, то со временем они сами начнут направлять общество в целом в определенную сторону.

О admin

Оставить комментарий

Ваш email нигде не будет показанОбязательные для заполнения поля помечены *

*

x

Check Also

ТОП-8 недостатков дизельного двигателя — Автоновости Украины и мира — Авто — bigmir)net — Авто bigmir)net

На первый взгляд дизельный двигатель имеет массу преимуществ. Он экономичнее, экологически чище, долговечнее, у него больший крутящий момент, доступный с более низких оборотов. Но на этом, пожалуй, плюсы заканчиваются и начинаются недостатки. Автомобиль с дизельным ...

Рейтинг@Mail.ru