Искусственный интеллект, нейросети
179,371
1,045
|
DeC ( Слушатель ) |
| 16 сен 2019 12:04:59 |
Если беспилотное авто сбило человека. Кто виноват?....
новая дискуссия Дискуссия 555
Как наказывать ИИ за смерть людей?
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144-ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений: правительство – бизнес, к трехуровневому: правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Это предложение чем-то напоминает идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26-го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь:
http://conference.nb…130053.pdf
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
К вопросу о недавней дискуссии здесь.
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144-ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений: правительство – бизнес, к трехуровневому: правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Это предложение чем-то напоминает идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26-го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь:
http://conference.nb…130053.pdf
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
К вопросу о недавней дискуссии здесь.
Отредактировано: DeC - 16 сен 2019 12:07:39
ОТВЕТЫ (20)
|
xrvr ( Слушатель ) |
| 16 сен 2019 15:33:28 |
Цитата: DeC от 16.09.2019 12:04:59
Есть еще одна интересная дилемма в этой области.
Допустим, самобеглая повозка, под управлением ИИ, попадают в такую ситуацию, когда ей надо решить за пол секунды, сбить неожиданно выскочившего ребенка на дорогу, и тогда ее пассажиры спасутся, или спасти жизнь ребенку, но тогда ее пассажиры погибнут.
При этом уже есть опасения, что богатенькие, как обычно, смогут себе выбрать авто с ИИ, у которого будет приоритет спасти жизнь им, а не ребенку.
|
|
DeC ( Слушатель ) |
| 16 сен 2019 15:45:10 |
Цитата: xrvr от 16.09.2019 15:33:28
Не очень понял – как (с чего вдруг?) пассажиры погибнут, если спасти жизнь ребенку?
|
sssccc ( Слушатель ) |
| 16 сен 2019 15:52:50 |
Цитата: DeC от 16.09.2019 15:45:10
Я так понимаю что ИИ предпочтет свернуть в кювет чтобы "спасти жизнь ребенку"...
|
|
Alex_new ( Слушатель ) |
| 16 сен 2019 16:48:36 |
Цитата: sssccc от 16.09.2019 15:52:50
Скорее водитель так сделает?
А водитель богатеньких пассажиров ТОЧНО???? так сделает?
ИМХО водитель как раз предпочтет сбить ребенка.....
Особенно , если пассажиры его давно работодатели...
Не надо выдумывать высосанные истории применения....
С людьми водителями все гораздо хуже..
|
|
Cyclop ( Слушатель ) |
| 16 сен 2019 16:50:44 |
Цитата: sssccc от 16.09.2019 15:52:50
Кто-то навязчиво вбрасывает идею, что ИИ-автопилот - это немеренная юридическая проблема.
Вообще-то нет. В сложных ситуациях ИИ будет ездить медленно и печально, и тормозить в своей полосе.
Так что проблема, скорее, будет в жалобах пассажиров на то, что они добирались вдвое дольше, чем на живом таксисте.
Перенесите гипотетическую ситуацию на лифт, и все будет понятно.
|
|
EugeneZ ( Слушатель ) |
| 16 сен 2019 17:48:01 |
Цитата: Cyclop от 16.09.2019 16:50:44
При наличии %%10 автомобилей-роботов мы уже все будем ездить медленно и печально. И постоянные пробки из-за того, что один идиот припарковался в неположенном месте, а другой объехать его не может, ибо для этого придётся на осевую линию наехать.
|
|
Николай Сидоренко ( Слушатель ) |
| 25 окт 2019 21:35:54 |
Цитата: EugeneZ от 16.09.2019 17:48:01
Ну да, особенно учитывая что ездить будут строго по программе и не поймут что их пропускают. А на многих разъездах в часы пик соблюдая 100% правила просто не разъедешься.
|
Поверонов ( Слушатель ) |
| 25 окт 2019 22:30:23 |
Почему дороги покрывают все-таки гладким твердым покрытием.Потому что чиновникам не нравится трястись на колдобинах ( Всем не нравится, но только чиновники могут влиять на покрытие дорог ) Так и тут - постоят в пробках и будут искать решение вопроса.
|
|
Foxhound ( Слушатель ) |
| 31 окт 2019 01:58:09 |
Цитата: EugeneZ от 16.09.2019 17:48:01
Решается увеличением наказаний за неправильную парковку. Нет денег на штрафы - продай авто и заплати. Заодно подстегнет производство автопилотов, так как с ними вероятность штрафа резко снизится.
|
|
EugeneZ ( Слушатель ) |
| 31 окт 2019 09:40:23 |
Цитата: Foxhound от 31.10.2019 01:58:09
Ну ясен пень, что когда-то в далекой галактике все отладят, отшлифуют программный код, оптимизируют законодательство, минимизируют до минимального минимума травматизм в ДТП, но в процессе поубивают кучу людей и велосипедистов, а переходную эпоху будем тащиться за тупящими роботами и торчать в пробках из-за сдутой на проезжую часть коробки, спущенного колеса у робота или неправильно припаркованной машины.
Да, и личные авто будут только у фермеров да отшельников, горожанам удобнее будет беспилотное такси.
И основная масса людей еще больше отупеет. Ибо чтоб пользоваться автомобилем, не нужно будет долго учиться, нести бремя ответственности за свою и чужую жизни, думать об эксплуатации достаточно сложной техники.
|
|
Дима23 ( Слушатель ) |
| 09 ноя 2019 14:07:30 |
Права выдают после около 30 часов обучения. Некоторым хватает и 20 часов. Зашибись "долго учиться"!Цитата: EugeneZ от 31.10.2019 09:40:23
Цитатанести бремя ответственности за свою и чужую жизни,Учитвывая количество водятлов на дорогах - несут "бремя ответственности" очень немногие.
Цитатадумать об эксплуатации достаточно сложной техники.
А, так вы шутили. Извините, сразу не понял, думал вы всерьез это пишите.
|
|
EugeneZ ( Слушатель ) |
| 13 ноя 2019 11:41:22 |
Цитата: Дима23 от 09.11.2019 14:07:30
1. Хорошим водитель становится, если доживает лет до 5 водительского стажа. От 2 до 5 -- самый опасный возраст. А дальше век живи -- век учись никто не отменял.
2. Ну, водятлов все таки меньше, чем нормальных. И значительная их доля -- как раз те от двух до пяти.
3. Водитель должен быть умнее своей машины. См. п.1.
|
|
xrvr ( Слушатель ) |
| 16 сен 2019 17:40:35 |
Цитата: DeC от 16.09.2019 15:45:10
Имеется в виду экстремальный случай. Если авто с ИИ спасет жизнь ребенку, то упадет в пропасть, или вьедет в стену на полной скорости.
|
|
Сыбыр ( Слушатель ) |
| 16 сен 2019 18:13:39 |
Цитата: xrvr от 16.09.2019 17:40:35
Это не решаемая абстрактно этическая дилемма.
Как всякая моральная дилемма решается ТОЛЬКО конкретно.
Вот такая селяви.....
Апдейт.
Как только ИИ конкретно решит такую дилемму и обоснует основания (хотя бы и случайным скачком напряжения в бортовой сети), можете поздравлять всех жидко-кожаных. У них появился электронно-железный напарник/конкурент.
|
|
Hanych ( Слушатель ) |
| 16 сен 2019 20:36:21 |
Цитата: xrvr от 16.09.2019 17:40:35
хрень. Если пассажиров больше одного - надо выбирать жизнь пассажиров. Жизнь ребенка ни разу не более ценная. Но да.. ор поднимется.. слезинка и все такое.
|
|
Поверонов ( Слушатель ) |
| 16 сен 2019 21:06:11 |
Цитата: DeC от 16.09.2019 15:45:10
Например - для спасения ребенка на горной дороге придется свернуть в пропасть...
|
|
DeC ( Слушатель ) |
| 16 сен 2019 21:16:09 |
Цитата: Поверонов от 16.09.2019 21:06:11
Тут проблемы нет (и, кстати, не должна машина разбираться в терминах и приёмах постправды). В любом случае отвечает компания-медиатор-страховщик. Понятно что пересмотр страховки беспилотного авто нужно сделать после необходимых разбирательств (записи с камер, черные ящики и тд).
|
idioten test ( Слушатель ) |
| 16 сен 2019 21:23:49 |
Сообщение удалено
idioten test
16 сен 2019 22:24:37
idioten test
16 сен 2019 22:24:37
Отредактировано: idioten test - 16 сен 2019 22:24:37
|
AltTab ( Слушатель ) |
| 16 сен 2019 22:00:48 |
Сообщение удалено
AltTab
26 май 2023 21:07:15
AltTab
26 май 2023 21:07:15
Отредактировано: AltTab - 26 май 2023 21:07:15