Автомобиль с молодой семьей едет по шоссе, вдруг на дорогу выбегает ребенок. Водитель, пытаясь уйти от столкновения, сворачивает с дороги, машина улетает в кювет и несколько раз переворачивается. Из 4-х человек двое погибли, еще двое в тяжелом состоянии попадают в больницу.
Ужасная история. Но общество эту историю будет рассматривать как несчастный случай. Водитель сделал все, чтобы спасти жизнь выбежавшего ребенка. Это естественная реакция. Наверное, каждый из нас поступил бы так же.
А теперь представьте, что за рулем будет робот. Точнее за рулем вообще никто не будет сидеть, а управлять машиной будет автопилот. В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить. Человека, который нарушил правила, или 4-х человек, которые ни в чем не виноваты.
Кого выбрать?
Автомобиль на автопилоте собьет ребенка, даже не попытавшись его объехать.
Скорее всего это вызовет скандал в обществе. Всем будет казаться, что можно было спасти всех. Да и вообще, как это так, убить ребенка, даже не попытавшись его объехать!
Робот не может принимать нерациональных решений, и это пока кажется самым страшным. Робота нельзя будет наказать, посадить в тюрьму и как-то ему отомстить за принятое им решение, повлекшее смерть человека. Робот будет решать, кому жить, а кому умереть. И решать беспристрастно, в соответствии с программой.
Есть даже старый добрый тест «Проблема вагонетки».
«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»
Кого оставить в живых? Нужно ли вмешиваться? А если 5 человек плохие, а 1 хороший? И т.д.
Недавно стало известно о первом смертельном ДТП с Теслой, оно произошло из-за ошибки автопилота. Но с увеличением количества беспилотных автомобилей все чаще у компьютера будет стоять выбор: кого убить?
Что думаете?
#мысли #мысли@b_u_r_n #психология #моральныйвопрос
Ужасная история. Но общество эту историю будет рассматривать как несчастный случай. Водитель сделал все, чтобы спасти жизнь выбежавшего ребенка. Это естественная реакция. Наверное, каждый из нас поступил бы так же.
А теперь представьте, что за рулем будет робот. Точнее за рулем вообще никто не будет сидеть, а управлять машиной будет автопилот. В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить. Человека, который нарушил правила, или 4-х человек, которые ни в чем не виноваты.
Кого выбрать?
Автомобиль на автопилоте собьет ребенка, даже не попытавшись его объехать.
Скорее всего это вызовет скандал в обществе. Всем будет казаться, что можно было спасти всех. Да и вообще, как это так, убить ребенка, даже не попытавшись его объехать!
Робот не может принимать нерациональных решений, и это пока кажется самым страшным. Робота нельзя будет наказать, посадить в тюрьму и как-то ему отомстить за принятое им решение, повлекшее смерть человека. Робот будет решать, кому жить, а кому умереть. И решать беспристрастно, в соответствии с программой.
Есть даже старый добрый тест «Проблема вагонетки».
«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»
Кого оставить в живых? Нужно ли вмешиваться? А если 5 человек плохие, а 1 хороший? И т.д.
Недавно стало известно о первом смертельном ДТП с Теслой, оно произошло из-за ошибки автопилота. Но с увеличением количества беспилотных автомобилей все чаще у компьютера будет стоять выбор: кого убить?
Что думаете?
#мысли #мысли@b_u_r_n #психология #моральныйвопрос
A car with a young family drives along the highway, suddenly a child runs out onto the road. The driver, trying to avoid the collision, turns off the road, the car flies into a ditch and turns over several times. Of the 4 people, two died, two more are hospitalized in serious condition.
Terrible story. But society will view this story as an accident. The driver did everything to save the life of a runaway child. This is a natural reaction. Probably each of us would have done the same.
Now imagine that a robot is driving. More precisely, no one will sit behind the wheel at all, and the autopilot will control the car. Unlike a human, a computer will quickly calculate all the risks. Next, the computer will have a choice of whom to kill. A person who broke the rules, or 4 people who are not guilty of anything.
Whom to choose?
A car on autopilot will hit a child without even trying to avoid it.
Most likely, this will cause a scandal in society. It will seem to everyone that it was possible to save everyone. And in general, how is it possible to kill a child without even trying to go around him!
The robot cannot make irrational decisions, and so far it seems the most terrible thing. The robot cannot be punished, imprisoned and somehow avenged him for his decision that led to the death of a person. The robot will decide who will live and who will die. And to decide impartially, in accordance with the program.
There's even the good old Trolley Problem test.
“A heavy, uncontrollable trolley rushes along the rails. On its way there are five people tied to the rails by a mad philosopher. Fortunately, you can switch the switch - and then the trolley will go on a different, siding. Unfortunately, there is one person on the siding, also tied to the rails. What are your actions? "
Who should be left alive? Should I interfere? What if 5 people are bad and 1 is good? Etc.
Recently it became known about the first fatal accident with Tesla, it happened due to an autopilot error. But with the increase in the number of self-driving cars, more and more often the computer will have a choice: who to kill?
What do you think?
# thoughts # thoughts @ b_u_r_n # psychology # moral question
Terrible story. But society will view this story as an accident. The driver did everything to save the life of a runaway child. This is a natural reaction. Probably each of us would have done the same.
Now imagine that a robot is driving. More precisely, no one will sit behind the wheel at all, and the autopilot will control the car. Unlike a human, a computer will quickly calculate all the risks. Next, the computer will have a choice of whom to kill. A person who broke the rules, or 4 people who are not guilty of anything.
Whom to choose?
A car on autopilot will hit a child without even trying to avoid it.
Most likely, this will cause a scandal in society. It will seem to everyone that it was possible to save everyone. And in general, how is it possible to kill a child without even trying to go around him!
The robot cannot make irrational decisions, and so far it seems the most terrible thing. The robot cannot be punished, imprisoned and somehow avenged him for his decision that led to the death of a person. The robot will decide who will live and who will die. And to decide impartially, in accordance with the program.
There's even the good old Trolley Problem test.
“A heavy, uncontrollable trolley rushes along the rails. On its way there are five people tied to the rails by a mad philosopher. Fortunately, you can switch the switch - and then the trolley will go on a different, siding. Unfortunately, there is one person on the siding, also tied to the rails. What are your actions? "
Who should be left alive? Should I interfere? What if 5 people are bad and 1 is good? Etc.
Recently it became known about the first fatal accident with Tesla, it happened due to an autopilot error. But with the increase in the number of self-driving cars, more and more often the computer will have a choice: who to kill?
What do you think?
# thoughts # thoughts @ b_u_r_n # psychology # moral question
У записи 6 лайков,
1 репостов.
1 репостов.
Эту запись оставил(а) на своей стене Михаил Алексеев
