알파고의 딜레마 .jpg

자율주행차가 흔해지면 차를 판매하는 방식이 아니라 공유하는 방식일 수도 있을 수 있어서 승객이 주인이 아닐 수 있음. 모든 경우를 고려해야 하잖아 ㅎ. 아니라 해도 내 목숨을 위해서 남을 여럿 죽일 수 있는 경우라면 고민할 필요가 있지

정답이다

왜 굳이 양자택일을 하는거야

저거 전제가 갑툭튀 상황에서
충분한 제동거리를 확복 못할때
치고 가면 운전자가 살고
피할려면 운전자가 뒈지는거인데
최근 도심속 고라니들을 보면
그냥 제동만하고 부딪히는게 최선인듯

인공지능의 발달이 답이드아 애초에 저렇게 시야확보가 안되는 상황에서 제동거리를확보못할만큼 빨리 달리지 않도록 설정해야겠지

나도 이게 정답인거 같아. 다같이 40~60으로만 달리면 사고를 확줄일수 있지않을까.

ㅇㅇ 저정도 커브면 60으로 달려도 빠른디

교통의 의미가 없어지지 않나. 고속도로가 왜 있냐.
지금 인공지능도 고속도로나 8차선 도로같은 곳은 사람이 무단횡단할 확률이 엄청 낮은걸 알지. 법적으로도 80~100km이고
근데 꼭 미친 놈들 한둘이 거기를 건너다가 치여요

그런예는 너무 극단적임 그런상황에서는 사람이나 기계나 별차이는없을걸로 생각됨 굳이따지자면 기계쪽이 반응속도는 더빠르겠지

저런 사고실험에서는 멈추면 되잖아 같은 선택지는 없음.
피할 수 없는 상황에서 인공지능이 어떤 선택을 할까와 그 책임은 어디에 있냐에 관한 사고실험이기때문이지.
아무리 인공지능이 발달한다고 해도 물리적으로 움직이는 이상 사고가 완전히 0%가 될 수는 없기때문에
저런 사고실험이 필요한거임

나중가면 무단 횡단 하다가 치인 사람들이 고소하겠다 멈추지 않게 프로그래밍한 회사탓이라고

양자택일밖에 못하는 상황일때 어떻게 할꺼냐는 예 중 하나일 뿐이야
저거 말고 처음 나온 딜레마가 터널속에 아이들인데
터널에서 뒤에 과속중인 트럭이 있고 앞에 애들이 있어서
피할 공간도 없을때.
멈추면 운전자는 죽겠지만 트럭은 멈추고 앞에 아이들은 살고
그냥 달리면 아이들은 가볍게 밀고 운전자는 살리겠지.
이때의 인공지능의 선택은?
이라는 딜레마 얘기가 거의 시초였지

그건암 애초에 딜레마란 주제를 가지고있으니까 .. 그냥 내가 말하고싶었던것은 너무 상황을 극단적으로 설정하고 그것밖에 길이 없는거 처럼 포장되는게 싫어서 그랬음

저건 걍 예로든고거 비슷한 상황은 얼마든지 일어날 수 있음.
예를들어 운전중에 맞은편에 중앙성 침범해서 엄청나게 큰 트럭이 밀고올 경우, 그대로 부딪히면 운전자가 크게 다치지만, 핸들을 돌리면 옆에있는 사람들이 크게 다칠경우...이 경우 AI가 운전자 한명을 보호해야 하는거 여러명을 보호해야 하는가...하고..
AI가 핸들을 돌려서 여러사람을 다치게 했을 경우, 그 피해는 운전자가 보상해야 하는가 AI 개발자가 보상해야 하는가.. 하고...
운전이란게 내가 아무리 안전운전 방어운전해도 다른사람이 좉같이 운전하면 사고나게 되어 있거든. 그럴때 AI의 행동을 어떻게 설정하고 어떻게 책임지워야 하느냐는 아직 풀지못한 문제지.

고속도로같은 경우는 기본적으로 사람이 쉽게 못 들어오게 막혀있고, 차선마다 폭도 넓고 시야도 충분히 넓고 먼곳 까지 확인이 가능하게 되어있기 때문에 속도를 올릴 수 있는거지 제한속도가 100키로라고 해서 무조건 그렇게 달릴 권리가 있다는것은 아님. (법적인 권리를 말하는건 아니고)

피할수 없으면 그건 사고지 살인이 아니지.

그건 상황에 대비하기 위해 딜레마를 제시하는거라서 천천히 달리면 되잖아? 는 해결책도 아니고 핀트도 어긋난거지.

그런건 너무 깊게 파고들면 철학의 영역이고 현실적으로 파고들면 법의 영역이라.

그런 극단적인 상황에 대한 논란이 저런 본문같은 내용들이야
기찻길에 한쪽에 1명이 묶여있고 5명이묶여있다 어디로 갈것이냐 같은 극단적이다못해 비현실적인 케이스에 대해 얘기하고 있는거

그런 불가항력의 일이 자주일어나는것도 아니고 그래도 그런상황을 피할수도 없다면 상품을 출시할때 미리 손해비용을 준비해놓고 운용하는게 편하지

저 실험도 살인에 관한 실험이 아니라 사고에 관한거임. 저기는 1명을 죽이냐 5명을 죽이냐라고 적혀있지만 풀어쓰면 "1명을 죽이고 5명을 살리냐", "5명을 죽이고 1명을 살리냐"에 관한 얘기인거지.
인간이라면 5명을 살리고 자기 자신이든 다른 1명이든 죽으면 본인의 선택이고 그 책임은 그 본인에게 있지만
인공지능이라면 아무리 5명을 살린다 하더라도 그 인공지능에게 1명을 죽일 책임과 권리가 있냐는거지

내가 말하는 것도 법적인 얘기임.
블랙박스 사고영상 보면 알겠지만 별별 거지같은 상황이 많이 일어남.
그런 상황에서 AI가 관계없는 3자를 다치게 해도 되느냐, 인원 수에 따라 목숨에 차등을 매겨도 되느냐, 실제로 칠 경우 운전자가 책임져야 하느냐 AI개발자가 책임져야 하느냐... 이게 논란이 되는게 전부 법적인 문제 때문이지 철학적 문제가 아님.

그리고 최대한 주인을 보호하면서 주변상황에 손해를 덜끼치는쪽으로 행동하게 하는게 최선이지 막을수 없다면

그러니까 저런 예시를 드는 이유가 그거야. 그 책임과 손해를 어떻게 법적으로 나누고 비용을 부담하는지 생각해봐야 된다.부터 시작해서 윤리와 철학적으로도 인공지능의 책임과 권리에 대해 생각해보자고 제시하는거지.

현실에 적용하려면 법으로 따져야지. 도로에 장애물이 있어서 인도로 피하면 살수있을때 인도에 사람이 있는경우로 보면. 당연히 법대로 인도를 침범해 구명하는게 잘못이라 운전자가 사망하는거고, 반대로 이 본문같은 상황이면 인도에 사람이 있는게 잘못이므로 운전자를 살려야 함. 그리고 당연히 로봇이면 무단횡단이 많은 시가지에선 정속을 지켜야 함. 인공지능이면 법을 잘 지키게 설계해야지 철학적으로 설계하면 안됨.

그러니까 그거야 그런 법적 제도 마련이나 인공지능의 성능개선 같은걸 생각해보자고 나온게 저런 실험모델이야.
저런 생각없이 인공지능 기술만 발전해서 인공지능의 판단에 모든걸 맡기고 인공지능이 5명을 밀어버리든 1명을 떨어뜨려죽여버리든 인공지능을 맹신하는걸 경계하자는 의미에서 나오는 예시인거임 저런게

ㅇㅇ 정말 그 정도로 시야확보 안되는 곳이면 사람이 운전해도 30으로 달리지 않으면 뒤집니다.
가드레일 여기저기 우그러진 동네에서 운전해보면 알아서 천천히 가게 됨. 안그러면 뒤짐.

쟤 꼬리 탈착임?

ㅇㅇ

.

이거 만화 유게에 있던걸로 기억하는데 못찾겠네

여우로보할망 대꼴

얘는 뭐라고 검색해야 나와요?

사실 그게맞는말이긴함
해선안되는것들을 인간들이하기때문에
운전할때 사람이 튀어나올리가 없어야하는곳을 전방주시해야하는거니까
경범죄는 범죄라는 자각이없거든

그럼 Ai가 롤하다가 이새-기들은 진짜 사람 새-기가 아니다 하고 다 죽...

그건 그냥 과장 섞어서 하는 말이겠지

역시 카더라는 믿으면 안되는 건가

저것은 사람이아니라 고라니다

http://www.yonhapnews.co.kr/bulletin/2018/03/20/0200000000AKR20180320003951075.HTML
그러네 약간 과장됐네
무단횡단이 아니라 도로쪽에서 걷다가 변을 당했네

그래서 로봇 3원칙이 완벽하지 않음
왜냐면 AI가 로봇3원칙 해석을 비틀면
인류는 다 뒈지는각임

참고로 해외에서 시체나 유기물을 먹고 에너지를 얻어서 활동하는 로봇 개발중임
컨셉은 에너지 보급이 원할하지 않은 전장에서
에너지를 취득해서 활동시간을 늘린다는건데
로봇3원칙 비틀어지면 그냥 다 뒈짓하는 각임
https://www.wearethemighty.com/robots-that-eat-people

유기물 에너지면... 이거 호라이즌........ 멸망각

저기서 모두살방법이 딱하나있지
반대로꺾어서 차만 절벽에 박으면됨
그럼 운전자는 반쯤뒤지거나 장애가 남을수도있지만 살긴살음

일단 그건 당연한거기는 한데, 의도적으로 딜레마를 만들기 위해
무조건 한쪽만 생존할 수 있는 상황을 고려 합니다.

여섯 다 죽을상황을 피하기 위해서 저런 딜레마가 있는거임.
딜레마보다도 최악인게 몰살엔딩

보행자를 피해서 장애만드는차랑
보행자와 접촉하더라도 운전자가 안전한차
어느거 사실래요??

닥터가 미래의 수백만가지 경우를 다 봤는데 모두 사는 경우는 없더라. 라고 확인한 다음에 그렇다면 어떤 경우를 선택할 것인가 하는 문제인거지.

당연히 내가 살아야지!
근데 앞에 사람이 혼자가 아니라 둘이상이라면 모르겠다

뒤에 가족이 같이 타고있을수도 있지요.

딜레마가 길어지는데 여기서부터는 내판단이지 ai판단이 아니잖앜

빚이 있으라
긁으니 빚이 생겼다...ㅠ