알파고 개발현황.jpg

https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/
그런 당신에게 이 글을 추천. '사람이 이해하지 못하는 지점' 이 왜 무서운 것인지 알 수 있을 거임.
글은 엄청 길고 간간히 오타가 있어서 거슬릴 수 있지만 내용이 좋아서 시간 가는줄 모르고 읽을 수 있음.

얘가 무슨 생각을 하고 어떤 결과를 도출할지 모르잖아. 예를 들어 지구환경을 살리기 위해 인간을 몰살하자, 뭐 이런 결과도 나올수가 있지 않을까?

그게 바로 SF에서 도출된 결론이라는 뜻이지

좋은 글이네요. 추천

지금은 그럴지 몰라도, 이게 다른것들에 적용됬을때를 생각해보면 좀 무섭긴 하죠.
극단적인 예시지만 AI 의사가 "환자가 희귀병이라 특정 약들을 제조해서 먹어야 한다" 라는 진단을 내렸을때,
이 약들이 그 특정 병에 걸리지 않은 사람한테 강한 부작용이 난다고 가정해 봅시다.
반면에 인간 의사는 "이 환자는 그냥 단순 감기다" 라고 보고 있다면... AI를 믿어야 할까요, 인간 의사를 믿어야 할까요?
더 극단적으로, AI 판사나, 정치가가 나왔을떄, 그 AI가 내리는 결과를 항상 신뢰할 수 있냐에 대한 의문도 생기죠.
무조건 AI가 맞겠지? 하는 생각도 위험한게, 실제로 주식같은경우 AI 분석이 활발한데,
AI가 페북 주가가 떨어질거다 라고 예측해서 믿고 팔았더니, 정작 주가는 더 올라가는 경우도 있었거든요.
물론 주식은 그 패턴이 그리 명확하지 않다보니 예측률이 낮다보니 생긴 결과긴 하지만요.
어찌됬건 인간이 과정을 이해하지 못하는 상태로 결과만 떨어지는데에 두려움을 느낄법도 하죠.

충분히 도출할 수 있는 결과임.
괜히 과거 SF물 (매트릭스, G건담 등)의 이야기 전개가 그쪽으로 간게 아님.

고마벙

그러면 ai의 결정을 인간이 이해 할 수 있도록 설명 해주는 ai를 만들면 되겠네요

와 시긴가는줄 모르고 읽음

환자의 목숨이라는 무거운 걸 저울에 걸면 망설여질수가 있을텐데
애초에 자동차도 없으면 교통사고 안날텐데 타고 다니잖음
ai가 아무리 불완전하고 실수 할수 있어도 인간의 정확도만 넘으면 문제없다고 생각함
그 환자는 죽을지 몰라도 더 많은 환자는 회복될수 있을테니
스카이넷 마냥 기계반란 아님 ai는 인류에게 도움이 많이 되는 기술이라 생각되네요

그리고 그 설명 해주는 AI 가 제대로 설명을 해 주는건지 이해를 할 수 없는 상황이 나오겠죠.
과연 이 설명해주는 AI 를 신뢰할수 있을것이냐... 동일한 문제가 나옵니다.
물론 사실 사람도 서로를 이해 못하는데, AI 이해 못하는게 과연 그렇게 큰 문제인가 싶기도 한데... AI에 주어지는 권한이 커지면 커질수록 이런 두려움도 커지겠죠.

반례의 ai와 정례의 ai가 싸우면지는쪽 따라서 인간의 운명이...!!!

이거 옛날 처음나왔을때 보고 전율이 흘렀는데 이젠 알파고로 많이 익숙해진 세상이 되었네

설명해줄 수 있을련지 의문이 듭니다 그 정도 인공지능이 나왔다면 거짓말할수도 있거든요
님이 개미를 키우는 학자인데 개미가 페로몬으로 글을 띄워서 왜 우리 집단이 이주해야하나요 이럴때 무조건 그 대답을 해줄
의무는 없잖아요 대충 둘러댈수도 다른 거짓말을 댈수도 있지요 개미 입장에서는 어차피 제 말이 맞는 말일테니까요

억울한 사람 더 많아질듯

판사 ai에게「돈 많은 사람이 재판장에 설 경우 죄의 무게를 따지지 아니하고 집행유예를 준다」라고 몰래 입력할지도

인간의 감성 부분도 있어서 무작정 수학처럼 진행 하긴 어렵지
정상참작도 해야대는게 있자나