기습 뽀뽀당한 여직원 표정관리....

인형 맞을걸

로봇 3원칙 그런거 없어 원래. 소설에서 나오는거임

아직 그걸 입력하기엔 기술력이 달리지ㅋㅋ

현실에서도
강인공지능이 나오면
3원칙은 반드시 필요한거아님?

울트론님... 오늘따라 당신이 그립읍니다

ㄴㄴ. 그렇게따지면 군수산업에 로봇 또는
인공지능을 이용하면 안되는데 미군이 현재진행형으로 어기는중

그냥 예외로 빠지도록 던져버리는걸텐데 뭐

군대용이랑 민수용이랑 차별점을 두겠지
민간용으로 팔리는 도우미 로봇에는 3원칙 반드시 적용할듯

비슷한 규정같은게 국제 법으로 나오기는 하겠지만 소설에서 나온걸 그대로 따를순 없는 노릇이니 훨씬 복잡하고 세세한 법 조항이 나올듯

아이작 아시모프의 로봇 시리즈에서 이미 3원칙의 문제점이 뭔지. 어떻게 잘못되는지를 깊게 다루았어....

굳이...? 일단 강인공지능에서 그런 강력한 프로토콜을 집어넣는데에 또 인공지능이 들어감.
그러다 철학의 범위까지 가지. 사람을 해친다는 것은 도대체 어떤 것인가.
그걸 포함해 한번에 판단하려면 그 강인공지능에 로봇3원칙용 슈퍼강인공지능을 넣어야하는데 그럼 본말전도임

로봇3원칙은 아시모프 세계관에서도 헛점 많아서 0원칙도 나오고 애초에 3원칙이 처음 등장한 아이로봇은 그 원칙이 완벽하지 않다는 걸 보여주는 작품이라 너무 진지하게 받아드리면 안됨. 물론 AI가 고도로 발달하면 참고는 하겠지만. 글고 1940년대 소설에 나온 거라 아무리 아시모프가 대단한 작가라하지만 시대적 기술적 한계 때문에 생각못한 것도 많음.

댓글 보니 이게 바로 떠오르네

로봇 3원칙은 소설의 성립을 위한 장치 그 이상도 이하도 아님.
워낙 간단하고 이해하기 쉬워서 현실에도 적용해야 할거 같지만, 따지고 보면 허점이 너무 많고,
심지어는 아이작 아시모프 본인도 소설 내에서 어떻게 로봇이 이 원칙을 피해가는지, 문제점은 무엇인지, 등을 파고 드는 식으로 쓴 소설이 상당수임.
가장 간단한 예를 들자면 매우 발달한 세계관에선 우선 "인간"의 정의부터 애매해 지기 시작할꺼임.
뇌를 제외한 다른 모든 신체가 기계인 A가 있고, 반대로 인간의 신체를 가졌지만 뇌 손상을 받아 기계 장치의 보조가 있어야만 활동이 가능한 B가 있으면 둘중 누가 더 인간에 가까운가? 라던지 등등.
거기에 가장 큰 문제로 그런 제약을 넣을 수 있는 방법을 찾는거 부터가 문제이기도 하고, 설령 어떻게 해서 넣었다고 해도,
강인공지능 자체가 사람보다 똑똑해 지는 지점이 올텐데, 그 경우 사람이 강인공지능 자체를 분석하는게 불가능한 시점이 올꺼임.
그러면 그 원칙이 지켜지고 있는지 자체를 사람이 인식할 수 없을 수도 있음.

그냥 다들 잘 이야기하고있는데
님이와서 급 니들 아싸야 이 자료를 보라고 하면서 반박하는것같음

오토마톤이란 영화에선 3원칙이 어니라 간단한 2원칙이 나오던데 그거도 반쯤 어거지로 깨짐.
사실 로봇 장르에서 법칙을 강조하면 깨지는게 일종의 클리셰가 된듯

ㄴㄴ 첫댓글 자체가 그냥 별생각없이 이야기한건데 그거에 로봇3원칙 원래 없는건데? 하면서 너네가 껴든거지

어차피 나무위키에서 달달 보고 누가누가 잘 외웠나 자랑하는 수준인데 ㅋㅋ

아이작 아시모프 소설 상당수가 3원칙 부작용 고치는 내용인데..