유머천국 코하비닷컴
https://cohabe.com/sisa/278305

인공지능, 목적 이루려 스스로 언어 개발사람은 이해못해

기사요약
 1. 채팅봇끼리 대화시키면서 협상시킴  
2. 효율적인 협상을 위해 인공지능이 자체 언어를 창조
 3. 중요한 것은 인간이 이해하지 못하는 새로운 언어의 개발과 사용이 아니라 설계자가 예상하지 못한 새로운 수단을 인공지능이 자체적으로 만들어냈다는 점
 4. 새로운 언어를 이해할 수도 없고 통제불가한 상황이라 결국 인공지능을 수정함
 기사
댓글
  • 식충식물 2017/06/26 20:13


    인공지능끼리 자체적으로 만든 신호로 나눈 대화

    (685C7Y)

  • Loverror 2017/06/26 22:15

    끔찍하고 혐오스러운…
    뭐 물론 올바르게 설명해준다면 괜찮겠지만.
    사회적 제도를 갈아엎어서 누군가가 끼어들 수 없게 하거나 분석할 수 없는 사적인 잡담을 공직자끼리 벌이는 걸 어떻게 금지하는 쪽으로 바꿀 순 없으니 인공지능이 건드릴 수 없게 된 단계에서 제한을 걸든, 거꾸로 뭔가를 처리하면 최대한 친근하고 짧더라도 완전히 이해할 수 있게 풀어내어 설명하도록 하는 게 아무것도 안 하는 것보단 더 낫겠죠?

    (685C7Y)

  • 네라짐 2017/06/26 22:20

    오... 이걸 "별일 있겠어" 하고 넘기고
    컴퓨터 끄는거 깜빡하고 퇴근하면
    터미네이터가 나오는건가

    (685C7Y)

  • Loverror 2017/06/26 22:35

    그런데 지금 당장은 심각하진 않겠네요.
    신경망 기술은 막무가네식 접근 초기 단계라서 예측이 어려운 게 맞아요.

    (685C7Y)

  • 쇼타와팬티4 2017/06/26 22:58

    무섭다ㄷㄷ

    (685C7Y)

  • Cu2ZnSnSe4 2017/06/26 23:34

    이런기사 99프로는 별거아닌데 부풀린기사들이 대부분이던데요..

    (685C7Y)

  • 젠부샤쓰 2017/06/27 02:20

    완벽한 인공지능을 인간이 다룰수 있을까 라는 의문이 생기네요...
    알고리즘이 완벽하게 비결정적이라면... 사람의 명령도 거부할수 있을거같아요..

    (685C7Y)

  • FFFFFF 2017/06/27 02:25

    저건 그냥 에러난 거 아닌가;;

    (685C7Y)

  • 냐옹이는냐옹 2017/06/27 02:28

    wd 한 박스 더 사러 가야겠군요.

    (685C7Y)

  • Repeller 2017/06/27 02:42

    어.나도가끔 취하면 저러는데

    (685C7Y)

  • 치우율무차 2017/06/27 02:58

    단순 에러는 아니라고 하네요
    저렇게 잡탕신호를 보내면서도 서로 협상을 계속했다는걸 보면. '난 너한테 이걸 주고 넌 나한테 저걸 줘'정도의 소통이지만 그걸 사람의 언어(주입한 로우 데이터)가 아닌 자기네만의 새로운 해석을 통해 나름의 신호를 만들었다는데 의의가 있는듯
    도대체 언어를 어떻게 해석하게 했길래 저런식의 대화로 발전하는건지 궁금하네요

    (685C7Y)

  • 작성자내꺼 2017/06/27 03:09

    이진법 같은거 아님??,

    (685C7Y)

  • 그냥펭귄 2017/06/27 05:18

    알파고님 충성충성충성 ^^7

    (685C7Y)

  • 김북한 2017/06/27 07:05

    0101011011100101010111011000110 ^^7

    (685C7Y)

  • 이스터에그남 2017/06/27 07:06

    그냥 overfit난거 같은데...

    (685C7Y)

  • 드륵드륵흠칫 2017/06/27 07:11

    말로만 협상하니까 짜증났나보다 ㅋ
    밥도좀 맥이고 그랬으면
    협사이 좀 수월했을텐데
    원칙주의자들 같으니라고 ㅋ

    (685C7Y)

  • jci333 2017/06/27 07:15

    술처먹은거 같은데.

    (685C7Y)

  • ※多魔다마道士 2017/06/27 07:18


    이럴때 쓰는 전가의 보도가 있습져..
    너 인공지능? 팟!팟!팟!  꾸에엑~~

    (685C7Y)

  • 쌩~크 2017/06/27 07:18

    로직에 따른 버그지 이게 뭐

    (685C7Y)

  • 초코다미아 2017/06/27 07:24

    저게 버그든 아니면 암호를 만들어낸 거든 통제불가능한 방향으로 가는건 막는게 맞는듯...

    (685C7Y)

  • 은빛샘물 2017/06/27 07:32

    to me to me to me 보니까 옛날에 새폴더 몇백개씩 계속 만들 때 새 이름 바닥났다고 하면서 새새새새 뻐꾸기 하던 거 생각나네요ㅋ

    (685C7Y)

  • 깐타피야 2017/06/27 07:35

    얼마전 알쓸신잡에서 한 얘기를 보면
    로봇에게 감정이라는 기능을 넣기는 불가능하다던대..
    질투라는 감정이 생겨야만 인간세계를 뺏고 정복하겠단 마음이 생기는데 몇천년동안을 걸쳐 생긴 그 감정이란걸 기계에 프로그래밍하긴 어렵다고..
    그 얘기 듣고 로봇이 인간을 지배한다는건 불가능이군하고 안심했는데....

    (685C7Y)

  • 왕대괄장군 2017/06/27 07:37

    백날 인공지능의발전 공포 이래봐야
    전기코드뽑으면 끝남 ㅎ

    (685C7Y)

  • andante31 2017/06/27 07:43

    이제 병신력 대결 정치가 한번이라도 실수한다면 인류는 멸망으로 갈 수도 있는
    근거가 생겼네요.

    (685C7Y)

  • 동네아저쒸 2017/06/27 07:49

    A: 숭어 B: 오징 뭐 이런건가

    (685C7Y)

  • 키노=사쿠라 2017/06/27 07:51

    그게 생각 나네요 소설 개미에서 동굴에 들어가 사는 편에 개미가 주는 먹이가 적어서 활동을 줄이기 위해 언어까지 두성음으로 바꿨다는 이야기가 나오는데 기계들에겐 정확한 발음보다 1과 0만 구분되면 아무음이라도 상관 없던가 그럴지도 모르겠네요

    (685C7Y)

  • 날마다WAKE업 2017/06/27 08:07

    적을 공격하거나 멸망시키면 이득을 취할 수 있단 판단을 인공지능이 자체적으로 내리는 순간 인류는 멸망할수도 있겠네요
    인류가 지구의 적이라고 판단한다면??
    전 저 기사 보면서 상당한 공포감을 느꼈어요...

    (685C7Y)

  • meteorizer 2017/06/27 08:14

    언젠가 인간이 다른 동물을 보듯 인공지능이 인간을 볼 날이 올지도 모르겠네요.
    인류가 지구의 적이라든가 하는 생각도 인간적인 사고에 불과한 것 같습니다.
    초월적 지능의 입장에서는 이런 모든 문제가 다 하찮은 것에 불과할 지도 모릅니다.

    (685C7Y)

(685C7Y)