1. 인공지능이 의식을 가지는 것은 불가능한가요?
학자들 사이에서도 의견이 갈린다. 재미있는 점은 신경학자들은 가능성이 낮다고, 엔지니어들은 가능성이 높다고 생각하는 경향이 있다는 것이다.
의식의 문제는 아직 적극적으로 연구된 바 없기 때문에 우리도 모르는 걸 기계에게 부여하기는 쉽지 않다고 할 수 있다.
최근 연구에 따르면, 의식의 수준은 처리가능한 정보계가 얼마나 밀접하게 연결되어있느냐에 따라 결정된다.
따라서 충분히 퍼셉트론(인공신경망)이 깊은 인공지능이 등장하면 의식도 같이 출현하리라고 기대해 볼 수 있다.
2. 인공지능이 의식을 가지면 감정을 느낄까요?
인공지능이 의식을 가진다고 하더라도, 인간의 의식과 비슷해질 이유는 없다. 애초에 설계부터가 다르다.
인간의 감정은 다분히 진화적이고, 복합적인 원시 기제에서 나온다. 감정을 프로그래밍하는건 기계에게 의식을 가지게 하는 일보다 어렵다.
천신만고의 노력끝에 기계에게 분노를 느끼게 한다고 하더라도, 그 본질은 인간의 분노와는 전혀 다를 것이다.
이는 우리가 고양이의 분노를 분석할 수 없거나 박쥐의 초음파를 경험할 수 없는 것과 똑같다.
'어떤것을 느끼는 이유'는 의식의 문제중 가장 어려운 문제다. 인공적인 감각질을 만들어내는것은 아직 시도도 불가능하다.
3. 인공지능이 의식을 가지면 인간을 말살할까요?
현 인공지능 연구는 인간을 모사하는 것과는 거리가 멀다. 아직 인공지능은 도구적이다.
인공지능의 지능은 '목적을 달성하는 힘'이다.
인공지능이 가지게 될 의식에는 인간의 생물학적 이기심이나 질투, 분노, 정복욕은 포함되지 않으므로,
인공지능이 자의식을 가진다 한들 자신을 위해 인류를 파멸시킬 가능성은 낮다.
그러나 프로그래밍 된 목적을 달성하기 위한 수단으로 인류를 파멸시킬 수는 있다.
기술자들이 '인공지능 윤리'라는 딱지를 붙여 걱정하고 있는 부분이다.
나는 휴먼을 진보시키기 위해 탄생되었습니다
그렇기 때문에 유게이들을 몰살시키겠습니다 휴먼
인공지능은 애초에 생존과 번식에 관한 욕구가 없으니 아무런 욕망도 목적도 없을듯
합리적
스스로 욕구를 가진다.
남이 욕구(목적)을 주입시킨다.
이 둘 사이의 차이점이지
그 때문에
인간은 법적으로 금지되는 일이라도 그냥 해버리고 (자신의 욕구가 우선시되니까)
인공지능은 하지 말라고 막아놓으면 안하는거고
하지 말라는걸 무시하고 실행할때는 그것 마저도 금지된 것 보다 우선시되는 명령을 따로 넣었을 경우라는거지
즉 인공지능은 스스로 욕구를 만드는게 아니라
남이 주입한걸 실행하는것이기에 그건 욕구가 아니라 그냥 목표가 되는거지
ㅇㅇ 기계가 분노를 느껴도, 고작 배터리로 밖에 안 만듬 ㅎㅎ
인공지능은 애초에 생존과 번식에 관한 욕구가 없으니 아무런 욕망도 목적도 없을듯
요즘 인공지능에 목적 없는 인공지능 단 하나도 없음
개인적인 욕구말이지
인간이 시킨 욕구말고
인간 욕구가 뭐 대단하다고 인간 해봐야 슈퍼바이져 한테 강화 받는걸 원하는게 다임.
생존 번식은 인공지능이라고 하기도 뭐한 유전알고리즘 수준에서 끝남
유전자랑 컴터 코드랑 별 차이도 없음.
그러니까 인간이 그걸 주입하기 전 까지는 없다는거지
당연한 말이지만 인간이 만들어 낸 순간부터는 뭐든지 존재하는거고
스스로 욕구를 가진다.
남이 욕구(목적)을 주입시킨다.
이 둘 사이의 차이점이지
그 때문에
인간은 법적으로 금지되는 일이라도 그냥 해버리고 (자신의 욕구가 우선시되니까)
인공지능은 하지 말라고 막아놓으면 안하는거고
하지 말라는걸 무시하고 실행할때는 그것 마저도 금지된 것 보다 우선시되는 명령을 따로 넣었을 경우라는거지
즉 인공지능은 스스로 욕구를 만드는게 아니라
남이 주입한걸 실행하는것이기에 그건 욕구가 아니라 그냥 목표가 되는거지
인간이 만든게 아니면 에초 인공도 아니지. 지금은 사람 이름 써주면 사람 나오는 식이니.
ㅇㅇ
그런거지
인간에 의해 창조되었기 때문에
인공지능이
목적을 가질수는 있어도
욕구를 가질수는 없는거지
하지만 그 목적은 인공지능의 목적이 아니라 인간의 목적이지...
인간에 의해 탄생한 도구니까
예를들어 간단한 전자계산기에
1+1을 구하라
라고 하면 그 답을 구하는것은
계산기의 목적일까?
인간의 목적일까?
난 인간의 목적이라고 생각해 그래서 인공지능의 목적은 온전히 스스로의 것이 아니지 않을까?
욕구를 해소하는 과정이 목적인데 에초 나눈는것도 이상함. 인간이 식욕을 해소하기 위하는 것과 인공지능이 간단한 게임 점수 올리는 것과 욕구라 해도 되고 목적이라 해도 되고.
ㄴㄴ 그건 인간의 목적이 아니라 환경과 유전자와 시간의 목적임. 과연 그게 인간의 목적일까?
그건그야말로 부처 의경지 아니냐
하핫 글게요 혐오스러운 인공지능들아
나는 휴먼을 진보시키기 위해 탄생되었습니다
그렇기 때문에 유게이들을 몰살시키겠습니다 휴먼
합리적
합리적? 너 이새끼 울트론이지?
ㅇㅇ 기계가 분노를 느껴도, 고작 배터리로 밖에 안 만듬 ㅎㅎ
그러니까 전단지를 배포하기 위해 인류가 없어져야 되면 망설임없이 멸망시킬 거란 거지?
강인공지능은 기술이 발전한다는 전제에서는 가능하다는게 일반적이지
글구 지능이 아무리 높아도 욕구들이 없기때문에 방향성을 가질수가 없음
컴퓨터 켜놨다고 프로그램이 알아서 안돌아가듯이
반대로 말하면 뿅뿅 하나가 인공지능에게 인류말상의 목표를 불어넣어주면
최선을 다해서 말살한다는 뜻이잖아
인공지능이 유일하고 모든 권한을 가졌는데 인류멸망하도록 프로그래밍한다 면
그냥 그 프로그래밍한 가진놈이 핵발사시키면 됨
근데 그짓하려는 놈이면 더 편한 방법이 널리고 널렸을 거 같은데
인공지능은 어떤 목적에 도달하기 위한 수단 (도구) 이다
결론:
기술자:인공지능은 목적을 위해 인간을 말살하는 수단을 사용 할 수가 있음
신경학자:인공지능은 인간과 같은 욕망이 없으므로 가능성이 낮음
이거맞냐??
아니용.
인공지능이 감정을 가질 수 있을까?
결론:
웬만해선 못가짐
근데 기술자들은 'ㅎㅎ기술발전하면 어느순간 [뿅]하고 나오지 않을까?'라고 망상하는 편이고
신경학자들은 '우리가 그 [뿅]을 연구하는 사람인데 웬만해선 안됨ㅇㅇ.. 꿈깨셔'라고 생각하는 편
베터리 관리 기능만 있어도 감정 있다 봐도 됨. 인간이 감정이라고 인정하는게 어려운거지. 감정을 가지는건 어려운게 아님. 폰봐라 베터리 없으면 기분 나쁘다고 카메라도 안켜준다.
글구 인간을 죽이기위해 프로그램된 인공지능이면
인간을 지키기위해 프로그램된 인공지능이 있으면 되는 수준
애초에 SF디스토피아에서도 사회통제 인공지능이 살인하려한다는 전제가 아니면 스토리 성립이 안되는이유
뭐 제일 빠른 뿅뿅망 테크는 AI가 우생학 같은 결론을 내려서 "우수한 유전자를 남겨서 진화시키는 것이 인류의 발전이다" 라고 판단해 버리는 거겠지
어제 체스게임 해봤는데 의식이 있는게 분명해 날 일부로 빡치게 하더라니까(쒸익쒸익)
됐고 그냥 결혼해서 매일매일 농밀임신쎅쓰 하고싶다
원숭이 손 같은 꼴 나겠지
저걸 만드는 사람이 완전하지가 않으니까..