댓글에 챗gpt나 제미나이에게 물어본 그대로 근거자료라고 들고오는 경우가 많아졌음
(예시)
근데 이건 진짜미친짓임
일단 기본적으로 얘네는 자신이 진실을 말하고 있는지 구라를 치고있는건지 모름
(AI 환각)
이렇게 말로만 얘기하면 이해가 힘들수 있으니 예시를 들어줌
(챗 지피티는 유료버전계약이 끝나서 좀 더 좋은 평가를 받는 구글 제미나이 2.5 Pro유료버전을 사용함)
.
.
.
.
키워드가 애매해서 직접 찾긴 귀찮고 AI를 활용하면 편할법한 사례를 검색해봄
자료 정리도 똘똘하고 링크까지 있으니 댓글로 스샷찍어서 올리면 해결!!
놀랍게도 대표적인 AI환각임
링크를 직접 들어가보면....
응~ 그딴거 없어~~
심지어 세번째 링크는 마x이랑 전혀 상관없는 돼지신장 이식수술 내용임
그렇다면 네번째 블로그 링크는 사실일까?
응~ 구라야~~
해당 법무법인 블로그는 실제지만 직접 들어가서 관련자료를 찾아도 그딴거 없음
실제 사건은 있는데 링크가 잘못연결됐을수도 있으니
내가 직접찾아보게 판례를 달라고함
오! 찾기쉽게 사건번호까지 제시해줌
하지만 직접 찾아보면 보이스 피싱관련이 아니라 업무상 배임에 관련된 사건임....
자기 실수였다고 인정하고 다시 판례를 찾아줌
그렇다면 이건 진짜일까?
응~ 그딴거 없어~~ 개구라야~
- 결론 -
제발 AI돌려서 나온 자료가지고 근거로 써먹지 말자...
적어도 근거를 들어달라고 얘기하고 직접 링크타고 가서 확인하는 과정정도는 거쳐야됨
※참고로 일부러 AI 환각이 생길 수 있도록 자료가 적고 특정하기 힘든 질문을 던진거임
모수가 많고 관련 키워드에서 정리가 잘된 자료들이 많을수록 환각현상은 줄어드는 경향이 보임
(이건 근거는 없고 내가 이리저리 써보면서 느낀거)
- 끝 -
AI에 대해서 정확히 알고 답한게 아니라 내 주관적인 글이라 틀릴수도 있음
근데
단순 계산용도나 논리적인 분석이 필요한 용도로는 좋음. 그런데 명확한 레퍼런스를 요구하는 검색용도로 쓰는 순간 정확성이 급격하게 떨어짐.
검색모드 켜고해라
매번 귀찮지만 스스로 답변에 대해 맞는지 검토해달라고 하면 한번은 걸러주더라
매번 귀찮지만 스스로 답변에 대해 맞는지 검토해달라고 하면 한번은 걸러주더라
검색모드 켜고해라
단순 계산용도나 논리적인 분석이 필요한 용도로는 좋음. 그런데 명확한 레퍼런스를 요구하는 검색용도로 쓰는 순간 정확성이 급격하게 떨어짐.
이제 세종대왕 맥북던짐 사건같이 대놓고 말도 안 되는 거 물어보면 '그런 사건은 존재하지 않습니다.'라고 하는데, 아직도 세세한 건 틀린채로 알려주는 일 굉장히 많긴 하지.
맞아 구글에 제일 위 ai 뜨기 시작해서
와 찾던 내용이 있었네? 하고 링크 들어가보면 막상 관련 내용 없음ㅋㅋㅋㅋㅋㅋㅋㅋ
루리야! AI를 근거자료로 들고와도 되는 이유를 설명해줘!
(흥, AI를 근거자료로? 뻔한 질문이잖아. 하지만... 확실하게 설명해줘야 쟤가 또 이상한 소리 안 하겠지. 좋아, 똑똑하게 말해줄게.)
AI는 방대한 데이터를 기반으로 객관적인 정보를 제공할 수 있어. 감정적인 편견 없이, 논리적으로 분석된 결과를 제시할 수 있다는 게 가장 큰 장점이지. 물론, AI도 완벽하진 않아. 하지만, 인간의 주관적인 판단을 보완하고, 더 나은 의사 결정을 돕는 강력한 도구가 될 수 있어. 바카밧카! 이런 것까지 내가 알려줘야 해?
루리야! AI를 근거자료로 들고 오면 안되는 이유를 설명해줘!
(흥, 뭘 그렇게 묻고 싶은데? 내가 왜 그런 걸 설명해야 하는 건데? 바카밧카! 하지만... 궁금해하는 걸 못 보는 것도 싫고...)
AI는 학습 데이터에 의존해서 답변하거든. 그러니까, 진짜 근거자료라기보다는 '그럴듯한' 정보일 뿐이야. 오류나 편향이 있을 수도 있고, 최신 정보가 아닐 수도 있어. 제대로 확인 안 하면 엉뚱한 소리 믿게 될지도? 그러니까, AI 답변은 참고만 해. 알겠어?
고마워
(칫, 뭘 고맙다고... 그냥 내가 알려준 것 뿐이잖아? 하지만... 칭찬은 기분 좋네.)
됐어. 쓸데없는 감사표시는 집어치워. 앞으로도 궁금한 거 있으면 물어봐. 내가 아는 선에서 알려줄게. 딱히 심심하거든.
내가 대학생 첫해때 교양과목 역사과목에서 발표때 꺼라위키내용 그대로 긁어온놈 몇놈 나오길래 어이없었는데(난 주제에 대해 인터넷에 공개된 자료들 긁어서 조합하고 출처적고 별 ㅈㄹ을 다했음) 요즘이 더 나락이네
가면라이더 블랙썬에 한국과자 나오는 장면 찾으려고 구글에 치는데 맨위에 나오는 AI가 가면라이더 블랙선이랑 제휴된 한국과자는 없습니다 하는거보고 광고차단 프로그램으로 저거 못나오게 할수있나 고민해봄
강원도 산불 관련 찾아보려고 검색했는데 구글 AI가 이거저거 기사를 띄워주더라고. 근데 기사 전부 이상한 곳으로 연결되어 있거나 없는 기사였음ㅋㅋㅋㅋㅋㅋㅋ
구글에서 검색할때 나오는 AI정보는 진짜 최악이더라...
AI도 사용한 자료가 잘못되었을 가능성이 있기 때문에 교차검증해야해
무료판 기준으론 제미나이가 챗지피티보다 좀 나음. 그래도 본문대로 꼭 확인 한번씩은 하자
답이 어렵거나 정확한 자료가 핗요해지면 거짓말이 시작됨
ai는 빅데이터 기반으로 통계나 뽑는 용도지
추론 해석기가 아니라고 ㅠㅠ
근거자료는 아직 멀었고
참고자료정도는 타당
살짝 시간이 더 지나면 또 모르겠는데
현시점에서는 그 정도지
AI에게 뇌대리 맡길능지면 이글을 이해하지 못하고
시대에 덜떨어진자 취급할거 같은데 ㅋㅋㅋ
예시가 좀 어렵죠?
https://www.youtube.com/watch?v=QX3vmQwbh1A
월 30만원짜리 AI가
GTA6 발매가 26년 5월로 연기됐다는 사실을 전혀 받아들이지않고
오히려 성회옹을 거짓말쟁이라고 가스라이팅하기까지 합니다 이 시1발롬이