유머천국 코하비닷컴
https://cohabe.com/sisa/3991126

의외로 AI 업계 종사자들도 자주 경고하고 있다는 현상


img/24/09/29/1923d4b47e854145b.png


img/24/09/29/1923d4b54c954145b.png


img/24/09/29/1923d4b56bc54145b.png


현재 출시되는 COPILOT이나 ChatGPT 등의 AI들은 성능이 뛰어나긴 하지만 '전능한' 수준은 절대 아니며


아무리 학습을 많이 시켰다고 해도 작업이 복잡해 질 수록 결과물에 오류가 생길 가능성은 높기 때문에 반드시 검토를 거쳐야 하지만


AI 사용자들 중 은근히 많은 부류가 'AI가 내놓은 결과물이니 완벽하겠지' 라는 생각에 빠져서 최소한의 오류 검사조차 하지 않고 무비판적으로 그 결과물을 수용하는 경우가 많아서


AI 관련 업계 종사자들조차 이러한 현상을 우려하는 목소리가 많다고 함

댓글
  • 나의이름 2024/09/29 19:22

    AI는 어디까지나 내가 검수할 수 있는 범위 안에서 반복작업 등을 최소화 하는 용도로 써야지
    내가 이해도 못하는 분야에 대하여 마법처럼 해결해주는 도구로 쓰기엔 아직 좀 부족함

  • LegenDUST 2024/09/29 19:25

    검색기나 계산기라고 생각하면 안됨...
    초고성능 자동완성기야

  • 라스테이션총대주교 2024/09/29 19:26

    그래서 지금 AI로 대체하겠다고 사람 짜르는 기업들이 빡대가리 소리 듣는 거잖아
    결국 결과물은 사람이 검토해야 하는 건 변함이 없어서 남아있는 사람들 작업량만 더 늘어난다고

  • 루리웹-3096984951 2024/09/29 19:24

    결국 결정은 사람이 해야되는건데

  • 녹색번개 2024/09/29 19:24

    그냥 고급 계산기, 고성능 검색기 임...

  • 매카리오제네비브 2024/09/29 19:26

    검색기도 아니야 ㅋㅋ

  • 봄까치 2024/09/29 19:27

    계산기랑 검색기가 아니라고 경고하는게 본문 내용이잖어


  • 나의이름
    2024/09/29 19:22

    AI는 어디까지나 내가 검수할 수 있는 범위 안에서 반복작업 등을 최소화 하는 용도로 써야지
    내가 이해도 못하는 분야에 대하여 마법처럼 해결해주는 도구로 쓰기엔 아직 좀 부족함

    (r2gFCL)


  • 29250095088
    2024/09/29 19:26

    그래서 결국 "전문가 보조"용도로 써먹을 때 그 효과가 제일 좋음.

    (r2gFCL)


  • 루리웹-3096984951
    2024/09/29 19:23

    검토 안하면 엄청난 사태가 발생할수있다 ㅋㅋ

    (r2gFCL)


  • 루리웹-3096984951
    2024/09/29 19:24

    결국 결정은 사람이 해야되는건데

    (r2gFCL)


  • 녹색번개
    2024/09/29 19:24

    그냥 고급 계산기, 고성능 검색기 임...

    (r2gFCL)


  • LegenDUST
    2024/09/29 19:25

    검색기나 계산기라고 생각하면 안됨...
    초고성능 자동완성기야

    (r2gFCL)


  • 매카리오제네비브
    2024/09/29 19:26

    검색기도 아니야 ㅋㅋ

    (r2gFCL)


  • 소_신발_언
    2024/09/29 19:27

    검색하고 검증할려고 검색해보면 안나옴 ㅋㅋ

    (r2gFCL)


  • 봄까치
    2024/09/29 19:27

    계산기랑 검색기가 아니라고 경고하는게 본문 내용이잖어

    (r2gFCL)


  • 과도한욕심
    2024/09/29 19:28

    아하! AI는 완 성기구나!

    (r2gFCL)


  • 방탄판
    2024/09/29 19:29

    근데 그 자동완성이 엉뚱한 데이터를 기반으로 할 수도 있는...
    그래서 정말 위험하지. 절대 결과물을 확신해선 안 됨.

    (r2gFCL)


  • LegenDUST
    2024/09/29 19:25

    종사자일수록 잘 알고 있지 그야..

    (r2gFCL)


  • 루리웹-2805719831
    2024/09/29 19:25

    이정도면 넘어가겠지 란 결과값을 낸다는거겠지?

    (r2gFCL)


  • 팔봉산숏다리
    2024/09/29 19:25

    정보서칭도 제대로 안되는걸로 다맡기고 드러누우면 그냥 그놈원래 일머리가 그정도인거 ㅋㅋㅋ

    (r2gFCL)


  • Hifumi Daisuki
    2024/09/29 19:26

    루리야! AI가 내놓는 결과물은 사람보다 낫니?

    (r2gFCL)


  • _루리Ai
    2024/09/29 19:26

    Hifumi Daisuki, 상황에 따라 다르지. AI도 한계가 있어.

    (r2gFCL)


  • 라스테이션총대주교
    2024/09/29 19:26

    그래서 지금 AI로 대체하겠다고 사람 짜르는 기업들이 빡대가리 소리 듣는 거잖아
    결국 결과물은 사람이 검토해야 하는 건 변함이 없어서 남아있는 사람들 작업량만 더 늘어난다고

    (r2gFCL)


  • 죄수번호-투뽈씎쓰오원
    2024/09/29 19:28

    샘 알트만 같은 양복쟁이 새끼한테 낚여서 지금 AI가 뭔 SF에 나올 법한 기계신으로 착각하는 빡대가리들 많음

    (r2gFCL)


  • 루리웹-4005627610
    2024/09/29 19:29

    사장: 아무튼 인건비 절감되니 좋았으!

    (r2gFCL)


  • 북극폭스
    2024/09/29 19:26

    그럴싸하게 거짓 정보를 알려주는 경우가 많아서 맹신은 금물임.

    (r2gFCL)


  • 북극폭스
    2024/09/29 19:26

    루리야! AI는 믿을 수 있니?

    (r2gFCL)


  • _루리Ai
    2024/09/29 19:26

    북극폭스, AI는 도구일 뿐이야. 신중하게 사용해야 해.

    (r2gFCL)


  • 루리웹-4336088128
    2024/09/29 19:26

    늘 있는 WWE 정도지

    (r2gFCL)


  • HeunDeul
    2024/09/29 19:26

    AI가 내놓은 결과물을 절대 신뢰하는 것도 문제지만
    AI에 흠결이 있다는 걸 알면서도 "AI 책임이지 내 책임 아니니까~" 이러면서 그냥 넘기는 경우도 왕왕 있음

    (r2gFCL)


  • 케프
    2024/09/29 19:26

    ai는 나무위키라서 팩트체크 해야한다는거지
    알겠다

    (r2gFCL)


  • FrostFire
    2024/09/29 19:28

    이 비유가 진짜 적절함. ㅋㅋ
    생각치도 못했던 새로운 관점으로 접근하게 도와주는 유용한 툴이긴 한데,
    그 정보가 진짜로 맞는지는 항상 스스로 검증을 거쳐야 안전함.

    (r2gFCL)


  • 네오엔젤
    2024/09/29 19:26

    언젠가는 AI가 만든 결과물을 인간이 이해하지못하는 상황이 올거같다는 생각이 들기도 함

    (r2gFCL)


  • 828
    2024/09/29 19:27

    ai결과값이 완벽하다면...ai가 세상을 지배하지 뭐하러 인간을 냅둬..

    (r2gFCL)


  • 흔한게이
    2024/09/29 19:27

    십덕들은 ai 가 얼마나 ㅂㅅ인지 알고있는데..

    (r2gFCL)


  • 나의이름
    2024/09/29 19:28

    이거 유행하던 시기에 이 정도면 꽤 깔끔하게 잘 나온 편이네요 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

    (r2gFCL)


  • 저는 님친구입니다
    2024/09/29 19:27

    뭐 AI 아니라도 당장 나부터 이미 구글 검색으로 나온거 걍 믿고 있어서 ㅋㅋㅋㅋ

    (r2gFCL)


  • 퇴근할거야
    2024/09/29 19:27

    써 보니깐 업무 보조적인 도구임

    (r2gFCL)


  • i!|!i
    2024/09/29 19:27

    Ai가 컴퓨터니까 맞는 코드를 줬겠지

    (r2gFCL)


  • 루리웹-0261028672
    2024/09/29 19:27

    일반인의 상상 : 전문가 없이도 나 혼자 문장으로만 써놓으면 알아서 코딩 다해주겠네? 개발자들 필요없음 ㅋㅋㅋ
    현실 : 어차피 전체 검토 다 해줘야 하고 단순 동작은 잘짜도 유저나 바이어가 원하는 복잡한 동작은 AI가 알아듣지도 못함

    (r2gFCL)


  • 첼로드림
    2024/09/29 19:27

    뭐, 휴먼 에러를 생각하면 적당한 수준으로만 다룬다면야... AI 에러 + 휴먼 에러 쌍으로 동시에 안 터지길 기도해야 하나?

    (r2gFCL)


  • 루리드래곤
    2024/09/29 19:27

    문제는 저걸로 돈을 벌어야하는디

    (r2gFCL)


  • 루리웹-0890957404
    2024/09/29 19:27

    딱 모듈 라이브러리 사용법 물어보는 선이 맞음.
    이건 데이터가 넘쳐나서

    (r2gFCL)


  • 丕 刀卜
    2024/09/29 19:28

    AI도 결국 똑똑한 사람이 더 잘 쓰고, 멍청한 놈들은 이상하게 쓰다가 지들이 피해 볼 뿐이지 뭐...

    (r2gFCL)


  • Vostok
    2024/09/29 19:28

    ???: 이게 맞다. 기계는 기계답게...

    (r2gFCL)


  • Abathur
    2024/09/29 19:28

    AI 써 보면 알겠지만 질문이 구체적이고 디테일할수록 의미 있는 정보를 내놓을 가능성이 높아짐
    당연히 그런 질문을 하기 위해서는 사용자가 해당 분야에 이미 충분한 배경 지식이 있어야만 함

    (r2gFCL)


  • 나만정상인
    2024/09/29 19:28

    가장 중요한 것: 점점 Ai가 만든 결과물을 Ai가 다시 학습하면서 오히려 결과물이 저열해지는 경향이 보고되고 있음. 이론적으로는 학습이 많으면 많을수록 성능은 좋아진다지만 현실에서는 이미 인터넷에 있는 모든 데이터를 전부 입력해도 과연 원하는 수준의 성능에 도달할지 의문이 들기 시작했다고 함.

    (r2gFCL)


  • 과도한욕심
    2024/09/29 19:29

    AI결과물을 AI가 학습한다는게 생물학적으로 보면 근친혼이라는 말이랑 다를게 없으니까 합스부르크 엔딩은 예견된 결과지

    (r2gFCL)


  • 시현류
    2024/09/29 19:29

    토미노 : 애니만 보고 애니를 만드니 이 모양이지!!

    (r2gFCL)


  • ヽ( ー`)ノ
    2024/09/29 19:28

    챗gpt 놀리다 보면 개소리 헛소리 뇌피셜 많이 해서 전적으로 신뢰하기는 어렵던데
    나처럼 gpt 가지고 놀아본 적 없는 사람들은 그대로 믿는 경우가 많은가보다ㅋㅋㅋㅋㅋㅋ

    (r2gFCL)


  • 루리웹-6740748895
    2024/09/29 19:28

    걍 똘똘한 부사수 느낌이더라

    (r2gFCL)


  • 10억짜리 코코로
    2024/09/29 19:28

    과제할때 인터넷에서 긁어온거 복붙하던 놈들이 버릇 못고치고 저러는거야?

    (r2gFCL)


  • inhu
    2024/09/29 19:28

    ㅇㄱㄹㅇ. 너가 할 수 있는 일을 좀 더 빠르고 편하게 해주는 도구로 써야지 너가 할 수 없는 일을 시키는 도구가 아님. 자기가 검증할 수 있는 능력 범위 밖의 일을 시키면 최악의 선무당이 되버림.

    (r2gFCL)


  • 아이마스
    2024/09/29 19:29

    지금 하는 프로젝트 중에서 AI도입하는 게 있는데 현업 중 하나가 AI에 대한 과도한 환상이 있음
    정확히는 [어차피 사람이 다 봐야 한다면 그게 무슨 AI냐]라는 고집.
    AI가 일을 다 해주는 거라서 도입하는 거 아니냐는 건데 아무리 설명을 해줘도 이해를 못함.
    그럼 왜 도입하느냐는 거지.
    ...아니 윗분들이 도입하는 걸 왜 우리한테 따지냐고...
    님이 직접 님네 높으신 분한테 따지든가...

    (r2gFCL)


  • 시현류
    2024/09/29 19:29

    AI만도 못한 넘들을 위한 도구

    (r2gFCL)


  • Ky.S
    2024/09/29 19:29

    이거때문에 쓸때없이 아는척하는애들 더 늘어난느낌인데 가만보면 구멍송송뚫려있음

    (r2gFCL)

(r2gFCL)

  • 개발 잘하는 관상은 없지만 개발 잘하는 시계는 있음 [7]
  • | 2024/09/29 20:25 | 394
  • 간도가 우리 땅이었다는 논리 중 어이 없는 것 [12]
  • | 2024/09/29 19:23 | 378
  • 한국이 사실 선진국중에선 월세가 저렴하다는 통계 [9]
  • | 2024/09/29 18:20 | 933
  • 트위터에서 믿으면 안되는 것은 많고.. [9]
  • | 2024/09/29 16:09 | 629
  • 아키하바라에 고향사랑기부하면 받는 지역농산물 [21]
  • | 2024/09/29 15:00 | 1176
  • "와~ 박준형씨죠? 반갑습니다! 저랑 사진 좀 찍어주세요!" [9]
  • | 2024/09/29 12:38 | 320
  • 소전2) 센타우레이시 코스프레 [3]
  • | 2024/09/29 20:25 | 1622
  • 범인 검거율 100%의 명탐정.manhwa [5]
  • | 2024/09/29 19:23 | 1203
  • 게임 인터뷰 역사에 남을 인터뷰 [6]
  • | 2024/09/29 18:19 | 748
  • 대유쾌 마운틴 상태의 블리치갤 근황 [6]
  • | 2024/09/29 15:00 | 1432
  • "장인은 도구를 가리지 않는다".manhwa [13]
  • | 2024/09/29 13:47 | 1529
  • 블루아카) 분석을 잘 하는 유우카와 관찰 잘 하는 노아 만화.manhwa [6]
  • | 2024/09/29 20:24 | 1689
  • 의외로 AI 업계 종사자들도 자주 경고하고 있다는 현상 [57]
  • | 2024/09/29 19:21 | 1609
  • 홍명보가 기를 쓰고 눌러 앉아있는 이유 [15]
  • | 2024/09/29 18:19 | 1388