최근 개나소나 AI로 글을 쓰니 나타난 역설적인 참극

생성AI는 그 특성상 글을 "그럴듯하게" 쓸 수밖에 없다. 프롬프트의 편향과 가중치를 바탕으로 확률상 말이 되는 어휘를 이어가며 글을 씀.

= 즉, 얘넨 일부러 의도하지 않는 이상, 자연적으로 짜임새가 있는 글을 쓸 수밖에 없음.

"그럼 언어모델이 글을 쓰는 패턴을 파악하면, 역으로 AI가 쓴 글인지 아닌지 역추적도 가능하겠네?"

라는 발상으로 GPT킬러나 Turnitin AI Detection, Proofademic AI 등등등 AI 탐지기들이 개발되어 서비스가 됨.

그런데 문제는 카피킬러와 같은 문서 표절검사 기술의 경우 원본이 되는 문서와 1대 1로 대조해가며 표절의 정도를 판별하는 아주 깔끔하고 직관적인 방식으로 작동하는 반면, AI텍스트 탐지기술은 결국 "확률"적으로 역추적을 하다보니 글이 너무너무 짜임새가 있고 구조화가 잘 되어 있고 AI학습에 쓰인 역사적인 명문들의 경우 탐지율이 높게 나오는 대참사가 발생함.

그러다보니 결국 "태생적으로 조리있게, 구조적으로 글을 쓸 수밖에 없는 AI"의 특성을 역이용하는 AI 탐지기술을 회피하기 위해, "의도적"으로 글을 약간씩 엉성하게, 혹은 덜 격식있는 어휘를 활용하거나 하는 식으로 탐지기를 회피하며 글을 쓰는 습관이 길들여지는 참사가 벌어지는 중.

걍 대충 딸깍딸깍해서 그럴듯한 글 뽑아놓고 검수 없이 휙 던지고 보는 놈들도 문제가 되고 있는데, 그 AI를 AI로 탐지하려다보니 일부러 글을 조금씩 조금씩 망가뜨리는 식으로 회피하려는 문화가 생겨나는 것도 문제 ㅋㅋㅋㅋ 

이러한 이유로 자소사 등을 평가받는 취준생, 논문이나 리포트 등을 평가받는 대학생들한테 GPT킬러는 걍 돈벌이용 개씹스캠 취급임.