샘 올트먼이 리트윗한 ChatGPT o 시리즈 사용방법

1/ o1은 챗 모델이 아닙니다 (이게 핵심)

o1을 사용하면서 "왜 이렇게 답변이 느리고, 대화형으로는 잘 작동하지 않을까?"라는 의문을 가져본 적 있으신가요? 이유는 간단합니다. o1은 '챗 모델'이 아니라 '리포트 생성형 모델'이기 때문입니다.  

해외 AI 커뮤니티에서는 o1을 도입하며 "대화형 모델에 익숙한 사용자들에게는 o1이 다소 낯설 수 있지만, 알고 보면 엄청난 잠재력을 지닌 모델이다"라는 반응이 나오고 있습니다.  

2/ o1을 제대로 쓰려면?

많은 사용자들이 o1에 대해 “답변이 어렵다”, “결과물이 부정확하다”는 불만을 제기하곤 합니다. 이는 대부분 기존 챗 모델의 사용 방식을 그대로 적용했기 때문입니다. 

o1을 다뤄본 해외 엔지니어들이 말하는 3가지 핵심 팁을 정리했습니다.  

2-1/ Don’t Write Prompts; Write Briefs

맥락을 최대한 많이 제공하세요. "충분히 많다"고 생각하는 양의 10배를 제공하라고 합니다.

Claude 3.5 Sonnet이나 4o 같은 챗 모델을 사용할 때는 간단한 질문과 일부 맥락으로 시작하는 경우가 많습니다. 모델이 더 많은 맥락이 필요하다면 이를 요청하거나 결과에서 명확히 드러나기 때문입니다.

챗 모델은 사용자와의 상호작용을 통해 맥락을 점진적으로 끌어내는 방식을 취합니다. 질문과 요구 사항을 수정하면서 원하는 출력물을 얻을 때까지 조율하는 방식이죠.

반면, o1은 맥락을 끌어내려 하지 않습니다. 대신 사용자가 맥락을 모델에 최대한 ‘밀어 넣어야’ 합니다.

예를 들어 단순한 엔지니어링 질문을 한다고 해도:

-실패했던 시도들을 모두 설명하라

-데이터베이스 스키마를 전체 덤프하라

-회사가 무엇을 하는 곳인지, 규모는 어느 정도인지 (그리고 회사만의 용어를 정의하라)

여러분이 생각하는 양의 '10배 이상의 맥락'을 제공하면 훨씬 정확한 답을 얻을 수 있습니다.  

2-2/ 목표에 집중하라: ‘어떻게’가 아닌 ‘무엇’을 설명하라 

기존 챗 모델에서는 “당신은 소프트웨어 엔지니어 전문가입니다(Role prompting). 천천히, 신중히 생각하세요(take a deep breath and think step by step)”처럼 답변 방식에 대해 구체적으로 지시하곤 했습니다. 그러면 잘 작동했죠.  

하지만 o1은 '어떻게'(HOW)가 아니라 '무엇'(WHAT)에 집중해야 합니다. 그 후에는 o1이 계획을 세우고 스스로 단계를 해결하도록 맡기세요. 

자신이 원하는 결과가 무엇인지 명확히 아는 것이 중요합니다.

조금 더 결과물 목표를 명확히 정의하면, o1은 한 번의 실행으로도 전체 파일을 에러 없이 생성할 수 있습니다.  

2-3/ Know what o1 does and does not do well

o1이 잘하는 것

- 파일 전체를 한 번에 정확히 생성하기[코드, 프로젝트의 맥락 등을 모델에 입력하면, 코드베이스의 기존 패턴을 따르며 전체 파일을 (종종 오류 없이) 완벽하게 생성합니다]

-  특수 쿼리 언어에서 Claude가 Postgres 문법과 혼동하는 반면, o1은 이를 정확히 처리합니다.

- 간단한 피부 문제에 대한 매우 정확한 진단을 제공합니다(약 60% 정확도)

어려운 엔지니어링 개념을 예제와 함께 상세히 설명하는 데 매우 뛰어납니다. 

o1이 잘 못하는 것

- 특정 문체나 개성을 살린 글쓰기: 보고서 스타일에서 벗어나기 어렵습니다.  

- 앱 전체를 단번에 완성하는 작업: 개별 기능이나 특정 요구 사항에 대해서는 훌륭하지만, SaaS 전체를 처음부터 끝까지 생성하는 것은 반복 작업이 필요합니다.  

3/ 중요 포인트 요약

- 최근 OpenAI가 o1 Pro를 월 $2000 수준의 에이전트 형태로 출시할 것이라는 소문이 돌고 있습니다.  

- 높은 비용이 들지만, "5분 걸려도 괜찮을 만큼 중요한 질문"에 대해 완벽한 답을 제공합니다.  

- 실제로 해외 사용자들 사이에서는 "엔지니어 한두 시간치 인건비만 절감해도 본전"이라는 평가가 많습니다.  

4/ 마무리

간단히 요약하자면, o1을 쓸 때는 다음 두 가지를 기억하라고 합니다:  

1. 물어보듯 사용하기보다, 한번에 충분한 자료와 (많은) 맥락을 제공하세요.  

2. 원하는 결과물을 정확히 설정하고, 모델이 중간 과정을 스스로 해결하도록 맡기세요.  

진짜 요약

1.o1은 이미 샤따 내렸지만 본질은 변하지 않음. o3와 o4도 동일하게 사용하면 됨.

2.4o와 달리 대량의 데이터에서 본질을 뽑아내는 이성처리가 o3, o4의 핵심 그러니까 존나 많이 먹여라