우리는 AI에게 사고를 가르치지 않는다
Source: Dev.to
개요
대부분의 우리는 AI에게 프롬프트를 할 때 그 사고를 안내하는 방법을 배웠습니다:
- “단계별로 생각하세요.”
- “이 문제를 해결하는 예시를 보여드릴게요.”
- “먼저 A를 확인하고, 그 다음 B와 비교한 뒤, 마지막으로 C로 결론짓습니다.”
이러한 기법은 초기 모델들이 명시적인 경로를 필요로 했기 때문에 의미가 있었습니다; 구조가 없으면 결론으로 급히 뛰어들었습니다.
추론 모델이 전제를 바꾸다
일반 대화형 모델은 자연스러운 답변을 빠르게 생성하는 데 뛰어납니다. 방향이 명확한 작업—간단한 요약, 쉬운 설명—에 대해서는 이것만으로 충분합니다.
추론 모델은 다르게 작동합니다. 문제를 바로 결론으로 몰아가는 대신 다음과 같이 설계되었습니다:
- 조건을 비교한다
- 가능한 경로를 추적한다
- 답을 만들기 전에 문제를 더 오래 유지한다
Claude의 extended‑thinking 모드나 OpenAI의 o‑series와 같은 모델은 이러한 방향을 구현하며, 내부 추론에 더 많은 연산을 사용합니다.
추론 모델은 단순히 더 긴 답변을 쓰는 것이 아니라, 더 어려운 문제를 더 오래 다루도록 설계되었습니다.
추론 모델을 위한 프롬프트 전략
일반 모델에서는 “단계별로 생각하세요”가 중간 단계를 강제해 결론으로 바로 뛰어가는 것을 방지하므로 도움이 될 수 있습니다.
추론 모델에서는 같은 접근법이 항상 효과적이지 않습니다. 이미 문제를 분해하도록 설계된 모델에 임의의 사고 순서를 강하게 지정하면, 더 나은 경로를 찾을 수 있는 공간을 좁히게 됩니다.
예시에도 동일하게 적용됩니다. 좋은 예시는 답변의 기준을 제시하지만, 지나치게 상세한 예시는 모델을 특정 해결 방법에 고정시킬 수 있습니다—더 나은 방법이 존재하더라도 말이죠.
이는 Chain‑of‑Thought가 틀렸다는 것이 아니라, 도구가 근본적으로 바뀌었을 때 같은 습관을 적용하는 것이 문제라는 뜻입니다. 추론 모델에서는 때때로 덜 말하는 것이 더 좋습니다.
제공해야 할 내용
- 명확한 목표
- 좋은 답변의 기준
- 필요한 출력 형식
그 다음 중간 단계는 모델에게 맡기세요. 모델은 당신이 사고 과정을 설계해 주길 원하지 않으며, 좋은 답변이 무엇인지만 알면 됩니다.
이것은 발췌본입니다. 전체 글(옆에 나란히 배치된 프롬프트 비교와 추론 모델이 전혀 맞지 않을 때에 대한 내용)은 Dechive에서 확인할 수 있습니다.