당황은 싸다. 토큰 지출은 그렇지 않다.

Source: Dev.to

회의

나는 오늘 회의에 있었다.
팀이 새로운 기능을 설명해 주고 있었다. 나는 고개를 끄덕이고 있었다. “endpoint” 라는 단어를 정확히 두 번이나 썼다. 나는 날카롭게 느껴졌다.

너무 날카롭게.

왜냐하면 내 뇌—모든 기능이 이전에 작동했던 기능과 똑같이 형성되는 평화로운 장소—가 이렇게 생각했기 때문이다: 아, 이건 아마 또 다른 마크다운 파일일 거야.

그것은 다른 마크다운 파일이 아니었다.
그것은 병렬 다중‑에이전트 재귀 언어 모델 생성이었다.

나는 아직 그걸 몰랐다. 나는 몸을 뒤로 기대고, 미소를 지으며 이렇게 말했다:

“빨리 끝날 거지, 그렇지?”

침묵. 그리고 웃음. 예의 바른 웃음이 아니었다. 상사가 웃는 듯한 웃음도 아니었다. 완전한 웃음. 한동안 쌓여 있던 웃음.

그리고 나는 그게 괜찮았다. 사실 나는 그보다 더 괜찮았다. 창업자 삶에서 당황함은 아직 충분히 탐구되지 않은 감정이다. 내가 가장 좋은 모습은 어리석은 말을 한 뒤에도 방에 남아 있는 사람이고, 환상을 지키기 위해 질문을 멈추는 사람이 아니다.

리드 엔지니어는 웃지 않았다. 그는 마치 환자가 자신이 감기에 걸린 원인이 박테리아일 가능성이 높다고 자신 있게 설명한 것을 듣는 의사처럼 나를 바라보았다.

“빨리 끝나지 않을 거야.”
“아. 왜?”

그는 설명했다. 이것은 이론적인 것이었다. 이에 대한 연구 논문이 하나 있었다. 하나뿐이다. 우리가 성공한다면, 이전에 시도된 적 없는 일을 하게 되는 것이다.

그때 나는 두 번째 어리석은 질문—첫 번째 어리석은 질문이 열어준 질문—을 던졌다. 바로 이걸 운영하는 데 얼마나 비용이 들지에 대한 질문이었다.

방 안은 다른 방식으로 조용해졌다.

우리는 다음 20분을 토큰 소비, 재귀 깊이를 제한할 수 있는지, 어떤 에이전트가 실제로 어떤 에이전트와 대화해야 하는지 등에 대해 논의했다. 팀이 결국 알게 될 내용이었지만, 그 회의에서는, 그 순서대로는 아니었다.

교훈

“빨리 끝날 거야”는 잘못된 말이었다. 하지만 내가 잘못된 말을 크게 말한 것은 방 안에서 옳은 일이었다. 내가 자존심을 보호했다면, 많은 토큰을 소모하는 계획에 고개만 끄덕였을 것이다.

그래서 나는 계속 그렇게 할 것이다. 연구 논문을 마크다운 파일로 착각하는 일을 계속할 것이다. 엔지니어들이 집단적으로 한숨을 쉬기 5분 전에 “빨리 끝날 거야”라고 말하는 사람을 계속할 것이다.

당황함은 저렴하다. 토큰 사용은 그렇지 않다.

진보. 속도.