공학·AI에서 초심

Source: Dev.to

엔지니어링 세계는 전문성에 중심을 둡니다. 우리는 뭔가를 알고 있거나 무언가를 할 수 있는 사람들을 우러러봅니다. 그리고 그럴만한 이유가 있죠. 그런 사람들은 문제를 해결하고, 멋진 도구를 만들며, 자신의 지식을 나눕니다. 이런 사람들이 있기 때문에 우리 모두가 더 나아집니다.

하지만 전문성에는 어두운 면도 있습니다. 수년간의 학교 교육, 현장 경험, 기술 연마에 투자한 시간은 전문가의 머릿속에 보이지 않는 장벽을 만들곤 합니다. 깊이 익힌 패턴, 선호도, 규칙, 해야 할 일과 하지 말아야 할 일. 이제 문제를 있는 그대로 보지 못하고, 이미 알고 있는 것의 필터를 통해 바라보게 됩니다. 문제 해결을 위한 가설이 의식적이든 무의식적이든, 그 가치는 아니라 내재된 패턴 때문에 거부됩니다. “이건 절대 안 된다”거나 “이렇게는 하지 않는다”는 식으로 말이죠.

많은 경우에 이것은 훌륭합니다. 바로 그게 전문성입니다: 풀 수 없는 미궁에 며칠을 허비하지 않고도 죽음의 골목을 바로 차단하고, 더 빠르게 해결책을 찾을 수 있는 능력이죠.

하지만 가끔씩, 전문가들은 아이디어를 충분히 탐색하기도 전에 거부해 버려서 좋은 해결책을 놓치기도 합니다. 그 이유는 스스로도 설명하기 어려운 경우가 많습니다. 오래전부터 “이게 정석이다”라고 배워왔기 때문일 수도 있죠.

“초심자의 마음에는 가능성이 많지만, 전문가의 마음에는 가능성이 적다.”
— 스즈키 순류

신입 엔지니어가 새로운 접근법이나 도구를 처음 시도하고, 이를 독특하게 결합하는 경우를 자주 볼 수 있습니다. 물론 그들의 아이디어가 대부분은 죽음의 골목이나 미궁으로 판명되기도 합니다. 하지만 가끔씩은 흔히 받아들여지는 상식과는 다른, 갑자기 딱 맞아떨어지는 무언가를 만들어냅니다. 그들은 기존 가정에 얽매이지 않고, 첫 원리부터 솔직하게 탐구할 준비가 되어 있기 때문에, 오래전에 전문가들이 포기한 좋은 길을 발견하기도 합니다.

우리는 종종 “틀을 깨고 생각하라”는 말을 듣습니다. 하지만 틀을 깨고 생각한다 해도 여전히 틀 안에 있는 것이고, 주변에 보이는 건 벽뿐이죠.

이제 AI, 특히 현재의 대형 언어 모델(LLM)에 대해 이야기해 보겠습니다. 이 모델들은 확실히 인공적이지만, 절대 ‘지능적’이라고 할 수는 없습니다. 저는 요즘 이들을 ‘Artificial Ineligibles(인공지능 비자격자)’라고 부르고 있습니다.

LLM은 “궁극적인 전문가”와 같습니다. 방대한 데이터를 흡수하고 규칙을 학습했으며, 마치 모든 것을 알고 있는 듯 행동합니다. 잘 알려진 문제에 대한 해결책을 물어보면 훌륭히 대답합니다. 몇 분 안에 새로운 웹사이트를 만들거나 코드를 다른 언어로 포팅하는 일도 어느 정도 수행합니다. 하지만 특이한 문제에 직면하면 금세 벽에 부딪히게 됩니다.

이는 당연한 일입니다. 그 질문에 대한 답이 어느 웹사이트에도 존재하지 않았다면, LLM이 답을 가지고 있을 리가 없으니까요. 그래서 모델은 알려진(자신이 학습한) 패턴을 문제에 억지로 적용하려고 돌고돌며 토큰과 시간을 낭비하고, 결국 답을 찾지 못합니다. 종종 이것은 단순히 ‘틀 안에서 생각하는’ 것이 아니라, ‘땅속 6피트 아래에 묻힌 틀 안에서 생각하는’ 수준입니다.

우리가 LLM의 해결책을 무비판적으로 받아들인다면, 우리는 계속해서 벽에 머리를 부딪히게 될 뿐만 아니라, 모두가 같은 다섯 가지 도구와 세 가지 프레임워크만을 사용하는 균질한 세계로 빠져들게 됩니다. 더 나은 대안이 존재하지 않아서가 아니라, 통계적으로 LLM이 그런 대안을 ‘보지 못했기’ 때문이죠.

모든 것이 10,000개의 망치라면, 여전히 모든 것이 못처럼 보일 것입니다.

LLM은 도구일 뿐입니다. 어떤 일에는 뛰어나지만, 다른 일에는 그리 좋지 않으며, 창의적인 문제 해결에는 전혀 적합하지 않습니다.

초심자의 마음을 잊지 마세요.