스프레드시트용 “ChatGPT”가 어려운 엔지니어링 과제를 더 빠르게 해결하도록 돕는다

Source: MIT News - AI

AI‑강화 베이지안 최적화로 엔지니어링 과제 해결

많은 엔지니어링 과제는 같은 골칫거리에 직면합니다 — 조정할 수 있는 손잡이가 너무 많고 시험할 기회가 너무 적다는 점입니다. 전력망을 튜닝하든 더 안전한 차량을 설계하든, 각 평가에는 비용이 많이 들고, 영향을 미칠 수 있는 변수가 수백 개에 이를 수 있습니다.

자동차 안전 설계를 예로 들어 보겠습니다. 엔지니어는 수천 개의 부품을 통합해야 하며, 많은 설계 선택이 충돌 시 차량의 성능에 영향을 줄 수 있습니다. 고전적인 최적화 도구는 최적의 조합을 찾는 과정에서 한계에 부딪히기 시작할 수 있습니다.

MIT 연구원들은 베이지안 최적화라는 고전적인 방법을 수백 개의 변수를 가진 문제에 적용하는 방식을 새롭게 재구성한 접근법을 개발했습니다. 전력 시스템 최적화와 같은 현실적인 엔지니어링 벤치마크에서 이 접근법은 널리 사용되는 방법보다 10배에서 100배 빠르게 최상위 솔루션을 찾아냈습니다.

이 기술은 표 형식 데이터를 학습한 **기초 모델(foundation model)**을 활용하여 성능 향상에 가장 중요한 변수를 자동으로 식별하고, 이를 반복적으로 적용해 점점 더 나은 솔루션을 찾아갑니다. 기초 모델은 방대한 일반 데이터셋으로 학습된 대규모 인공지능 시스템으로, 다양한 응용 분야에 적응할 수 있습니다.

연구진이 만든 표 형식 기초 모델은 해결책을 찾는 과정에서 지속적으로 재학습할 필요가 없으며, 이는 최적화 과정의 효율성을 크게 높입니다. 또한 이 기법은 더 복잡한 문제에 대해 더 큰 속도 향상을 제공하므로, 재료 개발이나 신약 탐색과 같은 고난이도 응용 분야에 특히 유용할 수 있습니다.

“현대 AI와 머신러닝 모델은 엔지니어와 과학자가 복잡한 시스템을 만드는 방식을 근본적으로 바꿀 수 있습니다. 우리는 고차원 문제를 해결할 뿐만 아니라, 모든 것을 처음부터 시작할 필요 없이 여러 문제에 적용할 수 있는 재사용 가능한 알고리즘을 고안했습니다,” 라고 Rosen Yu는 말합니다. 그는 컴퓨팅 과학 및 엔지니어링 전공 대학원생이며, 이 기법에 관한 논문의 주 저자입니다.

Yu는 논문에서 전 MIT 포스트닥이자 연구 과학자인 Cyril Picard, 그리고 MIT 계산 과학 및 엔지니어링 센터의 핵심 멤버이자 기계공학 부교수인 Faez Ahmed와 공동 저술했습니다. 이 연구는 International Conference on Learning Representations에서 발표될 예정입니다.

Source: …

검증된 방법 개선

과학자들이 다면적인 문제를 해결하려고 할 때, 각 설계가 얼마나 좋은지 알기 위해 자동차 충돌 테스트와 같이 비용이 많이 드는 방법을 사용해야 하는 경우가 많습니다. 이때 흔히 사용하는 검증된 방법이 베이지안 최적화입니다. 이 반복적인 방법은 복잡한 시스템의 최적 구성을 찾기 위해 대리 모델(surrogate model)을 구축하고, 그 모델이 예측의 불확실성을 고려하면서 다음에 탐색할 대상을 추정하도록 돕습니다.

하지만 대리 모델은 매 반복마다 재학습해야 하므로, 가능한 해답 공간이 매우 클 경우 계산적으로 감당하기 어려워집니다. 또한 과학자들은 다른 시나리오를 다루고자 할 때마다 새 모델을 처음부터 구축해야 합니다.

이 두 가지 단점을 해결하기 위해 MIT 연구진은 **표 형식 기반 모델(tabular foundation model)**이라는 생성 AI 시스템을 베이지안 최적화 알고리즘 내부의 대리 모델로 활용했습니다.

“표 형식 기반 모델은 스프레드시트를 위한 ChatGPT와 같습니다. 이 모델들의 입력과 출력은 표 형식 데이터이며, 엔지니어링 분야에서는 언어보다 표 데이터를 보는 경우가 훨씬 더 일반적입니다.” — Yu

ChatGPT, Claude, Gemini와 같은 대형 언어 모델처럼, 이 모델은 방대한 양의 표 형식 데이터에 대해 **사전 학습(pre‑trained)**되었습니다. 따라서 다양한 예측 문제에 잘 대응할 수 있습니다. 게다가 모델은 재학습 없이 그대로(as‑is) 배포될 수 있습니다.

연구진은 시스템을 최적화에 더 정확하고 효율적으로 만들기 위해, 설계 공간에서 해결책에 가장 큰 영향을 미칠 특징을 식별하도록 모델을 활용하는 트릭을 적용했습니다.

“자동차에는 300개의 설계 기준이 있을 수 있지만, 안전 파라미터를 높이려는 경우 그 모든 기준이 최고의 설계를 이끄는 주요 요인은 아닙니다. 우리 알고리즘은 가장 중요한 특징을 스마트하게 선택해 집중합니다.” — Yu

이 방법은 표 형식 기반 모델을 사용해 어떤 변수(또는 변수 조합)가 결과에 가장 큰 영향을 미치는지 추정한 뒤, 그 고영향 변수에 탐색을 집중함으로써 모든 변수를 동일하게 탐색하는 데 시간을 낭비하지 않게 합니다. 예를 들어, 전면 충격 흡수 구역의 크기가 크게 증가하고 자동차의 안전 등급이 향상된다면, 해당 특징이 개선에 중요한 역할을 했다고 볼 수 있습니다.

더 큰 문제, 더 나은 해결책

그들의 가장 큰 과제 중 하나는 이 작업에 가장 적합한 표형(탭ular) 기반 모델을 찾는 것이었다고 Yu는 말한다. 그런 다음 그 모델을 베이지안 최적화 알고리즘과 연결하여 가장 두드러진 설계 특징을 식별할 수 있도록 해야 했다.

“가장 두드러진 차원을 찾는 것은 수학과 컴퓨터 과학에서 잘 알려진 문제이지만, 표형 기반 모델의 특성을 활용하는 방법을 고안하는 것은 실제로 큰 도전이었다”고 Yu는 말한다.

알고리즘 프레임워크가 구축된 후, 연구진은 자신들의 방법을 다섯 가지 최첨단 최적화 알고리즘과 비교하여 테스트했다.

• 60개의 벤치마크 문제(전력망 설계, 자동차 충돌 테스트와 같은 현실적인 상황 포함)에서 그들의 방법은 다른 알고리즘에 비해 10배에서 100배 빠르게 최적의 해를 지속적으로 찾아냈다.

“최적화 문제가 차원이 늘어날수록 우리 알고리즘이 진가를 발휘한다”고 Yu는 덧붙였다.

그들의 방법이 모든 문제에서 기준선보다 우수한 것은 아니었다—예를 들어 로봇 경로 계획에서는 모델의 학습 데이터에 해당 시나리오가 충분히 반영되지 않았기 때문이라고 Yu는 설명한다.

앞으로 연구진은 표형 기반 모델의 성능을 향상시킬 수 있는 방법을 연구하고 싶어한다. 또한 수천 개, 심지어 그 이상의 차원을 가진 문제에 이 기술을 적용하고자 한다…

“보다 높은 수준에서 이 연구는 더 넓은 변화를 시사한다. 즉, 기반 모델을 단순히 인식이나 언어에만 사용하는 것이 아니라 과학·공학 도구 안에서 알고리즘 엔진으로 활용함으로써 베이지안 최적화와 같은 고전적인 방법을 이전에는 실현하기 어려웠던 영역까지 확장할 수 있게 만든다”고 Ahmed는 말한다.

“이 연구에서 제시한 접근법은 사전 학습된 기반 모델과 고차원 베이지안 최적화를 결합함으로써 시뮬레이션 기반 설계의 방대한 데이터 요구를 줄이는 창의적이고 유망한 방법이다. 전반적으로 이 작업은 고급 설계 최적화를 보다 접근하기 쉽고 실제 환경에 적용하기 쉽게 만드는 실용적이고 강력한 단계이다”라고 Northwestern University의 Wilson‑Cook 공학 설계 교수이자 기계공학과 학과장을 맡고 있는 Wei Chen(이 연구에 참여하지 않음)은 평가했다.