LLM 시스템을 위한 기초 도구로 Wolfram Tech 제공

Source: Hacker News

Source: …

Foundation Models Need a Foundation Tool

LLM은 모든 일을 할 수 없으며, 할 수도 없습니다. 그들이 하는 일은 매우 인상적이고 유용합니다: 폭넓고, 종종 인간과 유사하며, 강력합니다. 하지만 정밀하지 않으며, 깊은 계산을 위해 설계된 것이 아닙니다.

왜 보완 도구가 필요한가?

LLM 기반 모델을 보완하기 위해서는 기초 도구가 필요합니다—LLM이 할 수 없는 일을 수행하는 폭넓고 일반적인 시스템, 즉 깊은 계산과 정확한 지식을 제공하는 시스템이 필요합니다.

Wolfram Language: 우리가 40년 동안 구축해 온 도구

Wolfram Language에 대한 나의 목표는 가능한 한 많은 세상을 계산 가능하게 만드는 것이었습니다. 알고리즘, 방법, 데이터를 통합함으로써 가능한 경우 언제든지 정확한 계산을 가능하게 합니다. 이 노력은 방대했지만 엄청난 성공을 거두었습니다—놀라운 과학, 기술 및 기타 분야 전반에 걸쳐 수많은 발견과 발명을 촉진했습니다(내가 직접 만든 것 포함).

• 폭넓고 일반적 – 이 언어는 방대한 계산을 위한 단일하고 일관된 환경을 제공합니다.
• 정확한 지식 – 정확한 결과를 제공하는 선별된 데이터와 알고리즘을 포함하고 있습니다.
• 통합된 연결성 – 외부 시스템 및 서비스와 연결할 수 있는 허브 역할을 합니다(see compatibility & connectivity).

LLM + Wolfram Language = 강력한 조합

이제 이 기술을 활용할 수 있는 것은 인간뿐만 아니라 AI—특히 대형 언어 모델—도 포함됩니다.

• LLM 기반 모델은 이미 강력합니다.
• LLM + Wolfram Language는 더욱 강력해집니다. 왜냐하면 언어가 LLM이 부족한 정확한 계산과 지식을 제공하기 때문입니다.

이 융합은 시기적절합니다: 폭넓고 일반적인 계산 플랫폼을 수십 년에 걸쳐 구축해 온 것이 현대 LLM의 폭넓은 범위와 완벽히 맞물리기 때문입니다. LLM이 특수 도구를 호출해 틈새 작업을 수행할 수 있는 반면, Wolfram Language는 범용 도구로서 모든 문제에 정확한 계산의 전체 힘을 제공합니다.

계산적 사고를 위한 매개체

처음부터 Wolfram Language는 단순히 계산을 위한 것이 아니라 개념을 계산적으로 표현하고 추론하는 매개체로 설계되었습니다(see what we’ve built is a computational language—and that’s very important). 처음에는 인간 사용자를 위한 매체라고 상상했지만, AI도 동일한 능력에서 혜택을 얻는 것으로 드러났습니다—AI에게는 계산적인 방식으로 “생각”하고 “추론”할 수 있는 완벽한 기반을 제공합니다.

앞으로의 길

Wolfram Language가 알고리즘, 데이터, 연결성을 통합하기 때문에, LLM이 Wolfram 기술에 접근할 수 있는 표준, 일반 인터페이스 역할을 할 수 있습니다. 이는 LLM 기반 모델과 Wolfram Language라는 기초 도구 사이에 견고한 다리를 만들며, AI‑보강 계산 및 발견을 위한 새로운 가능성을 열어줍니다.

우리 기반 도구를 사용할 기술이 여기 있습니다

2023년 1월 9일, ChatGPT가 등장한 지 몇 주 만에 저는 “Wolfram|Alpha as the Way to Bring Computational Knowledge Superpowers to ChatGPT”라는 글을 올렸습니다.

두 달 뒤 우리는 최초의 **Wolfram 플러그인 for ChatGPT**를 공개했습니다(그 사이에 저는 *What Is ChatGPT Doing … and Why Does It Work?*라는 꽤 인기를 끈 작은 책을 썼습니다). 플러그인은 겸손하지만 좋은 시작이었지만, 당시 LLM과 그 주변 생태계는 아직 더 큰 이야기를 받아들일 준비가 되어 있지 않았습니다.

초기 질문들

• LLM은 도구가 필요할까?
• LLM이 마법처럼 깊은 계산을 배우고 정확하고 신뢰할 수 있는 결과를 보장할 수 있을까?
• 도구가 필요하다면, 프로세스는 어떻게 설계하고 어떤 배포 모델을 사용해야 할까?

우리가 배운 점

3년이 지난 지금, 그 질문들에 대한 답이 더 명확해졌습니다:

• LLM의 핵심 능력이 더 잘 이해되고 있습니다(아직 과학적으로 알지 못하는 부분이 많지만).
• 현재 LLM이 다루는 모달리티에 대해 실질적인 가치 증가는 그들이 어떻게 활용되고 연결되는가에 달려 있습니다.
• 이는 우리 기술이 제공하는 기반 도구에 LLM이 접근하도록 하는 것이 왜 중요한지를 강조합니다.

새로운, 간소화된 경로

이제는 등장하고 있는 프로토콜, 방법, 그리고 우리가 개발한 새로운 기술을 사용해 기반 도구를 LLM과 통합하는 간소화된 방법이 있습니다. 기반 모델과 우리 도구 간의 통합이 긴밀할수록 조합은 더 강력해집니다.

Computation‑Augmented Generation (CAG)

• 개념: 우리 기반 도구의 실시간 기능을 LLM이 생성하는 콘텐츠 흐름에 주입합니다.
• RAG와의 대비: 전통적인 retrieval‑augmented generation (RAG)은 기존 문서에서 검색된 콘텐츠를 주입합니다. CAG는 이 아이디어를 무한히 확장하여, LLM에 공급할 계산 콘텐츠를 즉석에서 생성합니다.
• 구현: 내부적으로 CAG는 오랜 시간 동안 완성한 정교한 기술이지만, 기존 LLM 관련 시스템 및 워크플로에 쉽게 통합할 수 있도록 패키징했습니다.

이것이 여러분에게 의미하는 바

• 즉각적인 적용 가능성: 모든 LLM 시스템—또는 기반 모델—이 이제 우리 기반 도구에 접근할 수 있습니다.
• 강화된 기능: LLM은 우리 도구만이 제공할 수 있는 정밀하고 깊은 계산 및 지식을 활용해 출력물을 보강할 수 있습니다.

우리는 오늘 CAG를 출시하며, 개발자와 조직이 차세대 AI‑보강 애플리케이션을 구축할 수 있는 문을 엽니다.

실용적인 사항

오늘 우리는 세 가지 주요 방법을 통해 Foundation Tool에 접근할 수 있도록 출시합니다. 모든 방법은 **계산‑보강 생성(CAG)**을 기반으로 하며, 우리의 방대한 소프트웨어 엔지니어링 기술 스택을 활용합니다.

자세한 내용은 공식 발표를 참고하세요:
Foundation Tool – Three Primary Methods

MCP 서비스

우리의 Foundation Tool을 MCP와 호환되는 모든 LLM 기반 시스템에서 직접 호출하세요. 대부분의 소비자 LLM 플랫폼이 이제 MCP를 지원하므로 통합이 간단합니다.

• 주요 제공: Web API
• 대안: Wolfram Engine에서 실행되는 로컬 버전

Agent One API

LLM 기반 모델과 Wolfram의 Foundation Tool을 결합한 원스톱 “범용 에이전트”입니다. 기존 LLM API를 대체하는 드롭‑인 방식으로 사용할 수 있습니다.

CAG 구성 요소 API

LLM 시스템을 위한 Wolfram 기술에 대한 직접적이고 세밀한 접근을 제공하며, 모든 규모의 LLM 배포에 최적화된 맞춤형 통합을 지원합니다. Wolfram 기술은 호스팅 서비스와 온‑프레미스 설치 두 형태 모두에서 이용할 수 있습니다.

• Wolfram Foundation Tool 기능 목록 »
• 접근 및 통합 옵션에 대한 추가 정보는 저희 파트너십 그룹 »으로 문의하십시오.