왜 에이전시 AI는 개방형 추론 스택이 필요한가

Source: Red Hat Blog

“모든 AI 연구소는 현재 당신의 회사를 위해 서비스를 제공하면서 손해를 보고 있습니다. 그들은 이를 알고 있습니다. 그리고 일부러 그렇게 하고 있습니다.” 그 문장은 내가 받은 편지함에 들어온 기사 첫 문장이었으며, 같은 주에 3개의 숫자가 구체화되어 오픈 인퍼런스가 더 이상 선택 사항이 아니라는 점을 명확히 했습니다. 한 개발자는 주말 동안 직접 API 키를 사용해 오픈 소스 코딩 에이전트로 간단한 메모 앱을 만들었습니다. 한 페이지, 한 기능. 비용: $50. 다음 날, $20/월 구독을 통해 토큰이 50배 늘어났습니다. 우리 인퍼런스 팀의 한 엔지니어는 2일 동안 오픈‑웨이트 모델을 통해 3억 개의 토큰을 소비했으며, 동일한 작업을 수행했습니다…