Enterprise AI 전략은 Python이 아니라 Java부터 시작해야 합니다
Source: VMware Blog
(위에 있는 소스 링크는 그대로 두고, 번역할 본문을 제공해 주시면 해당 내용을 한국어로 번역해 드리겠습니다.)
Source: …
2026 기업 AI 예측
AI를 생각하면 파이썬이 필요하다고 생각하시나요? 기존의 Java와 Spring 인프라를 활용하는 것이 AI 성공을 위한 가장 효율적이고 위험이 적은 경로입니다.
예측 시즌이 돌아왔습니다. 요즘은 AI가 3분기에 여러분의 전체 조직도를 대체할 것이라는 팬픽을 많이 읽고, 더 나아가 조직을 완전히 뒤흔들지 않아서 실패할 것이라는 이야기를 듣는 것이 일상입니다. AI ROI가 없다고요? 그건 기업 문화의 근본을 바꾸지 않은 당신 때문입니다(your fault for not changing the soul of your enterprise culture).
연간 예측은 실제 일어날 일보다 저자가 바라는 바를 더 많이 보여줍니다. 그것 자체가 나쁜 것은 아니지만, 예측 소설을 뿌리는 편이 낫습니다.
그래서 2026년에 기업 AI와 관련해 제가 기대하는 바는 다음과 같습니다. 경영진이 새로운 AI 개발을 조직의 주력 프로그래밍 언어로 시작하도록 명령하는데, 그 언어는 Java일 가능성이 높습니다(Java at 30: the genius behind the code that changed tech).
Source: …
개발자가 있는 곳으로 가세요
조직을 더 잘 운영하기 위해 AI를 도입하고 싶다면, 수천 명의 Python 개발자를 고용할 필요가 없습니다.
이미 보유하고 있는 수천 명의 Java 개발자에게 필요한 도구를 제공하면 됩니다.
Java가 아직도 중요한 이유
- 엔터프라이즈급 언어 – Java는 은행, 물류, 헬스케어 등 수많은 핵심 시스템을 구동합니다.
- 꾸준히 상위권 – Java는 수년간 상위 3개 프로그래밍 언어에 자리하고 있습니다(예: RedMonk 프로그래밍 인덱스 및 IDC와 같은 분석가 설문).
- 지배적인 프레임워크 – Spring Framework는 Java 엔터프라이즈 개발의 사실상 표준입니다. 대기업에 어떤 스택을 쓰는지 물어보면 “Java, JavaScript, 그리고 Spring”이라는 답을 들을 수 있습니다.
오해
많은 사람들은 “AI를 하려면 Python(또는 TypeScript) 개발자들을 대규모로 고용해 모든 것을 다시 작성해야 한다”고 생각합니다. 현재 AI 커뮤니티가 이러한 언어에 많이 의존하고 있지만, 실제 기업은 Java 위에서 운영됩니다. 기존 Java 코드, 도메인 모델, 운영 노하우를 버리는 것은 터무니없고 무책임한 행동입니다.
“우리는 도메인 모델에 많은 투자를 했고, 그 중 일부는 매우 훌륭합니다… 새로운 세계로 전환하면서 이를 활용할 수 있다는 것이 정말, 정말 중요합니다.”
— Rod Johnson, Spring Framework 창립자이자 Embabel CEO (Java를 AI에 활용하는 것에 대한 강연)
언어를 바꿀 때 잃게 되는 것
| 영역 | 언어를 바꿀 때 잃게 되는 것 |
|---|---|
| 도메인 지식 | 수년간 축적된 비즈니스‑특화 모델 및 로직 |
| 코드베이스 | 오랜 시간과 비용을 투자해 만든 Java 코드 |
| 운영 전문성 | 프로덕션 운영 관행, 트러블슈팅 기술, 신뢰성 패턴 |
| 보안 및 컴플라이언스 | 구축된 통제와 감사 기록 |
| 스킬 투자 | 새로운 언어에 대한 교육, 채용, 업스킬링 비용 |
이 모든 것을 처음부터 다시 구축하려면 수십 년에 걸쳐 다듬어 온 Day 2 운영 프로세스도 새로 만들어야 합니다.
올바른 진행 방향
- 기존 Java 자산 활용 – 이미 보유하고 있는 코드, 모델, 데이터 아키텍처를 활용합니다.
- AI‑지원 Java 도구 도입 – VMware Tanzu와 같은 플랫폼은 AI 기반 개발을 가속화하면서 Java 투자를 보호합니다.
- Spring을 AI에 확장 – Spring 생태계에는 이제 AI 확장 기능(예: Spring AI)이 포함되어 있어 Java 환경을 떠나지 않고 생성형 AI를 삽입할 수 있습니다.
- 점진적 현대화 – 모든 것을 새로 쓰기보다 현재 스택 위에 AI 기능을 단계적으로 도입합니다.
결론
조직이 Java 애플리케이션을 운영한다면 AI 전략은 Java부터 시작해야 합니다. 다른 언어로 전환하려 하면 불필요한 위험, 비용, 시간이 추가됩니다. 이미 보유한 Java와 Spring 기반 위에 AI를 구축하면 다음을 달성할 수 있습니다.
- AI 도입 가속화
- 기존 도메인 지식 및 운영 전문성 보존
- 총 소유 비용 감소
당신의 개발자들은 이미 AI 미래가 향하고 있는 곳, 즉 Java에 있습니다.
How to Reach the Developers
If your goal is to work with the Java applications your Java developers have built, you need a clear path to get there.
1. Treat the AI stack as an integrated platform
An AI platform isn’t just:
- a “blinking cursor” on Kubernetes (an empty shell with no services or guardrails), or
- a raw endpoint for hosting models.
It should resemble a pre‑engineered, AI‑ready Platform‑as‑a‑Service (PaaS) – e.g., the offering described in the VMware Explore 2025 Tanzu announcement.
For Java & Spring, this means tight integration between:
- Spring Framework and the platform, and
- Secure, self‑service developer services such as:
- Databases
- Message brokers
- Large Language Models (LLMs)
- Model‑Context‑Protocol (MCP) servers
- AI inference services
2. Balance Developer Experience (DX) with Operator Experience (OX)
Running, securing, and cost‑controlling applications is an operator responsibility. A good platform:
- Improves DX (easy onboarding, self‑service, consistent APIs)
- Improves OX (automation, observability, compliance, cost‑control)
Think in terms of operator‑to‑developer ratios: the higher the ratio, the more automation and reliability the platform must provide. Ideally, a handful of platform engineers can support thousands of developers and applications – see the talk on this topic here.
3. Keep the Java stack fresh
Many organizations hesitate to upgrade Java libraries and runtimes because they fear breaking “successful” applications. This leads to the legacy trap:
- Out‑of‑date dependencies
- High maintenance cost
- Slower delivery of new features
If you’re stuck in this trap, read the classic description on Cote’s “Legacy Trap” article.
Why staying current matters
- Executives want new features, not endless maintenance.
- AI‑driven products require continuous experimentation (e.g., trying Spring AI).
- New frameworks become available quickly; you need to adopt them continuously, not just once.
4. Adopt emerging standards early
Model‑Context‑Protocol (MCP) is now the de‑facto standard for adding AI capabilities to applications.
- Released: November 2024 (≈ 1 year ago) – still “yesterday” for enterprises.
- Spring integration: The Spring team shipped an official Java SDK for MCP just months after the protocol’s release – see the announcement on the Spring blog.
To use MCP (or any new AI feature), you must run a recent version of the Spring Framework.
5. General lesson for all AI programming
The same dynamics apply regardless of language:
- New languages feel easier because there’s no legacy baggage.
- Legacy languages (like Java) can still stay agile—provided you regularly upgrade the runtime, libraries, and frameworks.
TL;DR Checklist
| ✅ | Action |
|---|---|
| 1 | Choose an AI‑ready PaaS that integrates tightly with Spring. |
| 2 | Ensure the platform supports both DX and OX (high operator‑to‑developer ratio). |
| 3 | Implement a regular upgrade cadence for Java, Spring, and related libraries. |
| 4 | Adopt emerging standards (e.g., MCP) as soon as they become stable. |
| 5 | Keep a “continuous experimentation” mindset – treat new AI frameworks as first‑class citizens. |
By following these steps, you’ll move from “hand‑coddling legacy Java apps” to a modern, AI‑enabled development environment that serves both developers and operators efficiently.
성공 가능성이 가장 높은 가장 쉬운 경로
AI 여정을 어디서, 어떻게 시작할지 선택하는 것은 비즈니스 결정이며, 기술적인 선택이 아닙니다. Java와 Spring으로 이미 구축한 운영 역량에 AI 노력을 기반을 두면 마찰과 위험을 최소화할 수 있습니다. 모두가 기존에 하던 일을 계속하지만, 이제는 새로운 도구를 사용하는 것입니다.
수십 년에 걸친 유지보수와 고통스러운 프로덕션 장애로 얻은 그 힘든 운영 및 개발 경험은 Spring AI와 MCP와 같은 새로운 기능을 지속적으로 흡수할 수 있는 플랫폼을 제공합니다.
개발자 경험과 운영자 경험을 올바르게 구축하면, 미흡한 AI 실험을 핵심적인 경쟁 우위로 전환하는 데 필요한 조직적 속도를 확보할 수 있습니다.
DevNexus 2026 (3월 4–6일, 애틀랜타) 에 함께하세요 – 미국 최대의 Java 생태계 컨퍼런스로, VMware Tanzu가 주요 (Unobtanium) 스폰서이며 놓칠 수 없는 세션이 다수 준비되어 있습니다.
자세히 알아보기: