token efficiency

1주 전 · ai

왜 Markdown이 더 나은 AI의 비밀인가

AI에 대한 웹 스크래핑의 현 상황은 깨졌습니다. 10년 동안 웹 추출은 CSS selectors와 DOM structures를 둘러싼 전쟁이었습니다. 우리는 부서지기 쉬운 scrapers를 작성했습니다.

#markdown #web scraping #LLM #RAG #token efficiency #data preprocessing #AI pipelines
2주 전 · ai

REFRAG와 모델 가중치에 대한 핵심 의존성

소개 우리는 2025년 내내 컨텍스트 윈도우 크기에 집착해 왔습니다: 128k, 100만, 200만 토큰. 공급업체들은 우리에게…

#LLM optimization #context window #relevance verification #model weight dependency #token efficiency
3주 전 · ai

TOON for LLMs: 벤치마크 성능 분석

JSON을 사용한 모든 API 호출은 생각보다 더 많은 비용이 듭니다. 저는 Gemini 2.5 Flash를 사용해 실제 환경에서 추출을 수행했으며, 그 결과는 놀라웠습니다: JSON…

#LLM #token efficiency #TOON format #JSON #Gemini 2.5 Flash #structured output #tool calling #prompt engineering
1개월 전 · ai

TOON을 만나보세요: AI를 위해 구축된 토큰-퍼스트 데이터 포맷

🚀 왜 JSON이 AI에 비용이 많이 드는가 — 그리고 TOON이 이를 해결하는 방법

#TOON #token-oriented data format #LLM #token efficiency #AI cost reduction #JSON alternative #serialization
1개월 전 · ai

TOON vs JSON: 현실 점검 — 토큰을 절약할 때와 절약하지 못할 때

소개 최근 TOON Token‑Oriented Object Notation에 대한 기사들이 급증하고 있으며, 많은 기사들이 이것이 “50 % 토큰을 절약한다”고 주장하거나 JSON을 “구식”이라고 부르고 있습니다.

#TOON #JSON #token savings #LLM #prompt engineering #data serialization #token efficiency