1주 전 · ai

Speculative Sampling을 이용한 대규모 언어 모델 디코딩 가속화

대형 언어 모델로부터 답변을 거의 두 배 빠르게 받는다고 상상해 보세요. 연구자들은 몇 단어를 미리 쓰는 작은, 빠른 헬퍼를 사용하고, 그 다음에 큰 모델을 활용합니다.

1개월 전 · software

내가 Nuxt에서 Vitest 스위트를 10배 빠르게 실행하도록 만들었다

3분에서 20초로 – Nuxt + Vitest E2E 스위트를 가속화한 방법 > 스포일러: 병목 현상은 각 테스트 파일마다 별도의 Nuxt 인스턴스를 부팅하는 것이었습니다. > ...

1개월 전 · software

개발자 없이 사이트 속도 높이는 방법

느린 웹사이트는 트래픽, 순위, 그리고 매출에 악영향을 줄 수 있지만—좋은 소식은 성능 문제를 해결하기 위해 항상 개발자가 필요하지는 않다는 것입니다. 올바른 도구를 사용하면…