on‑device AI

1주 전 · ai

빠른 Transformer 디코딩: One Write-Head만 있으면 충분합니다

개요: 당신의 휴대폰이 문장을 한 단어씩 만들려고 하면서 같은 큰 정보를 반복해서 가져와야 한다고 상상해 보세요 — 그것은 답변을 s...

#transformer decoding #inference optimization #shared memory #write-head #on-device AI
2주 전 · ai

통신 효율적인 온디바이스 머신러닝: Non-IID Private Data 하에서의 Federated Distillation 및 Augmentation

개요 당신의 휴대폰이 모든 사진을 넘겨주지 않고도 AI가 학습하도록 돕는다고 상상해 보세요. 새로운 방법들은 휴대폰이 로컬에서 학습하고 아주 작은 메모만 공유하도록 합니다, …

#federated learning #on-device AI #privacy-preserving ML #federated distillation #data augmentation #non-iid data #communication-efficient training #generative models
3주 전 · ai

차등 개인정보 보호 연합 학습: 클라이언트 수준 관점

연합 학습이란 무엇인가요? 연합 학습은 많은 장치가 원시 데이터를 장치에 보관한 채 공유 모델을 개선하도록 합니다. 당신의 전화는 당신의 ph...

#federated learning #differential privacy #privacy-preserving machine learning #on-device AI
1개월 전 · ai

LiteRT와 함께 Qualcomm NPU에서 최고 성능 발휘

현대 스마트폰은 CPU, GPU, NPU로 구성된 정교한 SoC(시스템 온 칩)를 탑재하고 있어, 매력적인 온‑디바이스 GenAI 경험을 가능하게 합니다.

#Qualcomm #NPU #LiteRT #on‑device AI #LLM acceleration
1개월 전 · ai

MediaTek NPU와 LiteRT: 차세대 온디바이스 AI에 전력을 공급하다

신경 처리 유닛(NPU)은 차세대 온‑디바이스 AI를 위한 핵심 동력이 되었습니다. 초당 수십 TOPS(테라 연산)를 제공함으로써 …

#MediaTek #NPU #LiteRT #on-device AI #generative AI
1개월 전 · ai

LiteRT와 함께 Qualcomm NPU에서 최고 성능 달성

현대 스마트폰은 CPU, GPU, NPU로 구성된 정교한 SoCs(system on a chip)를 탑재하고 있어, 설득력 있는 온‑디바이스 GenAI 경험을 가능하게 합니다.

#LiteRT #Qualcomm NPU #on‑device AI #GenAI #LLM acceleration
1개월 전 · software

LiteRT를 사용한 Qualcomm NPU에서 최고 성능 발휘

2025년 11월 24일 현대 스마트폰은 CPU, GPU, NPU로 구성된 정교한 SoC(시스템 온 칩)를 탑재하고 있어, 매력적인 온‑디바이스 GenAI 경험을 가능하게 합니다.

#LiteRT #Qualcomm NPU #on‑device AI #QNN accelerator #GenAI