2주 전 · ai

[Paper] LLM의 이기종 저대역폭 사전 학습

대규모 언어 모델(LLMs)의 사전 학습은 점점 더 분산 컴퓨팅을 필요로 하지만, 대역폭 제약으로 인해 충분히 프로비저닝된 …을(를) 확장하기 어렵다.

2주 전 · ai

[Paper] DARC: 정밀한 리듬 제어를 통한 드럼 반주 생성

음악 창작에서 rapid prototyping은 아이디어를 탐색하고 다듬는 데 필수적이지만, 기존의 generative tools는 사용자가 구조와 …

2주 전 · ai

[Paper] Meta-Learning 기반 Pruning을 활용한 Few-Shot 식물 병리학 Edge Devices 적용

원격 지역의 농부들은 plant diseases를 신속하고 신뢰할 수 있게 식별할 방법이 필요하지만, 종종 laboratories나 high‑performance computing에 접근할 수 없습니다.

2주 전 · ai

[Paper] Falcon-H1R: 효율적인 테스트 시점 스케일링을 위한 하이브리드 모델로 추론 최전선을 확장하다

이 연구는 Falcon-H1R이라는 7B 파라미터 추론 최적화 모델을 소개하며, 경쟁력 있는 추론 성능을 달성할 수 있는 가능성을 입증한다.

2주 전 · ai

[Paper] 머신러닝을 활용한 ‘Oddballs’ 사냥: Autoencoders를 이용한 Transit Spectra의 Deep‑Learned Low‑Dimensional Representation으로 Anomalous Exoplanets 탐지

본 연구는 비정상 탐지를 위한 오토인코더 기반 머신러닝 기법의 적용을 탐구하여 비전형적인 외계 행성 대기를 식별한다.

2주 전 · ai

[Paper] Environment-Adaptive Covariate Selection: 분포 외 예측을 위한 허위 상관관계 사용 시점 학습

Out-of-distribution (OOD) 예측은 종종 모델을 인과적 또는 불변 공변량에 제한함으로써 비인과적이고 거짓된 연관성을 피하는 방식으로 접근한다.

2주 전 · ai

[Paper] DatBench: 판별적이고, 충실하며, 효율적인 VLM 평가

경험적 평가는 파운데이션 모델에서 연구 진행을 이끄는 주요 나침반 역할을 합니다. 훈련 최전선에 초점을 맞춘 방대한 연구에도 불구하고...

2주 전 · ai

[Paper] Project Ariadne: LLM 에이전트의 충실도 감사를 위한 구조적 인과 프레임워크

대규모 언어 모델(LLM) 에이전트가 점점 더 높은 위험이 수반되는 자율 의사결정을 맡게 됨에 따라, 그들의 추론 과정의 투명성이 …

2주 전 · ai

[Paper] 코딩 게임: Rational Adversaries가 존재하는 상황에서의 Coding Theory, Decentralized Machine Learning에 의해 동기 부여

Coding theory는 신뢰할 수 있는 통신, 저장 및 계산을 가능하게 하는 데 중요한 역할을 합니다. Classical approaches는 최악의 경우 적대적 모델을 가정하고 ...

2주 전 · ai

[Paper] Distributed Deep Learning을 위한 Placement Semantics: Parallelism Strategies 분석을 위한 Systematic Framework

대규모 언어 모델을 학습하려면 많은 가속기에 걸쳐 계산을 분산해야 하지만, 실무자들은 병렬 처리 전략(데이터, 텐서, 파이프라인…)을 선택합니다.

2주 전 · ai

[Paper] Temporal Kolmogorov‑Arnold Networks (T‑KAN)를 이용한 고주파 호가창 예측: 효율성, 해석 가능성 및 Alpha Decay

High‑Frequency trading (HFT) 환경은 대량의 limit order book (LOB) 데이터가 특징이며, 이는 소음이 많고 비선형적인 것으로 악명 높다. Alpha de…

2주 전 · ai

[Paper] 텍스트의 Transformer Embeddings에 대한 Differential Privacy와 Nonparametric Variational Information Bottleneck

우리는 텍스트 데이터를 공유하기 위해 transformer embeddings의 노이즈가 섞인 버전을 공유하는 privacy-preserving 방법을 제안한다. 숨겨진 표현이 …