· ai
[Paper] 제한된 잡음 데이터용 Large Language Models: 중력파 식별 연구
본 연구는 대규모 언어 모델(LLMs)이 전통적인 신경망에 비해 천문 데이터 처리에서 이점을 제공하는지, ... regimes with ... 에서 조사한다.
-
- · ai
[Paper] PSA: Pyramid Sparse Attention을 이용한 효율적인 비디오 이해 및 생성
Attention mechanisms는 foundation models의 핵심이지만, 그들의 quadratic complexity는 스케일링을 위한 중요한 bottleneck으로 남아 있습니다. 이 도전 과제는 …
- · ai
[Paper] 양자 이상 탐지를 위한 TARA Test-by-Adaptive-Ranks와 Conformal Prediction 보증
Quantum key distribution (QKD) 보안은 근본적으로 진정한 양자 상관관계와 고전적인 도청자 시뮬레이션을 구별하는 능력에 의존한다,…
- · ai
[Paper] 정규화를 통한 프라이빗 ML의 효율적인 공개 검증
차등 프라이버시(DP)를 사용한 학습은 데이터셋의 구성원에게 릴리스된 모델의 사용자가 해당 구성원을 식별할 수 없다는 보장을 제공합니다. 그러나 …
- · ai
[Paper] 오래된 토크나이저에 새로운 단어 가르치기: 사전 학습 모델을 위한 효율적인 토크나이저 적응
Tokenizer adaptation은 사전 학습된 언어 모델을 새로운 도메인이나 언어로 전이하는 데 중요한 역할을 합니다. 이 연구에서는 두 가지 상보적인…
- · devops
[Paper] OD-MoE: 온디맨드 전문가 로딩을 위한 캐시 없는 엣지 분산 MoE 추론
Mixture-of-Experts (MoE)는 대형 언어 모델(LLM) 아키텍처로서 상당한 장점을 제공하지만, 저-...
- · software
[Paper] 조정 가능한 자동화 in Automated Program Verification
SMT 솔버 기반 자동 검증 도구는 복잡한 소프트웨어 시스템을 검증하는 데 큰 진전을 이루었습니다. 그러나 이러한 도구들은 근본적인 …
- · devops
[Paper] 고성능 인메모리 데이터 스트리밍 및 인시투 시각화를 하이브리드 MPI+OpenMP PIC MC 시뮬레이션에 통합하여 엑사스케일을 향해
복잡한 플라즈마 동역학의 효율적인 시뮬레이션은 핵융합 에너지 연구를 진전시키는 데 필수적입니다. Particle-in-Cell (PIC) Monte Carlo (MC) 시뮬레이션은 ...
- · ai
[Paper] 파라미터 효율적인 하이브리드 스파이킹-퀀텀 컨볼루션 신경망 with surrogate gradient and quantum data-reupload
인공지능(AI)과 딥러닝(DL)의 급속한 발전은 최적화 기반 하위 분야들의 등장에 촉진제를 제공했으며, 특히 neuro...
- · ai
[Paper] Hybrid Temporal-8-Bit 스파이크 코딩을 이용한 스파이킹 뉴럴 네트워크 서러게이트 트레이닝
Spiking neural networks (SNNs)은 계산 신경과학과 인공지능 모두에서 유망한 방향으로 떠올랐으며, ...와 같은 장점을 제공합니다.
- · ai
[Paper] 향상된 Transformers를 위한 Cross-layer Fusion을 이용한 KV Caches 재구성
Transformer 디코더는 다양한 작업에서 강력한 결과를 달성했지만, KV 캐시가 필요로 하는 메모리는 긴 시퀀스 길이에서 금방 한계에 다다릅니다. 비록 ...
- · ai
[Paper] LLM에서 가이드라인 기반 의료 추론의 훈련 및 평가
의학에서 조기 예측을 위한 Machine learning은 최근 돌파적인 성과를 보여주었지만, 예측 정확도 향상에 초점을 맞추는 것이 …을 초래했다.