2주 전 · ai

[Paper] Chronicals: LLM 파인튜닝을 위한 고성능 프레임워크, Unsloth 대비 3.51배 속도 향상

대규모 언어 모델 파인튜닝은 메모리 병목 현상이 있다: 7B 파라미터 모델은 84GB가 필요하며, 그 중 14GB는 가중치, 14GB는 그래디언트, 56GB는 FP32 최적화에 사용된다.

2주 전 · software

[Paper] 양자 소프트웨어 엔지니어링 생태계 현황

우리는 양자 소프트웨어 엔지니어링(QSE) 생태계의 현재 상태를 연구하며, 학계와 산업계의 성과, 활동 및 참여에 초점을 맞춥니다.

2주 전 · devops

[Paper] 대규모 위성 네트워크에서 희소 트래픽을 위한 최적 Oblivious Load-Balancing

네트워크에서의 옵리비어스 로드밸런싱은 트래픽을 사전 정의된 경로를 사용해 소스에서 목적지로 라우팅하는 것으로, 트래픽과 무관하게 수행되어, 그 결과 ma...

2주 전 · ai

[Paper] 동질 및 이질 데이터에 대한 최초의 증명 가능한 최적 비동기 SGD

Artificial intelligence는 대규모 데이터셋으로 훈련된 거대한 neural networks를 통해 빠르게 발전했습니다. 수천 개의 GPUs 또는 TPUs를 사용한 이러한 training은…

2주 전 · devops

[Paper] APoW: 블록 위드홀딩 공격에 대한 감사 가능한 Proof-of-Work

우리는 Hashcash‑style nonce searching에서 영감을 받은 새로운 proof‑of‑work (PoW) 구조인 APoW를 소개한다. 이는 다른 채굴자들의 작업을 감사할 수 있게 한다.

2주 전 · ai

[Paper] LLM의 이기종 저대역폭 사전 학습

대규모 언어 모델(LLMs)의 사전 학습은 점점 더 분산 컴퓨팅을 필요로 하지만, 대역폭 제약으로 인해 충분히 프로비저닝된 …을(를) 확장하기 어렵다.

2주 전 · ai

[Paper] ExposeAnyone: 개인화된 Audio-to-Expression Diffusion 모델은 강인한 Zero-Shot 얼굴 위조 탐지기

알려지지 않은 deepfake 변조를 탐지하는 것은 얼굴 위조 탐지에서 가장 어려운 문제 중 하나입니다. 현재 state-of-the-art 접근 방식은 ...

2주 전 · ai

[Paper] VINO: 통합 비주얼 생성기와 교차된 OmniModal 컨텍스트

우리는 VINO를 소개합니다, 단일 프레임워크 내에서 이미지 및 비디오 생성과 편집을 수행하는 통합 visual generator입니다. 작업별 …

2주 전 · ai

[Paper] DARC: 정밀한 리듬 제어를 통한 드럼 반주 생성

음악 창작에서 rapid prototyping은 아이디어를 탐색하고 다듬는 데 필수적이지만, 기존의 generative tools는 사용자가 구조와 …

2주 전 · ai

[Paper] Talk2Move: 텍스트 지시 기반 객체 수준 기하학적 변환을 위한 Reinforcement Learning (장면)

우리는 Talk2Move를 소개한다. 이는 텍스트 지시를 기반으로 장면 내 객체들의 공간 변환을 수행하는 강화 학습(RL) 기반 diffusion 프레임워크이다. Spatially m...

2주 전 · ai

[Paper] Meta-Learning 기반 Pruning을 활용한 Few-Shot 식물 병리학 Edge Devices 적용

원격 지역의 농부들은 plant diseases를 신속하고 신뢰할 수 있게 식별할 방법이 필요하지만, 종종 laboratories나 high‑performance computing에 접근할 수 없습니다.

2주 전 · ai

[Paper] Falcon-H1R: 효율적인 테스트 시점 스케일링을 위한 하이브리드 모델로 추론 최전선을 확장하다

이 연구는 Falcon-H1R이라는 7B 파라미터 추론 최적화 모델을 소개하며, 경쟁력 있는 추론 성능을 달성할 수 있는 가능성을 입증한다.