3주 전 · ai

[Paper] KL‑가이드 레이어 선택을 통한 하이브리드 어텐션 모델 디스틸링

사전 학습된 softmax attention Transformers를 softmax와 linear attention 레이어를 교차 배치하는 보다 효율적인 하이브리드 아키텍처로 증류하는 것은 유망한…

3주 전 · ai

[Paper] LEAD: End-to-End 운전에서 학습자‑전문가 비대칭 최소화

시뮬레이터는 사실상 무제한에 가까운 주행 데이터를 생성할 수 있지만, 시뮬레이션에서의 imitation learning 정책은 여전히 견고한 closed-loop performance를 달성하는 데 어려움을 겪는다.

3주 전 · ai

[Paper] Shallow Neural Networks가 Learnable Channel Attention을 통해 Low‑Degree Spherical Polynomials를 학습한다

우리는 차수 ℓ₀ = Θ(1) ≥ 1인 저차원 구면 다항식을 ℝ^d의 단위 구면 위에서 학습하는 문제를 연구한다. 이를 위해 과다 매개변수화된 모델을 훈련한다.

3주 전 · ai

[Paper] FlashVLM: 텍스트 가이드 시각 토큰 선택 for 대규모 멀티모달 모델

대규모 비전-언어 모델(VLM)은 일반적으로 이미지 또는 비디오 프레임당 수백에서 수천 개의 visual tokens를 처리하며, 이로 인해 제곱 규모의 attention 비용이 발생하고 ...

3주 전 · ai

[Paper] 4D에서 추론 학습: Vision Language Models를 위한 동적 공간 이해

Vision-language models (VLM)은 일반적인 이해에 뛰어나지만 동적 공간 추론(DSR), 즉 객체의 변화를 추론하는 데는 약합니다.

3주 전 · ai

[Paper] 멀티모달 교사 감정 분석의 진보: 대규모 T-MED 데이터셋 및 효과적인 AAM-TSA 모델

교사의 감정 상태는 교육 현장에서 중요하며, teaching efficacy, student engagement, learning achievements에 깊은 영향을 미칩니다. 그러나...

3주 전 · ai

[Paper] Step-DeepResearch 기술 보고서

LLM이 자율 에이전트로 전환함에 따라 Deep Research가 핵심 지표로 부상했습니다. 그러나 BrowseComp와 같은 기존 학술 벤치마크는 종종 …

3주 전 · devops

[Paper] WOC: 이중 경로 가중 객체 합의 효율화

현대 분산 시스템은 중요한 과제에 직면해 있습니다: 기존 합의 프로토콜은 노드 이질성 또는 워크로드 독립성 중 하나만 최적화하고, 두 가지를 모두 최적화하지는 못합니다.

3주 전 · ai

[Paper] SweRank+: 다국어, 다중 턴 코드 순위 매기기를 통한 소프트웨어 이슈 로컬라이제이션

대규모, multilingual codebases를 유지 관리하는 것은 문제를 정확히 로컬라이징하는 데 달려 있으며, 이는 자연어 오류 설명을 관련…

3주 전 · ai

[Paper] 뇌의 코히런스는 구분 가능한 시간적 구간에 걸쳐 전개된다

언어의 일관성을 위해 뇌는 두 가지 상충되는 시간적 요구를 충족해야 한다: 확장된 맥락에서 의미의 점진적 축적과 빠른 재구성…

3주 전 · ai

[Paper] diffractive decoder를 이용한 Snapshot 3D 이미지 투영

3D image display는 차세대 volumetric imaging에 필수적이지만, 3D image projection을 위한 dense depth multiplexing은 ... 때문에 여전히 어려운 과제입니다.

3주 전 · ai

[Paper] Sentiment-Aware Extractive 및 Abstractive Summarization for Unstructured Text Mining

소셜 미디어, 리뷰, 포럼 등에서 비정형 데이터가 급속히 증가함에 따라, 텍스트 마이닝은 정보 시스템 (IS)에서 추출을 위해 필수적이 되었습니다.