1개월 전 · ai

[Paper] Next-Token Prediction의 증명 가능한 장기 이점

왜 현대 language models가 next-word prediction에 잘 맞도록 훈련되었음에도 불구하고 coherent documents를 생성하고 long-range structure를 포착하는 것처럼 보일까? 여기서 우리는 …

1개월 전 · ai

[Paper] 코드 모델의 프라이버시 위험 이해: 학습 역학을 통한 인과 접근법

코드를 위한 대형 언어 모델(LLM4Code)은 개발자 생산성을 크게 향상시켰지만, 오픈소스 레포에 의존하기 때문에 프라이버시 우려도 제기합니다.

1개월 전 · ai

[Paper] 샌드백킹을 위한 게임 감사

미래의 AI 시스템은 평가 중에 자신의 능력을 숨길 수 있습니다('sandbagging'), 이는 개발자와 감사자를 오도할 수 있습니다. 우리는 sandbagging을 스트레스 테스트했습니다.

1개월 전 · ai

[Paper] LUNA: LUT 기반 신경망 아키텍처를 이용한 빠르고 저비용 큐비트 리드아웃

큐비트 리드아웃은 양자 컴퓨팅 시스템에서 중요한 작업으로, 큐비트의 아날로그 응답을 이산적인 고전 상태로 매핑합니다. 딥 뉴럴 네트워크...

1개월 전 · ai

[Paper] Lang3D-XL: 대규모 장면을 위한 언어 임베디드 3D 가우시안

언어 필드를 3D 표현에 삽입하면 기하학을 서술적 의미와 연결시켜 공간 환경에 대한 보다 풍부한 의미 이해를 가능하게 합니다. Th...

1개월 전 · ai

[Paper] Multi-view Pyramid Transformer: 덜 세밀하게 보고 더 넓게 보기

우리는 Multi-view Pyramid Transformer (MVP)라는 확장 가능한 멀티뷰 트랜스포머 아키텍처를 제안한다. 이 아키텍처는 수십에서 수백 개에 이르는 대규모 3D 씬을 직접 재구성한다.

1개월 전 · ai

[Paper] 그룹 표현 포지션 인코딩

우리는 그룹 작용에 기반한 위치 인코딩을 위한 통합 프레임워크인 GRAPE (Group RepresentAtional Position Encoding)를 제시한다. GRAPE는 두 가지 …

1개월 전 · ai

[Paper] OneStory: 일관된 멀티샷 비디오 생성과 Adaptive Memory

실제 영상에서 스토리텔링은 종종 여러 샷을 통해 전개됩니다—불연속적이지만 의미적으로 연결된 클립들이 함께 일관된 내러티브를 전달합니다.

1개월 전 · ai

[Paper] 협업적 인과 Sensemaking: Human-AI Decision Support에서 Complementarity Gap 해소

LLM 기반 에이전트가 전문가 의사결정 지원에 빠르게 도입되고 있지만, 혼란스럽고 높은 위험이 따르는 상황에서는 팀을 더 똑똑하게 만들지는 못한다: 인간‑AI 팀은…

1개월 전 · ai

[Paper] 대규모 언어 모델에서 파생된 대규모 인과 모델

우리는 오늘날의 대형 언어 모델(LLMs)에 내재된 거대한 잠재력을 활용하는 대형 인과 모델(LCMs) 구축을 위한 새로운 패러다임을 소개합니다. 우리는 설명합니다...

1개월 전 · ai

[Paper] ReasonBENCH: LLM 추론의 (불)안정성 벤치마킹

대형 언어 모델(LLM)은 다단계 문제 해결 및 chain-of-thought와 같은 추론이 필수적인 환경에 점점 더 많이 배치되고 있습니다. 그러나, ...

1개월 전 · ai

[Paper] Pre-Training, Mid-Training, 그리고 RL이 Reasoning Language Models에 미치는 상호작용

최근 강화 학습(RL) 기술은 언어 모델에서 인상적인 추론 향상을 가져왔지만, post‑training tr...