· ai
[Paper] 대형 언어 모델을 이용한 이벤트 시퀀스 모델링을 위한 Temporal Tokenization 전략
continuous time을 표현하는 것은 large language models (LLMs)로 temporal event sequences를 모델링할 때 중요한 동시에 충분히 탐구되지 않은 과제입니다. Various strategi...
-
- · ai
[Paper] LightTopoGAT: 효율적인 그래프 분류를 위한 토폴로지 특징과 Graph Attention Networks 강화
Graph Neural Networks는 graph classification 작업에서 상당한 성공을 보여왔지만, 종종 상당한 계산 자원을 필요로 하고 어려움을 겪는다.
- · ai
[Paper] Do-Undo: Vision-Language Models에서 물리적 행동 생성 및 역전
우리는 vision-language 모델에서 중요한 격차인 물리적으로 타당한 장면 변환을 이해하고 생성하는 문제를 해결하기 위해 Do-Undo 작업과 벤치마크를 소개합니다.
- · ai
[Paper] Nemotron-Cascade: 범용 추론 모델을 위한 연쇄 강화 학습 확장
강화 학습(RL)을 사용하여 범용 추론 모델을 구축하는 것은 도메인 간 이질성이 크게 존재하며, 추론에서의 큰 변동인 inferenc...을 포함합니다.
- · ai
[Paper] DA-SSL: self-supervised 도메인 어댑터를 활용한 turbt 조직병리 슬라이드에서 foundational models 활용
최근 조직병리학에서 딥러닝 프레임워크, 특히 다중 인스턴스 학습(MIL)과 병리학 기본 모델(PFMs)을 결합한 것이 ...
- · ai
[Paper] 텍스트 그라디언트는 자동 프롬프트 최적화를 위한 결함 있는 은유이다
잘 설계된 prompt는 large language models의 성능을 향상시킬 수 있습니다; 자동 prompt 최적화 기술은 수동 작업 없이 성능을 향상시키는 것을 목표로 합니다.
- · ai
[Paper] ReFusion: 병렬 자동회귀 디코딩을 갖춘 Diffusion 대형 언어 모델
Autoregressive models (ARMs)은 느린 순차 추론으로 인해 제한됩니다. Masked diffusion models (MDMs)은 병렬적인 대안을 제공하지만, 그들은 crit…에 고통받습니다.
- · ai
[Paper] DP-CSGP: 차등 프라이버시 확률적 그래디언트 푸시와 압축 통신
본 논문에서는 분산 학습을 위한 차등 프라이버시 보장 확률적 그래디언트 푸시(Differentially Private Stochastic Gradient Push)와 압축 통신(Compressed communication)을 결합한 DP‑CSGP를 제안한다.
- · ai
[Paper] 재현 및 분석: Denoising Language Models for Speech Recognition
Denoising language models (DLMs)는 자동 음성 인식 (ASR)을 위한 전통적인 language models (LMs)의 강력한 대안으로 제안되었습니다, motiv…
- · ai
오버스무딩의 숨겨진 함정: 과도함을 방지하는 방법
Over‑Smoothing이란 무엇인가? Over‑smoothing은 모델이 training data에 지나치게 의존하여, 패턴을 학습하기보다 데이터를 “memorizing”하는 현상을 말한다.
- · software
AI를 UI 테스트와 함께 사용하되, 대신에 사용하지 않기
‘Using AI Alongside Your UI Tests, Not Instead of Them’ 표지 이미지 https://media2.dev.to/dynamic/image/width=1000,height=420,fit=cover,gravity=auto,format=au...
- · ai
[Paper] 미세 조정된 LLM 기반 코드 마이그레이션 프레임워크
이 연구는 자동화된 코드베이스 마이그레이션 분야에서 연구 및 실험 검증의 결과를 제시하며, ...