1개월 전 · ai

[Paper] LLM Abliteration 방법의 비교 분석: 크로스-아키텍처 평가

대형 언어 모델에서의 Safety alignment mechanisms는 학습된 refusal behavior를 통해 유해한 질의에 대한 응답을 방지하지만, 동일한 메커니즘이 leg...

1개월 전 · ai

[Paper] Large-Language Memorization 중 미국 대법원 사건 분류

대규모 언어 모델(LLMs)은 질문 응답 외의 분류 작업에서 다양한 방식으로 응답하는 것으로 나타났습니다. LLM 응답은 때때로...

1개월 전 · ai

[Paper] 대형 언어 모델을 이용한 이벤트 시퀀스 모델링을 위한 Temporal Tokenization 전략

continuous time을 표현하는 것은 large language models (LLMs)로 temporal event sequences를 모델링할 때 중요한 동시에 충분히 탐구되지 않은 과제입니다. Various strategi...

1개월 전 · ai

[Paper] Nemotron-Cascade: 범용 추론 모델을 위한 연쇄 강화 학습 확장

강화 학습(RL)을 사용하여 범용 추론 모델을 구축하는 것은 도메인 간 이질성이 크게 존재하며, 추론에서의 큰 변동인 inferenc...을 포함합니다.

1개월 전 · ai

[Paper] 텍스트 그라디언트는 자동 프롬프트 최적화를 위한 결함 있는 은유이다

잘 설계된 prompt는 large language models의 성능을 향상시킬 수 있습니다; 자동 prompt 최적화 기술은 수동 작업 없이 성능을 향상시키는 것을 목표로 합니다.

1개월 전 · ai

[Paper] ReFusion: 병렬 자동회귀 디코딩을 갖춘 Diffusion 대형 언어 모델

Autoregressive models (ARMs)은 느린 순차 추론으로 인해 제한됩니다. Masked diffusion models (MDMs)은 병렬적인 대안을 제공하지만, 그들은 crit…에 고통받습니다.

1개월 전 · ai

[Paper] 미세 조정된 LLM 기반 코드 마이그레이션 프레임워크

이 연구는 자동화된 코드베이스 마이그레이션 분야에서 연구 및 실험 검증의 결과를 제시하며, ...

1개월 전 · ai

[Paper] SIGMA: AI 기반 초기 단계 하드웨어용 학습 스택

점점 다양한 AI 가속기가 대규모 학습을 위해 고려되고 있습니다. 그러나 초기 단계 AI 가속기에서 대규모 학습을 가능하게 하는 데는 …

1개월 전 · ai

BiasAwareFeedback: NLP로 텍스트 편향 감지 (미니 연구 프로젝트)

BiasAwareFeedback 표지 이미지: NLP를 활용한 텍스트 편향 감지 미니 연구 프로젝트 https://media2.dev.to/dynamic/image/width=1000,height=420,fit=cover,gra...

1개월 전 · ai

대형 언어 모델 및 Transformer 아키텍처 소개: 계산기와 대화하기

“모든 모델은 틀렸지만, 일부는 유용하다.” — George E. P. Box 개요 Large language models LLMs는 본질적으로 수치 파라미터의 구조화된 집합—...

1개월 전 · ai

[Paper] SUMFORU: 개인화된 구매 결정 지원을 위한 LLM 기반 리뷰 요약 프레임워크

온라인 제품 리뷰는 풍부하지만 잡음이 많은 신호를 포함하고 있어 사용자를 압도하고 효과적인 의사결정을 방해합니다. 기존 LLM-based summarizers는 여전히 일반적이며 ...

1개월 전 · ai

[Paper] 신호에서 턴까지: 모듈형 Speech-to-Speech 파이프라인의 상호작용 마찰

voice-based AI 시스템이 remarkable generative capabilities를 달성했지만, 그들의 상호작용은 종종 대화가 끊어진 느낌을 줍니다. 이 논문은 …