model optimization

1주 전 · ai

🧠✂️ Neural Network Lobotomy: LLM에서 7개의 레이어를 제거 — 30% 더 빨라짐

언어 모델에서 외과적 레이어 제거 실험: 나는 TinyLlama 1.1 B 파라미터와 22개의 디코더 레이어를 사용해 레이어를 하나씩 제거하면서 가설을 테스트했다.

#LLM #layer pruning #model optimization #TinyLlama #inference speed #neural networks
2주 전 · ai

파인튜닝 & 모델 최적화: 핵심 트렌드 및 인사이트

개요 인공지능(AI) 및 머신러닝(ML) 분야가 지속적으로 발전함에 따라, 대형 언어 모델(LLM)의 파인튜닝 및 최적화가…

#fine-tuning #model-optimization #LLM #LoRA #QLoRA #quantization #machine-learning #AI
1개월 전 · ai

LLM 인터뷰에서 성공하기 위해 반드시 마스터해야 할 핵심 스킬

LLM 기본에 대한 깊은 이해 고수준 개념을 넘어서는 것이 기대됩니다. 면접관이 자주 파고드는 핵심 주제: - Transformer 아키텍처 self‑...

#large language models #LLM interviews #transformer architecture #fine‑tuning #model optimization #LLM deployment #AI engineering #prompt engineering
1개월 전 · ai

OptiPFair 시리즈 #1: 작은 모델로 미래를 개척하다 — Pere Martra와 함께하는 건축 분석

원래 Principia Agentica에 게재된 OptiPFair Series – Episode 1. Small Language Models(SLM) 최적화에 대한 심층 탐구. AI 경쟁은…

#small language models #model optimization #pruning #bias removal #efficiency #LLM #AI fairness #model compression
1개월 전 · ai

[Paper] 딥페이크 탐지기를 위한 일반화된 설계 선택

딥페이크 탐지 방법의 효과는 핵심 설계보다는 데이터 전처리, 증강과 같은 구현 세부 사항에 더 크게 좌우되는 경우가 많습니다.

#deepfake detection #computer vision #benchmarking #model optimization