model optimization

1周前 · ai

🧠✂️ 神经网络脑叶切除：从 LLM 中移除 7 层——速度提升 30%

对语言模型进行外科层移除的实验：我使用 TinyLlama 1.1，拥有 1 B 参数、22 个 decoder 层，并开始移除层以测试假设……

#LLM #layer pruning #model optimization #TinyLlama #inference speed #neural networks
2周前 · ai

微调与模型优化：关键趋势与洞察

概述随着人工智能（AI）和机器学习（ML）领域的持续发展，对大型语言模型（LLMs）的微调和优化……

#fine-tuning #model-optimization #LLM #LoRA #QLoRA #quantization #machine-learning #AI
1个月前 · ai

在 LLM 面试中取得成功必须掌握的关键技能

对 LLM 基础的深入理解你需要超越表面的概念。面试官常常深入探讨的关键主题： - Transformer architecture self‑...

#large language models #LLM interviews #transformer architecture #fine‑tuning #model optimization #LLM deployment #AI engineering #prompt engineering
1个月前 · ai

OptiPFair 系列 #1：用小模型锻造未来 — 与 Pere Martra 的架构分析

最初发表于 Principia Agentica《OptiPFair 系列》——第 1 集，对小型语言模型（SLM）优化的深度探索。AI 竞赛已经…

#small language models #model optimization #pruning #bias removal #efficiency #LLM #AI fairness #model compression
1个月前 · ai

RAG vs 微调 vs Prompt Engineering：选择正确 AI 策略的终极指南

TL;DR - Prompt Engineering 能快速且免费地改进模型的行为、结构和语气。- Retrieval‑Augmented Generation（RAG）为模型提供访问……

#RAG #fine-tuning #prompt engineering #LLM #AI strategy #model optimization #knowledge retrieval
1个月前 · ai

[Paper] 深度伪造检测器的通用设计选择

深度伪造检测方法的有效性往往不太取决于其核心设计，而更取决于实现细节，例如数据预处理、增强……

#deepfake detection #computer vision #benchmarking #model optimization