hallucination mitigation

2天前 · ai

Google的“internal RL”如何解锁长时程 AI 代理

谷歌的研究人员开发了一种技术，使 AI 模型更容易学习通常会导致 LLMs 产生幻觉或出现错误的复杂推理任务。

#reinforcement learning #internal RL #large language models #Google AI #reasoning #hallucination mitigation #AI research
1周前 · ai

智能体的工具边界：何时调用工具 + 如何设计工具 I/O（让你的系统不再猜测）

Tool‑Calling — 让你的代理停止猜测！ Anindya Obi https://media2.dev.to/dynamic/image/width=50,height=50,fit=cover,gravity=auto,format=auto/https%3A%2F...

#tool calling #AI agents #prompt engineering #LLM tool integration #hallucination mitigation #agent design #tool I/O standards
2周前 · ai

RAG 是如何工作的...

什么是 Retrieval‑Augmented Generation（RAG）？如果你一直在关注 AI 领域，你一定听说过流行词汇 RAG（Retrieval‑Augmented Generation）。它……

#retrieval-augmented generation #RAG #LLM #hallucination mitigation #open‑book AI #AI retrieval #generative AI
2周前 · ai

第4部分 — 检索即系统

为什么大多数实用的 GenAI 系统是检索中心的——大型语言模型（LLMs）是基于静态数据进行训练的，这导致：- 知识陈旧 - 缺失领域……

#retrieval-augmented generation #RAG #large language models #knowledge retrieval #AI system design #hallucination mitigation #model vs retrieval
1个月前 · ai

如何使用 Synthetic Data 评估 LLM Prompt：一步一步的指南

概述：在生产环境中部署大型语言模型（LLMs）已将软件工程的瓶颈从代码语法转移到数据质量。- In t...

#synthetic data #LLM evaluation #prompt engineering #generative AI #RAG #hallucination mitigation #AI testing
1个月前 · ai

RAG 如何转变 LLM 在真实世界医疗中的能力

大型语言模型（LLMs）改变了世界——但检索增强生成（RAG）才是让它们在真实世界应用中真正有用的关键。为什么RAG是……

#retrieval-augmented generation #RAG #large language models #LLM #healthcare AI #Sanjeevani AI #Ayurvedic AI #hallucination mitigation #domain-specific AI
1个月前 · ai

AI 的“真相血清”：OpenAI 的新方法，训练模型坦白错误

OpenAI 研究人员推出了一种新方法，充当大型语言模型（LLMs）的“真相血清”，迫使它们自行报告自己的不当行为……

#OpenAI #LLM #truth serum #model confessions #AI safety #hallucination mitigation #AI alignment