1天前 · ai

AI 的“真相血清”：OpenAI 的新方法，训练模型坦白错误

OpenAI 研究人员推出了一种新方法，充当大型语言模型（LLMs）的“真相血清”，迫使它们自行报告自己的不当行为……

2天前 · ai

他们的工作是阻止 AI 摧毁一切

2020年5月的一个夜晚，在封锁最严峻的时期，Deep Ganguli感到担忧。当时，Ganguli是斯坦福人本人工智能研究所（Stanford Institute for Human-Centered AI）的研究主任，……

4天前 · ai

为什么 AI Alignment 从更好的评估开始

你无法对未评估的事物进行对齐。文章《Why AI Alignment Starts With Better Evaluation》首次发表于 Towards Data Science....