TII 的 Falcon H1R 7B 在推理能力上可超越规模高达 7 倍的模型——并且它（大部分）是开源的

Source: VentureBeat

Introduction

在过去的两年里，生成式 AI 的主流思路是“蛮力”路线：如果想要更好的推理能力，就必须使用更大的模型。虽然“小型”模型（参数量低于 100 亿）已经能够进行流畅的对话，但在面对需要多步推理的任务时，它们历来表现不佳，往往会崩溃。