TII의 Falcon H1R 7B는 크기가 7배 큰 모델보다 더 나은 추론을 할 수 있으며, (대부분) 오픈

Source: VentureBeat

Introduction

지난 2년 동안 생성형 AI의 주된 논리는 바로 무차별적인 힘에 의존하는 것이었습니다: 더 나은 추론을 원한다면 더 큰 모델이 필요하다는 것이죠. “소형” 모델(1,000억 파라미터 미만)도 이제는 대화에 능숙해졌지만, 다단계 추론 작업을 요구받을 때는 과거에 흔히 무너지는 모습을 보였습니다.