OpenAI, 생물학에 최적화된 LLM 제공 시작

Source: Ars Technica

모델 튜닝 및 회의주의

LLM의 아첨과 과도한 열정 경향을 해결하기 위해 OpenAI는 모델을 보다 회의적으로 튜닝했다고 밝혔으며, 이는 모델이 나쁜 약물 표적일 경우 이를 더 잘 알려줄 가능성을 높입니다. GPT‑Rosalind의 “추론”과 “전문가 수준” 능력에 대한 이야기가 많이 나왔습니다. 전자는 복잡하고 다단계인 과정을 수행할 수 있는 능력으로 정의되었고, 후자는 소수의 벤치마크에서 모델이 보인 성능을 기반으로 도출되었습니다.

환각 문제

OpenAI가 다양한 LLM을 괴롭혀 온 환각 문제를 해결했는지는 명확하지 않으며, 이는 시스템이 회사가 결론에 도달하기 위해 취한 단계들을 설명하도록 프롬프트될 때도 발생할 수 있습니다. 과거 경험을 보면, AI가 예상치 못한 연결을 찾아내는 반짝이는 보고와 명백히 잘못된 제안을 내놓는 사례가 혼재할 가능성이 높습니다.

접근 제한 및 배포

현재는 모델이 바이러스의 전염성을 최적화하는 등 해로운 출력을 생성할 가능성에 대한 우려 때문에 접근을 제한하고 있습니다. 현재는 미국 기반 기관만이 OpenAI의 신뢰된 접근 배포 구조에 신청할 수 있으며, 회사는 사용자를 제한할 예정입니다. 보다 제한된 Life Sciences Research Plugin은 일반에 제공될 예정입니다.

다른 과학 중심 LLM과의 비교

다른 여러 기업도 과학 중심 에이전시 LLM을 제공했지만, 이들은 GPT‑Rosalind보다 덜 특화되어 있었으며, GPT‑Rosalind은 생물학에 특화되었습니다. 이 새로운 모델의 효율성에 대한 보고가 나오기 전까지는 이러한 특화가 실제 유용성을 향상시키는지 평가하기 어렵습니다.