Anthropic 프로젝트 글래스윙 업데이트

출처: Schneier on Security

4월에 Anthropic은 Project Glasswing을 시작했습니다. 그 아이디어는 기업들이 새로운 모델을 활용해 자체 소프트웨어의 취약점을 찾아내고 수정하도록 하는 것이었습니다. 이는 훌륭한 PR 전략이었고, 수많은 언론 매체가 Anthropic의 주장을 비판 없이 그대로 받아들여 이제는 Mythos가 다른 모델보다 소프트웨어 취약점을 찾는 데 더 뛰어나다는 것이 일반적인 상식이 되었습니다. 하지만 이는 전혀 사실이 아닙니다.

어쨌든 Anthropic은 Project Glasswing 현황 보고서를 발표했습니다. 그 보고서는 소프트웨어에서 많은 취약점을 발견했으며—만세! 그 중 일부는 심각한 위험성을 가지고 있습니다. 하지만 거의 대부분이 아직 패치되지 않았습니다. 이것은 이상합니다. 데이터에 뭔가 수상한 점이 있어 보이지만, 나는 이해하지 못하고 있습니다. Anthropic이 세부 정보를 공개하지 않고 단지 “우리 말을 믿어라”라고만 하는 것이 여기서 큰 문제입니다.