‘공공에 너무 강력한’ AI 도구 버전, 공개 배포

출처: BBC Technology

대중에게 ‘너무 강력해’ 공개된 AI 도구 버전

22분 전

Kali Hays 기술 기자

Getty Images

회사가 ‘대중에게 공개하기엔 너무 강력하다’고 말한 인공지능(AI) 도구의 한 버전이 이제 대중에게 공개되었습니다.

일부 고위 관계자는 이 도구가 너무 강력해 금융 보안 위험을 초래할 수 있다고 우려했지만, 다른 사람들은 과대광고가 얼마나 섞여 있는지 의문을 제기하고 있습니다.

Anthropic은 화요일에 Fable을 ‘보호 장치와 사용자 제한을 두고’ 출시하겠다고 발표했으며, “이 정도 능력을 가진 모델을 공개하는 것은 위험을 수반한다”고 덧붙였습니다.

“Fable의 능력은 우리가 지금까지 일반에 공개한 어떤 모델보다 뛰어납니다.”라고 말했습니다.

Mythos가 처음 소수 조직에 미리 공개되었을 때, Anthropic은 이 도구가 너무 지능적이어서 컴퓨터 시스템을 악용하거나 해킹할 수 있는 위험이 있다고 밝혔습니다.

캐나다 재무부 장관 François‑Philippe Champagne는 4월에 BBC에 “Mythos에 대한 관심은 어느 정도 정당하다. 왜냐하면 ‘알 수 없는, 알 수 없는 것’이기 때문이다”라고 말했습니다【BBC 기사】.

한편, Anthropic이 미국 국방부가 자사의 AI 도구 사용을 거부한 것에 대해 제기한 【계속 진행 중인 소송】에도 불구하고, 미국 정부 기관들도 【Mythos를 테스트하고 있습니다】.

**  **

회사는 화요일에 약 150개의 조직이 【Mythos 미리 보기 접근 권한을 받았던】이제 Claude Mythos 5에 접근할 수 있게 되었다고 밝혔습니다. 이 버전은 사이버 보안이나 생물학 분야에 대한 제한이 없으며, 조직의 구체적인 사용 목적에 따라 달라집니다.

현재까지 Mythos를 사용한 그룹과 기업은 시스템에서 10,000건이 넘는 중요한 보안 결함을 발견했다고 Anthropic에 보고했습니다.

Anthropic은 업데이트된 접근 권한이 “소수의 사이버 방어자와 인프라 제공업체”에만 제한되었지만, 곧 그 범위가 확대될 것으로 예상된다고 밝혔습니다.

“우리는 보다 넓은 신뢰 접근 프로그램을 통해 Mythos 5에 대한 접근을 확대할 계획입니다.”라고 회사는 말했습니다.

Fable과 Mythos는 본질적으로 동일한 모델이지만, 서로 다른 보호 장치와 접근 수준을 가지고 있습니다. 두 모델 모두 “인간이 내린 명령을 장시간 ‘무인’ 상태로 수행할 수 있다”고 Anthropic은 덧붙였습니다. 이는 이전의 어떤 Claude 모델보다도 긴 시간 동안 가능합니다.

“가속 페달을 밟은 채로 두고 브레이크를 밟을 수 있는 옵션이 필요합니다.”라고 Clark는 말했습니다. “현재 AI 산업은 가속 페달은 있지만 브레이크 페달이 없습니다.”