왜 나는 AI 안전을 위한 물리적 Kill‑Switch 프로토콜을 만들었는가 (오픈 소스)

Source: Dev.to

개요

안녕하세요, 저는 Ahmed M. Abdel‑Maaboud입니다. 여러분 중 많은 분들처럼 저도 AI 안전에 대해 고민하고 있습니다. 하지만 한 가지 문제를 발견했습니다: 우리는 안전을 더 많은 소프트웨어로 해결하려 하고 있습니다. 시스템 아키텍트로서 저는 진정한 안전은 물리적이어야 한다고 믿습니다.

지난 몇 시간 동안(코딩 부분은 훌륭한 AI와 협업하며) AEGIS‑HARDWIRE를 만들었습니다. 이 프로토콜은 하드웨어 로직을 사용해 로봇이 얼마나 “똑똑한” 소프트웨어를 갖추더라도 물리적으로 정지시킬 수 있도록 보장합니다. 아직 초기 단계이며 테스트할 하드웨어 실험실이 없지만, 논리는 모두 GitHub에 공개되어 있어 여러분이 감사하고, 포크하고, 개선할 수 있습니다. 안전 논의를 “클라우드”에서 “회로”로 옮겨봅시다.

여기서 확인하세요