Signal 리더들, agentic AI가 불안정하고 신뢰할 수 없는 감시 위험이라고 경고

발행: 3주 전 (2026년 1월 14일 오전 03:35 GMT+9)

1 분 소요

Source: Hacker News

Article Details

기사 URL: https://coywolf.com/news/productivity/signal-president-and-vp-warn-agentic-ai-is-insecure-unreliable-and-a-surveillance-nightmare/
댓글 URL: https://news.ycombinator.com/item?id=46605553
점수: 71
댓글: 17

죄송합니다. 번역하려는 텍스트를 직접 제공해 주시면 한국어로 번역해 드리겠습니다.

왜 명시적인 권력 구조가 없을 때 제어 가능성이 붕괴되는가? 대부분의 AI 제어에 관한 논의는 행동—시스템이 출력하는 것, 추론 방식, …

인류 역사의 대부분 동안, 기계가 의식을 가질 수 있다는 가능성은 철학과 상상의 가장자리에서만 존재했습니다. 사상가들은 n...을 논의했습니다.

우리는 AI 안전에 대해 잘못된 질문을 계속하고 있습니다. 우리는 묻습니다: - “모델이 aligned 되어 있나요?” - “윤리를 이해하고 있나요?” - “명령을 따를까요?” 하지만 최근…