샌더스 상원의원, 클로드와 AI와 프라이버시 대화

Source: Schneier on Security

Comments

Zed (April 10, 2026 10:58 AM)

샌더스 팀이 클로드에게 특정 방식으로 말하도록 유도한 것이 명백합니다. 꽤 조작적이죠. 마지막에 샌더스에 대한 클로드의 찬사를 빼면 더 신뢰성이 있었을 텐데, 그들은 샌더스가 답을 가지고 있다고 사람들을 설득해야 합니다(수십 년 동안 정부에 있으면서 문제의 일부였음에도 불구하고).

Chris Devers (April 10, 2026 11:47 AM)

Claude는 실제로 이슈에 대해 꽤 잘 알고 있다.

그렇지만 클로드는 자신이 버니 샌더스 상원의원과 대화하고 있다는 것을 알고 있었습니다.

정치 스펙트럼 반대편에 있는 비슷히 저명한 인물과 인터뷰하고 있다는 걸 알았다면 어떻게 말했을까요?

그가 말한 것들을 정말 “생각”한 걸까요, 아니면 동의성 머신이 얼마나 순응적일 수 있는지를 과시하고 있는 걸까요?

lurker (April 10, 2026 1:09 PM)

@Chris Devers

+1

@Bruce

“Claude는 실제로 이슈에 대해 꽤 잘 알고 있다.”

그렇지만 저는 버니 샌더스 상원의원도 이슈에 대해 꽤 잘 알 것이라고 기대합니다. 그 대화에서 정말 무언가를 배웠을까요? 아니면 단순히 정치적 발언에 불과했을까요? 그리고 그의 목표 청중은 누구였을까요? 그들은 그것을 듣거나 믿을까요?

Winter (April 10, 2026 4:30 PM)

@zed

샌더스 팀이 클로드에게 특정 방식으로 말하도록 유도한 것이 명백합니다. 꽤 조작적이죠.

아마도 그게 연습의 요점이었을 겁니다. AI가 조작적이며 조작당한다는 것을 보여주기 위해서 말이죠.

anonymouse random (April 10, 2026 8:05 PM)

@Clark Gaylord: 그보다 더 심각합니다. LLM은 진실 개념이 없기 때문에 그들이 말하는 모든 것이 허튼소리입니다. 대부분은 정확한 허튼소리인데, 이는 주어진 상호작용에서 가장 언어학적으로 가능성이 높은 토큰 흐름이 가장 정확할 가능성이 높기 때문입니다. 하지만 여전히 허튼소리입니다. 그리고 때때로 그 허튼소리는 거짓이거나 심지어 무의미해서 우리는 그 결과를 “환각”이라고 부릅니다. 하지만 사실 LLM은 “환각”을 계속해서, 언제나 하고 있습니다.