당신은 그것이 어떻게 작동하는지 알 필요가 없습니다 — 그리고 그것이 바로 문제입니다
Source: Dev.to
Introduction
이 글은 AI에 관한 글이 아니다. 왜라는 질문을 전혀 하지 않는 사람들에게 무슨 일이 일어나는지에 대한 글이다.
나는 시위 현장에서 누군가가 인터넷은 인간의 권리여야 한다고 말하는 것을 들었다. 그는 무게가 사천 파운드에 달하는 노트북을 들고, 한 손에 커피, 이어버드를 꽂은 채 열정적이고, 말이 잘 통하며, 확신에 차 있었다. 나는 그에게 인터넷이 실제로 무엇인지 물었다.
그는 페이스북, 유튜브, 친구와 대화하는 것을 설명했다. 나는 “그게 바로 월드 와이드 웹이야. 그럼 인터넷은 뭐지?”라고 말했다. 그는 나를 바라보다가 “월드 와이드 웹이 뭐야?”라고 답했다. 나는 두려워졌다—그가 모른다 해서가 아니라, 한 번도 이해하려고 시도하지 않은 대상을 외치며 말하고 있었기 때문이다.
What the Internet Is
인터넷은 인프라다: 물리적인 케이블, 서버, 라우팅 시스템 등으로, 구축 비용이 수십억 달러에 이른다. 월드 와이드 웹은 그 위에 얹혀 있다. 웹은 승객이고, 인터넷은 도로이다.
이것은 복잡하지 않다. 이해하는 데 약 10분이면 충분하지만, 매일 의존하는 대부분의 사람들은 그 10분을 한 번도 투자하지 않았다.
Design and Dependency
무언가를 사용하고 이해하는 사이의 격차는 가장 위험한 격차 중 하나가 되고 있으며, 우리는 그것을 악의가 아니라 설계에 의해 의도적으로 벌리고 있다.
- 타이어를 한 번도 교체해 본 적 없는 사람을 생각해 보라. 도구는 트렁크에 있다; 차와 함께 제공되지만 그 사람은 시도해 볼 만큼 호기심이 없었다.
- 네가 지금 들고 있는 전화기는 전화기가 아니다. 그것은 가능한 한 마찰 없이 작동하도록 설계된 주의 집중 시스템이다—당신의 이익을 위한 것이 아니다. 마찰은 사고의 조건을 만들고, 사고는 수요의 조건을 만들며, 수요는 비용이 많이 든다.
도구가 쉬울수록 이해할 필요가 적어진다. 이해가 적을수록 의존도가 높아진다. 의존도가 높아질수록 그 도구를 만든 사람들에게 더 유용해진다. 이것은 우연이 아니라 비즈니스 모델이다.
AI and Judgment
나는 기술 리더들이 “이제는 스스로 생각할 필요가 없고, AI가 대신 할 것이다. 연말까지 코딩은 무의미해질 것이다”라고 말하는 것을 들어왔다.
나는 정확히 말하고 싶다. 대형 언어 모델은 인간 텍스트의 패턴을 기반으로 다음 단어를 예측한다—놀라울 정도로 능력은 뛰어나지만, 생각을 하는 것은 아니다. 구분이 중요한 이유는 AI가 당신의 판단을 대체할 것이라고 말하는 사람들이 종종 당신이 그렇게 믿게 함으로써 가장 큰 이익을 얻는 사람들일 가능성이 크기 때문이다.
기술이 불가피하게 포지셔닝될수록, 그 불가피함이 정착된 느낌을 누가 이익을 보는지 급히 물어봐야 한다. 이것은 편집증이 아니라, 기술 세계에서 자유로운 사람이 되기 위한 최소 조건이다.
The Cost of Simplicity
우리가 이해보다 참여를 최적화할 때마다, 제품을 단순화하면서도 마찰이 아니라 주체성을 제거하는 방식으로 만들 때마다, 우리는 그 격차를 넓히고 있다.
불필요한 복잡성을 제거하는 것과 사고의 조건을 제거하는 것은 다르다. 대부분의 우리는 어느 쪽을 하고 있는지 묻는 것을 멈췄다.
진짜 질문은 “이 제품이 작동하나요?”가 아니라 “이 제품이 사용자와 그들의 세계를 질문하는 능력 사이에 어떤 관계를 만들고 있나요?”이다. 현재 만들어지고 있는 대부분의 제품은 그 관계를 한 방향—의존성 쪽으로—답하고 있다.
Conclusion
시위에 있던 남자는 멍청하지 않았다. 그는 이해가 불필요하도록 설계된 시스템의 산물이었다. 우리는 그 시스템을 만들었고, 우리 중 일부는 매일 그것을 유지하고 있다.
그러니 질문은 당신의 사용자가 당신이 만드는 것을 이해하고 있느냐가 아니다. 질문은 당신이 그들에게 이해하도록 원한다면, 그 질문을 한 적이 있느냐이다.
이 글은 의존성, 디지털 리터러시, 그리고 기술 구축자가 공유 리더십에서 요구되는 것에 대한 긴 에세이의 발췌본이다. 전체 에세이는 여기서 확인할 수 있다.