샘 알트만의 몰러토프 칵테일 사건에 대한 대응
Source: Hacker News
Here is a photo of my family. I love them more than anything.
Images have power, I hope. Normally we try to be pretty private, but in this case I am sharing a photo in the hopes that it might dissuade the next person from throwing a Molotov cocktail at our house, no matter what they think about me.
이미지는 힘이 있다고 생각합니다. 보통 우리는 꽤 사생활을 보호하려고 하지만, 이번 경우에는 사진을 공유함으로써 다음 사람이 우리 집에 불꽃병을 던지는 것을 막을 수 있기를 바라며, 그 사람이 나에 대해 어떻게 생각하든 간에.
The first person did it last night, at 3:45 am. Thankfully it bounced off the house and no one got hurt.
첫 번째 사람은 어젯밤 새벽 3시 45분에 그렇게 했습니다. 다행히 집에 부딪혀 튕겨 나갔고 아무도 다치지 않았습니다.
Words have power too. There was an incendiary article about me a few days ago. Someone said to me yesterday they thought it was coming at a time of great anxiety about AI and that it made things more dangerous for me. I brushed it aside.
말에도 힘이 있습니다. 몇 일 전 나에 대한 선동적인 기사가 있었습니다. 어제 누군가가 나에게 AI에 대한 큰 불안이 커지는 시점에 나온 것이라며, 그것이 나에게 더 위험하게 만든다고 말했습니다. 나는 그것을 털어냈습니다.
Now I am awake in the middle of the night, pissed, and thinking that I have underestimated the power of words and narratives. This seems like as good a time as any to address a few things.
지금 나는 한밤중에 깨어서 화가 나며, 말과 서사의 힘을 과소평가했음을 생각하고 있습니다. 이제 몇 가지를 짚어볼 좋은 시기인 것 같습니다.
First – What I Believe
- Prosperity for everyone – 모든 사람에게 힘을 실어주고 과학과 기술을 발전시키는 것은 나에게 도덕적 의무입니다.
- AI as a transformative tool – AI는 인간의 능력과 잠재력을 확장하는 가장 강력한 도구가 될 것입니다. 이 도구에 대한 수요는 사실상 제한이 없으며, 사람들은 이를 통해 놀라운 일을 해낼 것입니다. 세계는 방대한 양의 AI를 누릴 자격이 있으며, 우리는 그것을 실현하는 방법을 찾아야 합니다.
- Challenges are real – AI에 대한 두려움과 불안은 정당합니다; 우리는 오랜 기간, 어쩌면 인류 역사상 가장 큰 사회 변화를 목격하고 있습니다. 우리는 안전을 제대로 확보해야 하는데, 이는 단순히 모델을 정렬하는 문제를 넘어 새로운 위협에 대비하는 사회 전체의 대응이 시급합니다. 여기에는 더 나은 미래를 향한 어려운 경제 전환을 헤쳐 나가기 위한 새로운 정책도 포함됩니다.
- Democratization of AI – 권력이 지나치게 집중될 수 없습니다. 미래에 대한 통제는 모든 사람과 그들의 기관에 속합니다. AI는 개인에게 힘을 실어줘야 하며, 우리 미래와 새로운 규칙에 대한 결정은 집단적으로 이루어져야 합니다. 소수의 AI 연구소가 우리 미래의 형태에 관한 가장 중대한 결정을 내리는 것은 옳지 않습니다.
- Adaptability is critical – 우리는 모두 새로운 것을 매우 빠르게 배우고 있습니다; 우리의 믿음 중 일부는 옳고 일부는 틀릴 것이며, 기술이 발전하고 사회가 변화함에 따라 우리는 신속히 생각을 바꿔야 합니다. 아직은 초지능의 영향을 완전히 이해하는 사람은 없지만, 그 영향은 거대할 것입니다.
두 번째 – 개인적인 성찰
- 저는 일론이 OpenAI에 대해 원했던 일방적인 통제에 동의하지 않음으로써 입장을 굽히지 않은 것을 자랑스럽게 생각합니다. 그때 우리가 걸어간 좁은 길이 OpenAI의 지속적인 존재와 그 뒤에 이어진 모든 성과를 가능하게 했습니다.
- 저는 갈등을 회피한 것에 자부심을 느끼지 못합니다, 이는 저와 OpenAI 모두에게 큰 고통을 초래했습니다. 이전 이사회와의 갈등을 잘못 다루어 회사에 큰 혼란을 야기했습니다.
- OpenAI의 미친 듯한 궤적 속에서 또 다른 많은 실수를 저질렀습니다; 저는 매우 복잡한 상황에 처한 결점이 있는 사람으로, 매년 조금씩 나아지려 노력하며 언제나 사명을 위해 일하고 있습니다.
- 우리는 AI의 이해관계가 얼마나 거대한지, 그리고 선의의 사람들 사이의 개인적인 의견 차이가 크게 증폭될 것임을 알고 시작했습니다. 이러한 쓰라린 갈등을 겪으며 종종 중재해야 했던 것은 큰 대가를 치렀습니다. 제가 상처 입힌 사람들에게 사과드리며, 더 빨리 배웠더라면 좋았을 것이라고 생각합니다.
- OpenAI는 이제 초창기 스타트업이 아닌 주요 플랫폼이며, 우리는 보다 예측 가능한 방식으로 운영해야 합니다. 지난 몇 년은 매우 격렬하고 혼란스러우며 고압적이었습니다.
- 자부심: 우리는 시작할 때는 믿기 어려웠던 사명을 실현하고 있습니다. 모든 역경을 딛고 매우 강력한 AI를 구축했으며, 이를 제공할 인프라를 만들 충분한 자본을 모았고, OpenAI를 제품 회사로 전환했으며, 대규모로 비교적 안전하고 견고한 서비스를 제공하고 있습니다.
- 많은 기업이 세상을 바꾸겠다고 말하지만, 우리는 실제로 그렇게 했습니다.
제3부 – 산업에 대한 생각
제가 지난 몇 년 동안 얻은 개인적인 교훈과 우리 분야 기업들 사이에 셰익스피어식 드라마가 많이 일어난 이유에 대한 제 견해는 다음과 같습니다: “AGI를 한 번 보면 눈을 뗄 수 없다.” 이것은 사람들을 미친 짓을 하게 만드는 실제 “권력의 반지” 역학을 만들어냅니다. 저는 AGI 자체가 반지라는 뜻이 아니라, “AGI를 통제하는 사람” 이 되고자 하는 전체주의적 철학을 말합니다.
제가 볼 수 있는 유일한 해결책은 기술을 널리 공유하도록 방향을 잡아 누구도 반지를 독점하지 않게 하는 것입니다. 이를 위한 두 가지 명백한 방법은 다음과 같습니다:
- 개인 역량 강화 – 사람들이 AI를 책임감 있게 사용할 수 있도록 도구와 지식을 제공한다.
- 민주적 통제 – 민주 시스템이 주도권을 유지하도록 보장한다.
민주적 절차가 어느 한 기업보다 더 강력하게 유지되는 것이 중요합니다. 법과 규범은 변할 것이지만, 우리는 다소 혼란스럽고 우리가 원하는 것보다 느리더라도 민주적 절차 안에서 일해야 합니다. 우리는 목소리와 이해관계자를 원하지만, 모든 권력을 독점하고 싶지는 않습니다.
우리 산업에 대한 많은 비판은 이 기술의 엄청난 위험성에 대한 진심 어린 우려에서 비롯됩니다. 이는 충분히 타당한 것이며, 우리는 선의의 비판과 논의를 환영합니다. 저는 반기술적 감정에 공감하며, 기술이 모든 사람에게 항상 좋은 것만은 아니라는 점을 명확히 인식합니다. 그러나 전반적으로 저는 기술적 진보가 미래를 믿을 수 없을 만큼 더 나은 방향으로 만들 수 있다고 믿습니다.
od, for your family and mine.
우리가 그 논의를 진행하는 동안, 우리는 수사와 전술을 완화하고 비유적으로든 문자 그대로든 가정에서 발생하는 폭발을 더 적게 만들도록 노력해야 합니다.