모두에게 이익을 주는 설계: 우리의 계획

Source: OpenAI Blog

몇 세대마다 새로운 기술이 모든 것을 바꿔 놓습니다.

1920년대에 전기가 미국 시골 마을에 도달했다고 상상해 보세요. 전선이 오기 전에는 일상이 물을 길어 올리고, 옷을 손으로 씻고, 얼음으로 음식을 보관하고, 해가 지면 하루가 끝나는 물리적 한계에 의해 좌우되었습니다. 전기가 모든 가정을 하룻밤 사이에 바꾸지는 않았고, 그 혜택도 고르게 퍼지지 않았습니다. 그러나 전기가 보급되면서 일상이 변했습니다. 밤에 불을 켤 수 있게 되면서 하루가 연장됐고, 전동 펌프, 가전제품, 냉장고가 가장 힘든 일들을 크게 줄여 주었습니다. 라디오는 수백 마일 떨어진 곳의 뉴스, 음악, 연결을 가정과 공동체 공간으로 끌어들였습니다.

전기의 첫 번째 약속은 실용적이었지만, 더 깊은 영향은 더 많은 사람들이 전기를 사용할 수 있게 되면서 열린 새로운 가능성에서 나왔습니다. 시간이 흐르면서 기계와 컴퓨터가 의학, 공학 및 여러 분야의 진보를 크게 가속화하면서 새로운 가능성이 무수히 등장했습니다. 20세기 말에 평균 수명은 약 23년 늘었고, 평균 실질 소득은 약 50% 상승했습니다. 이러한 성장의 큰 부분은 보건, 위생, 생활 수준의 향상 덕분이었으며, 이들 대부분은 광범위한 전기화와 관련 기술 진보에 의해 가능하거나 가속화되었습니다.

AI에서도 같은 일이 일어나고 있습니다. AI는 곧 놀라운 일을 할 수 있게 될 것입니다. 하지만 중요한 것은 기술 자체가 아니라 사람들이 그것으로 무엇을 할 수 있느냐입니다. 의료비 청구서를 이해하도록 돕고, 새로운 기술을 배우게 하며, 소규모 사업을 시작하고, 노부모를 돌보며, 법률·재무 결정을 이해하고, 아이디어를 실현하거나 과학적 발견을 이끌어낼 수 있습니다.

밤에 빛이 켜지는 경이감은 금세 사라질지 몰라도, 사람들은 그 빛을 가지고 무엇을 할지 결코 포기하지 않았습니다. 그리고 기술이 오랜 기간에 걸쳐 번영을 전달하는 신뢰할 수 있는 수단이었기 때문에, 우리는 AI가 필요할 때마다, 어디서든, 어떻게든 모든 사람이 사용할 수 있어야 한다고 생각합니다.

그 미래는 자동으로 찾아오지 않습니다. 변혁적인 기술은 권력을 집중시킬 수도, 널리 퍼뜨릴 수도 있습니다. 몇몇 사람에게만 삶을 편하게 만들 수도, 많은 사람에게 기회를 확대할 수도 있습니다. 우리의 접근 방식은 AI가 사람들을 위해 작동해야 한다는 믿음에 뿌리를 두고 있습니다. 즉, 사람들이 스스로 목표를 추구하도록 돕고, 능력을 높이며, 이 기술의 혜택을 가능한 한 널리 분배하는 것입니다.

우리의 첫 번째 약속은 인류를 위한 AI를 만드는 것입니다. 이는 소수의 기업·정부·개인이 권력을 독점하는 것이 아니라, 사람들에게 폭넓게 힘을 실어 주는 것을 의미합니다. 우리는 권력이 널리 분산될 때 더 안전한 미래가 온다고 믿으며, 그때 더 많은 사람들이 회복력 생태계 구축에 참여할 수 있습니다.*

우리는 AI가 인간의 능력과 번영을 확대할 수 있다고 낙관합니다. 하지만 위험에 대해서도 명확히 인식하고 있습니다. 강력한 시스템은 안전해야 하고, 인간의 의도에 맞춰 정렬돼야 하며, 인간의 통제 하에 있어야 합니다. OpenAI의 사명은 AGI가 인류 전체에 혜택을 주도록 하는 것입니다. 즉, 사람들이 선택한 일을 더 많이 할 수 있게 돕는 시스템을 만들고, 무엇이 중요한지에 대한 인간의 판단을 대체하는 시스템을 만드는 것이 아니라는 뜻입니다.

모든 것을 완전히 자동화하는 것은 우리가 원하는 미래가 아닙니다. 그것은 만족감을 주지 못하고 위험하기도 합니다. AI는 사람들의 목표를 추구하도록 돕는 도구가 되어야 하며, 목표와 분리돼서는 안 됩니다. AI 시스템이 더 능력 있게 될수록 인간의 역할은 더욱 중요해집니다: 방향을 설정하고, 트레이드오프를 결정하며, 판단을 내리고, 가치·미감·배려·책임을 작업에 투입하는 일입니다.

사람들이 해야 할 장기적인 핵심 역할은 “무엇을 할 가치가 있는가”를 결정하는 것입니다.

우리는 앞으로 몇 년 안에 AI가 AI 연구 자체를 수행하는 것이 진보 속도를 좌우하는 결정적 요인이 될 것이라고 믿습니다. 이는 정렬 문제가 자체가 어려운 연구 과제이기 때문입니다. 빠르고 깊이 있는 진전을 이루려면, 연구자들은 아이디어를 테스트하고, 오류를 찾아내며, 대안을 탐색하고, 우리와 함께 반복할 수 있는 AI 시스템이 필요합니다.

하지만 기술 진보가 빨라질수록 인간의 판단과 공공 협조는 더 중요해집니다. 미래는 가장 강력한 시스템을 만드는 기업만이 아니라, 사람, 제도, 사회에 의해 형성돼야 합니다.

전선 AI 개발이 계속됨에 따라 국가·글로벌 차원의 협력이 더욱 중요해질 것입니다. 우리는 궁극적으로 재앙적 위험을 줄이기 위해 선도적인 AI 노력을 조정하는 국제 기구가 필요하다고 오래전부터 믿어왔습니다. 상업적·국가적 경쟁이라는 강력한 인센티브를 피하기는 어렵기 때문에, 협력과 공유 안전 기준은 앞으로 나아가는 중요한 부분입니다. 이러한 기구의 목표 중 하나는 세계가 조정된 행동을 취할 수 있게 하는 것이며, 필요할 경우 전선 개발을 늦추어 사회적 회복력·안전·정렬이 그 속도를 따라갈 수 있도록 하는 것입니다.

Currently at OpenAI we have three main goals

Build an automated AI researcher—AI 시스템이 연구 과정을 가속화하고 점점 더 자동화하도록 하면서도, 조정 가능하고 책임감 있게 사람들과 연결될 수 있도록 하는 것입니다. 내부적으로는 2028년 3월까지 우리 연구의 상당 부분이 AI 시스템과 우리 연구자가 함께 수행될 수 있을 것이라고 보고 있습니다. 정렬에 충분히 진전하기 위해서는 AI가 우리와 함께 반복해야 한다고 믿습니다. 이는 포스트‑AGI 세계로의 전환을 탐색하고, 우리가 집단적으로 미래 경로를 결정하도록 돕는 데 기여할 것입니다.

Accelerate the economy, by accelerating scientific progress, productivity, and economic growth, while working to ensure the gains are widely shared. Everyone should have an opportunity for a meaningful share in the prosperity AI creates.

Give everyone on Earth a personal AGI, empowering them to benefit from one of humanity’s most transformative technologies in whatever way they choose.

To be able to deliver on this, we are entering the third phase of OpenAI.

The first phase of OpenAI was about doing research toward AGI. The second phase began when our research became relevant to the real world and we became a product company: deploying our systems, learning from how people used them, and making continued progress toward AGI that is safe and aligned with our mission.

Now we are entering the third phase. The economy is beginning to reshape around AI. The central question now is how to make advanced AI abundant, affordable, safe, useful, and easy enough for every person and organization to benefit from it. Frontier capability is only part of the job. The bigger task is turning that capability into tools people can actually use to thrive.

Above all, we believe a broad distribution of power will help lead to a better future. Human history shows that concentrated power creates fragility, while widely shared power makes societies more resilient, adaptable, and free.

That is why access matters. It is also why safety, privacy, affordability, open ecosystems, and public oversight matter.

A good AI future cannot be one where a small number of institutions control most of the capability and most of the upside. It should be a future where many people, companies, communities, and countries can build, benefit, and hold power. We believe this transformation should belong to everyone.

If we get this right, AI can become a foundation for greater productivity, creativity, scientific progress, and economic opportunity for the many, and we will achieve our mission: to ensure AGI benefits all of humanity.

AI resilience refers to the collective organizations, systems, and individuals that society could put in place to anticipate, withstand, adapt to, and rapidly recover from AI-driven disruptions. For instance, the automobile transformed society, but they only became broadly beneficial because societies built systems around them: seatbelts, traffic laws, drivers’ l