컴퓨팅과 AI의 핵심 인간 요소

Source: MIT News - AI

2024년 4월 30일, MIT 슈워츠만 컴퓨팅 대학의 컴퓨팅의 사회·윤리적 책임 (SERC) 이니셔티브가 하루 종일 진행되는 연구 심포지엄을 개최했습니다. 이 심포지엄은 인공지능이 세상을 어떻게 바꾸고 있으며 그 사회적 함의는 무엇인지 탐구했습니다.

심포지엄에서는 SERC 최신 시드 그랜트 수혜자들의 연구 발표(대기오염 예측, 책임 있는 컴퓨터 비전 적용 등), AI 정렬 및 교육 분야 AI 패널, 그리고 Cornell University의 컴퓨터·정보 과학 티시 대학 교수이자 박사학위 ’96인 Jon Kleinberg 박사의 기조연설이 진행되었습니다. 또한 포스터 세션이 열려, 학생 연구자들이 1년 동안 SERC Scholars 로 진행한 프로젝트를 전시했습니다.

“MIT에서는 AI와 컴퓨팅이 인류에게 이로운 힘이 될 수 있도록 하는 놀라운 연구가 활발히 진행되고 있습니다. 이렇게 최첨단 작업에 대한 커뮤니티의 큰 관심을 보니 정말 고무적이었습니다.”라고 SERC 공동 부학장 겸 철학 교수이자 MIT 슈워츠만 컴퓨팅 대학과 전기공학·컴퓨터과학부(EECS) 공동 직위를 맡고 있는 Brian Hedden이 말했습니다.

“컴퓨팅과 AI가 사회 전반에 점점 더 깊숙이 스며들면서, SERC의 사명은 윤리적 성찰과 기술적 진보가 함께 나아가도록 하는 것입니다.”라고 SERC 공동 부학장이자 J.C. Penney 경영학 교수인 Nikos Trichakis가 전했습니다. “올해 심포지엄은 MIT 전역에서 진행 중인 다양한 연구를 조명하고, 컴퓨팅의 미래를 형성함에 따라 수반되는 책임에 대해 우리 커뮤니티가 깊이 논의할 수 있는 장을 마련했습니다.”

인간 가치와 AI 정렬 — 그리고 그 가치가 무엇인지

AI 정렬과 도덕적 융합의 과제는 ‘인간 가치’를 매우 강력하고 급변하는 기술에 어떻게 주입할 것인가 하는 윤리적 질문에 있습니다. 어떤 가치와 합리성을 윤리적 프레임워크에 포함시킬지 누가 결정합니까? 사용자의 가치가 기계에 전달될 때 왜곡을 어떻게 고려할 수 있을까요?

이러한 질문들은 EECS 부교수인 Dylan Hadfield‑Menell이 진행한 패널에서 제기되었습니다. 그는 다양한 학문 분야의 연사들을 모아 토론을 이끌었습니다.

Google DeepMind의 철학자이자 연구 과학자인 Iason Gabriel은 판사의 예를 들어 설명했습니다. “판사는 좋은 인성을 가져야 하지만 규칙을 해석해야 합니다. 반드시 역대 최고의 사람일 필요는 없지만, 합리적인 사람이어야 합니다. AI를 완벽하게 모델링하는 것은 적절하지 않으며, AI는 우리가 말하는 대로 행동하면서 우리의 도덕적 가치에 따라 해석하도록 해야 합니다.”

MIT 슈워츠만 컴퓨팅 대학과 EECS를 공동 임용받은 정치학 조교수 Bailey Flanigan은 이를 한 단계 더 확장했습니다. 그녀에게 AI 정렬에서 가장 중요한 문제는 “AI 시스템을 누가, 어떤 기준으로 관리할지에 대한 근본적인 질문을 해결하는 것”이라고 말했습니다.

패널에 함께한 정치학 부교수 Bernado Zacka는 AI의 급속한 확산과 복잡한 제도 설계에 비추어 “우리가 대체하고 있는 시스템에 내재된 지혜가 무엇이며, 왜 그렇게 작동하는지 이해하는 것이 가장 시급한 문제”라고 강조했습니다.

배포 압력이 커질수록 마치 비행 중에 비행기를 직접 만드는 듯한 느낌이 들지만, 패널 전체는 AI 정렬의 향후 방향에 대해 낙관적인 입장을 보이며 인간 요소가 이러한 시스템을 형성하는 데 얼마나 중요한지 강조했습니다.

오프로드 vs. 업리프트

모든 교육 단계의 학생들이 AI를 사용하기 시작하면서, 학문적 정확성과 엄격성을 유지하면서 AI 도구를 윤리적으로 통합할 수 있는 방법에 대한 질문이 떠올랐습니다. AI와 교육에 관한 패널에서 MIT 교수진과 Gemini for Education 디렉터 Marta McAlister는 교실에서 AI가 이미 어떻게 활용되고 있는지, 그리고 교육·교과 목표와 일치하면서 학습을 지원할 수 있는 방안을 논의했습니다.

MIT의 ‘교육·학습·연구에서 AI 활용에 관한 임시 위원회’ 공동 의장인 Eric Klopfer와 Samuel Madden 교수는 AI가 작업을 오프로드하는 데 쓰이는지, 아니면 가르치는 개념을 스캐폴딩하는 데 쓰이는지라는 핵심 딜레마에 초점을 맞췄습니다.

EECS 컴퓨터 과학 학부 책임자이자 MIT 컴퓨팅 대학 저명 교수인 Madden는 학습이 일련의 시도와 실패를 통해 이루어지는 ‘인지적 투쟁’ 과정을 설명했습니다. 그는 “학생들이 벽에 부딪히면 가장 먼저 AI에 물어봅니다. 이는 그 과정에서 뛰어난 성과를 내는 것이 아니라, 평가하고자 하는 기술을 실제로 습득하지 못한 상태”라고 말했습니다. 따라서 강사는 인지적 투쟁을 유지하면서 AI 사용 욕구를 억제할 수 있는 적절한 난이도를 어떻게 제공할지 고민해야 합니다.

Scheller 교사 교육 프로그램 및 Education Arcade 디렉터인 Klopfer는 “핵심 내용 중 일부는 과감히 삭제해야 합니다. 우리는 계속 추가만 할 뿐, 정리하거나 가지치기하지 못하고 있습니다.”라며, 커리큘럼 전체를 검토해 적절히 도전적인 수준을 유지할 것을 제안했습니다.

패널 진행자이자 Teaching Systems Lab 디렉터이자 Comparative Media Studies/Writing 부교수인 Justin Reich는 “청소년들은 AI가 위험하다는 것을 알지만, 그것이 사용을 멈추게 하지는 않는다”고 지적했습니다. 그러나 AI 구현 방식에 대한 논의에 학생들을 초대하고 교사와의 반성적 교류를 강화한다면, 학생들은 도구를 어떻게, 왜 사용할지 스스로 판단할 수 있게 될 것이라고 강조했습니다.

AI 도구와 그 구현은 일률적인 정책으로 다루어서는 안 됩니다. MIT Media Lab 사이보그 심리학 연구팀 책임자이자 아사히 방송 기업 미디어 아트·과학 전임 교수인 Pat Pataranutaporn은 “AI는 하나의 정형화된 것이 아닙니다. 창의성·비판적 사고 등을 촉진하도록 설계되어야 합니다. 우리가 무엇을, 어떻게 측정하느냐는 정답을 맞추는 것이 아니라, 오늘날 학생이 진정으로 무엇을 배우는가에 초점을 맞춰야 합니다.”라고 말했습니다.

인간 추론을 모방하는 것이 실제와 동일하게 좋은가?

체스 그랜드마스터와 영화 레퍼런스를 포함한 슬라이드덱을 활용한 Kleinberg 교수의 기조연설 “AI의 세계 모델과 우리의 세계 모델”은 AI 시스템이 자체 세계 모델과 인간의 세계 모델 사이 불일치로 인해 우리를 실수하게 만든 사례들을 평가했습니다.

Kleinberg은 현대 체스 엔진이 초인적인 수준으로 경쟁할 수 있지만, 인간 파트너와 함께할 때 그 전략이 인간에게 이해되거나 추론될 수 없다는 점을 예시로 들었습니다. 이러한 인간‑엔진 간 전환은 혼란을 초래합니다. 그는 또한 “반지의 제왕”에서 강력한 마법사인 간달프가 위험하고 중요한 퀘스트를 무리한 모험가 집단에게 맡기는 장면을 인용했습니다. 이야기를 아는 사람이라면, 간달프의 지도 없이 남겨진 그들은 일시적인 심각한 혼란에 빠지게 됩니다.

체스 엔진이 차례를 인간 파트너에게 넘길 때, 인간은 엔진이 그동안 따라온 예측적 움직임 패턴을 파악하기 어려워합니다. “인간의 위험은 …” (본문이 여기서 끊깁니다).