ChatGPT에 Trusted Contact 도입

Source: OpenAI Blog

번역할 텍스트를 제공해 주시면 한국어로 번역해 드리겠습니다.

Trusted Contact란?

Trusted Contact은(는) 선택적인 안전 기능으로, 전 세계적으로 18세 이상, 한국에서는 19세 이상 성인이 신뢰할 수 있는 사람(친구, 가족, 혹은 보호자)을 지정할 수 있게 하며, 자동 시스템 및 훈련된 검토자가 사용자가 심각한 안전 우려를 나타내는 방식으로 자해에 대해 논의하고 있다고 판단하면 해당 인물에게 알릴 수 있습니다.

Trusted Contact은 기존 localized helplines [link]와 함께 또 다른 지원 층을 추가하고, parental‑control safety notifications [link]를 기반으로 합니다.

“심리학 연구는 일관되게 사회적 연결이 강력한 보호 요인임을 보여주며, 특히 감정적 고통의 시기에 그렇습니다. 사람들에게 미리 신뢰할 수 있는 사람을 지정하도록 돕고, 그들의 선택과 자율성을 보존함으로써, 가장 필요할 때 현실 세계의 지원에 손을 뻗기 쉽게 만들 수 있습니다.”
— Dr. Arthur Evans, CEO, American Psychological Association

Why Trusted Contact?

• 사회적 연결은 자살 위험을 줄이는 가장 중요한 보호 요인 중 하나입니다 [CDC guidance].
• Trusted Contact는 사용자가 이미 신뢰하는 사람에게 연락하도록 장려합니다.
• 이는 전문가 치료나 위기 서비스를 대체하는 것이 아니라 여러 안전 장치 중 하나입니다.
• ChatGPT는 적절할 경우 여전히 위기 핫라인이나 응급 서비스를 연락하도록 권장합니다.

작동 방식

1. 신뢰할 수 있는 연락처 추가

   • ChatGPT 설정에서 성인 1명(전 세계 18세 이상, 한국은 19세 이상)을 추가합니다.
   • 신뢰할 수 있는 연락처는 역할을 설명하는 초대를 받고 일주일 이내에 수락해야 합니다. 거절하면 다른 성인을 초대할 수 있습니다.

2. 감지 및 알림

   • 자동 모니터링이 심각한 자해 위험을 나타낼 수 있는 대화를 감지하면, ChatGPT는 사용자에게 신뢰할 수 있는 연락처 알림 가능성을 알려주고 대화 시작 문구를 제안합니다.

3. 인간 검토

   • 특별히 교육받은 소규모 검토팀이 상황을 검토합니다.
   • 심각한 안전 문제가 있다고 판단되면, 신뢰할 수 있는 연락처에게 간단한 알림(이메일, 문자, 또는 앱 내) 이 전송됩니다. 알림에는:
     • 일반적인 이유(우려되는 방식으로 논의된 자해)만 명시됩니다.
     • 채팅 내용이나 전사는 포함되지 않으며, 사용자의 프라이버시를 보호합니다.
     • 알림 처리에 대한 전문가 가이드 링크가 제공됩니다 [guidance].

4. 신뢰할 수 있는 연락처 관리

   • 사용자는 설정에서 언제든지 신뢰할 수 있는 연락처를 추가, 편집 또는 삭제할 수 있습니다.
   • 신뢰할 수 있는 연락처는 Help Center 를 통해 스스로 삭제할 수 있습니다.

타이밍

• 알림은 감지 후 1시간 이내에 훈련된 인간에 의해 검토됩니다.
• 심각한 안전 상황은 드물지만, 시스템은 신속한 검토와 대응을 위해 설계되었습니다.

이미지: ChatGPT의 안전 기능 일러스트.

임상의와 안전 전문가가 안내하는

“AI가 가장 크게 약속하는 것 중 하나는 진정한 인간‑대‑인간 연결과 심리적 안전을 촉진할 수 있다는 점입니다. 특히 취약한 순간에 인간의 역량을 강화하는 한 걸음이 되는 ChatGPT의 Trusted Contact 기능에 고무됩니다.”
— Dr. Munmun De Choudhury, Ph.D., 조지아 공대 인터랙티브 컴퓨팅 J. Z. Liang 교수이자 웰‑비잉 및 AI 전문가 위원회 위원

모든 단계에서 안전을 우선시하기

Trusted Contact 외에도, ChatGPT는 민감한 대화를 모든 단계에서 안내하기 위한 안전 장치를 갖추고 있습니다. 우리는 대화에서 표현되는 위험 수준에 따라 시스템이 반응하는 방식을 지속적으로 개선해 왔습니다:

• 현실 세계의 도움 지원 – 민감한 순간에 ChatGPT는 사람들에게 응급 서비스, 위기 핫라인, 정신 건강 전문가, 혹은 신뢰할 수 있는 사람에게 연락하도록 권장할 수 있습니다.
• 신중하게 응답하기 – 우리는 170 명 이상의 정신 건강 전문가와 협력하여(source) ChatGPT가 잠재적인 고통의 징후를 감지하고, 대화를 진정시키며, 적절할 경우 현실 세계의 지원으로 안내하는 능력을 향상시켰습니다.
• 시간을 스스로 관리하도록 돕기 – 일부 상황에서는 장시간 사용 후에 휴식을 취하거나 자리를 떠나도록 제안하여 건강한 기술 사용 습관을 촉진합니다.
• 해로운 요청 거부 – ChatGPT는 자살이나 자기해에 대한 지침 제공을 거부하도록 훈련되었습니다. 사용자가 이러한 정보를 요청하면 시스템은 요청을 거부하고, 보다 안전한 응답으로 전환하며, 지역 위기 자원을 안내합니다.

AI 안전을 지속적으로 진화시키기

Trusted Contact는 어려운 순간에 사람들을 돕는 AI 시스템을 구축하려는 OpenAI의 광범위한 노력의 일부입니다. 우리는 임상의, 연구자, 정책 입안자와 계속 협력하여 사람들이 고통을 겪고 있을 때 AI 시스템이 어떻게 반응하는지를 개선해 나갈 것입니다.

우리의 목표는 AI 시스템이 고립된 존재가 아니라, 사람들을 실제 세계의 돌봄, 관계, 그리고 가장 중요한 자원과 연결하도록 하는 것입니다.

필요할 때 사람들을 돕는 방법에 대해 자세히 알아보기.