[Paper] Correct Yourself, Keep My Trust: How Self-Correction and Social Connection Shape Credibility in Social Chatbots
개요
소셜 챗봇이 실수를 할 때(그럴 때도), 그 실수를 어떻게 회복하느냐가 사용자가 다시 신뢰할지를 좌우한다. 소셜 챗봇은 일상 생활에 점점 더 통합되고 있지만, 여전히 설득력 있는 오류 정보를 생성하는 경향이 있다. 사용자와 구축한 사회적 연결은 이러한 실수를 더욱 심각한 결과로 만든다. 우리는 피험자별 실험(N=120)을 진행하여 세 가지 오류 수정 전략을 비교하였다: ① 웹 페이지 리타랙션, ② 동일한 소셜 챗봇에 의한 자체 수정, ③ 전문가 챗봇에 의한 수정. 우리의 결과는 두 가지 주요 결과를 보여준다. 첫째, 세 가지 전략 모두 오류를 동일하게 잘 수정했지만, 오직 자체 수정이 신뢰도를 손상시키지 않고 이루어졌다. 참여자들은 외부에서 제공된 수정으로 오류가 수정된 챗봇보다 자정하는 챗봇을 더 높은 신뢰도와 전문성 평가를 내렸다. 둘째, 사용자와의 소셜 연결 강도(사회적 매력과 자기비공개로 측정)를 belief 변화의 크기를 크게 예측하는 요인으로 발견하였으나, 이는 챗봇이 스스로 수정했을 때만 나타났다. 외부에서 수정을 외주화한 경우 이 연관성은 완전히 사라진다. 이 결과는 소셜 챗봇이 외부에 수정을 외주화하기보다 자체 수정하는 것이 바람직하다는 것을 시사하며, 사회적 연결을 강화하는 투자는 오류 수정 효과를 증폭시키는 기능적 메커니즘이며 단순히 디자인 요소에 그치지 않음을 보여준다. 본 연구는 자체 오류를 효과적으로 해결하면서 장기적인 신뢰성을 유지하는 챗봇 설계의 의미를 논의한다.
주요 기여
이 논문은 다음 분야에서 연구를 제시한다:
- cs.HC
- cs.AI
- cs.CY
방법론
자세한 방법론은 전체 논문을 참고하시기 바랍니다.
실용적 함의
본 연구는 cs.HC 분야의 발전에 기여한다.
저자
- 비스와데프 센
- 이이체 리
논문 정보
- arXiv ID: 2606.19286v1
- 카테고리: cs.HC, cs.AI, cs.CY
- 발행일: 2026년 6월 17일
- PDF: PDF 다운로드