사용자들은 AI가 생성한 언어에 점점 더 많이 노출되고 있으며, 이는 잠재적인 기만 및 커뮤니케이션 위험을 야기한다. 본 연구는 AI가 생성한 언어가 사용자의 진실 판별에 미치는 수사학적(rhetorical) 영향의 측면을 탐구하였다. 우리는 인터뷰를 통해 사용자의 진실 탐지 방법을 이해하고자, 수사적 현존(rhetorical presence)의 3수준과 설득을 위한 수사 요소(persuasive rhetorical elements)의 4가지를 비교하는 사용자 연구를 수행하였다. 연구 결과, 수사 요소의 수가 더 적은 출력은 사용자가 진실과 거짓을 구별하는 데 어려움을 겪게 하는 반면, 수사가 더 많은 출력은 사용자를 거짓 진실로 오도하는 경우가 더 흔한 것으로 나타났다. 사용자의 AI 기대가 진실 판단에 영향을 미쳤으며, 기대에 부합하는 응답은 더 진실하다고 인식되었다. 가벼운 태도의 사람과 유사한 응답은 거짓으로 판단되는 경우가 많았고, 기술적이고 정확한 AI 응답이 선호되었다. 본 연구는 AI 언어의 수사 요소가, 진술의 실제 진실 여부와 무관하게 개인에게 상당한 편향을 유발할 수 있음을 강조한다. 인간- AI 간 커뮤니케이션에서의 투명성을 향상시키기 위해, AI 설계에서 수사 요소를 신중하게 통합하고 기만적인 응답 가능성을 최소화하기 위한 지침 원칙을 마련할 것이 권고된다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.