Conversational Agents as Catalysts for Critical Thinking: Challenging Social Influence in Group Decision-making, CHI 2025

Soohwan Lee, Seoyeong Hwang, Dajung Kim, and Kyungho Lee. Conversational Agents as Catalysts for Critical Thinking: Challenging Social Influence in Group Decision-making. ACM CHI Conference on Human Factors in Computing Systems (CHI’25) Late-Breaking Work. https://doi.org/10.1145/3706599.3719792

Statement

Group discussions are important in various fields, including business, education, and healthcare, as they facilitate collaboration and informed decision-making. But sometimes, not everyone’s voice is heard. In groups where some individuals have more power than others, those with less power may remain quiet or agree with the majority to avoid conflict. This can lead to poor decisions because the group misses out on different ideas and opinions. This study investigates whether artificial intelligence (AI)—specifically, a chatbot designed to serve as a “devil’s advocate”—can assist in resolving this issue. The chatbot joins group discussions and politely challenges the majority’s opinion, encouraging people to think more deeply and consider different viewpoints. The researchers tested this idea with small groups that included both “senior” members (with more power) and “junior” members (with less power). The authors wanted to determine whether the AI made people feel safer speaking up, improved the group’s decision satisfaction, and assessed the mental effort required. The goal was to determine if AI could facilitate more fair and balanced group decisions. This research demonstrates how smart technology can facilitate more open and thoughtful group discussions, particularly in situations where power dynamics are present.

그룹 토론은 비즈니스, 교육, 의료 등 다양한 분야에서 중요한 역할을 합니다. 사람들은 토론을 통해 협업하고 더 나은 결정을 내릴 수 있기 때문입니다. 그러나 현실에서는 모든 사람이 자신의 의견을 자유롭게 표현하지 못하는 경우가 많습니다. 특히 일부 구성원이 더 많은 권한이나 지위를 가지고 있을 때, 권력이 적은 사람들은 충돌을 피하기 위해 침묵하거나 다수 의견에 마지못해 동의하는 일이 발생하곤 합니다. 이런 상황은 다양한 아이디어와 의견이 반영되지 않아, 오히려 잘못된 결정을 초래할 수 있습니다. 이 연구는 이러한 문제를 해결하기 위해 인공지능(AI), 특히 ‘데빌스 애드보킷(devil’s advocate)’ 역할을 하는 챗봇이 도움이 될 수 있는지를 탐구합니다. 이 챗봇은 그룹 토론에 참여해 정중하게 다수 의견에 반론을 제기함으로써, 사람들로 하여금 더 깊이 생각하고 다양한 관점을 고려하도록 유도합니다. 연구진은 상급자(더 많은 권한을 가진 구성원)와 하급자(권한이 적은 구성원)가 함께 참여한 소규모 그룹을 대상으로 이 아이디어를 실험했습니다. AI 챗봇이 참여함으로써 사람들이 의견을 말하는 데 더 안전하다고 느끼는지, 그룹 결정에 대한 만족도가 높아졌는지, 그리고 얼마나 많은 인지적 노력이 들었는지를 측정했습니다. 이 연구는 특히 권력 구조가 존재하는 그룹 내에서 AI가 보다 공정하고 균형 잡힌 의사결정을 이끌어낼 수 있는 가능성을 보여줍니다. 즉, 스마트 기술이 더 개방적이고 사려 깊은 토론을 촉진하는 데 기여할 수 있음을 시사합니다.