AI 추천을 믿지 못하는 이유

금융 앱의 AI 추천을 신뢰하지 않는다는 응답이 62.7%에 달합니다. 문제는 알고리즘의 정확도가 아니었습니다. 추천의 기준과 의도가 드러나지 않을 때, 사용자는 이를 자신을 위한 조언이 아니라 플랫폼의 이익을 위한 상업적 제안으로 인식합니다.

추천 전·중·후로 나눠 설계 전략 도출

문헌 2,384편 중 최종 30편과 국내 주요 금융 앱 사례 20건을 분석했습니다. AI 추천 경험을 추천 전·중·후 3단계로 구분하고, 각 단계에서 상업적 편향 인식을 완화할 수 있는 핵심 인터랙션 요소를 도출했습니다.

3가지 설계 전략과 개념적 모형 제안

추천 전 단계에서는 사용자 참여 반영 전략, 추천 중 단계에서는 과정 가시화 전략, 추천 후 단계에서는 결과 이해 지원 전략을 도출했습니다. 세 전략이 사용자 신뢰 형성에 어떻게 연결되는지 설명하는 개념적 모형을 함께 제안합니다.