Vals AI와 NextLadder Ventures는 2026년 11월 13일, 저소득층을 위한 가상 금융 상담 상황 256건에서 범용 AI 모델 28개를 시험한 벤치마크 결과를 발표했다. 모델들은 소득이나 가구원 수 같은 기본 정보를 확인하기 전에 조언을 내놓는 경우가 많았다. 성능이 가장 뛰어난 모델도 핵심 고객 정보의 약 5분의 1을 빠뜨렸으며, 대화 10건 중 1건에서는 잘못된 가정에 의존했다. 무료 버전의 ChatGPT와 Gemini는 위기 상황을 다룬 대화의 절반가량에서 중요한 사항을 놓쳤다.
왜 중요한가
저소득층 가정은 널리 쓰이는 챗봇으로부터 불완전하거나 해로운 금융 조언을 받을 수 있다.