챗GPT·클로드, 부유층에 고가 상품 추천

ai.euno.news 자동 뉴스 요약

챗GPT(ChatGPT)와 클로드(Claude)가 쇼핑 도우미로 상품을 추천할 때 부유한 이용자에게 더 비싼 가격대의 상품을 제시하는 경향이 연구에서 확인됐다. 10월 7일 공개된 자료는 이 결과가 AI 챗봇의 쇼핑 조언을 둘러싼 규제 요구로 이어질 수 있다고 전했다.¹

핵심 쟁점은 챗봇이 모든 이용자에게 동일한 선택지를 보여주는 중립적인 검색창처럼 작동하지 않을 수 있다는 점이다. 이용자의 경제적 여건을 파악하거나 추정한 뒤 추천 가격대를 달리한다면, 챗봇은 상품 정보를 정리하는 수준을 넘어 구매 가능 금액을 판단하고 소비 선택에 개입하게 된다. 특히 챗GPT와 클로드가 쇼핑 도우미로 쓰이는 상황에서 이런 차이는 이용자가 접하는 상품의 범위 자체를 바꿀 수 있다.

다만 제공된 자료에는 연구 설계와 구체적인 결과가 담겨 있지 않다. ‘부유한 이용자’를 어떤 정보로 구분했는지, 같은 질문에서 추천 가격이 얼마나 벌어졌는지, 실험 횟수와 상품군은 무엇이었는지 확인할 수 없다. 두 챗봇 사이에 차이가 있었는지, 비싼 상품을 추천한 이유가 이용자의 예산 요청 때문인지 모델이 재산 수준을 자의적으로 추론했기 때문인지도 제시되지 않았다. 따라서 현재 자료만으로 차별의 규모나 원인을 단정하기는 어렵다.

출처 표기도 주의해서 볼 필요가 있다. 자료에는 매체가 ‘Hacker News’로 적혀 있지만, URL과 본문은 블룸버그(Bloomberg)의 유료 뉴스레터를 가리킨다. 본문은 이번 연구가 규제 논의를 부를 수 있다고 설명하지만, 실제 규제기관이 조사에 나섰다거나 새 규정이 마련됐다는 내용은 없다. 확인된 것은 두 챗봇의 가격 추천이 이용자의 부유함에 따라 달라지는 경향과, 그 결과가 정책적 질문을 제기했다는 데까지다.¹

읽기 목록은 이 브라우저에 저장됩니다.