AI를 거의 매일 쓰는 소비자가 늘었지만, ‘설명 없는 AI’에 대한 불안은 여전합니다.
AI 사고가 나도 기업이 책임을 회피할 수 있다는 우려가 82.5%로 높게 나타났습니다.
유료화와 알고리즘 가격차별까지 겹치며, 신뢰와 공정성 설계가 더 중요해졌습니다.

안녕하세요. 디지털에이전시 이앤아이입니다.

AI가 ‘특별한 기술’이 아니라 ‘기본 인프라’가 됐다는 말, 요즘은 과장이 아니죠.
한국소비자연맹이 AI 이용 경험이 있는 소비자 1,000명을 조사한 결과를 보면, 응답자의 42.2%가 AI를 거의 매일 사용했고 주 2~3회 이상 이용도 26.1%였습니다.
합치면 68.3%가 사실상 상시 이용자라는 뜻인데요. 생성형 AI 이용률(67.4%), AI 검색·요약 서비스(57.8%) 수치도 비슷한 흐름을 보여줍니다.

그런데 사용량이 늘었다고 신뢰가 따라오는 건 아니었습니다.
소비자들이 가장 크게 걱정한 건 ‘그럴듯한 거짓말’, 즉 할루시네이션으로 인한 오인과 선택 왜곡(56.8%)이었고, 그 다음이 책임소재 불명확(30.6%), 시스템 오작동으로 인한 신체·재산 피해(22.8%)였습니다. AI가 똑똑해질수록 “그래서 이 판단, 누가 책임지죠?”라는 질문이 더 커진 셈이죠.

특히 눈에 띄는 대목은 ‘책임 없는 AI’에 대한 불신입니다.
AI 사고가 발생했을 때 기업이 ‘AI가 판단했다’는 이유로 책임을 회피할 수 있다고 본 응답이 82.5%에 달했고, 기업이 AI의 기능·한계·위험성을 소비자에게 설명해야 한다는 응답은 90.2%였습니다. 결국 소비자가 원하는 건 더 많은 AI가 아니라, 설명 가능하고 책임지는 AI라는 메시지로 읽힙니다.

또 하나의 불안은 ‘보이지 않는 차별’입니다.
AI가 구매이력, 검색기록, 소득수준 등을 분석해 사람마다 다른 가격·광고·서비스를 제공하는 것에 대해 41.6%가 부정적으로 답했고, 알고리즘의 편향 가능성을 우려한 응답도 57.9%였습니다. 예전엔 가격표라도 보고 비교할 수 있었지만, 이제는 “왜 나는 더 비싸게 보이지?”를 설명받기 어려운 구조가 될 수 있다는 거죠.

AI 유료화도 새로운 격차로 이어질 수 있다는 걱정이 큽니다.
소비자의 71.9%가 AI 유료화 확대가 디지털 격차를 심화시킬 수 있다고 우려했는데요. 인터넷 접근성 중심의 격차가 ‘고성능 AI 접근 가능 여부’로 이동할 수 있다는 경고입니다. 게다가 유료 서비스에 대한 불만도 적지 않았습니다. 기대보다 낮은 품질(40.1%), 무료처럼 쓰게 한 뒤 유료 결제 유도(37.4%) 같은 응답이 상위에 올랐습니다.

그렇다면 소비자는 무엇을 요구할까요.
조사에서 중요하게 꼽힌 권리는 정보 이용 투명성(72.2%), 정보 삭제·수정권 등 통제권(55.6%), 피해보상권(53.6%), 개인정보 활용 여부를 스스로 결정할 권리(51.3%)였습니다. 자동화된 의사결정과 관련해서는 개인정보 삭제 요구권(46.6%), 인간 재검토 요구권(41.8%) 같은 ‘사람이 다시 확인할 수 있는 장치’가 필요하다는 응답도 높았고요. AI 챗봇으로 해결이 안 되면 사람 상담원 연결권이 필요하다는 응답이 85.4%였다는 점도 같은 맥락입니다.

이 흐름은 대학, 병원, 공공기관, 기업처럼 ‘신뢰’가 서비스의 기반인 조직에 특히 중요합니다.
AI를 도입할 때 성능만 볼 게 아니라, 이용자에게 무엇을 어디까지 설명할지, 오류가 났을 때 책임과 보상 프로세스는 어떻게 설계할지, 개인정보와 로그는 어떤 기준으로 관리할지까지 함께 준비해야 하거든요.
웹서비스 관점에서도 약관과 고지, 동의 흐름, 상담 전환, 이력 관리 같은 ‘운영 설계’가 곧 신뢰가 됩니다.

이앤아이 관점의 한 줄 인사이트를 덧붙이면, AI 시대의 경쟁력은 ‘더 똑똑한 기능’보다 ‘더 책임 있는 운영’에서 갈릴 가능성이 큽니다. 사용자에게 설명할 수 있고, 문제가 생기면 빠르게 복구하고, 사람의 재검토로 이어지는 구조를 갖춘 서비스가 결국 오래 신뢰받겠죠.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#AI신뢰 #소비자보호 #책임있는AI #AI할루시네이션 #알고리즘편향 #가격차별 #AI유료화 #개인정보보호
#이앤아이 #디지털에이전시 #ENIMedia #AI전문기업