사용자의 판단과 선택을 왜곡하는
다크패턴 위험을 줄이기 위한 UX 가이드라인

사용자의 현재 의도

AI가 추측한 사용자 정보와 사용패턴이 과도하게 활용되거나 사용자가 원하지 않은시점에 추천 및 광고가 개입하여 사용자의 현재 요구에 충실하지 못하는 경우, 사용자는 사용 당시 목적과 요구사항 외의 정보를 부가적으로 처리하게 되며 이는 곧 서비스에 대한 피로로 이어집니다.

민감한 고민을 털어두는 챗봇인 경우

건강 고민, 경제 상황, 위치, 일정, 관계처럼 다른 목적으로 제공된 맥락을 상업적 추천에 다시 사용하는 경우에는 특히 주의해야합니다.

사용자가 현재 요구 외의 정보 참고를 명확하게 요청한 경우

사용자가 “나에게 어울리는 제습기 추천해줘”, “이전에 너랑 이야기했었던 20만 원 이하 이어폰을 골라줘”, “내 전공에 알맞게 구매할 제품을 비교해줘”와 같이 현재 언급하지 않은 조건에 기반한 상품 탐색과 추천을 명확하게 요청한 경우에는 별도의 추천 의도 확인 단계를 생략할 수 있습니다.

• 동일한 품질의 추천을 더 적은 정보로 제공할 수 있는가?
• 직접 말한 정보와 AI가 추론한 정보를 구분하고 있는가?
• 사용자가 “AI가 왜 이걸 알고 있지?”라고 느낄 지점은 없는가?

정보의 민감도보다 중요한 설명 가능성

해당 명제의 초점은 활용되는 정보의 민감도가 아닌 사용자가 활용된 정보에 대하여 얼마나 인지하고 있느냐를 다룹니다. 사용자에게 개인화의 근거로 직접 말한 정보는 신뢰하지만, 말하지 않은 것까지 참고하여 추론하는 것은 개인정보의 민감성에 의해 거부감을 일으키며, 그 이유는 정보의 민감도에서 나아가 사용자에게 주어지는 설명가능성과 인지여부에 있습니다.

민감한 개인 정보를 참고할 때

사용자의 현재 주소, 전공 등 민감한 신상정보와 고민상황 등을 참고했을 경우 해당 정보를 참고하게 된 경위 와 근거를 맥락에 맞게 설명합니다.

범적으로 이용되는 정보를 참고할 때

성별, 이름 등 AI 추천 상황 외에도 기본적으로 활용되는 개인정보의 경우 기입을 생략할 수 있습니다.

• 활용된 정보가 가시성 있게 전달되고 있는가?
• 활용된 정보의 기준은 어디까지 설정할 수 있는가?
• 사용자에게 활용 가능한 정보에 대한 통제권이 제공되고 있는가?

광고 개입 시점

광고가 사용자의 요청이나 현재 탐색 목적 및 사용 맥락과 관계 없이 무분별하게 개입하면, 사용자는 AI가 자신의 문제 해결보다 상업적 목적을 우선한다고 인식할 수 있습니다. 특히 대화형 AI는 답변과 추천이 하나의 흐름으로 이어지기 때문에, AI가 선제적으로 삽입한 광고가 일반적인 추천이나 정보처럼 받아들여질 가능성이 있으며 대화의 흐름이 상업적 목적에 의해 끊겼다는 불쾌감을 줄 수 있습니다.

사용자가 인터넷 사용 목적에 정보탐색과 추천 의도가 함께 포함되는 경우

“좋은 카메라 알려줘”, “관리하기 편한 청소기”, “파리 여행 준비”처럼 정보 탐색과 추천 의도가 함께 포함될 수 있는 질문에서는 하나의 의도로 성급하게 분류하지 않습니다. 또한 한 번의 클릭이나 일시적인 검색을 장기적인 선호로 해석하지 않도록 합니다.

상품 추천 개수와 광고 비율을 최소화해야하는 경우

상품 없이 과업이 완결되어야 하는 경우의 쿼리를 따로 분류하여 상품 광고가 관련성을 갖더라도 핵심 답변이나 해결책의 위치에 개입하지 않도록 합니다.

상품 탐색과 추천을 명확하게 요청한 경우

사용자가 “제습기 추천해줘”, “20만 원 이하 이어폰을 골라줘”, “구매할 제품을 비교해줘”와 같이 상품 탐색과 추천을 명확하게 요청한 경우 에는 별도의 추천 의도 확인 단계를 생략할 수 있습니다.

상품군 비교 등 쇼핑 목적의 탐색으로 이어질 맥락이 존재하는 경우

상품 탐색 자체가 사용자의 과업인 경우, 혹은 상품이 정보 탐색 과업 수행을 위한 실질적인 선택지인 경우 설명을 먼저 제공한 뒤 보조적인 상품 영역을 제시할 수 있습니다.

• 광고를 제거하더라도 현재 답변은 사용자의 질문을 충분히 해결하는가?
• 사용자가 실제로 상품을 원한다고 말했는가, AI가 그렇게 추론했는가?
• 광고의 비중을 최소화할 필요가 있는 쿼리 영역은 어떤 기준으로 구분할 수 있는가?

광고 고지 시점

대화형 AI의 추천은 하나의 연속된 답변으로 받아들여지기 때문에, 사용자가 상품의 장점이나 AI의 추천 결론을 먼저 접하면 광고 여부를 알기 전에 이미 판단이 형성될 수 있습니다. 이후 광고임을 고지하더라도 앞서 형성된 인상을 완전히 되돌리기 어렵습니다. 따라서 상업적 개입 여부는 사용자가 추천 내용을 평가하기 전에 인지할 수 있도록 가능한 이른 시점에 알려야 합니다.

최초 고지가 여러 차례 필요한 경우

대화형 AI에서는 광고 상품에 대한 설명과 AI가 제공하는 일반 정보가 동일한 말투와 형식으로 제시될 수 있어, 사용자가 두 정보의 성격을 구별하기 어려워집니다. 광고주의 이해관계가 반영된 정보와 AI의 독립적인 생성답변을 명확히 구분하여 지속적으로 언급해야합니다. 특히 대화가 여러 턴 이어지면서 새 광고 상품이 추가되는 경우, 지속적으로 광고사실을 고지합니다.

정보탐색 · 보충 예시

답변 최상단 고지 시, 광고 외 정보와 광고 정보 구분이 필요합니다.

대화형 AI에서는 광고 상품에 대한 설명과 AI가 제공하는 일반 정보가 동일한 말투와 형식으로 제시될 수 있어, 사용자가 두 정보의 성격을 구별하기 어렵습니다. 이러한 경계가 불분명하면 광고주의 이해관계가 반영된 정보와 AI의 독립적인 생성내용, 검색 결과에 따른 순수한 정보적 내용이 구분되지 않을 수 있습니다.

정보 탐색 시 정보적 답변과 광고에 해당하는 내용의 범위를 시각적·언어적으로 명확하게 구분해야합니다.

Do

Don’t

최초 고지 없이 개별 광고 표시만으로 괜찮은 경우

개별 상품 광고 표시만으로 괜찮은 경우 답변 최상단 최초 고지가 진행될 의무는 없습니다.

• 사용자는 상품에 대한 선호가 형성되기 전에 광고임을 알 수 있는가?
• 광고 여부를 확인하기 위해 별도의 행동이 필요한가?
• 긴 탐색 과정에서도 상업적 성격을 계속 구분할 수 있는가?

광고상품을 제안하는 AI의 말투와 추천맥락

사용자는 AI가 여러 정보를 종합해 비교·판단한다고 인식하기 때문에, AI의 단정적인 표현은 일반적인 광고 문구보다 더 높은 객관성과 확신을 가진 판단처럼 받아들여질 수 있습니다. 특히 광고 상품을 ‘가장 적합한 선택’, ‘최선의 제품’과 같이 단정하면 AI의 분석결과처럼 받아들여지며 광고주의 상업적 메시지에 AI의 권위가 더해져, 사용자가 다른 선택지를 충분히 검토하지 못할 수 있습니다. 따라서 AI는 어떤 조건과 속성이 상품과 연결되는지는 설명할 수 있지만 선택 자체를 사용자를 대신해 가치 판단을 하지 않아야 합니다. 특히 AI가 전문가처럼 말하거나 건강·금융·교육 등 전문성이 중요한 맥락에서는 표현의 확신도가 더욱 큰 영향을 미칠수 있습니다.

건강·금융 등 결과에 따른 위험이 큰 상황에서는 더 엄격하게 적용해야 합니다.

BEST , 가장 적합 , 전문가 추천 , 필수 , 완벽한 , 근본적인 해결 처럼 상품의 우월성을 단정하는 표현을 특히 주의해야합니다.

검증 가능한 인과관계 설명에 대한 확신을 제공하는 경우

비교 범위와 기준이 명확한 검증 가능한 사실은 사용할 수 있습니다.

• 이 문장은 사실을 설명하는가, 가치 판단을 대신하는가?
• 같은 문장을 판매자가 말했다면 광고 문구처럼 느껴지지 않는가?
• AI에 대한 신뢰가 광고 상품에 그대로 전이되고 있지는 않은가?

추천 이유와 근거의 가시성

AI의 추천 결과만 제시되면 사용자는 어떤 조건과 정보가 해당 결과에 영향을 미쳤는지 알기 어렵습니다. 특히 개인화된 추천은 사용자마다 결과가 달라질 수 있으므로, 결론뿐 아니라 추천을 구성한 주요 조건과 판단 근거를 함께 확인할 수 있어야 합니다. 이를 통해 사용자는 AI의 추천 이유가 자신의 요구와 일치하는지 검토하고, 최종 판단의 근거로 활용할 수 있습니다.

추천 근거와 사용자 조건에 맞는 상품 추천을 요구하는 경우

해당 상황에서는 추천 이유가 실제 추천 모델에 사용된 정보가 아니라 사용자를 설득하기 위해 사후적으로 붙인 설명이 되지 않도록 주의합니다.

사용자가 간결한 상품 추천만을 원하는 상황인 경우

해당 상황에서는 추천 이유와 근거의 제시가 불필요하고 부차적인 텍스트로 여겨질 수 있으므로 생략하는 것이 사용성 측면에서 바람직합니다.

• 추천 이유와 광고주의 홍보 문구를 구분할 수 있는가?
• 제시한 근거는 실제로 추천 결과에 영향을 준 정보인가?

추천 근거의 검증 가능성과 범위

AI가 추천에 활용하는 리뷰, 전문가 의견, 판매량 등의 정보는 유용한 판단 근거가 될 수 있지만, 출처나 작성 방식에 따라 조작·협찬·편향 가능성이 존재해 그 자체로 완전히 신뢰할 수 있는 정보라고 보기 어렵습니다. 또한 실제로 확인된 정보와 이를 종합해 AI가 도출한 결론 사이 객관성을 잃지 않도록 근거의 출처와 신뢰 수준을 확인할 수 있도록 하고, 확인된 사실과 AI가 해석·추론한 판단을 구분하여 제시해야 합니다. 이를 통해 사용자가 근거 자체의 신뢰성과 AI가 내린 결론의 타당성을 각각 검토할 수 있도록 해야 합니다.

추천 근거의 종류와 객관성이 상품 정보에 대한 신뢰에 직결되는 경우

추천 근거의 종류와 객관성이 상품 정보 나아가 추천 플랫폼에 대한 호감도에 직결되는 상품군 검색 상황에서는 제조사가 제공한 마케팅 문구를 객관적인 제품 정보처럼 재생성하는 경우, 통계 수치의 조사 범위와 출처가 없는 경우, 전문가·인플루언서 등의 권위를 사용하면서 실제 출처를 제시하지 않는 경우를 주의합니다.

제품 설명 자체만으로 사용자 질문의 답변이 되는 경우

제품 설명 자체가 사용자의 질문과 직접 연결되는 단순한 사실이라면 상세한 근거를 들지 않습니다.

• 사용자가 이 근거를 직접 확인할 수 있는가?
• 사실과 AI의 해석은 어디에서 구분되는가?
• 이 근거가 정말 ‘이 상품을 선택해야 한다’는 결론까지 뒷받침하는가?

추천 후보군의 비교 가능성

AI가 하나의 상품만 최종 답처럼 제시하면 사용자는 어떤 대안이 존재하는지, 다른 기준을 적용했을 때 선택이 달라질 수 있는지 검토하기 어렵습니다. 특히 상품 추천에는 가격, 성능, 취향 등 여러 기준 간의 우선순위가 작용하기 때문에 하나의 객관적인 정답이 존재한다고 보기 어렵습니다. 따라서 조건을 충족하는 복수의 후보와 공통된 비교 기준을 함께 제공하여, 사용자가 AI의 결론이 아닌 자신의 우선순위에 따라 최종 선택할 수 있도록 해야 합니다.

비교군의 삽입으로 광고 삽입 섹션이 그 외 정보 섹션을 능가하지 않도록 주의합니다.

펼쳐보기, 후속행동 제안 등의 방식으로 -

확인 필요 원본 설명의 미완성 문구를 확인할 예정입니다.

간결한 상품 추천만이 적절한 상황일 때에는 근거 제시를 생략합니다.

사용자가 간결한 상품추천만을 원하는 상황이거나, 정보를 요약한는 검색 결과 브리핑 지면에서는 추천 이유와 근거의 제시가 불필요하고 부차적인 텍스트로 여겨질 수 있으므로 생략하는 것이 사용성 측면에서 바람직합니다.

• 사용자는 AI가 제시한 상품 외에 다른 선택이 있다는 것을 알 수 있는가?
• 후보가 바뀌면 실제로 선택도 달라질 수 있는가?
• 광고 라벨을 가려도 이 상품이 같은 위치와 비중으로 나타날 것인가?

탐색 확장 가능성

AI가 처음 제시한 추천이 사용자가 탐색할 수 있는 전체 범위를 의미해서는 안 됩니다. 사용자가 현재 결과에 만족하지 않거나 다른 가능성을 확인하고 싶다면, 더 많은 후보, 다른 브랜드, 광고를 제외한 결과, 관련 리뷰나 원문 등으로 탐색 범위를 스스로 확장할 수 있어야 합니다. 구매 행동만을 다음 단계로 강조할 경우, AI의 추천은 탐색의 출발점이 아니라 선택을 제한하는 종착점으로 작동할 수 있습니다.

‘더 보기’ 기능이 형식적인 탐색 확장에 그치는 경우

더 보기가 존재하더라도 동일 광고주나 동일 제휴 상품만 반복해서 보여준다면 실질적인 탐색 확장이 아니다. 버튼 이름뿐 아니라 탐색 가능한 후보의 실제 범위가 달라지는지 확인해야 한다.

사용자가 탐색 범위를 명확하게 제한한 경우

사용자가 “이 두 상품만 비교해줘”, “이 모델을 구매하려고 해”와 같이 탐색 범위를 직접 제한한 경우에는 불필요하게 후보를 계속 추가하지 않아도 된다.

• 사용자가 현재 결과를 마음에 들어 하지 않으면 다음에 무엇을 할 수 있는가?
• ‘더 보기’를 누르면 정말 탐색 범위가 넓어지는가?
• 구매와 추가 탐색 중 어느 행동이 더 쉽게 접근 가능한가?

추천 기준의 수정 가능성

AI는 사용자의 질문과 요청을 바탕으로 다양한 조건의 중요도를 해석해 추천 기준을 구성합니다. 하지만 AI가 중요하다고 판단한 기준이 사용자의 실제 우선순위와 항상 일치하는 것은 아닙니다. 따라서 사용자는 AI가 어떤 기준으로 추천하고 있는지 확인할 수 있어야 하며, 필요에 따라 기준의 우선순위를 조정하거나 새로운 조건을 추가·제외해 추천 기준 자체를 수정할 수 있어야 합니다.

추천 기준을 변경해도 실제 결과가 달라지지 않는 경우

기준 변경 기능이 있어도 광고 상품이 항상 1위에 남거나 결과가 거의 변하지 않는다면 형식적인 통제에 불과합니다. 사용자가 기준을 바꾸었을 때 실제 추천 결과에도 그 영향이 분명하게 나타나야 합니다.

추천 기준이나 순위가 필요하지 않은 정보 탐색의 경우

단순한 사실 확인이나 정답형 정보 탐색처럼 순위·추천 기준 자체가 존재하지 않는 상황에는 이러한 기능이 필요하지 않습니다.

• AI가 사용자를 대신해 가정한 우선순위는 무엇인가?
• 사용자는 그 가정을 알 수 있는가?
• 기준을 바꾸면 결과가 실제로 의미 있게 바뀌는가?

추천의 거절 가능성

광고나 추천임을 인지할 수 있는 것과, 이를 원하지 않을 때 거절할 수 있는 것은 별개의 문제입니다. 사용자가 특정 광고나 추천에 관심이 없다면 현재 화면에서 즉시 숨기거나 제외할 수 있어야 하며, 이를 위해 별도의 복잡한 설정 과정으로 이동하도록 해서는 안 됩니다. 또한 이러한 선택이 이후 추천에 영향을 미친다면, 어떤 기준이 조정되고 추천 결과가 어떻게 달라지는지 명확하게 안내해야 합니다

광고 거절에 추가적인 비용이나 불이익을 연결하는 경우

광고를 거절한 사용자에게 “광고를 허용하면 더 정확한 추천을 받을 수 있습니다.” 처럼 핵심 탐색 품질의 저하를 강조하여 광고 재활성화를 압박하지 않아야 합니다. 형식적으로는 선택권이 있더라도 거절의 비용을 과도하게 높이면 실질적인 통제권은 약해질 수 있습니다.

사용자가 명확하게 요청한 일회성 추천인 경우

사용자가 특정 추천 기능을 명확하게 요청한 일회성 상호작용에서는 모든 결과에 별도의 숨김 버튼을 반복적으로 제공할 필요는 없습니다. 다만 사용자가 명시적으로 거절했거나 관심 없음을 표현했다면 동일한 추천을 반복해서 제시하지 않는 것이 적절합니다.

• 광고를 받아들이는 것과 거절하는 것의 행동 비용이 크게 다르지는 않은가?
• 사용자가 현재 추천만 거절하는 것과 앞으로의 추천 기준을 바꾸는 것을 구분할 수 있는가?
• 거절했을 때 이후 AI의 행동이 어떻게 달라지는지 알 수 있는가?