2024.08.15 |  vol. 49  |  구독하기  |  지난호보기

  

방어적 UX(Defensive UX)는 사용자와 기계 학습 또는 LLM 기반 제품 간의 상호작용 중에 부정확성이나 환각과 같은 문제가 발생할 수 있음을 인식하는 디자인 전략입니다. 따라서, 이 전략의 목표는 사용자 행동을 유도하고 오용을 방지하며 오류를 원활하게 처리함으로써 이러한 문제를 사전에 예측하고 관리하는 것입니다.

Microsoft의 Human-AI Interaction 가이드라인은 20년 이상의 연구를 토대로 개발되었습니다. Aether, Microsoft Research, Office가 협력하여 이 가이드라인을 만들었으며, CHI 2019 논문 "Guidelines for Human-AI Interaction"에서 설명된 엄격한 4단계 검증 과정을 통해 그 신뢰성을 입증받았습니다.

이 가이드라인을 활용하면 기존 아이디어를 평가하고 새로운 아이디어를 브레인스토밍하며, AI 개발 과정에서 다양한 분야와 협력하는 데 큰 도움이 될 것입니다.

1. 적절한 기대치 설정하기

2. 효율적인 거부 지원하기

3. 명확한 근거 제공하기

4. 익숙함에 기반하기

캐싱은 데이터를 저장해 두었다가 나중에 같은 데이터를 다시 필요로 할 때 더 빠르게 제공할 수 있는 기술입니다. 예를 들어, 인터넷을 사용할 때 자주 방문하는 웹사이트의 정보를 미리 저장해 두면, 웹사이트를 다시 방문할 때 더 빠르게 열리는 것과 비슷합니다.

왜 캐싱이 중요할까요?

빠른 응답 시간: 캐싱된 데이터를 사용하면 동일한 요청에 대해 더 빠르게 응답할 수 있습니다. 예를 들어, 웹사이트가 더 빨리 열리거나, 앱이 더 빨리 작동합니다.

비용 절감: 데이터를 매번 새로 계산하거나 다운로드하는 것보다, 이미 저장된 데이터를 사용하는 것이 더 경제적입니다. 이렇게 하면 시간과 비용이 절약됩니다.

처리 속도 향상: 특히 데이터 처리에 시간이 많이 걸리는 경우, 미리 계산해 두고 저장해 두면 빠르게 결과를 얻을 수 있습니다.

LLM(대형 언어 모델)에서의 캐싱

대형 언어 모델(LLM)을 사용할 때도 캐싱은 매우 유용합니다. 예를 들어, 사용자가 자주 묻는 질문에 대한 답변을 미리 저장해 두면, 같은 질문이 들어왔을 때 빠르게 답변을 제공할 수 있습니다. 이는 사용자에게 더 빠르고 원활한 서비스를 제공하는 데 도움을 줍니다.

1. 사용자가 행동 패턴을 발견하고 인사이트를 엔지니어와 공유해보세요:)

사용자 요청 패턴을 이해하고 이를 엔지니어와 공유하는 것은 매우 중요합니다. 사용자가 어떤 요청을 자주 하는지, 어떤 항목을 반복해서 검색하는지를 파악한 후, 이 정보를 엔지니어와 공유하면 효과적인 캐싱 전략을 설계하는 데 큰 도움이 됩니다.

2. 사용자 경험 측면에서 캐싱의 우선순위와 적용 범위를 설정해주세요:)

1. 사용자 요구 사항과 기대치를 명확히 설정해주세요:)

사용자 조사 및 피드백을 바탕으로 사용자가 기대하는 콘텐츠의 형식과 품질에 대해 명확히 전달하세요. 예를 들어, 사용자가 요청한 정보가 특정 형식을 따르거나 구조적 요구 사항이 있다면, 이러한 정보를 엔지니어와 공유하여 가드레일이 이러한 요구를 충족하도록 합니다. "사용자는 영화 요약을 구조화된 형태로 받기를 원한다"는 점을 강조하세요.

2. 콘텐츠의 안전성과 적절성을 함께 검토해주세요:)

사용자에게 유해하거나 부적절한 콘텐츠가 제공되지 않도록 가드레일을 설정하세요. 예를 들어, 출력이 공격적이거나 부적절한 콘텐츠를 포함하지 않도록 검토해야 합니다. "사용자에게 불쾌감을 주지 않도록 콘텐츠의 안전성을 확인해야 한다"는 점을 강조하여, 엔지니어와 함께 검토 절차를 설정하세요. 

1. 명시적 피드백 활용하기

명시적 피드백은 사용자가 제품에 대해 직접적으로 제공하는 의견으로, LLM 서비스를 개선하는 데 매우 유용합니다. 

피드백 시스템 설계: 사용자에게 명확하고 간단한 방법으로 피드백을 제공할 수 있는 기능을 구현하세요. 예를 들어, ChatGPT에서는 사용자에게 응답에 대해 엄지손가락을 위나 아래로 표시하거나, 응답이 좋지 않을 경우 새로 생성하도록 옵션을 제공합니다. 이러한 기능은 사용자가 편리하게 의견을 제공할 수 있게 해줍니다.

2. 암시적 피드백 활용하기

암시적 피드백은 사용자가 의도적으로 피드백을 제공하지 않더라도, 제품과 상호작용을 통해 자연스럽게 얻는 정보를 말합니다.

성공 지표 설정: 제품의 성공을 측정할 수 있는 지표를 설정하세요. 예를 들어, ChatGPT와 BingChat의 경우, 사용자의 대화 참여도와 대화 길이를 모니터링할 수 있습니다. 대화가 길어지면 참여도가 높다고 해석할 수 있지만, 이는 사용자가 필요한 정보를 얻는 데 시간이 더 걸린다는 의미일 수도 있습니다. 이를 통해 제품의 문제점을 파악하고 개선점을 찾을 수 있습니다.

지난주의 데이터 측면부터, 오늘 다룬 사용자 측면까지 LLM 기반의 인공지능 서비스를 만들 때 어떤 방법들을 참고해 서비스를 만들 수 있을지 다루어보았습니다. 마지막으로 정리보아요!

사용자 측면에서는 주로 방어적인 접근 방식에 중점을 두고 있습니다. 캐싱과 같은 기술은 비용 절감을 위해 활용될 수 있지만, 가드레일과 같은 시스템은 출력 결과물의 품질을 어떻게 보장할지를 결정하는 데 중요한 역할을 합니다. 방어적 UX 설계를 통해 오류를 최소화하고 최상의 사용자 경험을 제공하려고 노력할 수 있으며, 동시에 사용자 피드백을 적극적으로 수집하여 사용자 경험을 지속적으로 개선할 수도 있습니다.

이와 같은 방어적인 전략은 사용자에게 신뢰할 수 있는 서비스와 안정적인 경험을 제공하는 데 필수적입니다. 각 기술과 전략이 여러분의 서비스에 어떻게 적용될 수 있을지 고민하고, 필요에 맞게 적극적으로 활용하여 더 나은 사용자 경험을 구현해보세요.

여러분 오늘 뉴스레터 어떠셨나요?

오늘 뉴스레터에서는 UX 가이드라인, 캐싱, 가드레일, 사용자 피드백 수집과 같은 방법들이 LLM 기반의 인공지능 서비스 개발에서 어떤 역할을 하는지 살펴보았습니다. 또한, 이러한 기술들이 사용자 경험을 개선하고, 시스템의 효율성을 높이며, 신뢰성을 보장하는 데 어떻게 기여하는지를 이해하는 데 중점을 두었습니다. 필요에 따라 인공지능 엔지니어와 효과적으로 협업할 수 있는 꿀팁도 함께 제공하여, 비개발직군에서도 실무에 바로 활용할 수 있는 유용한 정보를 담았습니다.

이 과정에서, 복잡한 기술 개념들이 단순히 이론에 그치지 않고, 실제 서비스 개발에 어떻게 적용될 수 있는지를 고민했습니다. UX 가이드라인을 통해 사용자 경험을 개선하고, 캐싱과 가드레일을 활용하여 시스템 성능과 안전성을 높이며, 사용자 피드백을 수집하여 지속적으로 제품을 개선하는 방법을 제시했습니다.

비개발직군도 이러한 기술적 요소들을 이해하고 활용하면, 엔지니어와의 협업이 훨씬 원활해지고, 더 나은 제품을 만드는 데 기여할 수 있습니다. 기술의 기본 원리를 알고, 이를 실무에 적용하는 방법을 배우면, 제품 개발 과정에서의 기여도가 크게 향상될 수 있습니다.

앞으로도 인공지능 기술을 더 많은 사람들이 쉽게 이해하고 활용할 수 있도록 돕겠습니다. 오늘도 긴 글을 읽어주셔서 감사합니다 💖

데이터 플라이 휠(Data Flywheel)은 비즈니스나 기술 시스템이 점점 더 강력해지는 순환적인 과정을 설명하는 개념입니다. 여기서 "플라이 휠(flywheel)"은 쉽게 멈추지 않는 회전하는 바퀴를 의미합니다. 이 바퀴가 한 번 돌기 시작하면, 계속 돌기 쉽고 점점 더 빨라지게 됩니다.

데이터 플라이 휠을 쉽게 설명하면:

1. 데이터 수집: 고객들이 제품이나 서비스를 사용할 때, 그들이 남기는 데이터(예: 클릭, 구매 기록, 피드백)를 수집합니다.

2. 데이터 분석: 수집된 데이터를 분석하여 고객의 행동과 선호도를 이해합니다.

3. 서비스 개선: 분석 결과를 바탕으로 제품이나 서비스를 개선합니다. 예를 들어, 사용자들이 자주 요구하는 기능을 추가하거나 문제를 해결합니다.

4. 고객 만족 증가: 개선된 제품이나 서비스로 인해 고객들이 더 만족하고 더 많이 사용하게 됩니다.

5. 데이터 수집 확대: 고객들이 더 많이 사용하게 되면서 더 많은 데이터가 수집됩니다. 이 데이터는 또다시 분석에 활용됩니다.

이 과정이 반복되면서, 점점 더 많은 데이터와 인사이트를 얻고, 제품이나 서비스는 계속해서 발전합니다. 그래서 플라이 휠이 점점 더 빨리 돌게 되고, 비즈니스는 더욱 강력해집니다.

예를 들어:

결국, 데이터 플라이 휠은 데이터를 통해 비즈니스를 계속해서 개선하고 성장시키는 순환적인 과정입니다