[퓨처드릴] AI가 동문서답하지 않는 프롬프트 꿀팁 대방출

미래에 할 수 있는 경험을 사전 예약하신 퓨처드릴 구독자, 드릴러 🛠️ 님 안녕하세요! AI Experience (AIX)의 이모저모를 전해드리는 '퓨처드릴'입니다!

퓨처드릴의 첫 발행을 맡은 에디터 쿨냥이🐾 입니다.

오늘은 대화형 AI 서비스를 사용 시 AI가 문서답하지 않는 프롬프트 꿀팁을 대방출합니다. AI에게 어떤 질문도 잘할 수 있게 해 Drill 게요!

바로 인공지능으로 QR을 만든 그림입니다. 직접 QR 코드를 카메라로 체크해 보시면 사이트 이동이 됩니다. 생성형 AI(Generative AI)로 만든 결과물들이 인간이 상상할 수 없는 세계로 안내하고 있습니다.

직장인 760명을 대상으로 한 설문조사에서는 직장인 10명 중 6명 “챗GPT 등 생성형 AI가 내 직무에 영향 미칠 것이라고 응답했습니다. 구글에서는 일상 조언해 주는 AI 개인 생활 코치를 개발 중에 있다고 해요.

생활에서 밀접하게 AI를 활용하기 위해서는 AI와 잘 대화 하는 방법이 필수가 되었습니다. 바로, 프롬프트 엔지니어링 (Prompt Engineering)이라 불리우는 AI와 대화를 할 때 어떤 말을 해야 AI와 더 상호작용이 긴밀하게 할 수 있는지를 연구하는 분야가 주목받고 있습니다.

‘가는 말이 고와야 오는 ChatGPT가 곱다’라는 말이 있을 정도로 우리가 AI에 어떤 말을 해야지 더 잘 이해하고, 내가 원하는 답변을 잘 들을 수 있을 텐데요. 어떻게 하면 AI에게 질문을 잘할 수 있을지 뭐든지 ‘응’하고 답변해 주시는 AI의 세계적 석학 ‘앤드류 응((Andrew Ng) 교수님께 물어보았습니다.

대형 언어 모델 LLM(Large Language Model)에서는 Base LLM과 Instruction-tuned LLM로 나뉘어져요. Base LLM은 텍스트 트레이닝 데이터를 기반으로 다음 단어를 예측하도록 훈련되었고, 인터넷과 여러 출처 기반으로 한 많은 양의 데이터를 통해 훈련 다음에 나올 가능성 가장 높은 단어가 무엇인지 파악하죠.

반면에, 지시 사항에 맞춰 훈련된 Instruction-Tuned LLM은 대량의 텍스트 데이터로 훈련된 기본 LLM에서 시작하여, 지시 사항의 입출력 값을 활용해 더욱 파인 튜닝(fine-tunning)합니다. 그 후 RLHF(Reinforcement Learning from Human Feedback 인간 피드백 기반 강화학습)를 통해 더욱 세밀하게 파인튜닝하며 능력을 향상시키죠. 

하기는 base LLM과 Instructed-tuned LLM이 같은 질문에 대해 어떻게 다른 대답을 할 수 있는지에 대한 예제입니다. 

Principle 1: 명확하고 구체적인 지시를 작성하기

Write clear and specific instructions

여러분의 작업 관련 내용을 모르는 신입 사원에게 지시하듯 명확하고 구체적으로 필요한 결과를 얘기하세요. 그리고 텍스트의 어조를 어떻게 원하는지 명시하는 것도 도움이 됩니다.

일반적으로 긴 프롬프트가 모델에게 더 많은 명확성과 맥락을 제공하며, 이는 실제로 더 상세하고 관련 있는 결과를 이끕니다.

Principle 2: AI 모델에게 생각할 시간을 주세요

Give the model time to “think”

이번 호는 앤드류 응 교수님의 ChatGPT Prompt Engineering for Developers 내용을 중심으로 구성되었어요. 원래 개발자를 위한 강의라 코딩 기반으로 되어 있는 예제를 일반인들도 이해하기 쉬운 형태로 재구성을 했습니다.

대화형 AI에서 필요한 명령어인 프롬프트 엔지니어링의 세계도 계속 진화하고 있어요. 처음에는 직접 질문을 사람들이 만들어서 여러 번 반복하며 최적의 질문을 찾기 위한 시도를 했다면, 질문에 대한 상황적 가이드 템플릿을 제공해 주는 다양한 ChatGPT 플러그인이 질문을 만드는 어려움을 도와주죠. 질문하는 것도 귀찮다고 느껴지는 분들을 위해, 질문이 아닌 목적을 알려주면 그 목적을 달성하기 위해 필요한 단계를 수용하는 AutoGPT와 같은 서비스도 나오고 있습니다. 

ChatGPT 처럼 텍스트 기반의 생성형 AI외에도 이미지, 동영상, VR, AR 등 다양한 매체적 환경 속에서 AI를 콘트롤 할 수 있는 다양한 서비스들이 계속 나오고 있죠. 앞으로 더 편하고 풍부하게 AI를 활용할 미래가 기대됩니다.  

오늘 알게 된 프롬프트 꿀팁을 통해, 여러분이 원하는 대답을 AI가 알아서 척척해주는 AI 활용의 즐거움과 재미를 느껴보시길 바래요! 

AI 모델이 1. 틀리거나 2. 검증되지 않거나 3. 편향된 답변을 마치 사실인 것처럼 제시할 경우 이를 할루시네이션(Hallucinations = 환영)이라고 부릅니다.

대형언어모델(LLM)의 경우 계산이 아니라 다음에 올 글자 혹은 숫자 및 단어가 올 확률을 계산하여 높은 확률의 글자를 배치하기 때문에 그럴듯하게 들리지만 실제로는 사실이 아닌 것을 만들어 낼 수 있습니다.

예를 들어, "Boie의 AeroGlide Ultra Slim Smart 칫솔에 대해 알려주세요"처럼 가상의 제품을 물어보더라도 마치 실제 있는 제품처럼 현실적인 설명을 제공합니다. 이것은 모델의 알려진 약점이고, 적극적으로 개선을 시도하고 있죠.

할루시네이션을 줄이기 위한 방법으로 먼저 모델에게 텍스트에서 관련된 인용구를 찾게 하고, 그 인용구를 사용하여 질문에 답하도록 요청할 수 있습니다. 또한 답변을 원문에서 추적하는 것도 도움이 됩니다.