๊ธฐ๋ณธ RAG๋ถํฐ ์ต์ ๋ชจ๋ํ RAG๊น์ง ๋ชจ๋ ์์ ๋ด drill๊ฒ์ ๋ฏธ๋์ ํ ์ ์๋ ๊ฒฝํ์ ์ฌ์ ์์ฝํ์ ํจ์ฒ๋๋ฆด ๊ตฌ๋
์, ๋๋ฆด๋ฌ ๐ ๏ธ ์ฌ๋ฌ๋ถ ์๋
ํ์ธ์! AI์ UX์ ์์ญ๋ฌ์ญํ ์ ๋ค์ ์์ํ๊ฒ ์๋ ค drill ํจ์ฒ๋๋ฆด ์๋ํฐ ์ญ๐ ์
๋๋ค.
์ค๋์ ํ๊ฐ์ ์ํํ๋ ๋ฐฉ๋ฒ์ผ๋ก ํฐ ์ฃผ๋ชฉ์ ๋ฐ๋ RAG์ ๋ํด ์์ธํ ์์๋ณด๋ ์๊ฐ์ ๊ฐ์ง๋ ค๊ณ ํฉ๋๋ค. ๊ฐ ๊ธฐ์ ์ ๋ํ ์์ธํ ์๊ฐ๋ณด๋ค๋ RAG๊ฐ ์ด๋ค ํจ๋ฌ๋ค์์ผ๋ก ๋ฐ์ ํด ์ค๊ณ ์๋์ง ํฐ ํ์์ ์๊ฐํด ๋๋ฆด๊ฒ์.
RAG์ ์ธ ๊ฐ์ง ๊ธฐ์ ํจ๋ฌ๋ค์์ ๋ํด ์๊ฐํ๊ณ ์ด๋ค ๊ณผ์ ์ผ๋ก ์งํ๋๋์ง, ๊ฐ ํจ๋ฌ๋ค์์ ๋ํ ํ๊ณ์ ๊ณผ ์ฌ๊ธฐ์ ์ป์ ์ ์๋ UX ์ธ์ฌ์ดํธ๊น์ง ๋ชจ๋ ์๋ ค Drill ๊ฒ์~!
๋ชจ๋ follow me ~ ๐
|
|
|
์์ํ๊ธฐ - Turning On the Drill |
|
|
ํ๊ฐ(Hallucination) ์๋ ์ธ๊ณต์ง๋ฅ์ ๋ถ๊ฐ๋ฅํ ๊ฑธ๊น? |
|
|
์ฌ๋ฌ๋ถ ํน์ "์ธ์ข
๋์ ๋งฅ๋ถ ๋์ง ์ฌ๊ฑด"์ ๋ํด ์์๋์? ์ด ์ฌ๊ฑด์ ์ค์ ๋ก ์กด์ฌํ์ง ์์ง๋ง, ChatGPT๊ฐ ์ฒ์ ์ถ์๋์์ ๋ ์ธ๊ณต์ง๋ฅ์ ๊ณต๋ถํ๋ ์ฌ๋๋ค ์ฌ์ด์์ ํฐ ํ์ ๊ฐ ๋์์ต๋๋ค. ์ฌ๋๋ค์ ChatGPT์๊ฒ ์ด ์ฌ๊ฑด์ ๊ดํด ๋ฌผ์ด๋ณด์๊ณ , AI๋ ๋ง์น ์ค์ ๋ก ์์๋ ์ผ์ธ ๊ฒ์ฒ๋ผ ์ ์ ์ค๋ช
์ ํด์ฃผ์์ต๋๋ค. ์ด์ ๋ฐ๋ผ AI์ ํ๊ฐ ๋ฌธ์ ๋ ๋ด์ค์๋ ์๊ฐ๋์๊ณ , ๋ง์ ์ฌ๋๋ค์ ๊ด์ฌ์ ๋๊ฒ ๋์์ต๋๋ค.
์ด ์ฌ๊ฑด์ ๋จ์ํ ๋๋ด์ฒ๋ผ ๋ณด์ผ ์ ์์ง๋ง, AI ๊ธฐ์ ์ ์ค์ํ ํ๊ณ๋ฅผ ๋๋ฌ๋์ต๋๋ค. AI ๋ชจ๋ธ์ด ์๋ชป๋ ์ ๋ณด๋ฅผ ์ฌ์ค์ฒ๋ผ ๋ง๋ค์ด๋ด๋, ์ด๋ฅธ๋ฐ 'ํ๊ฐ(hallucination)' ๋ฌธ์ ๋ ์ฌ์ ํ ์ค์ํ ๊ณผ์ ๋ก ๋จ์์์ต๋๋ค. ๋ง์ ์ฌ๋๋ค์ด ๊ธฐ์ ์ ๋ฐ์ ์ผ๋ก ์ด๋ฌํ ๋ฌธ์ ๋ ๊ณง ํด๊ฒฐ๋ ๊ฒ์ด๋ผ๊ณ ๋๊ดํ์ง๋ง, ์ค์ ๋ก๋ ๊ทธ๋ ์ง ์์์ต๋๋ค.
์ค๋์ "Retrieval-Augmented Generation for Large Language Models: A Survey" ๋
ผ๋ฌธ์ ํตํด ์ง๊ธ๊น์ง RAG๊ฐ ์ด๋ป๊ฒ ๋ฐ์ ํด ์๋์ง ํจ๋ฌ๋ค์์ ์ค์ฌ์ผ๋ก ์์ธํ ์ดํด๋ณด๋ ค๊ณ ํฉ๋๋ค. RAG๋ ๊ฒ์(Retrieval)๊ณผ ์์ฑ(Generation)์ ๊ฒฐํฉํ์ฌ AI์ ์ ๋ณด ์์ฑ ๋ฅ๋ ฅ์ ํฅ์ํ๋ ํ์ ์ ์ธ ๊ธฐ์ ์
๋๋ค. ์ด ์ ๊ทผ ๋ฐฉ์์ AI๊ฐ ๋จ์ํ ํ์ต๋ ๋ฐ์ดํฐ์ ์์กดํ๋ ๊ฒ์ด ์๋๋ผ, ์ธ๋ถ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ ๋ฌธ์์์ ์ง์ ์ ๋ณด๋ฅผ ๊ฒ์ํ์ฌ ๋ ์ ํํ๊ณ ํ๋ถํ ์๋ต์ ์์ฑํ ์ ์๋๋ก ํฉ๋๋ค.
์๋์ ๊ธ๋ค์ ํตํด ๊ธฐ๋ณธ RAG๋ถํฐ ๋ชจ๋ํ RAG๊น์ง ํจ๊ป ์์๋ณด์์~! |
|
|
RAG์ ๊ธฐ๋ณธ๊ฐ๋
๊ณผ ์ญ์ฌ๋ถํฐ ํบ์๋ณด๊ธฐ
|
|
|
1. RAG์ ๊ธฐ๋ณธ ๊ฐ๋
๊ณผ ๊ตฌ์ฑ ์์ |
|
|
RAG(Retrieval-Augmented Generation)๋ ๋ํ ์ธ์ด ๋ชจ๋ธ์ ์ ๋ณด ์์ฑ ๋ฅ๋ ฅ์ ํฅ์์ํค๊ธฐ ์ํด ๊ฒ์๊ณผ ์์ฑ์ ๊ฒฐํฉํ๋ ๊ธฐ์ ์
๋๋ค. ์ด ์ ๊ทผ ๋ฐฉ์์ ๋ชจ๋ธ์ด ๋จ์ํ ํ์ต๋ ๋ฐ์ดํฐ์ ์์กดํ๋ ๊ฒ์ด ์๋๋ผ, ์ธ๋ถ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ ๋ฌธ์์์ ์ง์ ๊ด๋ จ ์ ๋ณด๋ฅผ ๊ฒ์ํ์ฌ ์๋ต์ ์์ฑํ ์ ์๊ฒ ํฉ๋๋ค. ๊ธฐ๋ณธ RAG๋ ํ๋กฌํํธ๋ฅผ ํตํด ๊ฒ์๋ ์ ๋ณด๋ฅผ ํ์ฉํ๋ ์ด๊ธฐ ํํ๋ก ์์ํ์ผ๋ฉฐ, ๊ณ ๊ธ RAG๋ก ๋ฐ์ ํ๋ฉด์ ํ์ด๋ธ๋ฆฌ๋ ๊ฒ์, ์ฌ๊ท์ ๊ฒ์, ์๋ธ์ฟผ๋ฆฌ ๋ฑ์ ๊ธฐ์ ์ ๋์
ํด ์ ๋ณด์ ์ ํ์ฑ๊ณผ ๊ด๋ จ์ฑ์ ๋์์ต๋๋ค. ๋ํ, ๋ฐ์ดํฐ ์ธ๋ฑ์ฑ ์ต์ ํ, ์ฌ์์ํ, ํ๋กฌํํธ ์์ถ ๋ฑ ๋ค์ํ ์ต์ ํ ๊ธฐ๋ฒ์ ํตํด AI์ ํ๊ฐ ๋ฌธ์ ๋ฅผ ์ค์ด๊ณ , ๋ชจ๋ ๊ฐ ์ํธ์์ฉ์ ๊ฐํํ์ฌ ๋ณด๋ค ์ ๊ตํ๊ณ ์ ํํ ์ ๋ณด ์ ๊ณต์ ๊ฐ๋ฅํ๊ฒ ํ์ต๋๋ค. |
|
|
ํต์ฌ ๊ตฌ์ฑ ์์ 1 : ๊ฒ์ (Retrieval) |
|
|
๊ฒ์์ ์ธ๊ณต์ง๋ฅ์ด ์ธ๋ถ์ ์ง์์ ํ์ฉํ์ฌ ์ฌ์ฉ์์ ์ง๋ฌธ์ ์ฒ๋ฆฌํ๋ ๊ณผ์ ์
๋๋ค. ์ฌ์ฉ์์ ์ง๋ฌธ(์: "How to do X?")์ ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ํตํด ์ซ์๋ก ๋ณํํ์ฌ ์ปดํจํฐ๊ฐ ์ดํดํ ์ ์๋ ํํ๋ก ๋ง๋ญ๋๋ค. ์ดํ, ์ด ๋ณํ๋ ์ง๋ฌธ์ ๋ฒกํฐ ๋ฐ์ดํฐ๋ฒ ์ด์ค์์ ๊ฒ์ํ์ฌ, ์ธ๋ถ ์ง์์ด ๋ด๊ธด ์์ ํ
์คํธ ๋ฉ์ด๋ฆฌ๋ค์ด ์ ์ฅ๋ ๋ฒกํฐ๋ค๊ณผ ๋น๊ตํฉ๋๋ค. ์ด ๊ณผ์ ์์ ์ฌ์ฉ์์ ์ง๋ฌธ๊ณผ ์ํ์ ์ผ๋ก ๋์ ์ ์ฌ๋๋ฅผ ๊ฐ์ง ํ
์คํธ ๋ชจ์์ ์ฌ๋ฌ ๊ฐ ์ฐพ์ ์ ์์ต๋๋ค. ์ด๋ฅผ ํตํด, ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ ์ถ๊ฐ ํ์ต ์์ด๋ ์ธ๋ถ ์ง์์ ํจ๊ณผ์ ์ผ๋ก ํ์ฉํ์ฌ ๋ณด๋ค ์ ํํ ์ ๋ณด๋ฅผ ์ ๊ณตํ ์ ์์ผ๋ฉฐ, ํ๊ฐ ๋ฌธ์ ๋ฅผ ์ค์ผ ์ ์์ต๋๋ค. |
|
|
ํต์ฌ ๊ตฌ์ฑ ์์ 2 : ์์ฑ (Generator) |
|
|
์์ฑ ๋จ๊ณ๋ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ด ๊ฒฐ๊ณผ๋ฅผ ์์ฑํ๋ ๊ณผ์ ์
๋๋ค. ์ด ๋จ๊ณ์์๋ ์ฌ์ฉ์์ ์ง๋ฌธ(์: "How do I do X?")๊ณผ ๊ฒ์ ๋จ๊ณ์์ ์ฐพ์ n๊ฐ์ ๊ด๋ จ ํ
์คํธ ๋ฉ์ด๋ฆฌ๋ค์ ๊ฒฐํฉํ์ฌ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ ์
๋ ฅ์ผ๋ก ์ ๊ณตํฉ๋๋ค. ๋ชจ๋ธ์ ์ด ๊ฒฐํฉ๋ ์ ๋ณด๋ฅผ ๋ฐํ์ผ๋ก ์ต์ข
๋ต๋ณ(์: "X can be done by...")์ ์์ฑํฉ๋๋ค. ์ฆ, ๊ฒ์( Retrieval) ๋จ๊ณ์์ ์ป์ด์ง ์ ๋ณด๋ก ์ง๋ฌธ์ ์ปจํ
์คํธ๋ฅผ ๋ณด๊ฐํ๊ณ , ์ด๋ฅผ ํตํด ์์ฑ( Generation) ๋จ๊ณ์์ ๋์ฑ ์ ํํ๊ณ ๊ด๋ จ์ฑ ๋์ ๋ต๋ณ์ ๋์ถํ๋ ๊ฒ์
๋๋ค. ์ด ๊ณผ์ ์์ ๊ฒ์๋ ๋ด์ฉ์ ๋ชจ๋ธ์ด ๋ต๋ณ์ ์์ฑํ ๋ ์ฐธ์กฐ๋๋ ์ฆ๊ฐ๋ ์ ๋ณด(augmented information)๋ก ํ์ฉ๋์ด, ๋ ํ๋ถํ๊ณ ์ ๋ฐํ ๋ต๋ณ์ ์ ๊ณตํ๊ฒ ๋ฉ๋๋ค. |
|
|
2. Timeline of RAG : RAG๋ ์ด๋ป๊ฒ ๋ฐ์ ๋์ด ์๋๊ฐ?
|
|
|
Rag ์ฐ๊ตฌ ํ์๋ผ์ธ (์ถ์ฒ:arVix)
|
|
|
์์ ์ด๋ฏธ์ง๋ RAG์ ๋ฐ์ ๊ณผ์ ์ ํธ๋ฆฌ ํํ๋ก ๋ณด์ฌ์ค๋๋ค. ์ด ์ด๋ฏธ์ง์์๋ RAG๊ฐ ์ด๋ป๊ฒ ์์๋์๋์ง๋ถํฐ, ์ด ๋
ผ๋ฌธ์ด ๋์ค๊ธฐ ์ ๊น์ง ์ด๋ค ๋ฐฉ๋ฒ๋ค์ด ์ ์๋์๋์ง๋ฅผ ํ๋์ ๋ณผ ์ ์์ต๋๋ค. ํฌ๊ฒ๋ ์ฆ๊ฐ ๊ธฐ๋ฒ์ด ํ์ฉ๋๋ ๋จ๊ณ์, ๊ทธ ์์์ ์ฆ๊ฐ๋๋ ๋ฐ์ดํฐ์ ์ข
๋ฅ๋ก ๊ตฌ๋ถ๋ฉ๋๋ค. ์ด ํธ๋ฆฌ๋ฅผ ํตํด, ์๋ฅผ ๋ค์ด ๋ฏธ์ธ์กฐ์ ์ ํ ๋ ๊ตฌ์กฐํ๋ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ RAG๋ฅผ ์ด๋ป๊ฒ ํจ๊ณผ์ ์ผ๋ก ์ฌ์ฉํ ์ ์์์ง์ ๋ํ ์ฐธ๊ณ ์๋ฃ๋ฅผ ์ฝ๊ฒ ์ฐพ์ ์ ์๊ฒ ์ฃ ? ๐
์ด์ฒ๋ผ ๋ค์ํ ๋ฐฉ๋ฒ์ด ์ ์๋์์ง๋ง, ์ค๋์ ๊ตฌ์ฒด์ ์ธ ๋ฐฉ๋ฒ๋ก ๋ณด๋ค๋ RAG๊ฐ ์ด๋ป๊ฒ ๋ฐ์ ํด ์๋์ง์ ๋ํ ํฐ ๊ทธ๋ฆผ์ ์ดํด๋ณด๊ฒ ์ต๋๋ค. ์ด๋ฏธ์ง๋ฅผ ์ฐธ๊ณ ํ๋ฉด์ RAG์ ๊ธฐ์ ํจ๋ฌ๋ค์์ ์ดํดํด ๋ณด์ธ์. ์๋์์ ์ด๋ฏธ์ง์ ํจ๊ป ์์ธํ ์ค๋ช
ํด ๋๋ฆฌ๊ฒ ์ต๋๋ค! |
|
|
3. Rag์ ๋ํ ์ธ ๊ฐ์ง ๊ธฐ์ ํจ๋ฌ๋ค์ ์๊ฐ |
|
|
Rag ์ฐ๊ตฌ ํ์๋ผ์ธ (์ถ์ฒ:arVix)
|
|
|
RAG๋ ํฌ๊ฒ ๊ธฐ๋ณธ RAG(Naive RAG) -> ๊ณ ๊ธ RAG(Advanced RAG) -> ๋ชจ๋ํ RAG(Modular RAG)๋ก ๋ฐ์ ๋์ด ์์ต๋๋ค. ๊ธฐ๋ณธ RAG๋ ์ง๋ฌธ๊ณผ ๊ด๋ จ ์๋ ์ ๋ณด๋ฅผ ์ถ๊ฐํจ์ผ๋ก์จ ํ๊ฐ์ ์ํํ๋ ๊ธฐ๋ณธ์ ์ธ ๋ฐฉ์์ ์ ์ํฉ๋๋ค. ๋ ๋ฒ์งธ ๊ณ ๊ธ RAG๋ ๊ฒ์ ๋จ๊ณ๋ฅผ ์ฌ์ ๊ฒ์๊ณผ ์ฌํ ๊ฒ์์ผ๋ก ๋๋์ด ๊ฒ์ ๊ธฐ๋ฒ์ ๋ณด์ํ์์ต๋๋ค. ๋ง์ง๋ง ๋ชจ๋ RAG๋ ์ฌ๋ฌ ๊ฐ์ง ๋ชจ๋๋ค์ ๋ค์ํ๊ฒ ์กฐํฉํ๋ ๋ฐฉ์์ผ๋ก ๊ฒ์๊ณผ ์์ฑ์ ๋์ฒดํฉ๋๋ค.
์์ ์ด๋ฏธ์ง๋ฅผ ๋ณด์๊ฒ ๋๋ฉด ๋ชจ๋ธ ์กฐ์ ์ด ์ผ๋ง๋ ํ์ํ์ง? (Low / High) ๊ทธ๋ฆฌ๊ณ ์ธ๋ถ ์ง์์ด ์ผ๋ง๋ ํ์ํ์ง (Low / High), ๋ ๊ฐ์ง ์ถ์ผ๋ก Fine-tuning, ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ทธ๋ฆฌ๊ณ RAG๋ฅผ ๋ฐฐ์นํ์์ต๋๋ค. Fine-tuning์ ๋ชจ๋ธ ์กฐ์ ์ด ๋ง์ด ํ์ํ์ง๋ง, ์ถ๊ฐ์ ์ธ ์ธ๋ถ ์ง์์ ์กฐ๊ธ ํ์ํฉ๋๋ค.. ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๋ชจ๋ธ ์กฐ์ ๊ณผ ์ธ๋ถ ์ง์์ด ๋ชจ๋ ์ ๊ฒ ํ์ํ๋ค๋ ์ ์์ ์ฅ์ ์ด ์๊ตฐ์! ๋ง์ง๋ง์ผ๋ก ์ค๋ ๋ค๋ฃฌ RAG๋ ๋ชจ๋ธ ์กฐ์ ์ ์ ๊ฒ ํ์ํ์ง๋ง, ์ธ๋ถ ์ง์์ ๋ง์ด ํ์ํ๋ค๋ ์ฐจ์ด๊ฐ ์์ต๋๋ค. |
|
|
4. ์ธ๊ฐ์ง ๊ธฐ์ ํจ๋ฌ๋ค์ ์ด๋ฏธ์ง๋ก ์ดํด๋ณด๊ธฐ |
|
|
๊ธฐ๋ณธ RAG๋ถํฐ ๋ชจ๋ํ RAG๊น์ง ์ด๋ป๊ฒ ๊ตฌ์ฑ๋์ด ์๋์ง ์์ ์ด๋ฏธ์ง๋ฅผ ๋ณด์๋ฉด ํ ๋์ ํ์ธํ ์ ์์ต๋๋ค. ๊ณ ๊ธ RAG๋ฅผ ๋ณด์๋ฉด ์ผ์ชฝ์ ๊ธฐ๋ณธ RAG์์ ์ฃผํฉ์์ผ๋ก ์ฌ์ ๊ฒ์๊ณผ ์ฌํ ๊ฒ์์ด ์ถ๊ฐ๋ ๊ฒ์ ํ์ธํ ์ ์์ต๋๋ค. ๋ฐ๋ฉด ์ ์ผ ์ค๋ฅธ์ชฝ์ ๋ชจ๋ RAG๋ฅผ ๋ณด์๋ฉด ๊ธฐ๋ณธ๊ณผ ๊ณ ๊ธ RAG์ ๊ตฌ์กฐ๋ฅผ ์์ ํ ๋ฒ์ด๋ ์ฌ๋ฌ ๊ฐ์ง ๋ชจ๋๋ค๋ก ์ด๋ฃจ์ด์ง ๋ชจ์ต์ ๋ณด์ค ์ ์์ต๋๋ค. ์ด๋ ๊ฒ ๋ชจ๋ํ RAG์์๋ ๊ฐ ๊ธฐ๋ฅ์ ๋ด๋นํ๋ ๋ชจ๋์ ์ฌ๋ฌ ๊ฐ ์กฐํฉํด ๊ฒ์๊ณผ ์์ฑ์ ํฉ๋๋ค. |
|
|
์ฒซ ๋ฒ์งธ ํจ๋ฌ๋ค์ : ๊ธฐ๋ณธ RAG (Naive RAG) |
|
|
๊ธฐ๋ณธ RAG ์ฐ๊ตฌ ํจ๋ฌ๋ค์์ ChatGPT์ ๊ด๋ฒ์ํ ํ์ฉ ์ดํ ์ฃผ๋ชฉ๋ฐ๊ธฐ ์์ํ ์ด๊ธฐ ๋ฐฉ๋ฒ๋ก ์ ๋ํํฉ๋๋ค. ๊ธฐ๋ณธ RAG๋ ์ ํต์ ์ธ ํ๋ก์ธ์ค์ธ ์ธ๋ฑ์ฑ, ๊ฒ์, ์์ฑ์ผ๋ก ์ด๋ฃจ์ด์ง๋๋ค. |
|
|
Naive RAG์ ๊ฒ์-์์ฑ ๊ณผ์ |
|
|
1. ์ธ๋ฑ์ฑ (Indexing) : ์ธ๋ถ ์ง์ ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ ธ์ ๊ฒ์์ด ๊ฐ๋ฅํ๋๋ก ์ค๋นํ๋ ๋จ๊ณ
์๋ณธ ๋ฐ์ดํฐ๋ฅผ ์ ๋ฆฌํ๊ณ ์ถ์ถํ์ฌ ๋ค์ํ ํ์ผ ํ์์ ํ๋ฌธ์ผ๋ก ๋ณํํฉ๋๋ค. ๊ทธ๋ค์ ํ
์คํธ๋ฅผ ๋ ์์ ํฌ๊ธฐ๋ก ๋๋๋๋ค. ์ธ์ด๋ชจ๋ธ์ ํ ๋ฒ์ ์ฒ๋ฆฌํ ์ ์๋ ํ
์คํธ์ ๊ธธ์ด์ ์ ํ์ด ์์ผ๋ฏ๋ก ๊ฐ๋ฅํ ์์ ํ
์คํธ ๋จ์๋ก ๋๋๋ ๊ฒ์ด ์ค์ํฉ๋๋ค. ๋ง์ง๋ง์ผ๋ก ์๊ฒ ๋๋ ํ
์คํธ๋ค์ ์ปดํจํฐ๊ฐ ์ดํดํ ์ ์๋๋ก ๋ฒกํฐ๋ก ๋ณํํฉ๋๋ค. ์ด๋ ๊ฒ ์์ฑ๋ ๋ฒกํฐ๋ค์ด ์ดํ ๊ฒ์ ๊ณผ์ ์์ ์ฌ์ฉ์๊ฐ ์
๋ ฅํ ๋ด์ฉ๊ณผ์ ์ ์ฌ์ฑ์ ๊ณ์ฐํ๋ ๋ฐ ์ฌ์ฉ๋ฉ๋๋ค.
2. ๊ฒ์ (Retrieve) : ์ฌ์ฉ์์ ์
๋ ฅ์ ๋ฌธ์์ ๊ฒ์ํ์ฌ ์ ๋ณด๋ฅผ ๊ฒ์ํ๋ ๋จ๊ณ ์ฌ์ฉ์์ ์
๋ ฅ์ ๊ธฐ๋ฐ์ผ๋ก, ๋ด์ฉ์ ๋ฒกํฐ๋ก ๋ณํํฉ๋๋ค. ์ง๋ฌธ ์๋ฒ ๋ฉ๊ณผ ์์ ์ธ๋ฑ์ฑ ๋จ๊ณ์์ ์๊ฒ ๋๋ ๋ฌธ์ ๋ธ๋ก ์๋ฒ ๋ฉ ๊ฐ์ ์ ์ฌ์ฑ์ ๊ณ์ฐํฉ๋๋ค. ์ ์ฌ์ฑ ์์ค์ ๋ฐ๋ผ ์์ K๊ฐ์ ๋ฌธ์ ๋ธ๋ก์ด ํ์ฌ ์ง๋ฌธ์ ๋ํ ์ฆ๊ฐ๋ ์ปจํ
์คํธ ์ ๋ณด๋ก ์ ํ๋ฉ๋๋ค.
3. ์์ฑ (Generation) : ์ฆ๊ฐ๋ ์ ๋ณด๋ฅผ ์๋ ์ง๋ฌธ๊ณผ ํตํฉํด ๋ต๋ณ์ ์์ฑํ๋ ๋จ๊ณ ์ฃผ์ด์ง ์ง๋ฌธ๊ณผ ๊ด๋ จ ๋ฌธ์(2๋จ๊ณ์์ ์ ํ๋ ์์ n๊ฐ์ ๋ฌธ์ ๋ธ๋ก)๋ค์ ์๋ก์ด ํ๋กฌํํธ๋ก ๊ฒฐํฉ๋ฉ๋๋ค. ์ดํ ๋ํ ์ธ์ด ๋ชจ๋ธ์ ์ ๊ณต๋ ์ ๋ณด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ง๋ฌธ์ ๋ตํ๋ ์๋ฌด๋ฅผ ์ํํฉ๋๋ค. |
|
|
์ ๊ทผ๋ฐฉ์์ ์ข์์ง๋ง ์ฌ์ ํ ํ๊ณ๋ ์์ต๋๋ค. |
|
|
๊ฒ์ ํ์ง : ์ธ๋ถ ๋ฐ์ดํฐ๊ฐ ์์ผ๋ฉด ๋ฌด์กฐ๊ฑด ์ง๋ฌธ๊ณผ ์ ๋ง๋ ๋ด์ฉ์ ์ฐพ์ ์ ์์๊น?
์ฌ์ฉ์๊ฐ ์
๋ ฅํ ๋ด์ฉ๊ณผ ์ธ๋ถ์์ ์ฃผ์ด์ง ์ง์ ์ค ์ด๋ค ๊ฒ๋ ์ผ์นํ์ง ์๋๋ค๋ฉด ์ด๋จ๊น์? ์๋ฌด๋ฆฌ ์ธ๋ถ์ ์ง์์ ํ์ฉํ๋ค๊ณ ํด๋ ์ฌ์ฉ์๊ฐ ์ง๋ฌธํ ๋ด์ฉ๊ณผ ์ฐ๊ด ์๋ ๋ด์ฉ์ด ํ๋๋ ์๋ค๋ฉด ํ๊ฐ์ ํด๊ฒฐ๋์ง ์์ ๊ฒ์
๋๋ค.
์๋ต ์์ฑ ํ์ง : ์ ์๋ฏธํ ์ ๋ณด๋ฅผ ์ถ๊ฐํด์ฃผ๋ฉด ๋ฌด์กฐ๊ฑด ๋ต๋ณ์ด ๋ง์กฑ์ค๋ฌ์ธ๊น?
์ธ๋ถ ์ง์์ด ์๋๋ผ๋ ๋ชจ๋ธ์ด ์ง๋ฌธ์ ์ ์ ํ ๋ต์ ์์ฑํ์ง ๋ชปํ๋ค๋ฉด ์ด๋จ๊น์? ์ธ๋ถ ์ง์์ ์ถฉ๋ถํ ์๊ณ ๊ฒ์๋ ์ ๋์๋๋ฐ ์ง๋ฌธ์ ๋ํ ์ ์ ํ ๋ต์ ์์ฑํ์ง ๋ชปํ๋ค๋ฉด ํ๊ฐ ๋ฌธ์ ๋ ํด๊ฒฐ๋์์ง๋ง, ์ฌ์ฉ์์ ๋ง์กฑ๋๋ ๋์ง ์์ ๊ฒ์
๋๋ค.
์ฆ๊ฐ ๊ณผ์ : ๊ฒ์๋ ๋ด์ฉ์ ๋ฌด์กฐ๊ฑด ์์ฑ ์์
์ ๋์์ด ๋๋๊ฑธ๊น?
์ฌ๋ฌ ๊ฒ์๋ ๋ด์ฉ์ด ์์ฑ ์์
์ ์ผ๋ง๋ ์ค์ํ์ง ๋๋ ๊ด๋ จ์ฑ์ด ์๋์ง๋ฅผ ํ๋จํ๋ ๊ฒ์ด ์ด๋ ค์ฐ๋ฉฐ, ์ฆ๊ฐ ๊ณผ์ ์ ๊ฐ ๊ตฌ์ ์ ๊ฐ์น๋ฅผ ์ ์ ํ ๊ท ํ ์๊ฒ ์กฐ์ ํด์ผ ํฉ๋๋ค. ๊ฒ์๋ ๋ด์ฉ์ด ์๋ก ๋ค๋ฅธ ๋ฌธ์ฒด๋ ํค์์ ์ฌ ์ ์์ผ๋ฉฐ, ์ฆ๊ฐ ๊ณผ์ ์ ์ด๋ฌํ ์ฐจ์ด๋ฅผ ์กฐํ์์ผ ์ถ๋ ฅ์ ์ผ๊ด์ฑ์ ๋ณด์ฅํด์ผ ํฉ๋๋ค.
|
|
|
๐ฅInsight for AI UX
1. ๋ช
ํํ ํผ๋๋ฐฑ๊ณผ ์ฌ์ฉ์ ์๋ด๋ฅผ ์ ๊ณตํ๊ธฐ. ์ฌ์ฉ์์๊ฒ ์์คํ
์ ๋ฐ์ดํฐ์ ์๋ต ์์ฑ ํ๊ณ์ ๋ํด ๋ช
ํํ ์๋ดํ๊ณ , ๋ถํ์ค์ฑ ์ํฉ์์๋ ์ ์ฉํ ์ ๋ณด๋ฅผ ์ ๊ณตํ๋ ํผ๋๋ฐฑ ๋ฉ์ปค๋์ฆ์ ํฌํจ์ํค๋ ๊ฒ์ด ์ค์ํฉ๋๋ค.
2. ํ์ง ๊ฐ์ ์ ์ํ ํผ๋๋ฐฑ ๋ฃจํ๋ฅผ ์ค๊ณํ๊ธฐ. ์๋ต์ ํ์ง์ ์ง์์ ์ผ๋ก ๊ฐ์ ํ๊ธฐ ์ํด ์ฌ์ฉ์ ํผ๋๋ฐฑ์ ํตํฉํ ์ ์๋ ์์คํ
์ ์ค๊ณํด์ผ ํฉ๋๋ค.
|
|
|
๋ ๋ฒ์งธ ํจ๋ฌ๋ค์ : ๊ณ ๊ธ RAG (Advanced RAG) |
|
|
๊ณ ๊ธ RAG๋ ๊ธฐ๋ณธ RAG์ ๋จ์ ์ ๊ทน๋ณตํ๊ธฐ ์ํด ๋์์ต๋๋ค. ๊ฒ์๊ณผ ์์ฑ ํ์ง ์ธก๋ฉด์์, ๊ณ ๊ธ RAG๋ ์ฌ์ ๊ฒ์ ๋ฐ ํ์ ๊ฒ์ ๋ฐฉ๋ฒ์ ์๋ํ์ต๋๋ค. ์๋์ ์ด๋ฏธ์ง๋ฅผ ๋ณด์๊ฒ ๋๋ฉด ๊ธฐ๋ณธ RAG์์ ๊ฒ์ ์ ๊ณผ์ ๊ณผ ๊ฒ์ ํ ๊ณผ์ ์ด ์ถ๊ฐ๋ ๊ฒ์ ๋ณด์ค ์ ์์ต๋๋ค. ์๋ ์ค๋ช
์์ ๊ฒ์ ์ ๊ณผ์ ๊ณผ ๊ฒ์ ํ ๊ณผ์ ์์ ์ด๋ค ๊ฒ๋ค์ด ์ด๋ฃจ์ด์ง๋์ง ์ค๋ช
๋๋ฆด๊ฒ์. |
|
|
๊ณ ๊ธ RAG์ ๊ฒ์-์์ฑ ๊ณผ์ |
|
|
๊ฒ์ ์ ํ๋ก์ธ์ค (Pre-Retrieval Process)
์ฌ์ ๊ฒ์ ๊ณผ์ ์์๋ ๋ฐ์ดํฐ ์ธ๋ฑ์ฑ์ ์ต์ ํํ์ฌ ์ฝํ
์ธ ์ ํ์ง์ ๋์ด๋ ๊ฒ์ด ๋ชฉํ์
๋๋ค. ์ด๋ฅผ ์ํด ํ
์คํธ์ ํ์คํ์ ์ผ๊ด์ฑ์ ํ๋ณดํ๊ณ , ์ฒญํฌ ํฌ๊ธฐ ์กฐ์ ๋ฐ ๊ทธ๋ํ ๊ตฌ์กฐ ๋์
์ผ๋ก ์ธ๋ฑ์ค ๊ตฌ์กฐ๋ฅผ ์ต์ ํํฉ๋๋ค. ๋ํ, ๋ ์ง์ ๋ชฉ์ ๋ฑ์ ๋ฉํ๋ฐ์ดํฐ๋ฅผ ์ถ๊ฐํ์ฌ ๊ฒ์ ํจ์จ์ฑ์ ๋์ด๋ฉฐ, ๋ฌธ์์ ์ง๋ฌธ์ ์ผ์น๋ฅผ ๊ฐ์ ํ๊ธฐ ์ํด ์ ๋ ฌ ์ต์ ํ๋ฅผ ์ค์ํฉ๋๋ค. ๋ง์ง๋ง์ผ๋ก, ๋ค์ํ ๊ฒ์ ๊ธฐ์ ์ ์กฐํฉํ์ฌ ๊ฒ์์ ์ผ๊ด์ฑ๊ณผ ์ ํ์ฑ์ ํฅ์์ํต๋๋ค. |
|
|
๊ฒ์ ํ ํ๋ก์ธ์ค (Post-Retrieval Process)
๊ฒ์๋ ๋ฌธ๋งฅ์ LLM์ ์
๋ ฅํ ๋๋ ๋ฌธ๋งฅ ์ฐฝ์ ์ ํ์ ์ด๊ณผํ๊ฑฐ๋ ๋
ธ์ด์ฆ๊ฐ ๋ฐ์ํ ์ ์๋ ๋ฌธ์ ๊ฐ ์์ต๋๋ค. ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ํ์ฒ๋ฆฌ ๊ธฐ๋ฒ์ด ์ฌ์ฉ๋ฉ๋๋ค. ์ฌ์์ํ๋ ๊ฐ์ฅ ๊ด๋ จ์ฑ์ด ๋์ ์ ๋ณด๋ฅผ ๋ฌธ๋งฅ์ ์ฃผ์ ์์น๋ก ์ด๋์์ผ ์ค์ ์ ๋ณด๋ฅผ ๊ฐ์กฐํ๊ณ , ํ๋กฌํํธ ์์ถ์ ๋ถํ์ํ ๋
ธ์ด์ฆ๋ฅผ ์ค์ด๊ณ ํต์ฌ ๋ฌธ๋จ์ ๋ถ๊ฐ์์ผ ๋ฌธ๋งฅ์ ๊ธธ์ด๋ฅผ ๋จ์ถ์ํต๋๋ค. |
|
|
๊ธฐ๋ณธ RAG๋ฅผ ๋ณด์ํ์ง๋ง ๊ทธ๋๋ ํ๊ณ๋ ์์ต๋๋ค. |
|
|
์ ํ๋ ์ฒ๋ฆฌ ๋ฅ๋ ฅ : ํ์ฉํ ์ ์๋ ๋ฐ์ดํฐ์ ์๊ณผ ์ข
๋ฅ์ ํ๊ณ๊ฐ ์๋ค.
๊ณ ๊ธ RAG๋ ๊ธฐ์กด ๋ฐ์ดํฐ์ ์์ธํ์ ๊ฒ์ ํ์ง ๊ฐ์ ์ ์ค์ ์ ๋์ง๋ง, ์ฌ์ ํ ์ฒ๋ฆฌํ ์ ์๋ ๋ฐ์ดํฐ์ ์๊ณผ ์ข
๋ฅ์ ์ ํ์ด ์์ ์ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด, ํน์ ๋๋ฉ์ธ์ด๋ ๊ณ ์ ํ ์ ๋ณด์ ์ฒ๋ฆฌ์์ ์ฑ๋ฅ ํ๊ณ๊ฐ ์์ ์ ์์ต๋๋ค.
์ ๋ณด์ ์ต์ ์ฑ : ๋ฐ์ดํฐ๊ฐ ๋น ๋ฅด๊ฒ ์
๋ฐ์ดํธ๋์ง ์์ ์ ์๋ค.
๋ฐ์ดํฐ ์์ธํ ๊ณผ์ ์์ ์ ๋ณด๊ฐ ์
๋ฐ์ดํธ๋์ง ์๊ฑฐ๋ ์ค๋๋ ๋ฐ์ดํฐ๊ฐ ํฌํจ๋ ์ ์์ด, ์ต์ ์ ๋ณด๋ฅผ ๋ฐ์ํ๋ ๋ฐ ์ด๋ ค์์ด ์์ต๋๋ค. ์ด์ ๋ฐ๋ผ ๊ฒ์ ๊ฒฐ๊ณผ์ ์ ํ์ฑ๊ณผ ์ ๋ขฐ์ฑ์ด ๋จ์ด์ง ์ ์์ต๋๋ค.
์ ํ๋ ๋งฅ๋ฝ ์ดํด : ์ฌ์ฉ์์ ์๋๋ฅผ ์ ํํ ์ดํดํ๊ธฐ์ ํ๊ณ๊ฐ ์๋ค.
๊ฒ์๋ ๋ฌธ์์ ์ง๋ฌธ์ ๋งค์นญ์ ๊ฐ์ ํ๋ ค๋ ๋
ธ๋ ฅ์๋ ๋ถ๊ตฌํ๊ณ , ์ฌ์ ํ ๋ฌธ๋งฅ์ด๋ ์๋ฏธ๋ฅผ ๊น์ด ์ดํดํ๋ ๋ฐ ํ๊ณ๊ฐ ์์ ์ ์์ต๋๋ค. ์ด์ ๋ฐ๋ผ ๊ฒ์๋ ์ ๋ณด๊ฐ ์ง๋ฌธ์ ์๋ฒฝํ ๋ถํฉํ์ง ์์ ์ ์์ต๋๋ค. |
|
|
๐ฅInsight for AI UX
1. ๋ฐ์ดํฐ์ ํ๊ณ๋ฅผ ๋ช
ํํ ํ๊ธฐ
RAG ์์คํ
์ ์ฑ๋ฅ์ด ํน์ ๋๋ฉ์ธ์ด๋ ๊ณ ์ ํ ์ ๋ณด์์ ์ ํ๋ ์ ์์์ ์ธ์ํ๊ณ , ์ฌ์ฉ์ ๊ฒฝํ์ ์ค๊ณํ ๋ ๋ฐ์ดํฐ๊ฐ ์ ๊ณตํ๋ ์ ๋ณด์ ๋ฒ์์ ํ๊ณ๋ฅผ ๋ช
ํํ ํด์ผ ํฉ๋๋ค.
2. ์ต์ ์ฑ๊ณผ ๊ด๋ จ๋ ์ ๋ณด๋ฅผ ๋ช
ํํ ํ์ธํ ์ ์๋๋ก ๋๊ธฐ
๋ฐ์ดํฐ๊ฐ ์
๋ฐ์ดํธ๋์ง ์๊ฑฐ๋ ์ค๋๋ ์ ๋ณด๊ฐ ํฌํจ๋ ๊ฐ๋ฅ์ฑ์ ๊ณ ๋ คํด ์ฌ์ฉ์์๊ฒ ์ต์ ์ ๋ณด๋ฅผ ์ ๊ณตํ๋ ๊ธฐ๋ฅ์ ๊ฐํํ ํ์๊ฐ ์์ต๋๋ค. ์ค์๊ฐ ์ ๋ณด ์
๋ฐ์ดํธ๋ฅผ ์ํ ์์คํ
์ ํตํฉํ๊ฑฐ๋, ์ฌ์ฉ์๊ฐ ๊ฒ์ํ ๋ ์ต์ ์ฑ๊ณผ ๊ด๋ จ๋ ์ ๋ณด๋ฅผ ๋ช
ํํ ํ์ธํ ์ ์๋ ๋ฐฉ๋ฒ์ ์ ๊ณตํจ์ผ๋ก์จ ์ ๋ขฐ์ฑ์ ๋์ผ ์ ์์ต๋๋ค.
|
|
|
์ธ ๋ฒ์งธ ํจ๋ฌ๋ค์ : ๋ชจ๋ํ RAG (Modular RAG) |
|
|
๋ชจ๋ํ RAG ๊ตฌ์กฐ๋ ์ ํต์ ์ธ ๊ธฐ๋ณธ RAG ํ๋ ์์ํฌ์ธ ์ธ๋ฑ์ฑ, ๊ฒ์, ์์ฑ์ ๋ฒ์ด๋, ์ ์ฒด ๊ณผ์ ์์ ๋ ํฐ ๋ค์์ฑ๊ณผ ์ ์ฐ์ฑ์ ์๋ํฉ๋๋ค. |
|
|
๋ชจ๋๋ค์ ์ด๋ค ๋ฐฉ๋ฒ์ผ๋ก ์กฐํฉ๋ ์ ์์๊น์? |
|
|
๋ชจ๋ํ RAG์ ์กฐ์ง์ ์ ๊ทผ ๋ฐฉ์์ ์ ์ฐํ์ฌ ํน์ ๋ฌธ์ ๋งฅ๋ฝ์ ๋ฐ๋ผ RAG ํ๋ก์ธ์ค ๋ด์ ๋ชจ๋์ ๊ต์ฒดํ๊ฑฐ๋ ์ฌ๊ตฌ์ฑํ ์ ์์ต๋๋ค. ์์์ ๋ค๋ค๋ ๊ธฐ๋ณธ RAG๋ ๊ฒ์(retrieval)๊ณผ ์์ฑ(generation)์ ๋ ๊ฐ์ง ๋ชจ๋๋ก ๊ตฌ์ฑํ ์ ์์ต๋๋ค. |
|
|
๋ชจ๋ ์ถ๊ฐ ๋๋ ๊ต์ฒด (Adding or Replacing Modules)
๋ชจ๋ ์ถ๊ฐ ๋๋ ๊ต์ฒด๋ RAG ์์คํ
์ ๊ธฐ์กด ๊ตฌ์กฐ๋ฅผ ์ ์งํ๋ฉด์ ๊ธฐ๋ฅ์ ๋ ์ข๊ฒ ๋ง๋ค๊ธฐ ์ํด ์๋ก์ด ๋ชจ๋์ ์ถ๊ฐํ๊ฑฐ๋ ๊ธฐ์กด ๋ชจ๋์ ๋ฐ๊พธ๋ ๋ฐฉ๋ฒ์
๋๋ค.
๋ชจ๋ ๊ฐ ํ๋ฆ ์กฐ์ (Adjusting the Flow between Modules)
๋ชจ๋ ๊ฐ ํ๋ฆ ์กฐ์ ์ ์ธ์ด ๋ชจ๋ธ๊ณผ ๊ฒ์ ๋ชจ๋ธ์ด ๋ ์ ํ๋ ฅํ๋๋ก ๋ง๋๋ ๋ฐฉ๋ฒ์
๋๋ค. ์ด๋ฌํ ๋ฐฉ๋ฒ๋ค์ RAG ์์คํ
์ด ๋ ์ ์ฐํ๊ณ ํจ๊ณผ์ ์ผ๋ก ์๋ํ๋๋ก ๋์ต๋๋ค.
|
|
|
์ด๋ค ๋ชจ๋๋ค์ด ์๋์? |
|
|
๊ฒ์ ๋ชจ๋
LLM ์์ฑ ์ฝ๋, ์ฟผ๋ฆฌ ์ธ์ด, ๋ง์ถคํ ๋๊ตฌ๋ฅผ ์ฌ์ฉํด ๋ค์ํ ๋ฐ์ดํฐ ์ถ์ฒ(๊ฒ์ ์์ง, ํ
์คํธ, ํ, ์ง์ ๊ทธ๋ํ ๋ฑ)์์ ์ง์ ๊ฒ์์ ์ํํฉ๋๋ค.
๋ฉ๋ชจ๋ฆฌ ๋ชจ๋
LLM์ ๋ฉ๋ชจ๋ฆฌ ๊ธฐ๋ฅ์ ํ์ฉํ์ฌ ํ์ฌ ์
๋ ฅ๊ณผ ์ ์ฌํ ๊ธฐ์ต์ ์ฐพ์ผ๋ฉฐ, Self-mem์ ๊ฒ์ ๊ฐํ ์์ฑ๊ธฐ๋ฅผ ํตํด ๋ฌด์ ํ ๋ฉ๋ชจ๋ฆฌ ํ์ ์์ฑํ๊ณ ๋ชจ๋ธ์ ์ถ๋ ฅ์ ๋ฐ์ดํฐ ๋ถํฌ์ ๋ง๊ฒ ๊ฐ์ ํฉ๋๋ค.
์ถ๊ฐ ์์ฑ ๋ชจ๋
LLM์ ํ์ฉํ์ฌ ๊ฒ์๋ ์ฝํ
์ธ ์ ์ค๋ณต์ฑ๊ณผ ๋
ธ์ด์ฆ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ฉฐ, ๋ ๋์ ๊ด๋ จ์ฑ์ ๊ฐ์ง ์ ๋ณด๋ฅผ ์์ฑํฉ๋๋ค.
์์
์ ์ ๋ชจ๋
RAG๋ฅผ ๋ค์ํ ์์
์ ๋ง๊ฒ ์กฐ์ ํ๋ฉฐ, UPRISE๋ ์ ๋ก์ท ์์
์
๋ ฅ์ ๋ํ ํ๋กฌํํธ๋ฅผ ์๋์ผ๋ก ๊ฒ์ํ๊ณ , PROMPTAGATOR๋ ๋ช ์ท ์ฟผ๋ฆฌ ์์ฑ๊ธฐ๋ฅผ ํ์ฉํด ์์
ํนํํ ๊ฒ์๊ธฐ๋ฅผ ์์ฑํฉ๋๋ค.
์ ๋ ฌ ๋ชจ๋
์ฟผ๋ฆฌ์ ํ
์คํธ ๊ฐ์ ์ ๋ ฌ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด retriever์ ํ์ต ๊ฐ๋ฅํ Adapter ๋ชจ๋์ ์ถ๊ฐํ๋ฉฐ, PRCA๋ ๊ฐํ ํ์ต์ผ๋ก context adapter๋ฅผ ํ๋ จ์ํค๊ณ , AAR์ LLM ์ ํธ๋๋ฅผ ํ์ตํ์ฌ ๋ณดํธ์ ์ธ ํ๋ฌ๊ทธ์ธ์ ์ ๊ณตํ๋ฉฐ, RRR์ ๊ฐํ ํ์ต์ ํตํด ์ฟผ๋ฆฌ ์ฌ์์ฑ์ผ๋ก ์ ๋ ฌ์ ๊ฐ์ ํฉ๋๋ค.
๊ฒ์ฆ ๋ชจ๋
๊ฒ์๋ ์ ๋ณด์ ์ฟผ๋ฆฌ ๊ฐ์ ๊ด๋ จ์ฑ์ ํ๊ฐํ์ฌ LLM์ ํ๊ฐ ๋ฌธ์ ๋ฅผ ์ค์ด๊ณ RAG์ ๊ฒฌ๊ณ ์ฑ์ ํฅ์์ํต๋๋ค. |
|
|
๋ชจ๋ํ RAG๋ ์๋ฒฝํ ๊น์?
๋ชจ๋ํ RAG๋ ์์ ๋ ํจ๋ฌ๋ค์์ ๊ฐ์ ํ ์ต์ ๋ฐฉ๋ฒ์ด์ง๋ง ๊ทธ๋ผ์๋ ํ๊ณ๋ ์กด์ฌํ๋๋ฐ์, ์์ผ๋ก ๋ ์ด๋ค ํจ๋ฌ๋ค์์ด ๋ฑ์ฅํด ๋ชจ๋ํ RAG์ ํ๊ณ๋ค์ ๊ทน๋ณตํ ์ง ๋ฐฉํฅ์ฑ์ด ๊ธฐ๋๋ฉ๋๋ค. ์๋๋ ๋ชจ๋ํ RAG๊ฐ ๊ฐ์ง๊ณ ์๋ ํ๊ณ๋ค์
๋๋ค. |
|
|
์ปจํ
์คํธ ๊ธธ์ด: ๋ ๋ง์ ์ ๋ณด๋ค ์ฌ์ด์์ ์ด๋ป๊ฒ ๊ด๋ จ ์๋ ์ ๋ณด๋ฅผ ๊ฒ์ํ ๊ฒ์ธ๊ฐ?
LLM์ ์ปจํ
์คํธ ์๋์ฐ ํฌ๊ธฐ๊ฐ ํ์ฅ๋จ์ ๋ฐ๋ผ, RAG๊ฐ ๋์ ๊ด๋ จ์ฑ๊ณผ ์ค์ํ ์ปจํ
์คํธ๋ฅผ ํฌ์ฐฉํ๊ธฐ ์ํด ์ด๋ป๊ฒ ์ ์ํด์ผ ํ ์ง์ ๋ํ ๊ณผ์ ๊ฐ ์์ต๋๋ค.
๊ฒฌ๊ณ ์ฑ: ๋ฐ์ฌ์ค์ ์ธ ์ ๋ณด๋ ์ด๋ป๊ฒ ์ฒ๋ฆฌํด์ผ ํ ๊น?
๋ฐ์ฌ์ค์ ์ด๊ณ ์ ๋์ ์ ๋ณด๋ฅผ ์ฒ๋ฆฌํ๋ ๋ฅ๋ ฅ์ RAG์์ ์ธก์ ํ๊ณ ๊ฐ์ ํด์ผ ํ ์ค์ํ ๋ถ๋ถ์
๋๋ค.
๋ค์ค ๋ชจ๋ฌ RAG: ์ด๋ป๊ฒ ๋ฉํฐ๋ชจ๋ฌ ์ ๋ณด๋ค์ ๊ฒ์ํ๊ณ ์์ฑํ ๊น?
RAG ์์คํ
์ ๋ํ ๋ง์ ์ฐ๊ตฌ ๋
ธ๋ ฅ์ด ์์์ง๋ง, ๋๋ถ๋ถ ํ
์คํธ ๊ธฐ๋ฐ ์์
์ ์ค์ฌ์ผ๋ก ์ด๋ฃจ์ด์ก์ต๋๋ค. ์ด๋ฏธ์ง, ์ค๋์ค, ๋น๋์ค, ์ฝ๋ ๋ฑ๊ณผ ๊ฐ์ ๋ค์ํ ๋๋ฉ์ธ์์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด RAG ์์คํ
์ ๋ชจ๋ฌ๋ฆฌํฐ๋ฅผ ํ์ฅํ๋ ๋ฐ์ ๋ํ ๊ด์ฌ์ด ์ฆ๊ฐํ๊ณ ์์ต๋๋ค.
ํ๊ฐ: ์ด๋ป๊ฒ ๋ ๋ค์ํ ์งํ๋ก ํ๊ฐํ ์ ์์๊น?
RAG๋ฅผ ์ฌ์ฉํ ๋ณต์กํ ์์ฉ ํ๋ก๊ทธ๋จ ๊ฐ๋ฐ์ด ํ๋๋จ์ ๋ฐ๋ผ, ์ปจํ
์คํธ ๊ด๋ จ์ฑ, ์ฐฝ์์ฑ, ์ฝํ
์ธ ๋ค์์ฑ, ์ฌ์ค์ฑ ๋ฑ์ ๋ ์ ํํ๊ฒ ํ๊ฐํ ์ ์๋ ์ฌ์ธํ ๋ฉํธ๋ฆญ๊ณผ ํ๊ฐ ๋๊ตฌ ๊ฐ๋ฐ์ ์ฃผ๋ชฉ์ด ์ง์ค๋๊ณ ์์ต๋๋ค. ๋ํ RAG์ ๋ํ ํด์ ๊ฐ๋ฅ์ฑ ์ฐ๊ตฌ์ ๋๊ตฌ ๊ฐ๋ฐ์ ํ์์ฑ๋ ์ฆ๊ฐํ๊ณ ์์ต๋๋ค. |
|
|
๐ฅ Insight for AI UX
1. ๋ฐ์ฌ์ค์ ์ ๋ณด ์ฒ๋ฆฌํ๊ธฐ. ๋ฐ์ฌ์ค์ ์ ๋ณด๋ ์๊ณก๋ ์ ๋ณด๊ฐ ํฌํจ๋์ง ์๋๋ก ์์คํ
์ด ์ค์ค๋ก ๊ฒ์ฆํ ์ ์๋ ๊ธฐ๋ฅ์ ํตํฉํ๊ฑฐ๋, ์ ๋ณด์ ์ถ์ฒ์ ์ ๋ขฐ์ฑ์ ๋ช
์ํ๋ ๊ธฐ๋ฅ์ ์ ๊ณตํ๋ ๊ฒ์ด ์ข์ต๋๋ค.
3. ๋ค์ํ ๋ชจ๋ฌ๋ฆฌํฐ ์ ๊ณตํ๊ธฐ. ํ
์คํธ ์ธ์๋ ์ด๋ฏธ์ง, ์ค๋์ค, ๋น๋์ค ๋ฑ ๋ค์ํ ๋ชจ๋ฌ๋ฆฌํฐ๋ฅผ ํ์ฉํ ์ ์๋ ๊ธฐ๋ฅ์ ์ ๊ณตํจ์ผ๋ก์จ, ์ฌ์ฉ์๊ฐ ์ํ๋ ์ ๋ณด๋ฅผ ๋ ์ง๊ด์ ์ด๊ณ ํจ๊ณผ์ ์ผ๋ก ์ป์ ์ ์๋๋ก ์ง์ํฉ๋๋ค.
4. ๋ค์ํ ํ๊ฐ ์งํ ๊ฐ๋ฐํ๊ธฐ. ์ปจํ
์คํธ ๊ด๋ จ์ฑ, ์ฐฝ์์ฑ, ์ฝํ
์ธ ๋ค์์ฑ ๋ฑ์ ์ ํํ๊ฒ ์ธก์ ํ ์ ์๋ ํ๊ฐ ๋๊ตฌ๋ฅผ ๊ฐ๋ฐํ๊ณ , ์ฌ์ฉ์์๊ฒ ๋ช
ํํ ํผ๋๋ฐฑ์ ์ ๊ณตํ์ฌ ์์คํ
์ ํจ๊ณผ์ฑ์ ์ง์์ ์ผ๋ก ๊ฐ์ ํ ์ ์๋๋ก ํด์ผ ํฉ๋๋ค.
|
|
|
๋ง๋ฌด๋ฆฌํ๊ธฐ - Turning Off the Drill |
|
|
์ฌ๋ฌ๋ถ, ์ค๋ ๋ด์ฉ ์ด๋ ์
จ๋์?
์ค๋์ RAG(Reinforced Answer Generation)์ ๊ธฐ๋ณธ ๊ฐ๋
๋ถํฐ ๋ชจ๋ํ RAG๋ก์ ๋ฐ์ ๊ณผ์ , ๊ทธ๋ฆฌ๊ณ ๊ฐ ํจ๋ฌ๋ค์์์ ์ด๋ค ๊ณผ์ ์ ํตํด ๊ฒ์ - ์์ฑ์ด ์ด๋ฃจ์ด์ง๋์ง ์ดํด๋ณด์์ต๋๋ค. ๋ํ ํจ๋ฌ๋ค์๋ณ ํ๊ณ์ ์ ๋ฌด์์ธ์ง ์ง์ด๋ณด๊ณ ๊ทธ์ ๊ด๋ จ๋ UX ์ธ์ฌ์ดํธ๊น์ง ๋ค๋ฃจ์๋๋ฐ์, ํญ์ ์ต์ ์ ๊ธฐ์ ๋ง์ด ํ์
์์ ์ฌ์ฉ๋๋ ๊ฒ์ ์๋๊ธฐ ๋๋ฌธ์ ๊ธฐ๋ณธ ๋ชจ๋์ ๊ณผ์ ๊ณผ ํ๊ณ์ ๋ ์ ์์งํด ๋์๊ณ ์ด๋ฐ ๋ฌธ์ ๋ค์ ์ด๋ป๊ฒ ํด๊ฒฐํ ์ ์์์ง ์๊ฐํด ๋ณด์ ๋ค๋ฉด ์ค๋ ๋ด์ค๋ ํฐ์์ ๋ง์ ๊ฒ์ ์ป์ด๊ฐ์๋ฆฌ๋ผ ์๊ฐ๋ฉ๋๋ค.
์ด์ ์ ๋ค๋ฃจ์๋ ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ธฐ๋ณธํธ๊ณผ ์ค๋ ๋ค๋ฃฌ RAG๋ฟ๋ง ์๋๋ผ ๊ธฐ๋ณธ์ ์ธ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๋ํ ์์ฝ ์ค๋ช
์ ๋ด์ ํ์ผ์ ๋ฐ๊ฒฌํ๊ฒ ๋์ด์ ์ฌ๋ฌ๋ถ๊ป ๊ณต์ ํด ๋๋ฆฌ๋ ค๊ณ ํฉ๋๋ค.
|
|
|
๐ ์ค๋์ ๋จ์ด: ์ ๋ฐ๋(Precision), ์ ํ๋(Accuracy), ์ฌํ์จ(Recall) |
|
|
์ ๋ฐ๋(Precision), ์ ํ๋(Accuracy), ์ฌํ์จ(Recall)์ ๋ชจ๋ธ์ ์ฑ๋ฅ์ ํ๊ฐํ๋ ๋ฐ ์ฌ์ฉ๋๋ ์ธ ๊ฐ์ง ์ค์ํ ์งํ์
๋๋ค.
1. ์ ๋ฐ๋ (Precision) ์ ๋ฐ๋๋ ๋ชจ๋ธ์ด "์ด๊ฑด ๋ง์"๋ผ๊ณ ์์ธกํ ๊ฒ ์ค์์ ์ค์ ๋ก ๋ง์ ๊ฒ์ ๋น์จ์
๋๋ค.
์๋ฅผ ๋ค์ด: ์ฐ๋ฆฌ๊ฐ ์คํธ ๋ฉ์ผ ํํฐ๋ฅผ ๋ง๋ค๊ณ ์๋ค๊ณ ๊ฐ์ ํด๋ณผ๊น์. ์ ๋ฐ๋๋ ํํฐ๊ฐ ์คํธ์ด๋ผ๊ณ ํ๋จํ ๋ฉ์ผ ์ค ์ค์ ๋ก ์คํธ์ธ ๋ฉ์ผ์ ๋น์จ์
๋๋ค. ์ฆ, ์คํธ์ด๋ผ๊ณ ๋ถ๋ฅ๋ ๋ฉ์ผ ์ค์์ ์ค์ ๋ก ์คํธ์ธ ๋น์จ์ด ๋์ผ๋ฉด ์ ๋ฐ๋๊ฐ ๋์ต๋๋ค.
2. ์ ํ๋ (Accuracy) ์ ํ๋๋ ์ ์ฒด ์์ธก ์ค์์ ๋ง๊ฒ ์์ธกํ ๋น์จ์
๋๋ค.
์๋ฅผ ๋ค์ด: 100๊ฐ์ ๋ฉ์ผ ์ค 90๊ฐ๋ฅผ ์ ๋๋ก ๋ถ๋ฅํ๋ค๋ฉด, ์ ํ๋๋ 90%์
๋๋ค. ์ฆ, ์ ์ฒด ์์ธก ์ค์์ ๋ง์ถ ๋น์จ์ด ๋์ผ๋ฉด ์ ํ๋๊ฐ ๋์ต๋๋ค.
3. ์ฌํ์จ (Recall) ์ฌํ์จ์ ์ค์ ๋ก ๋ง์์ผ ํ๋ ๊ฒ ์ค์์ ๋ชจ๋ธ์ด "์ด๊ฑด ๋ง์"๋ผ๊ณ ์์ธกํ ๋น์จ์
๋๋ค.
์๋ฅผ ๋ค์ด: ๋ง์ฝ ์ค์ ๋ก 50๊ฐ์ ์คํธ ๋ฉ์ผ์ด ์๋๋ฐ, ํํฐ๊ฐ 40๊ฐ๋ฅผ ์คํธ์ผ๋ก ์ ํํ ๋ถ๋ฅํ๋ค๋ฉด, ์ฌํ์จ์ 40/50 = 80%์
๋๋ค. ์ฆ, ์ค์ ์คํธ ๋ฉ์ผ ์ค์์ ์ผ๋ง๋ ๋ง์ ๋ฉ์ผ์ ์คํธ์ผ๋ก ์ก์๋๋์ง๋ฅผ ์ธก์ ํฉ๋๋ค.
์์ฝ - ์ ๋ฐ๋ (Precision): ๋ชจ๋ธ์ด ๋ง๋ค๊ณ ํ ๊ฒ ์ค ์ผ๋ง๋ ๋ง์๋๊ฐ - ์ ํ๋ (Accuracy): ์ ์ฒด ์์ธก ์ค ์ผ๋ง๋ ๋ง์๋๊ฐ - ์ฌํ์จ (Recall): ์ค์ ๋ก ๋ง์์ผ ํ๋ ๊ฒ ์ค ์ผ๋ง๋ ๋ง์๋๊ฐ |
|
|
๋ณธ ๋ด์ค๋ ํฐ๋ ๋ชจ๋์์ฐ๊ตฌ์ AIX LAB์์ K-ํ์ดํ
ํฌ ํ๋ซํผ์ ์ง์ ๋ฐ์ ์งํ๋์ต๋๋ค.
|
|
|
๐๐ป ํจ์ฒ๋๋ฆด ์ธ์คํ๊ทธ๋จ ๊ณ์ ํ๋ก์ฐํ๊ณ , ๋น ๋ฅด๊ฒ ์์์ ํ์ธํ์ธ์ ๐๐ป |
|
|
|