ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ธฐ๋ฒ์ ์ง์ ์ค์ตํ ์ ์๋ ๋ฐฉ๋ฒ ์๋ ค drill๊ฒ์~ AI์ UX๋ฅผ ์ฌ๋ํ์๋ ํจ์ฒ๋๋ฆด ๊ตฌ๋
์, ๋๋ฆด๋ฌ ๐ ๏ธ ์ฌ๋ฌ๋ถ ์๋
ํ์ธ์! ์ธ๊ณต์ง๋ฅ ์๋์ ์์ญ๋ฌ์ญํ ์ ๋ค์ ์์ํ๊ฒ ์๋ ค๋๋ฆด ํจ์ฒ๋๋ฆด ์๋์ด ์ญ๐์
๋๋ค~!
์ค๋์ 39ํธ์์ ๋ค๋ค๋ ๐ฅ ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ฐ์ด๋ A to Z (๊ธฐ์ดํธ)์ ๋
ธ์ฝ๋์ ์ฝ๋ ๋ ๊ฐ์ง ๋ฒ์ ์ผ๋ก ์ง์ ์ค์ตํด๋ณด๋ ์๊ฐ์ ๊ฐ์ง๋ ค๊ณ ํฉ๋๋ค. ChatGPT์์๋ ํ ์ ์์๋ ๋ค์ํ ์กฐ์ ์ ํ ์ ์๋ ๋ฐฉ๋ฒ๋ ์์ธํ ์๋ ค drill๊ฒ์!
๋ชจ๋ follow me ~ ๐
|
|
|
์์ํ๊ธฐ - Turning On the Drill |
|
|
์ง๋ ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ฐ์ด๋ A to Z (๊ธฐ์ดํธ)์์๋ ์ด 10๊ฐ์ง์ ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ธฐ๋ฒ์ ๋ํด ์์๋ณด์์ต๋๋ค. ์ด๋ฒ ๊ธ์์๋ ๊ทธ ๊ธฐ๋ฒ๋ค์ ์ค์ตํ๋ ๋ฐฉ๋ฒ์ ๋ํด ์์ธํ ๋ค๋ค๋ณด๋ ค๊ณ ํฉ๋๋ค. ๊ฐ ๊ธฐ๋ฒ์ ์๋ฆฌ๋ฅผ ์ดํดํ๊ณ ์ค์ ๋ก ์ ์ฉํด๋ณด๋ ๊ณผ์ ์ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ์ค๋ ฅ์ ํ ๋จ๊ณ ๋์ด์ฌ๋ฆด ์ ์๋ ์ข์ ๊ธฐํ๊ฐ ๋ ๊ฒ์
๋๋ค.
ํนํ, OpenAI Playground์ Hugging Face์ ๋ชจ๋ธ์ ํ์ฉํ์ฌ ๊ฐ ๊ธฐ๋ฒ์ ์ด๋ป๊ฒ ์ค์ตํ ์ ์๋์ง ๊ตฌ์ฒด์ ์ธ ์์๋ฅผ ํตํด ์ค๋ช
๋๋ฆฌ๊ฒ ์ต๋๋ค. ์ด ๊ธ์ ํตํด ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๋ค์ํ ๊ธฐ๋ฒ์ ์ดํดํ๊ณ , ์ด๋ฅผ ์ค์ ๋ก ์ ์ฉํ์ฌ ๋ ๋์ ๊ฒฐ๊ณผ๋ฅผ ์ป๋ ๋ฐฉ๋ฒ์ ๋ฐฐ์๋ณด์ธ์.
์, ๊ทธ๋ผ ์์ํด๋ณผ๊น์?
์์ง ๊ธฐ์ดํธ์ ์ฝ์ง ์์ผ์ ๋ถ๋ค์ ๋จผ์ ๊ธฐ์ดํธ์ ์ฝ๊ณ , ์ด๋ฒ ์ค์ตํธ์ ์ดํด๋ณด์๊ธฐ๋ฅผ ๊ถ์ฅํฉ๋๋ค. |
|
|
โ OPENAI Playground๋ฅผ ์ด์ฉํด ๋
ธ์ฝ๋๋ก ํ๋กฌํํธ ์์ง๋์ด๋ง ์ค์ตํ๊ธฐ |
|
|
OpenAI๋ ์์ฌ์ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ์ ํ์ฉํ ์ ์๋๋ก ํ๋ซํผ์ ์ ๊ณตํฉ๋๋ค. ์ค๋์ ๊ทธ์ค์์๋ ์ฝ๋ ์์ด ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ธฐ๋ฒ์ ์ค์ตํ ์ ์๋ Playground ๊ธฐ๋ฅ์ ์ฌ์ฉํด ๋ณด๊ฒ ์ต๋๋ค. OpenAI Platform -> https://platform.openai.com/docs/overview |
|
|
๊ธฐ์กด ChatGPT ์ฌ์ฉ์๊ฐ ํ๋ซํผ์ ์ด์ฉํ๋ ค๋ฉด ๋ณ๋๋ก ํ์๊ฐ์
์ ํด์ผ ํฉ๋๋ค. ํ์๊ฐ์
ํ ์ค๋ฅธ์ชฝ ์๋จ์ ์๋ ํฑ๋๋ฐํด ์์ด์ฝ์ ํด๋ฆญํ๋ฉด ๋ค์ํ ์ค์ ์ ์กฐ์ ํ ์ ์๋ ํ์ด์ง๋ก ์ด๋ํฉ๋๋ค. ์ฌ๊ธฐ์ 'Billing' ์น์
์ ์ ํํ๋ฉด ๊ฒฐ์ ๊ด๋ จ ์ค์ ์ ํ ์ ์์ต๋๋ค.
OpenAI๋ ๋ฏธ๋ฆฌ ์ผ์ ๊ธ์ก์ ์ถฉ์ ํ๊ณ ์ฌ์ฉํ ๋งํผ ์ฐจ๊ฐ๋๋ ๋ฐฉ์์ผ๋ก ์ด์๋ฉ๋๋ค. ํ ๋ฒ ์ถฉ์ ํ ๋ ์ต์ 5๋ฌ๋ฌ๋ถํฐ ๊ฐ๋ฅํ๋ฉฐ, ์๋ ์ถฉ์ ๊ธฐ๋ฅ๋ ์์ง๋ง ํ์ฌ ์ค์ต ๋จ๊ณ์ด๋ฏ๋ก ์ด ๊ธฐ๋ฅ์ ๋นํ์ฑํํ๋ ๊ฒ์ ์ถ์ฒ๋๋ ค์. (๋นํ์ฑํํ์ง ์์ผ๋ฉด ํฌ๋ ๋ง์ ์๋ชจํ๋ฉด ์๋์ผ๋ก ๊ธ์ก์ด ์ถ๊ฐ๋ก ๊ฒฐ์ ๋ฉ๋๋ค.)
๐จ ๊ฒฐ์ ๋ฅผ ํตํด ํฌ๋ ๋ง์ ๊ตฌ๋งคํด์ผ๋ง ์ค์ต์ ์งํํ ์ ์์ต๋๋ค! |
|
|
2. OpenAI Playground์์ ๋ฐฐ์ฐ๋ ๋ชจ๋ธ ์กฐ์ ๊ณผ ํ๋กฌํํธ ์ต์ ํ |
|
|
Playground์์๋ ๊ฐ๋จํ UI ์กฐ์์ ํตํด ๋ชจ๋ธ์ ์ค์ ์ ๋ณ๊ฒฝํ ์ ์์ต๋๋ค. ์ด๋ฌํ ๊ธฐ๋ฅ์ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ์ค์ํ ๋ถ๋ถ์ด๊ธฐ๋ ํ๋ฐ์. ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๋จ์ํ ํ
์คํธ๋ฅผ ์์ฑํ๋ ๋ฐ์ ๋ฉ์ถ์ง ์๊ณ , ๋ชจ๋ธ์ ๋ค์ํ ์ค์ ์ ํจ๊ณผ์ ์ผ๋ก ์กฐ์ ํจ์ผ๋ก์จ ์ํ๋ ๊ฒฐ๊ณผ๋ฅผ ์ป๋ ๊ธฐ์ ์ ํฌํจํฉ๋๋ค.
์ฌ๊ธฐ์๋ ๊ฐ์ฅ ๊ธฐ๋ณธ์ ์ธ zero-shot ์์๋ฅผ ํตํด, Playground์์์ ๋ชจ๋ธ ์ค์ ๋ณ๊ฒฝ์ด ๊ฒฐ๊ณผ์ ์ด๋ค ์ํฅ์ ๋ฏธ์น๋์ง ์ดํด๋ณด๊ฒ ์ต๋๋ค. ํ๋กฌํํธ๋ฅผ ์์ฑํ๋ ๊ฒ๋ฟ๋ง ์๋๋ผ, Temperature, Top P, Frequency Penalty, Presence Penalty์ ๊ฐ์ ํ๋ผ๋ฏธํฐ๋ฅผ ์กฐ์ ํ๋ฉด์ ์ด๋ป๊ฒ AI์ ๋ฐ์์ด ๋ฌ๋ผ์ง๋์ง ์์๋ณด๋ ๊ณผ์ ์ ํ๋กฌํํธ ์์ง๋์ด๋ง์ ํต์ฌ ์๋ฆฌ๋ฅผ ์ดํดํ๋ ์ข์ ๋ฐฉ๋ฒ์
๋๋ค.
์ด์ , ๋ชจ๋ธ์ ๊ณ ์ ํ ์ํ์์ ์์ ๋ค ๊ฐ์ง ํ๋ผ๋ฏธํฐ ๋ฐ๊ฟ์ ๋ฐ๋ผ AI์ ๊ฒฐ๊ณผ๊ฐ ์ด๋ป๊ฒ ๋ฌ๋ผ์ง๋์ง ํ๋์ฉ ์ค๋ช
๋๋ฆด๊ฒ์. ์ด๋ฌํ ์ค์ต์ ํตํด ๊ฐ ํ๋ผ๋ฏธํฐ์ ์ญํ ๊ณผ ์กฐ์ ๋ฐฉ๋ฒ์ ์ตํ๊ณ , ์ํ๋ ๊ฒฐ๊ณผ๋ฅผ ์ป๊ธฐ ์ํด ๋ชจ๋ธ์ ํจ๊ณผ์ ์ผ๋ก ํ์ฉํ๋ ๋ฐฉ๋ฒ์ ๋ฐฐ์ฐ์ค ์ ์์ ๊ฒ์
๋๋ค. |
|
|
์ฌ์ฉํ ํ๋กฌํํธ
12์ด ์์ด๊ฐ ์ดํดํ ์ ์๊ฒ ์๋์ฑ ์ด๋ก ์ ํ ๋ฌธ๋จ ์ ๋๋ก ๊ฐ๋จํ ์ค๋ช
ํด์ค.
|
|
|
1. Temperature
์์ฑ๋๋ ํ
์คํธ์ ์ฐฝ์์ฑ๊ณผ ๋ฌด์์์ฑ์ ์กฐ์ ํ๋ ๋งค๊ฐ๋ณ์
temperature ๊ฐ์ด ๋์์๋ก ๋ชจ๋ธ์ด ๋ ์ฐฝ์์ ์ด๊ณ ์์ธกํ๊ธฐ ์ด๋ ค์ด ์๋ต์ ์์ฑํ๋ฉฐ, ๋ฎ์์๋ก ๋ ๋ณด์์ ์ด๊ณ ์์ธก ๊ฐ๋ฅํ ์๋ต์ ์์ฑํฉ๋๋ค.
๊ฐ์ ๋ฒ์: ์ผ๋ฐ์ ์ผ๋ก 0์์ 2 ์ฌ์ด๋ก ์ค์ . 0์ ๊ฐ๊น์ธ์๋ก ๋ชจ๋ธ์ด ๊ฐ์ฅ ๊ฒฐ์ ๋ก ์ ์ผ๋ก ์๋ตํ๊ณ , 1 ์ด์์ผ๋ก ๋์์ง์๋ก ๋๋ค์ฑ์ด ์ฆ๊ฐํฉ๋๋ค.
|
|
|
Temperature = 0 ์ธ ๊ฒฝ์ฐ |
|
|
Temperature = 1 ์ธ ๊ฒฝ์ฐ |
|
|
Temperature = 2 ์ธ ๊ฒฝ์ฐ |
|
|
๊ฐ์ ํ๋กฌํํธ๋ฅผ ์ฌ์ฉํ์์๋ ๋ถ๊ตฌํ๊ณ , temperature ๊ฐ์ ๋ฐ๋ผ ๊ฒฐ๊ณผ๊ฐ ํฌ๊ฒ ๋ฌ๋ผ์ก์ต๋๋ค. Temperature ๊ฐ์ 2๋ก ์ค์ ํ๋, ํ ๋ฌธ๋จ์ผ๋ก ์์ฑํด ๋ฌ๋ผ๋ ์์ฒญ์ ์์ ํ ๋ฌด์ํ์ ๋ฟ๋ง ์๋๋ผ, ์ฌ์ง์ด ํ๊ตญ์ด๊ฐ ์๋ ๋ค๋ฅธ ์ธ์ด๋ก ๋ต๋ณ์ ์์ฑํ์ต๋๋ค. Temperature ๊ฐ์ด ๋์์๋ก ๋ชจ๋ธ์ ๋ต๋ณ์ด ๋ค์ํด์ง์ง๋ง, ๊ฐ์ด ๋๋ฌด ๋์์ง๋ฉด ํต์ ํ๊ธฐ ์ด๋ ค์ด ์์ธก ๋ถ๊ฐ๋ฅํ ๊ฒฐ๊ณผ๋ฅผ ์ด๋ํ ์ ์์ต๋๋ค. ๋ฐ๋ผ์ ์ฐฝ์์ ์ด๊ณ ์์์น ๋ชปํ ๋ต๋ณ์ด ํ์ํ ๋๋ ์ ์ฉํ ์ ์์ง๋ง, ์ง๋์น๊ฒ ๋๊ฒ ์ค์ ํ๋ฉด ์ํ๋ ๊ฒฐ๊ณผ๋ฅผ ์ป๊ธฐ ์ด๋ ต๋ค๋ ์ ์ ๊ธฐ์ตํด์ฃผ์ธ์! |
|
|
2. Top-p
๋ค์ ๋จ์ด ์ ํ ์ ์์ p%์ ๊ฐ๋ฅ์ฑ ์๋ ๋จ์ด๋ง ๊ณ ๋ ค
์์ฑ๋๋ ํ
์คํธ์์ ํ๋ฅ ์ด ๋์ ์ ํ์ง๋ค๋ง ๊ณ ๋ คํ๋๋ก ํ๋ ๋งค๊ฐ๋ณ์์
๋๋ค. top-p๋ ๋์ ํ๋ฅ ์ ๊ธฐ์ค์ผ๋ก ์ ํ์ง๋ฅผ ์ ํํ๋ ๋ฐฉ์์
๋๋ค. ๊ฐ์ด ๋ฎ์์๋ก ๋ ํ๋ฅ ์ด ๋์ ๋จ์ด๋ง ์ ํ๋ฉ๋๋ค.
๊ฐ์ ๋ฒ์: 0์์ 1 ์ฌ์ด๋ก ์ค์ . 1์ ๊ฐ๊น์ธ์๋ก ๋ ๋ง์ ๋จ์ด๊ฐ ์ ํ ๊ฐ๋ฅํด์ง๋๋ค.
|
|
|
top-p = 0:
- ํํ์ด ๋ ์ง๊ด์ ์ด๊ณ ๊ฐ๋จํ๋ฉฐ, ๊ธฐ์ฐจ๋ผ๋ ์์๋ฅผ ์ฌ์ฉํ์ฌ ์๋์ฑ ์ด๋ก ์ ๋ณต์กํจ์ ์ฝ๊ฒ ์ค๋ช
ํฉ๋๋ค. ํ์ง๋ง ๋น์ ์ ์ธ ํํ์ด๋ ๊น์ด ์๋ ์ค๋ช
์ด ๋ถ์กฑํฉ๋๋ค.
top-p = 0.5:
- "์ฐ์ฃผ์ "์ด๋ผ๋ ๋จ์ด๋ฅผ ์ฌ์ฉํจ์ผ๋ก์จ ์๋์ฑ ์ด๋ก ์ ํน์์ฑ์ ๊ฐ์กฐํ๊ณ ์์ผ๋ฉฐ, ์๊ฐ์ด ๋ ๋๋ฆฌ๊ฒ ํ๋ฅธ๋ค๋ ํํ์ด ๋ ๋ช
ํํ๊ณ ๊ตฌ์ฒด์ ์
๋๋ค. ์ฌ๊ธฐ์ ๋น์ ์ ์ค๋ช
์ด ๋ ํ๋ถํด์ก์ต๋๋ค.
top-p = 1:
- ๋ณด๋ค ๊ธฐ์ ์ ์ด๊ณ ๊ฐ๊ด์ ์ธ ์ ๊ทผ์ผ๋ก, "๋ฌผ์ฒด"๋ผ๋ ํํ์ ์ฌ์ฉํ์ฌ ์๋์ฑ ์ด๋ก ์ ์ผ๋ฐ์ฑ์ ๊ฐ์กฐํฉ๋๋ค. ๋ฌธ์ฅ์ ๋์ฑ ๋ช
ํํ๊ณ ์ง๊ด์ ์ธ ํํ์ด ์ฌ์ฉ๋์ด ์๋์ฑ ์ด๋ก ์ ๋ณด๋ค ๋์ ๋งฅ๋ฝ์์ ์ค๋ช
ํฉ๋๋ค.
|
|
|
3. Frequency Penalty
์ด๋ฏธ ์ฌ์ฉ๋ ๋จ์ด๊ฐ ๋ค์ ์ ํ๋ ๊ฐ๋ฅ์ฑ์ ์ค์
๋ชจ๋ธ์ด ์์ฑํ ํ
์คํธ์์ ํน์ ๋จ์ด๊ฐ ๋ฐ๋ณต๋๋ ๊ฒ์ ์ต์ ํ๋ ๋งค๊ฐ๋ณ์์
๋๋ค. ๋์ผํ ๋จ์ด๊ฐ ๋ฐ๋ณต๋ ์๋ก ํ๋ํฐ๊ฐ ๋ถ๊ณผ๋์ด ํด๋น ๋จ์ด์ ์ ํ ํ๋ฅ ์ด ๊ฐ์ํฉ๋๋ค.
๊ฐ์ ๋ฒ์: ์ผ๋ฐ์ ์ผ๋ก 0์์ 2 ์ฌ์ด๋ก ์ค์
|
|
|
Frequency Penalty = 0:
- ์ด ๊ฒฝ์ฐ, "๋ฌด๊ฑฐ์ด ๋ฌผ์ฒด"์ ๋ํ ์ค๋ช
์ด ๊ฐ๋จํ๋ฉฐ, ์ค๋ ฅ์ ๋ฐ๋ก ์ฐ๊ฒฐ์ง๊ณ ์์ต๋๋ค. ํํ์ด ๊ฐ๊ฒฐํ์ง๋ง ๋ค์ํ ์ธ์ด์ ๋ณํ๋ฅผ ์ฌ์ฉํ์ง ์๊ณ ๋ฐ๋ณต์ ์ธ ์ธ์ด ์ฌ์ฉ์ด ๋์ ๋๋๋ค.
Frequency Penalty = 1:
- "๊ณต์ด ํ์ด์ง ๋ฐ๋ฅ์์ ๊ตด๋ฌ๊ฐ๋ ๊ฒ์ฒ๋ผ"์ด๋ผ๋ ๋น์ ๋ฅผ ์ฌ์ฉํ์ฌ ์ค๋ ฅ์ ์ค๋ช
ํฉ๋๋ค. ์ด ํํ์ ๋
์๊ฐ ์ดํดํ๊ธฐ ์ฌ์ด ๋ฐฉ์์ผ๋ก, ๋ ๋ง์ ๋ณํ๋ฅผ ๋ณด์ฌ์ค๋๋ค. ์ค๋ ฅ์ ์ค๋ช
ํ๋๋ฐ ์์ด ์๋ก์ด ์๊ฐ์ ์ ๊ณตํ๊ณ ์์ต๋๋ค.
Frequency Penalty = 2:
- "ํฐ ํ์ฑ์ด๋ ๋ณ ๊ฐ์ ๋ฌผ์ฒด"๋ผ๋ ํํ์ ์ฌ์ฉํ์ฌ ์ข ๋ ๊ตฌ์ฒด์ ์ธ ์์๋ฅผ ๋ค์ด ์ค๋ ฅ์ ์ค๋ช
ํ๊ณ ์์ต๋๋ค. ์ด ๋ฌธ์ฅ๋ ๋น์ ์ ์ด์ง๋ง, ๊ตฌ์ฒด์ ์ธ ๋์์ ์ถ๊ฐํจ์ผ๋ก์จ ์๋์ฑ ์ด๋ก ์ ๋ณต์ก์ฑ์ ํจ๊ณผ์ ์ผ๋ก ์ ๋ฌํฉ๋๋ค.
|
|
|
4. Presence Penalty
์ด๋ฏธ ์ฌ์ฉ๋ ๋จ์ด์ ์ฌ์ฌ์ฉ์ ์ค์
ํ
์คํธ์์ ํน์ ๋จ์ด์ ๋ฑ์ฅ ์ฌ๋ถ์ ๋ฐ๋ผ ํ๋ํฐ๋ฅผ ๋ถ์ฌํ๋ ๋งค๊ฐ๋ณ์์
๋๋ค. ์ด๋ค ๋จ์ด๊ฐ ํ
์คํธ์ ํ ๋ฒ์ด๋ผ๋ ๋ฑ์ฅํ๋ฉด, ๊ทธ ๋จ์ด๊ฐ ๋ค์ ๋ฑ์ฅํ ๊ฐ๋ฅ์ฑ์ด ๋ฎ์์ง๋๋ก ํ๋ํฐ๋ฅผ ๋ถ๊ณผํฉ๋๋ค.
๊ฐ์ ๋ฒ์: ์ผ๋ฐ์ ์ผ๋ก 0์์ 2 ์ฌ์ด๋ก ์ค์ .
|
|
|
Presence Penalty = 0:
- ์ด ๊ฒฝ์ฐ, "์ฐจ๋ ๊ธฐ์ฐจ"๋ผ๋ ๊ตฌ์ฒด์ ์ธ ์ฌ๋ก๋ฅผ ์ฌ์ฉํ์ฌ ์๋์ฑ ์ด๋ก ์ ์ค๋ช
ํ๊ณ ์์ต๋๋ค. ํํ์ด ๊ฐ๋จํ๊ณ ์ง๊ด์ ์ด์ง๋ง, ๋ค์ํ ํํ์ ํ์ฉํ์ง ์๊ณ ์์ต๋๋ค.
Presence Penalty = 1:
- "์ฐ์ฃผ์ "์ด๋ผ๋ ๋จ์ด๋ฅผ ์ฌ์ฉํ๋ฉฐ, ์๊ฐ์ ํ๋ฆ์ด ๋๋ฆฌ๊ฒ ๋ณํ๋ค๋ ์ ์ ๋ช
ํํ ํ๊ณ ์์ต๋๋ค. ์น๊ตฌ๋ค๊ณผ์ ๋น๊ต๋ฅผ ํตํด ์ค๋ช
์ด ๋ ๊ตฌ์ฒด์ ์ด๊ณ ์์ํ๊ฒ ์ ๋ฌ๋ฉ๋๋ค. ์ด๋ ์๋์ฑ ์ด๋ก ์ ๋ณต์กํจ์ ์ข ๋ ํจ๊ณผ์ ์ผ๋ก ์ ๋ฌํฉ๋๋ค.
Presence Penalty = 2:
- "๋น์ฒ๋ผ"์ด๋ผ๋ ๋น์ ๋ฅผ ์ฌ์ฉํ์ฌ ์๋๋ฅผ ๊ฐ์กฐํ๊ณ ์์ต๋๋ค. ์๊ฐ์ ํ๋ฆ์ ๋๋ฆฌ๊ฒ ํ๋ค๋ ๊ฐ๋
์ ๋ช
ํํ๊ฒ ์ ๋ฌํ๋ฉฐ, ๋ ๋จ์ํ๊ณ ๊ธฐ์ ์ ์ธ ์ค๋ช
์ด ๋ฉ๋๋ค.
|
|
|
๐ฏํ - ์ค์ ์ ํ๋ฆฌ์
์ผ๋ก ๋ง๋ค์ด์ ํ์ฉํ๊ธฐ |
|
|
12์ด ์ด๋ฆฐ์ด์๊ฒ ๊ณผํ๊ณผ ๊ด๋ จ๋ ๋ด์ฉ์ ์ฝ๊ฒ ์ค๋ช
ํด์ผ ํ๋ ์ํฉ์ด ์ข
์ข
์์ ์ ์์ต๋๋ค. ์ด๋ฐ ๊ฒฝ์ฐ, ๋งค๋ฒ ์ค์ ์ ๋ค์ ์กฐ์ ํ๊ธฐ๋ณด๋ค๋ ํ๋ฆฌ์
์ผ๋ก ์ ์ฅํด๋๊ณ ํ์ํ ๋๋ง๋ค ๋ฐ๋ณตํด์ ์ฌ์ฉํ ์ ์์ต๋๋ค. |
|
|
์ด๋ ๊ฒ ๋ชจ๋ธ ์กฐ์ ์ ํตํด ์ํฉ์ ๋ง๋ ์ต์ ์ ๊ฒฐ๊ณผ๋ฅผ ์ป์ ์ ์์ต๋๋ค.
์ด์ ๋ง๋ ํ๋ฆฌ์
์ ํ์ฉํ๋ฉด, ๊ฐ์ ์ํฉ์์ ์๋์ฑ ์ด๋ก ๋ฟ๋ง ์๋๋ผ ๋ ์ด๋ก ๊ฐ์ ๋ณต์กํ ์ฃผ์ ๋ ์กฐ์นด์๊ฒ ์ฝ๊ฒ ์ค๋ช
ํ ์ ์๊ฒ ์ฃ ?
์ฌ๋ฌ๋ถ๋ ์ง์ ์ค์ตํด๋ณด์๊ณ , ์์ฃผ ์ฌ์ฉํ๋ ํ๋ฆฌ์
์ ๋ง๋ค์ด ํจ๊ณผ์ ์ผ๋ก ํ์ฉํด๋ณด์ธ์! ๐
์๋์ฑ ์ด๋ก ์ ์์ธ์ํ์ธ์ด ๋ง๋ ์ฌ๋ฏธ์๋ ๊ณผํ ์ด์ผ๊ธฐ์ผ. ์ด ์ด๋ก ์ ๋ฐ๋ฅด๋ฉด, ์๊ฐ๊ณผ ๊ณต๊ฐ์ ์ฐ๋ฆฌ๊ฐ ๋ณดํต ์๊ฐํ๋ ๊ฒ๋ณด๋ค ๋ ์ ๊ธฐํ๊ฒ ์๋ํ ์ ์์ด. ์๋ฅผ ๋ค์ด, ์ ๋ง ๋น ๋ฅด๊ฒ ์์ง์ด๋ ์ฐ์ฃผ์ ์ ํ๋ฉด ์๊ฐ์ด ๋๋ฆฌ๊ฒ ํ๋ฅผ ์ ์๋จ๋ค. ๊ทธ๋์ ๊ทธ๋ฐ ์ฐ์ฃผ์ ์ ํ๊ณ ์ฌํ์ ๋ค๋
์ค๋ฉด ์ง๊ตฌ์ ์๋ ์น๊ตฌ๋ค๋ณด๋ค ๋ ๋์ ์๋ ์์ด! ๊ทธ๋ฆฌ๊ณ ํฐ ๋ฌผ์ฒด๋ ์ฃผ๋ณ์ ๊ณต๊ฐ์ ํ๊ฒ ๋ง๋ค ์ ์๋๋ฐ, ์ด ๋๋ฌธ์ ๋ค๋ฅธ ๋ฌผ์ฒด๋ค์ด ๊ทธ์ชฝ์ผ๋ก ๋๋ ค๊ฐ๊ฒ ๋ผ. ์ด๋ ๊ฒ ์๋์ฑ ์ด๋ก ์ ์ธ์์ด ์ผ๋ง๋ ๋๋๊ณ ํฅ๋ฏธ๋กญ๊ฒ ๋์๊ฐ๋์ง๋ฅผ ์๋ ค์ฃผ๋ ๋ฉ์ง ๊ณผํ์ด์ผ! |
|
|
โก Colab์์ huggingface-hub ์ด์ฉํด ์ง์ ์ค์ตํ๊ธฐ |
|
|
์ด๋ฒ์๋ Colab์์ ์ฝ๋ ๊ธฐ๋ฐ์ผ๋ก ์ค์ต์ ์งํํด ๋ณด๊ฒ ์ต๋๋ค. Colab์ ์ธ๊ณต์ง๋ฅ ๋ฐ ๋ฐ์ดํฐ ๊ณผํ์ ์ค์ตํ ์ ์๋ ์จ๋ผ์ธ ์น ์๋ํฐ์
๋๋ค. ์ฌ์ฉ์๊ฐ ๋ง๋ ๋ฌธ์๋ฅผ ๋ค๋ฅธ ์ฌ๋๋ค๊ณผ ์ฝ๊ฒ ๊ณต์ ํ ์ ์์ผ๋ฉฐ, ๋ง์ ํจํค์ง๋ฅผ ์ผ์ผ์ด ์ค์นํ์ง ์์๋ ๋๋ ์ฅ์ ์ด ์์ต๋๋ค. ์ด์ ํ๊น
ํ์ด์ค์ huggingface_hub๋ฅผ ํ์ฉํ์ฌ ์ํ๋ ๋ชจ๋ธ์ ์ฝ๊ฒ ๊ฐ์ ธ์ ์ค์ตํด ๋ณด๊ฒ ์ต๋๋ค.
์ฐ์ ํ๋ก์ ํธ ์ธํ
์ ํ๊ธฐ ์ ์ https://colab.research.google.com/drive/1nm3gvjmKpJgMr5T_SLO8E5jaHJZU0Djf?usp=sharing
์ ๋งํฌ๋ฅผ ์ด์ด 'ํ์ผ' ๋ฉ๋ด์์ '๋๋ผ์ด๋ธ์ ์ฌ๋ณธ ๋ง๋ค๊ธฐ'๋ฅผ ์ ํํด ์ฃผ์ธ์.
์ด๋ ๊ฒ ํ๋ฉด ์๋ณธ ํ์ผ์ ๋ณ๊ฒฝํ์ง ์๊ณ ๋ณต์ฌ๋ณธ์ ์์ฑํ์ฌ ๋ง์๋๋ก ํธ์งํ ์ ์์ต๋๋ค. |
|
|
huggingface_hub๋ฅผ ์ฌ์ฉํ๊ธฐ ์ํด์๋ ๋จผ์ ํ ํฐ์ ๋ฐ๊ธ๋ฐ์์ผ ํฉ๋๋ค. ์ฌ๊ธฐ์์ 'New token'์ ํด๋ฆญํ์ฌ ์๋ก์ด ํ ํฐ์ ๋ฐ๊ธ๋ฐ์ ์ฃผ์ธ์.
๐จ ํ ํฐ์ ์ ๋ ์ธ๋ถ์ ๋
ธ์ถ๋์ด์๋ ์ ๋ฉ๋๋ค. ๐จ ํ ๋ฒ ๋ฐ๊ธ๋ฐ์ผ๋ฉด ํด๋น ๋ด์ฉ์ ๋ค์ ๋ณผ ์ ์์ผ๋, ์์ฑํ ๋ ๊ฐ์ธ PC์ ๋ฉ๋ชจ์ฅ์ ๋ฐ๋์ ๋ณต์ฌํด ๋์ธ์. |
|
|
ํ ํฐ์ ์ด๋ฆ์ ๋ณธ์ธ์ด ์๋ณํ ์ ์์ ์ ๋๋ก ์ค์ ํด ์ฃผ์ธ์. ์ฐ๋ฆฌ๋ ์ค์ง ํ๋กฌํํธ ์์ง๋์ด๋ง์ ์ํด ์ฝ๊ธฐ ์ ์ฉ ๊ถํ์ด ํ์ํ๋ฏ๋ก, 'Read' ์ ์ฉ ํ ํฐ์ ์์ฑํฉ๋๋ค. |
|
|
์์ฑํ ํ ํฐ์ ๋ณต์ฌํ์ฌ ๋ฉ๋ชจ์ฅ์ ์ ์ฅํด ๋์๊ณ ,
'์ฌ๊ธฐ์ ๋ถ์ฌ์ฃผ์ธ์' ๋ถ๋ถ์ ๋ถ์ฌ๋ฃ์ด ์ฃผ์ธ์. |
|
|
๊ฑฐ์ ๋ค ์์ต๋๋ค.
๋ง์ง๋ง์ผ๋ก ์ค์ต์ ํ์ํ ํ์ผ๋ค์ ์ค์นํด ์ค๋๋ค.
Colab์์ ํด๋น ์ฝ๋๋ฅผ ์คํํ๋ ค๋ฉด [] ๊ดํธ ๋ถ๋ถ์ ๋ง์ฐ์ค๋ฅผ ์ฌ๋ฆฌ๋ฉด โถ๏ธ ๊ธฐํธ๊ฐ ๋ํ๋ฉ๋๋ค.
์ด ๊ธฐํธ๋ฅผ ํด๋ฆญํ์๋ฉด ์คํ๋ฉ๋๋ค. |
|
|
์ฝ๋๊ฐ ์คํ๋๋ฉด [] ๊ดํธ ์์ ์ซ์๊ฐ ํ์๋๋๋ฐ, ์ด๋ ํด๋น ์
์ ์คํ ์์๋ฅผ ๋ํ๋
๋๋ค.
์ซ์๊ฐ ์ ์์ ์ผ๋ก ํ์๋๋ฉด ํด๋น ์
์ ์คํ์ด ์ฑ๊ณต์ ์ผ๋ก ์๋ฃ๋ ๊ฒ์
๋๋ค. |
|
|
์ด๋ฒ์๋ ๋ค ๊ฐ์ ๋ชจ๋ธ์ ์ฌ์ฉํด ๋ณด๊ฒ ์ต๋๋ค. |
|
|
# ๊ตฌ๊ธ์ Gemma ๋ชจ๋ธ "google/gemma-1.1-7b-it"
# ๋ง์ดํฌ๋กํฌ์คํธ์ Phi ๋ชจ๋ธ "microsoft/Phi-3.5-mini-instruct"
# ๋ฏธ์คํธ๋์ Mistral ๋ชจ๋ธ "mistralai/Mistral-7B-Instruct-v0.2"
# NousResearch์ Hermes ๋ชจ๋ธ "NousResearch/Hermes-3-Llama-3.1-8B"
์ฌ์ฉํ๊ณ ์ถ์ ๋ชจ๋ธ์ ์ด๋ฆ์ ์์ model = "" ๋ถ๋ถ์ ๋ถ์ฌ๋ฃ์ด ์ฃผ์ธ์.๐จ ๋ฐ๋์ " " ๋ฐ์ดํ ์์ ๋ชจ๋ธ ์ด๋ฆ์ด ์์ผ ํฉ๋๋ค.
์ต์ํ ์ฉ์ด๋ค์ด ๋ณด์ด๋ค์.
์์์ ์ค๋ช
ํ temperature์ top_p๊ฐ ์์ต๋๋ค. Playground์์๋ UI๋ก ์ค์ ํ๋ ๊ฒ๋ค์ด ์ฌ๊ธฐ์์๋ ์ง์ ์
๋ ฅํ ์ ์์ต๋๋ค. temperature์ top_p๋ฅผ ์กฐ์ ํ์ฌ ์ํ๋ ํค์ค๋งค๋๋ก ํ๋กฌํํธ ์์ง๋์ด๋ง์ ์ค์ตํ ์ ์์ต๋๋ค.
์ค์ต ์ค ์ฃผ์ํด์ผ ํ ์ ์ด ํ๋ ๋ ์์ต๋๋ค.
๋ฐ๋ก max_tokens์ธ๋ฐ์, ChatGPT๋ฅผ ์ฌ์ฉํ ๋ ์
๋ ฅ์ด ๋๋ฌด ๊ธธ์ด ์ํ๋ ๋ต๋ณ์ด ๋์ค์ง ์์๋ ๊ฒฝํ์ด ์์ง ์์ผ์
จ๋์? ์
๋ ฅ์ ๊ธธ์ด๋ ๋ฌดํํ ๊ธธ์ด์ง ์ ์๊ธฐ ๋๋ฌธ์ ์ผ๋ฐ์ ์ผ๋ก ๋ชจ๋ธ์ ์
๋ ฅ์ ์ ํ์ด ์์ต๋๋ค. ์ง์ ์ฝ๋๋ก ์ค์ตํ ๋๋ ์ด ๊ฐ๋ ์ฐ๋ฆฌ๊ฐ ์ค์ ํด์ผ ํฉ๋๋ค. ๊ธฐ๋ณธ๊ฐ์ 1024์ด์ง๋ง, ์ ๋ ๋๋ฌด ์งง๋ค๊ณ ์๊ฐํ์ฌ 8000์ผ๋ก ์ค์ ํ์ต๋๋ค. ๋ง์ฝ 8000 ํ ํฐ์ ์ด๊ณผํ๋ ์
๋ ฅ์ ํ๋กฌํํธ์ ๋ฃ๋๋ค๋ฉด max_tokens์ ๊ฐ์ ํค์์ผ ํฉ๋๋ค. ๊ทธ๋ฌ๋ ๋ชจ๋ธ๋ง๋ค max_tokens์ ํ๊ณ๊ฐ ์๊ธฐ ๋๋ฌธ์ ์๋ฌ๊ฐ ๋ฐ์ํ๋ฉด ํ๋กฌํํธ๋ฅผ ์กฐ๊ธ ์ค์ฌ์ฃผ์ธ์.
|
|
|
3. ํ๋กฌํํธ ์์ง๋์ด๋ง ์ค์ต |
|
|
์ด 8๊ฐ์ง ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ธฐ๋ฒ์ ์ค์ตํด ๋ณด๊ฒ ์ต๋๋ค. |
|
|
1. Zero-Shot Prompting
2. Few-Shot Prompting
3. Generated Knowledge Prompting
4. Directional Stimulus Prompting
5. Chain-of-Thought Prompting
6. Self-Consistency
7. Tree of Thoughts
8. Active-Prompt
|
|
|
์
์์ ์๋ โถ๏ธ ์์ด์ฝ์ ํด๋ฆญํ์ฌ ํด๋น ์
์ ์คํํด ๋ณด์ธ์. ๊ฐ ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ธฐ๋ฒ์ ๋ํด ์ด๋ฏธ ํ๋กฌํํธ๋ฅผ ์์ฑํด ๋์์ต๋๋ค. ๊ด์ฌ ์๋ ์ฃผ์ ์ ๋ง์ถฐ ํ๋กฌํํธ๋ฅผ ์์ฑํ๊ณ , ์ด๋ค ๊ฒฐ๊ณผ๊ฐ ๋์ค๋์ง ํ์ธํด ๋ณด์ธ์. |
|
|
๋ง๋ฌด๋ฆฌํ๊ธฐ - Turning Off the Drill |
|
|
๋๋ฆด๋ฌ ์ฌ๋ฌ๋ถ, ์ค๋์ ๋ด์ฉ์ ์ด๋ ์
จ๋์?
์ด๋ ค์ด ๋ด์ฉ์ ์์์ง๋ง, ๋จ๊ณ๋ณ๋ก ์ค๋ช
ํ๋ค ๋ณด๋ ๋ค์ ๊ธธ์ด์ก๋ ๊ฒ ๊ฐ๋ค์. ์ง๋ ๊ธฐ์ดํธ์์ ๋ฐฐ์ด ๊ธฐ๋ฒ๋ค์ ์ค์ ๋ก ์ ์ฉํด ๋ณด๋ฉด์ ์ด๋ก ๊ณผ ์์ฉ์ ์ฐ๊ฒฐํ ์ ์๋ ์๊ฐ์ด ๋์
จ๊ธฐ๋ฅผ ๋ฐ๋๋๋ค.
ํ๋กฌํํธ ์์ง๋์ด๋ง์ ๋จ์ํ ์ง์์ ์๋ ๋ฐ ๊ทธ์น์ง ์๊ณ , ์ฐฝ์์ ์ด๊ณ ํจ๊ณผ์ ์ธ ๋ฐฉ๋ฒ์ผ๋ก AI์ ์ํตํ๋ ๋ฅ๋ ฅ์ ํค์์ฃผ๋ ๊ณผ์ ์
๋๋ค. ์ฌ๋ฌ๋ถ์ด ์ด๋ฒ ์ค์ต์ ํตํด ์ป์ ๊ฒฝํ์ ์์ผ๋ก ๋ค์ํ ๋ถ์ผ์์ AI๋ฅผ ํ์ฉํ๋ ๋ฐ ํฐ ์์ฐ์ด ๋ ๊ฒ์
๋๋ค.
ํ๊น
ํ์ด์ค๋ฅผ ํตํด ๋ชจ๋ธ์ ์ฝ๊ฒ ๋ถ๋ฌ์ ์ค์ตํ ์ ์์ง๋ง, ์ ๋ ์ฌ๋ฌ ์ฐจ๋ก์ ์ด๋ ค์์ ๊ฒช์ผ๋ฉฐ ๋ฐฐ์ฐ๊ณ ์ฑ์ฅํ์ต๋๋ค. ์ธ๊ณต์ง๋ฅ์ด ์ ์ ๋ ์ฌ์์ก๋ค๊ณ ํด๋, ์ค์ ๋ก ์์ ๋์ด๋ณด๋ ๊ฒ์ ์ฌ์ ํ ์ฝ์ง ์์ ๊ฒ ๊ฐ์์. ๊ทธ๋ฌ๋ ๋๋ ค์ํ์ง ๋ง์ธ์! ๊ณ์ํด์ ์คํํ๊ณ ๋ฐฐ์ฐ๋ ๊ณผ์ ์ ์ฆ๊ธฐ์ธ์. AI์์ ์ํต ๋ฅ๋ ฅ์ ํค์ฐ๋ ์ด ์ฌ์ ์์ ์ฌ๋ฌ๋ถ์ ๊ถ๊ธ์ฆ๊ณผ ๋ฐ๊ฒฌ์ด ๋ ๋ง์ ๊ธฐํ๋ฅผ ๋ง๋ค์ด์ค ๊ฒ์
๋๋ค. ์์ผ๋ก๋ ๋จ์ํ ์ฝ๊ณ ์ง๋์น์ง ์๊ณ , ์ฌ๋ฌ๋ถ์ด ์ง์ ์์ผ๋ก ํด๋ณผ ์ ์๋ ๋ค์ํ ๋ฐฉ๋ฒ๋ค์ ๊ณ์ ์๋ดํด ๋๋ฆด๊ฒ์!
Stay Tuned! ๐ฏ |
|
|
๐ ์ค๋์ ๋จ์ด: ์ฐ๋ (Likelihood) |
|
|
์ฐ๋ (Likelihood)๋ ์ด๋ค ์ผ์ด ์ผ์ด๋ ๊ฐ๋ฅ์ฑ์ ๋ํ๋ด๋ ๊ฐ๋
์
๋๋ค. ์๋ฅผ ๋ค์ด, ์ฌ๋ฌ๋ถ์ด ์น๊ตฌ์ ํจ๊ป ๋ ์จ๋ฅผ ์์ธกํ๋ค๊ณ ์๊ฐํด ๋ด
์๋ค. ์น๊ตฌ๊ฐ "๋ด์ผ ๋น๊ฐ ์ฌ ํ๋ฅ ์ด 70%์ผ"๋ผ๊ณ ๋งํ์ด์. ๊ทธ๋ฐ๋ฐ ์ฌ๋ฌ๋ถ์ ๊ทธ ๋ ์จ ์๋ณด๋ฅผ ๋ฏฟ๊ณ , ์ฐ์ฐ์ ๊ฐ์ ธ๊ฐ๊ธฐ๋ก ๊ฒฐ์ ํ์ฃ . ๋ง์ฝ ์ค์ ๋ก ๋น๊ฐ ์จ๋ค๋ฉด, ๊ทธ ์๋ณด๋ ์ฌ๋ฌ๋ถ์๊ฒ ๋์ ์ฐ๋๋ฅผ ๊ฐ์ง ๊ฒ์ด๊ณ , ์ฌ๋ฌ๋ถ์ ์ ํ์ด ์ณ์๋ ๊ฑฐ์์. ๋ฐ๋ฉด์ ๋น๊ฐ ์ค์ง ์์ผ๋ฉด ๊ทธ ์๋ณด์ ์ฐ๋๋ ๋ฎ์ ๊ฒ์ด๊ฒ ์ฃ . ์ด๋ ๊ฒ ์ฐ๋๋ ํน์ ์ํฉ์์ ์ด๋ค ์์ธก์ด ์ผ๋ง๋ ์ ๋ง๋์ง๋ฅผ ํ๋จํ๋ ๋ฐ ์ฌ์ฉ๋ฉ๋๋ค. ์ฝ๊ฒ ๋งํด, ์ฐ๋๋ ์์ธก์ด ๋ง์ ๊ฐ๋ฅ์ฑ์ ๋ณด์ฌ์ฃผ๋ ์์น์
๋๋ค. |
|
|
๋ณธ ๋ด์ค๋ ํฐ๋ ๋ชจ๋์์ฐ๊ตฌ์ AIX LAB์์ K-ํ์ดํ
ํฌ ํ๋ซํผ์ ์ง์์ ๋ฐ์ ์งํ๋์ต๋๋ค.
|
|
|
๐๐ป ํจ์ฒ๋๋ฆด ์ธ์คํ๊ทธ๋จ ๊ณ์ ํ๋ก์ฐํ๊ณ , ๋น ๋ฅด๊ฒ ์์์ ํ์ธํ์ธ์ ๐๐ป |
|
|
|