๐ AWS Certified AI Practitioner (AIF-C01)๋ฅผ ์ํ ๊ถ๊ทน์ ์ธ Memory Hooks
Source: Dev.to
๋จธ์ ๋ฌ๋ ๊ธฐ๋ณธ
์ง๋ ํ์ต vs ๋น์ง๋ ํ์ต
- ๋ผ๋ฒจ โ ์ง๋ ํ์ต
- ๋ผ๋ฒจ ์์ โ ๋น์ง๋ ํ์ต
โโฏ์ง๋ ํ์ต = ๊ต์ฌ + ์ ๋ต
โโฏ๋น์ง๋ ํ์ต = ํจํด ์ฐพ๊ธฐ (ํด๋ฌ์คํฐ๋ง, ์ธ๊ทธ๋จผํธ)
๋ถ๋ฅ vs ํ๊ท
- ํด๋์ค โ ๋ถ๋ฅ
- ์ซ์ โ ํ๊ท
๊ณผ์ ํฉ vs ๊ณผ์์ ํฉ
- ๊ณผ์ ํฉ = ๋๋ฌด ๋ณต์ก โ ์ ๊ทํ ๊ฐํ
- ๊ณผ์์ ํฉ = ๋๋ฌด ๋จ์ โ ์ ๊ทํ ์ํ
์ฃผ์ ์๊ณ ๋ฆฌ์ฆ
- ํด๋ฌ์คํฐ๋ง โโฏ๊ณ ๊ฐ์ ๊ทธ๋ฃนํ? ๋ผ๋ฒจ ์์? โ KโMeans
- ์ด๋ฏธ์ง ๋ถ๋ฅ โโฏ๊ฝ ๋ถ๋ฅ โ kโNN ๋๋ Decision Tree
- ์ด์ ํ์ง โโฏ๋ผ๋ฒจ ์์ + ๋น์ ์ ํ์ง โ Autoencoders
GenAI ํ๋กฌํํธ ์์ง๋์ด๋ง
- Fewโshot ํ๋กฌํํธ โโฏํ์ ๋ณด์ฌ์ฃผ๊ธฐ โ Fewโshot ํ๋กฌํํธ.
- ํ๋กฌํํธ ์ฒด์ด๋ โโฏ๋ค๋จ๊ณ ์ํฌํ๋ก์ฐ โ ํ๋กฌํํธ ์ฒด์ด๋.
- ReAct ํ๋กฌํํธ โโฏReason + Action + Tool ์ฌ์ฉ โ ReAct.
Temperature
- ์ฐฝ์์ฑ โ โ Temperature โ
- ์ผ๊ด์ฑ โ โ Temperature โ
LLM ์ถ๋ก ํ๋ผ๋ฏธํฐ
- Temperature โโฏ์ฐฝ์์ฑ
- TopโK โโฏํ ํฐ ์ ํ ๊ฐ์
- TopโP โโฏํ๋ฅ ๋ฒํท
- Max Tokens โโฏ์ถ๋ ฅ ๊ธธ์ด
- Frequency Penalty โโฏ๋ฐ๋ณต ๋จ์ด ๊ฐ์
- Presence Penalty โโฏ๋ฐ๋ณต ์ฃผ์ ์ต์
๋งคํ
- ์ฐฝ์์ฑ โ Temperature / TopโK / TopโP
- ๊ธธ์ด โ Max Tokens
- ๋ฐ๋ณต์ฑ โ Frequency & Presence
RetrievalโAugmented Generation (RAG)
Chunking ๋ชฉ์
Chunking = ๋ ๋์ ๊ฒ์ โ ๋ ์ข์ ์ปจํ ์คํธ
RAG ๋ฐฐ์น ๋จ๊ณ
- โโฏ์ฝํ ์ธ ์๋ฒ ๋ฉ
- โโฏ๊ฒ์ ์ธ๋ฑ์ค ๊ตฌ์ถ
์ด ๋ฐฐ์น์๋ ์ฟผ๋ฆฌ ์๋ฒ ๋ฉ์ด๋ ์๋ต ์์ฑ์ ํฌํจํ์ง ์์ต๋๋ค.
๋ฉํฐ๋ชจ๋ฌ ๊ฒ์์ ์ํ LLM ์ ํ
ํ ์คํธ + ์ด๋ฏธ์ง ์ฟผ๋ฆฌ โ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ
ML ๋ชจ๋ธ ํ๊ฐ
์์ฝ ๋ฉํธ๋ฆญ
- ROUGE (๊ธฐ๋ณธ)
- ROUGE๊ฐ ์์ ๊ฒฝ์ฐ โ BLEU ์ ํ
๋ฒ์ญ ๋ฉํธ๋ฆญ
- BLEU / METEOR
๋ถ๋ฅ ๋ฉํธ๋ฆญ
- ๋ถ๊ท ํ ๋ฐ์ดํฐ โ F1 Score
- ๊ท ํ ๋ฐ์ดํฐ โ Accuracy
ํ๊ท ๋ฉํธ๋ฆญ
- ์ซ์ ์์ธก โ MSE / RMSE
LLM ํ์ง
- Perplexity โโฏ๋ชจ๋ธ์ด ์ผ๋ง๋ ๋๋๋๊ฐ?
AWS ์๋น์ค โ ๋น ๋ฅธ ๊ธฐ์ต ํฌ์ธํธ
- Model Cards โโฏ๊ฑฐ๋ฒ๋์ค + ๋ฌธ์ํ
- Model Monitor โโฏํ๋ก๋์ ๋๋ฆฌํํธ ๊ฐ์ง
- Ground Truth โโฏ์ธ๊ฐ ๋ผ๋ฒจ๋ง
- JumpStart โโฏ์ฌ์ ๊ตฌ์ถ ๋ชจ๋ธ + ๋น ๋ฅธ ๋ฐฐํฌ
- SageMaker Canvas โโฏ์ฝ๋ ์๋ ๋ฐ์ดํฐ ์ค๋น
- HealthScribe โโฏ์๋ฃ ์์ฑโํ ์คํธ ๋ณํ
- Guardrails for Bedrock โโฏ์ฑ ์ ์๋ AI (์์ ํํฐ)
- PartyRock โโฏ์คํ + ํ์ต + ๋น์ฉ ์์ (VPC์ฉ์ด ์๋๋ฉฐ, ๋ฐฐํฌ์ฉ์ด ์๋)
GenAI ๋ผ์ดํ์ฌ์ดํด
Design โ Data โ Train โ Evaluate โ Deploy โ Monitor
ํ๊ฐ ๋จ๊ณ
- ์ ํ๋ ํ ์คํธ
- ์์ ์ฑ + ๋ ์ฑ ํ ์คํธ
- ํ๊ฐ ์ธก์
์ถ๋ก
- Train = ํ์ต
- Infer = ์์ธก
- Deploy = ์๋น์ค ์ ๊ณต
์๋ฒ ๋ฉ
- ์๋ฒ ๋ฉ = ์๋ฏธ โ ๋ฒกํฐ
- ์ฐจ์ ์ถ์ โ ๋์ผ ์๋ฏธ โ ์ ์ฌ๋ ๊ฒ์
๊ธฐ๋ณธ ๊ฐ๋
ํ์ธโํ๋
๋ํ ๋ชจ๋ธ์๊ฒ ์์ ์์ ์ ์ ์ํํ๋๋ก ๊ฐ๋ฅด์น๋ ๊ฒ.
- ๋๋ฉ์ธโํนํ ๋ผ๋ฒจ ๋ฐ์ดํฐ
- ํน์ ์์ ์ฑ๋ฅ ํฅ์
- ์ฒ์๋ถํฐ ์ฌํ์ต ์๋
- ์ต๊ทผ ์ฌ๊ฑด ๋ฐ์ ์๋
์ฑ ์ ์๋ AI
์์ + ํํฐ + ๋ ์ฑ ๊ฐ์ง โ Guardrails ์ฌ์ฉ
์ต์ข ์๊ฐ
์ด ๊ธฐ์ต ํฌ์ธํธ๋ค์ ๋ค์์ ๋ชฉํ๋ก ์ค๊ณ๋์์ต๋๋ค:
- ์ํ ์ค ์ฆ์ ํ์ ๊ฐ๋ฅํ๊ฒ
- ์ ์ฌ ๊ฐ๋ ๊ฐ ํผ๋ ๊ฐ์
- ์ ์๋ฅผ ์ธ์ฐ๊ธฐ๋ณด๋ค ํจํด์ผ๋ก ์์ ๊ฐ ๊ตฌ์ถ
Danny Jessee๊ฐ ์งํํ QA/CloudAcademy ๊ณผ์ โAWS Certified AI Practitioner (AIFโC01) Certification Preparationโ์์ ์ป์ ์ธ์ฌ์ดํธ๋ฅผ ํ์ฉํด ์ค๋นํ์ต๋๋ค.