๐ŸŒฑ Bloom ์†Œ๊ฐœ โ€” ์ œ๊ฐ€ ๋งŒ๋“  ๊ฒƒ, ์ œ๊ฐ€ ์ˆ˜์ •ํ•œ ๊ฒƒ, ๊ทธ๋ฆฌ๊ณ  ์ œ๊ฐ€ ๋งŒ๋“ค๊ฒŒ ๋œ ์ด์œ 

๋ฐœํ–‰: (2026๋…„ 1์›” 18์ผ ์˜คํ›„ 01:54 GMT+9)
5 min read
์›๋ฌธ: Dev.to

Source: Dev.to

์•ˆ๋…•ํ•˜์„ธ์š”, ์—ฌ๋Ÿฌ๋ถ„ โ€” ์ œ๊ฐ€ ๋งŒ๋“  Bloom์ด๋ผ๋Š” ์•ฑ์„ ์†Œ๊ฐœํ•˜๊ณ  ์‹ถ์–ด์š”.

์ง€๋‚œ ๋ช‡ ๋‹ฌ ๋™์•ˆ ์ €๋Š” ํŠธ๋žœ์Šค ์ปค๋ฎค๋‹ˆํ‹ฐ๋ฅผ ์œ„ํ•ด ๋งŒ๋“ค๊ณ  ์žˆ๋Š” ํ”„๋ผ์ด๋ฒ„์‹œโ€‘์šฐ์„ , ์ƒํ™œ์„ ํŽธ๋ฆฌํ•˜๊ฒŒ ํ•ด์ฃผ๋Š” ์›น ์•ฑ์ธ Bloom์„ ๋‹ค๋“ฌ๊ณ , ๋‹ค๋“ฌ๊ณ , ํ™•์žฅํ•ด ์™”์Šต๋‹ˆ๋‹ค. ์ด ๊ธ€์€ Bloom์ด ๋ฌด์—‡์ธ์ง€, ์™œ ์กด์žฌํ•˜๋Š”์ง€, ๊ทธ๋ฆฌ๊ณ  ์ œ๊ฐ€ ์–ด๋””๋กœ ๋‚˜์•„๊ฐ€๊ณ  ์‹ถ์€์ง€๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ’– ์™œ Bloom์„ ๋งŒ๋“ค๊ฒŒ ๋˜์—ˆ๋‚˜์š”

Bloom์€ ์ œ๊ฐ€ 3๋…„ ๋ฐ˜ ๋™์•ˆ ํŠธ๋žœ์ง€์…˜์„ ๊ฒช์œผ๋ฉฐ ์ฝ”๋”ฉ์„ ๋ฐฐ์šฐ๋Š” ๊ณผ์ •์—์„œ, ์‹ค์ œ๋กœ ์ €๋ฅผ ์ง€์›ํ•ด ์ฃผ๋Š” ๋„๊ตฌ๋ฅผ ์–ด๋””์„œ๋“  ์ฐพ์œผ๋ ค๋‹ค ๋ณด๋‹ˆ ์ƒ๊ฒจ๋‚ฌ์Šต๋‹ˆ๋‹ค. ๋ถ€๋“œ๋Ÿฝ๊ณ , ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ์ค‘์‹œํ•˜๋ฉฐ, ํŠธ๋žœ์Šค ์‚ฌ๋žŒ๋“ค์„ ์œ„ํ•ด ๋งŒ๋“ค์–ด์ง„ ์•ฑ์„ ๊ธฐ๋Œ€ํ–ˆ์ง€๋งŒ, ์–ธ์ œ๋‚˜ ๊ฐ™์€ ๋ฌธ์ œ์— ๋ถ€๋”ชํ˜”์Šต๋‹ˆ๋‹ค: ๊ณ„์ • ์š”๊ตฌ์‚ฌํ•ญ, ์ถ”์ , ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ ๋“ฑ.

ํ•„์š”ํ•œ ๋„๊ตฌ๋ฅผ ์ฐพ์ง€ ๋ชปํ•œ๋‹ค๋ฉด ์ง์ ‘ ๋งŒ๋“ค ์ˆ˜๋ฐ–์— ์—†์ฃ . Bloom์„ ๋งŒ๋“ค๊ธฐ ์‹œ์ž‘ํ•˜๋ฉด์„œ, ์ €์™€ ๊ฐ™์€ ๋„๊ตฌ๊ฐ€ ํ•„์š”ํ•œ ์‚ฌ๋žŒ์€ ์ €๋ฟ๋งŒ์ด ์•„๋‹ˆ๋ผ๋Š” ๊ฑธ ๊นจ๋‹ฌ์•˜์Šต๋‹ˆ๋‹ค.

๊ทธ๋ž˜์„œ ํ˜ผ์ž ์“ฐ๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ, ์ฐจ๋ถ„ํ•˜๊ณ , ์ง€์›์ ์ด๋ฉฐ, ํ”„๋ผ์ด๋ฒ„์‹œโ€‘์šฐ์„ ์ธ ๋ฌด์–ธ๊ฐ€๊ฐ€ ํ•„์š”ํ•  ์‚ฌ๋žŒ ๋ชจ๋‘์—๊ฒŒ ์ œ๊ณตํ•˜๊ธฐ๋กœ ํ–ˆ์Šต๋‹ˆ๋‹ค.

Bloom์€ ์ œ๊ฐ€ ์ฐพ์ง€ ๋ชปํ•œ ๊ณต๊ฐ„์„ ๋งŒ๋“ค๋ ค๋Š” ์‹œ๋„์ž…๋‹ˆ๋‹ค โ€” ํŠธ๋žœ์Šค ์‚ฌ๋žŒ์ด ๋งŒ๋“ , ํŠธ๋žœ์Šค ์‚ฌ๋žŒ์„ ์œ„ํ•œ, ๊ทธ๋ฆฌ๊ณ  ๋„์›€์ด ํ•„์š”ํ•˜๊ณ  ๋ถ€๋“œ๋Ÿฌ์šฐ๋ฉฐ ํŒ๋‹จ์ด๋‚˜ ๋ฐ์ดํ„ฐ ์ถ”์ถœ์ด ์—†๋Š” ๋„๊ตฌ๋ฅผ ์›ํ•˜๋Š” ๋ชจ๋“  ์‚ฌ๋žŒ์„ ์œ„ํ•œ ๋„๊ตฌ ๋ชจ์Œ์ด์ฃ . ์ด ์•ฑ์€ ๋ฐฐ๋ ค, ์ ‘๊ทผ์„ฑ, ์ž์œจ์„ฑ์„ ํ•ต์‹ฌ์œผ๋กœ ๊ตฌ์ถ•๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

๐ŸŒผ ์ตœ๊ทผ์— ๋งŒ๋“  ๊ฒƒ๋“ค

์ „์ฒด walkthrough (ํ˜„์žฌ curiocorner.org ์›น์‚ฌ์ดํŠธ์— ๋ผ์ด๋ธŒ)

Bloom ์›น ์•ฑ์— ๋Œ€ํ•œ ์™„์ „ํ•œ walkthrough๋ฅผ ๋งŒ๋“ค์—ˆ์Šต๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์—๋Š” ๋‹ค์Œ ๋‚ด์šฉ์ด ํฌํ•จ๋ฉ๋‹ˆ๋‹ค:

  • ๊ฐ ๋„๊ตฌ๊ฐ€ ์–ด๋–ป๊ฒŒ ์ž‘๋™ํ•˜๋Š”์ง€
  • ์ธํ„ฐํŽ˜์ด์Šค ํ๋ฆ„์ด ์–ด๋–ป๊ฒŒ ๋˜๋Š”์ง€
  • ๋ชจ๋“  ๊ฒƒ์ด ์–ด๋–ป๊ฒŒ ๋ถ€๋“œ๋Ÿฝ๊ณ  ๊ณผ๋ถ€ํ•˜๋˜์ง€ ์•Š๊ฒŒ ๋งž์ถฐ์ง€๋Š”์ง€

walkthrough๋Š” ์ด์ œ ์™„์ „ํžˆ ์ ‘๊ทผ ๊ฐ€๋Šฅํ•˜๋ฉฐ ์›น์‚ฌ์ดํŠธ์—์„œ ์ง์ ‘ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

YouTube์—์„œ ์˜์ƒ walkthrough๋„ ์‹œ์ฒญํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค:

๐ŸŒฑ Bloom์— ๋Œ€ํ•œ ๋ชฉํ‘œ์™€ ํฌ๋ถ€

Bloom์€ ํŠธ๋žœ์Šค ์ปค๋ฎค๋‹ˆํ‹ฐ์—์„œ ์‹œ์ž‘ํ•ฉ๋‹ˆ๋‹ค. ์™œ๋ƒํ•˜๋ฉด ์ด ์•ฑ์€ ์šฐ๋ฆฌ์˜ ํ•„์š”, ์ขŒ์ ˆ๊ฐ, ๊ทธ๋ฆฌ๊ณ  ์šฐ๋ฆฌ๋ฅผ ๋ฐ์ดํ„ฐ ํฌ์ธํŠธ์ฒ˜๋Ÿผ ๋Œ€ํ•˜์ง€ ์•Š๋Š” ๋„๊ตฌ์— ๋Œ€ํ•œ ๋ฐ”๋žŒ์—์„œ ์ถœ๋ฐœํ–ˆ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ์žฅ๊ธฐ์ ์œผ๋กœ๋Š” ๋ˆ„๊ตฌ๋‚˜ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๋ถ€๋“œ๋Ÿฝ๊ณ  ํ”„๋ผ์ด๋ฒ„์‹œโ€‘์šฐ์„ ์ ์ธ ๋„๊ตฌ๋“ค์˜ ์ „์ฒด ์ƒํƒœ๊ณ„๋กœ ์„ฑ์žฅ์‹œํ‚ค๊ณ  ์‹ถ์Šต๋‹ˆ๋‹ค.

์ œ ๋ชฉํ‘œ๋Š” ๊ฐ„๋‹จํ•˜์ง€๋งŒ ์•ผ์‹ฌ ์ฐจ ์žˆ์Šต๋‹ˆ๋‹ค:

  • ์ธ๊ฐ„์ ์ธ ๋А๋‚Œ์˜ ๋„๊ตฌ ๋งŒ๋“ค๊ธฐ
  • ๋ชจ๋“  ๊ฒƒ์„ ํ”„๋ผ์ด๋ฒ„์‹œโ€‘์šฐ์„ ์œผ๋กœ ์œ ์ง€ํ•˜๊ธฐ
  • ๊ฒฝํ—˜์„ ์ฐจ๋ถ„ํ•˜๊ณ , ์ ‘๊ทผ ๊ฐ€๋Šฅํ•˜๋ฉฐ, ํŒ๋‹จ ์—†์ด ๋งŒ๋“ค๊ธฐ
  • ๋จผ์ € ํŠธ๋žœ์Šค ์‚ฌ๋žŒ๋“ค์„ ์ง€์›ํ•˜๊ณ , ์ดํ›„ ๋ถ€๋“œ๋Ÿฌ์šด ๊ธฐ์ˆ ์ด ํ•„์š”ํ•œ ๋ชจ๋“  ์‚ฌ๋žŒ์—๊ฒŒ ํ™•๋Œ€ํ•˜๊ธฐ
  • Bloom์„ ์ฒœ์ฒœํžˆ, ์˜๋„์ ์œผ๋กœ, ์ปค๋ฎค๋‹ˆํ‹ฐ ์˜๊ฒฌ์„ ๋ฐ˜์˜ํ•˜๋ฉฐ ์„ฑ์žฅ์‹œํ‚ค๊ธฐ

Bloom์€ ์•„์ง ์ดˆ๊ธฐ ๋‹จ๊ณ„์ด์ง€๋งŒ ๋น ๋ฅด๊ฒŒ ์„ฑ์žฅํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค โ€” ๊ทธ๋ฆฌ๊ณ  ๋ณ€ํ™”ํ•˜๋Š” ๊ณผ์ •์„ ๊ณ„์† ๊ณต์œ ํ•˜๊ฒŒ ๋˜์–ด ๊ธฐ๋Œ€๋ฉ๋‹ˆ๋‹ค.

walkthrough๋ฅผ ํ™•์ธํ•˜๊ฑฐ๋‚˜ ์•ฑ์„ ์‚ฌ์šฉํ•ด ๋ณด์‹ ๋‹ค๋ฉด, ์—ฌ๋Ÿฌ๋ถ„์˜ ์ƒ๊ฐ์„ ๋“ฃ๊ณ  ์‹ถ์–ด์š”. ์—ฌ๋Ÿฌ๋ถ„์˜ ํ”ผ๋“œ๋ฐฑ์ด Bloom์˜ ๋‹ค์Œ ๋ฐฉํ–ฅ์„ ๊ฒฐ์ •ํ•˜๋Š” ๋ฐ ํฐ ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.

Back to Blog

๊ด€๋ จ ๊ธ€

๋” ๋ณด๊ธฐ ยป

AI ๋ชจ๋ธ์— ๋Œ€ํ•œ ๊ณต๊ธ‰๋ง ๊ณต๊ฒฉ: ๊ณต๊ฒฉ์ž๊ฐ€ ์˜ค์—ผ๋œ LoRA ์–ด๋Œ‘ํ„ฐ์™€ ์†์ƒ๋œ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜๋ฅผ ํ†ตํ•ด ๋ฐฑ๋„์–ด๋ฅผ ์‚ฝ์ž…ํ•˜๋Š” ๋ฐฉ๋ฒ•

์›๋ณธ์€ Cyberpath์— ๊ฒŒ์‹œ๋˜์—ˆ์Šต๋‹ˆ๋‹ค: https://cyberpath-hq.com/blog/supply-chain-attacks-on-ai-models-how-attackers-inject-backdoors-through-poisoned-lora-adapters-a...