Ukratko
Fine-tuning (fino podešavanje) menja ponašanje modela — stil, format i terminologiju — učenjem na nekoliko stotina do nekoliko hiljada primera. Ne služi za „učenje činjenica“ iz dokumenata; za to je bolji RAG. Uz tehnike LoRA i QLoRA fine-tuning modela do oko 30 milijardi parametara radi na jednoj kartici od 48–96 GB.
Kada fine-tuning ima smisla
- Model treba da piše u tačno određenom formatu — JSON za vaš sistem, struktura pravnog podneska, šablon izveštaja.
- Specifična terminologija koju opšti model pogrešno koristi: medicinski, pravni ili tehnički žargon.
- Ton i stil: odgovori klijentima „glasom firme“.
- Manji model treba da radi posao velikog: model od 8B, fino podešen za uzak zadatak, može da zameni model od 70B uz višestruko manji trošak inferencije.
- Bolji srpski: ispravniji padeži, dosledna ekavica ili ijekavica, latinica ili ćirilica po vašem pravilu.
Kada vam fine-tuning ne treba
- Kada model treba da zna šta piše u vašim dokumentima — to rešava RAG, a dokumenti se menjaju bez ponovnog treniranja.
- Kada niste probali dobar prompt sa nekoliko primera (few-shot) — on često daje većinu efekta bez ikakvog treninga.
- Kada nemate bar nekoliko stotina kvalitetnih primera ili način da merite kvalitet.
Detaljno poređenje: RAG ili fine-tuning — kako izabrati.
Kako radimo
- Zadatak i metrika — šta je „dobar odgovor“ i kako ga merimo, automatski i ljudskom ocenom.
- Bazna linija — merimo najbolji prompt i RAG bez fine-tuninga, da znamo od čega polazimo.
- Priprema podataka — prikupljanje, čišćenje, anonimizacija, podela na skup za trening i skup za test.
- Trening — LoRA ili QLoRA na vašem hardveru, alatima kao što su Hugging Face TRL, Unsloth i Axolotl.
- Evaluacija — poređenje sa baznom linijom na test skupu koji model nije video.
- Deployment — LoRA adapter se učitava u inference server; više adaptera može da deli isti bazni model.
Koliko podataka treba
| Cilj | Okvirno primera | Napomena |
|---|---|---|
| Format i struktura izlaza | 200–1.000 | Primeri moraju biti dosledni |
| Stil i ton | 500–2.000 | Stvarni, provereni odgovori vaših ljudi |
| Terminologija domena | 1.000–5.000 | Uz RAG za činjenice |
| Manji model umesto većeg (destilacija) | 5.000–50.000 | Primere može da generiše veći model |
Hardver za fine-tuning
| Veličina modela | QLoRA (4-bit) | LoRA (16-bit) | Pun fine-tuning |
|---|---|---|---|
| 7–8B | ~10 GB | ~20 GB | ~130 GB |
| 13–14B | ~14 GB | ~32 GB | ~230 GB |
| 32B | ~26 GB | ~75 GB | ~520 GB |
| 70B | ~48 GB | ~160 GB | 1,1 TB i više |
Zato je za većinu firmi QLoRA ili LoRA na jednoj kartici realan izbor, dok je pun fine-tuning velikih modela posao za klaster. Kartice i cene: GPU serveri za AI.