Natrag na blog
AIContext managementLLMPrompt engineering

Zamka velikog AI konteksta: što sam naučio u praksi

Veći context window ne rješava loš proces. Ovo su lekcije iz AI coding rada gdje je previše konteksta stvaralo više šuma nego vrijednosti.

Josip BudalićHOTFIX tim7 min čitanja

Veliki context window zvuči kao san: ubacite dokumentaciju, cijeli codebase, prošle odluke, logove i razgovor, pa model "ima sve". "Sve" u praksi često znači hrpu nevažnog, zastarjelog ili kontradiktornog konteksta.

Nakon dovoljno AI coding sesija postaje jasno da problem nije samo kapacitet konteksta. Problem je kvaliteta konteksta, trenutak kada ga uvodite i jasna odluka što model zapravo treba napraviti.

Više konteksta može smanjiti fokus

Model ne zna uvijek što je najvažnije. Ako mu date deset mogućih smjerova, često će pokušati zadovoljiti sve. To može proizvesti implementaciju koja izgleda marljivo, ali rješava krivi problem ili donosi odluke na temelju zastarjele dokumentacije.

Loš signal u kontekstu

  • stare arhitektonske odluke bez oznake da su zastarjele
  • nedovršeni eksperimenti koji izgledaju kao standard
  • previše tool definicija koje nisu relevantne za zadatak
  • duga povijest razgovora puna promjena smjera

Dobar kontekst je selektivan

Za većinu zadataka bolji je manji, dobro odabran paket: relevantni fileovi, trenutna specifikacija, ograničenja, očekivani output i nekoliko primjera lokalnog stila. Ako model treba više, može ga zatražiti ili pročitati ciljano.

Isti princip vrijedi kod softverske arhitekture: granice postoje da bi smanjile broj stvari koje morate držati u glavi odjednom. AI workflow bez granica brzo postane spor, skup i nepredvidljiv.

Specifikacija je vrjednija od hrpe konteksta

Ako zadatak nije jasno definiran, model će popuniti praznine. Veći kontekst mu tada samo daje više prostora da pogriješi. Kratka specifikacija s ciljem, non-goals, edge caseovima i acceptance kriterijima često vrijedi više od tisuća linija razgovora.

Zato AI-assisted development bolje radi kada ga spojite sa spec-driven pristupom. Specifikacija modelu daje namjeru, a selektivni kontekst dovoljno lokalnog znanja za implementaciju.

Praktičan checklist prije ozbiljne AI sesije

  • Koju jednu odluku ili promjenu želim donijeti?
  • Koji fileovi su stvarno relevantni?
  • Koji dokumenti su zastarjeli ili kontradiktorni?
  • Koji output očekujem: patch, plan, review ili istraživanje?
  • Što treba provjeriti prije završetka?

Zaključak

Veliki context window je koristan, ali nije strategija. Strategija je znati što model treba napraviti, koje informacije su mu potrebne, a koje mu smetaju.

Timovi koji žele ozbiljno koristiti AI alate trebaju razmišljati o context managementu kao o dijelu engineering procesa: specifikacije, relevantni izvori, jasne granice i review. Bez toga, više konteksta samo znači više prilika za krivi zaključak.

JB

Josip Budalić

HOTFIX tim

Josip vodi HOTFIX d.o.o. i radi na software arhitekturi, AI-assisted development workflowima, modernizaciji codebasea i praktičnoj isporuci softwarea.

AI workflow vam zastaje pod teretom konteksta?

Pomažemo timovima posložiti AI-assisted development procese, granice konteksta, specifikacije i evaluacije koje smanjuju šum.