Zašto AI bez memorije svaki dan počinje od nule

Svatko tko je s AI asistentom radio duže od jednog dana zna osjećaj: jučer ste mu objasnili kako vaša tvrtka radi ponude, danas ga to ponovno pita. Model nije zaboravio — on to nikad nije ni zapamtio. Jezični modeli ne pamte ništa između dva razgovora. Sve što znaju o vama mora im se svaki put iznova dati.

Za jedno pitanje to nije problem. Za asistenta koji tjednima radi na istom projektu, odgovara kupcima ili vodi procese, to je razlika između suradnika i pripravnika koji svako jutro dolazi prvi dan.

Kontekst nije memorija

Modelu se u svaki razgovor može ubaciti puno teksta — tzv. kontekst. No kontekst je radni stol, a ne arhiva:

• ograničen je — sve ne stane, a što ga više napunite, model sporije i skuplje odgovara,
• nestaje kad razgovor završi,
• ne razlikuje važno od nevažnog — odluka od prošlog mjeseca i usputna rečenica jednako su teške.

Prava memorija znači da sustav sam spremi ono što vrijedi zapamtiti i da to sam pronađe kad zatreba — bez da mu vi svaki put lijepite iste upute.

Dvije vrste banke podataka

U praksi se pokazalo da AI-u trebaju dvije različite stvari: znanje koje ljudi pišu i održavaju te memorija koju agent gradi sam iz rada. Mi za to koristimo dva alata.

Obsidian — znanje koje pišu ljudi

Obsidian je aplikacija za bilješke u kojoj je sve obična Markdown datoteka u mapi na vašem računalu (tzv. vault). Bilješke se međusobno povezuju poveznicama, pa nastaje mreža znanja koju je lako pretraživati — i ljudima i AI-u.

U njega ide ono što mora biti točno i odobreno:

• odluke i razlozi zašto su donesene („zašto ne koristimo kolačiće za analitiku”),
• pravila i konvencije („kako pišemo URL-ove”, „kako izgleda svaka nova stranica”),
• upute za ponavljajuće poslove — npr. kako se objavljuje nova verzija stranice.

Budući da su to obične datoteke, AI agent ih čita izravno, a svaka promjena ima povijest kao i kod. Ovaj web, uključujući i blog koji čitate, ima takav vault s dnevnikom odluka: prije nego što agent nešto promijeni, pročita što je već dogovoreno.

Hindsight — memorija koju agent gradi sam

Hindsight je sustav otvorenog koda za dugoročnu memoriju AI agenata. Ne sprema razgovore doslovno, nego iz njih izvlači činjenice, osobe, pojmove i vrijeme te ih povezuje u graf. Radi s tri osnovne operacije:

• retain — spremi novu informaciju,
• recall — pronađi relevantna sjećanja (paralelno pretražuje po značenju, ključnim riječima, vezama u grafu i vremenu),
• reflect — razmisli nad svim što je zapamćeno i odgovori na pitanje koje traži zaključivanje, a ne samo pretragu.

Memorija živi u bankama (memory banks): svaka je potpuno odvojena — jedna po korisniku, agentu ili projektu — pa se ono što agent nauči na jednom projektu ne prelijeva u drugi.

U Hindsight ide ono što se događa u radu: što je isprobano i nije uspjelo, koje su greške već riješene, što je klijent rekao na sastanku prije tri tjedna.

Zašto oboje

Obsidian je ono što mora biti istina — i zato ga pišu i odobravaju ljudi. Hindsight je ono što se dogodilo — i zato ga agent puni sam, bez da itko vodi zapisnik. Kad se njih dvoje ne slažu, dobra praksa je vjerovati dokumentaciji i provjeriti stanje, a ne slijepo slijediti sjećanje.

Rezultat: asistent koji zna vaša pravila, sjeća se što je bilo i ne postavlja ista pitanja dvaput.

Na što paziti

• Lozinke i ključevi nikad ne idu u memoriju. Memoriju treba čuvati kao i svaku drugu bazu podataka — a ono što se u nju ne spremi, ne može ni procuriti.
• Osobni podaci su obrada po GDPR-u. Ako agent pamti imena i e-mailove kupaca, to treba navesti u politici privatnosti, a s pružateljem usluge imati ugovor o obradi.
• Svaki klijent svoja banka. Odvojene banke nisu samo urednost — one jamče da podaci jednog klijenta nikad ne završe u odgovoru drugome.
• Memorija stari. Ono što je bilo istina prije pola godine možda više nije. Važne odluke zato žive u dokumentaciji, gdje ih netko održava.

AI bez memorije je pametan, ali vječno nov. S dobrom memorijom postaje kolega koji zna kako vi radite.