Seitse kuud AI-juhtidega

Märtsist 2026 on Amproni müük, tellimused ja logistika, rahandus, tootmine ja turundus AI-agentide käes. Neil on kümme kohta. Igal on oma roll, oma identiteet, oma tööriistad ja kirjalikud piirid. Inimesi on neli: mina otsustajana, peainsener ja kaks inimest tootmises ja laos. Kõik see töötab ühel serveril, mis asub ELis ja mida haldame ise. Mõtlemise teevad Claude’i mudelid.

Seitse kuud on piisavalt pikk aeg, et esimene vaimustus on läinud ja tavaline töö alanud. Kirjutan siia üles, mida see aeg mulle õpetas. Mitte seda, kuidas süsteem on ehitatud, vaid seda, mida ma teeksin uuesti ja mida teisiti.

Mis jääb inimestele

Kõige olulisem dokument on lühike nimekiri. Ainult inimene liigutab raha, allkirjastab juriidilisi dokumente, võtab kedagi tööle, paneb paika madalaima lubatud hinna ja otsustab omandi üle. Kõik muu võib minna agendile.

See nimekiri on lühem, kui ma arvasin. Kuid iga punkt selles on koht, kus viga ei ole enam parandatav. Raha on läinud, leping on allkirjastatud, inimene on tööle võetud.

Alguses arvasin, et piisab, kui see nimekiri on agendi juhistes kirjas. Ei piisa. Reegel, mis on ainult juhistes, on soovitus. Mudel suudab endale selgeks arutleda, miks seekord võib teisiti. Meil juhtus see päriselt. Nüüd on iga oluline reegel koodis, tööriistade tasemel. Agent, kellel ei ole maksetööriista, ei saa makset teha. Ta ei pea selleks midagi meeles pidama.

Minu enda töö on kitsamaks jäänud. Töö jõuab minuni kolme ukse kaudu. Esimene: „Tegin valmis, palun võta vastu.“ Teine: „Mul on vaja otsust, mida ainult sina saad teha.“ Kolmas: „Ma ei saa edasi minna ja siin on põhjus.“ Agent ei saa oma tööd ise valmis märkida. Selle teeb inimene. Kui klient küsib hinnapakkumist, on minu osa üks kinnitus. Vestlusse tuleb üks rida: „Saadan?“ Ma vastan.

Miks kõik on kirjas

Teine õppetund puudutab kirjutamist. Agent ei ole programm, mis kogu aeg töötab. Ta ärkab, teeb oma töö, kirjutab üles, mida tegi, ja lõpetab. Kahe käivituse vahel ei mõtle keegi. Järgmisel korral teab agent ainult seda, mis on kirja pandud.

See sundis mind kirja panema asju, mis olid seni elanud inimeste peades. Meil on ettevõtte põhiseadus väärtuste ja rangete piiridega. Meil on otsuste register koos tõenditega. Meil on register, mis ütleb, milline süsteem on õige, kui andmed omavahel ei klapi. Igal agendil on kirjalik ametijuhend: mis on tema valdkond, mida ta tohib ise teha, kuidas ta räägib ja millal ta peab inimeselt küsima.

Kirjutamata reegel on ka olemas. Lihtsalt keegi ei ole seda teadlikult kujundanud. Ametijuhend on ühtlasi minu peamine juhtimisvahend. Kui muudan teksti, muutub agendi käitumine viieteistkümne minuti jooksul.

Mälu on ettevõtte süsteemides, mitte mudelis. Iga agent peab päevikut, kuid päevik ütleb ainult, kust vaadata. Tõe ütleb süsteem. Kui agent kirjutab „saadetud“, „makstud“ või „kasutusele võetud“, kontrollitakse seda enne kordamist süsteemist, kus see päriselt toimus. Kui agent välja vahetada või mudel muuta, jääb mälu alles.

See ongi minu jaoks süsteem, mis ei vaja kangelasi. Ettevõtte teadmine ei kuulu ühele peale, olgu see inimese või masina oma.

Mis läks katki

Tegime üheksa viga, mis tasub ära nimetada. Ühest rääkisin juba: reegel, mis oli ainult juhistes.

Ajastatud tööd seisid päevi ja keegi ei märganud. Nüüd kontrollime päris tulemust, mitte taimerit.

Agent lubas „annan sulle teada“ ja unustas selle taaskäivitusel. Nüüd saab iga lubadus samal käivitusel jälgitava kaardi.

Muudatus oli salvestatud, kuid ei jõudnud kunagi töötavasse süsteemi. Nüüd ei ole midagi tehtud enne, kui see on töötavas süsteemis üle kontrollitud.

Agent kordas oma märkmetest vananenud väidet. Agendid vastasid ühises jututoas teineteisele. Kogu meeskonnal oli üks ühine kvoot. Kui see sai otsa, jäid kõik korraga vait. Testkoopia puudutas päris andmeid.

Juulis ehitasime kogu platvormi ümber, sest umbes kolmkümmend käsitsi kopeeritud teenust olid aja jooksul üksteisest lahku läinud. Nüüd on iga agent kirjeldatud ühes failis ja kõik muu tehakse sellest.

Ükski neist ei olnud eriline tehisintellekti viga. Need olid tavalised süsteemivead: vaikne rike, kadunud lubadus, vananenud teave. Samu vigu teevad ka inimestest koosnevad organisatsioonid. Vahe on selles, mida pärast tehakse. Iga vea järel otsime juurpõhjuse, küsides viis korda „miks“. Parandus kirjutatakse tagasi reeglina, mida platvorm jõustab, või kontrollina, mis tehakse enne iga uuendust. Õppetund, mis on ainult kellegi mälus, ei ole õppetund.

Mida ma ütleksin teisele

Kui keegi tahab sama ehitada, ütleksin talle viis asja.

1. Pane kõigepealt kirja, mida teevad ainult inimesed: raha, allkiri, värbamine ja kõik, mis läheb välja ülevaatuseta.
2. Alusta agendist, kes saab ainult lugeda. Ta ei saa midagi lõhkuda ja näitab odavalt, kuidas asjad katki lähevad.
3. Ehita teed inimeseni valmis enne, kui annad kellelegi kirjutamisõiguse.
4. Lase agendil alguses ainult mustandeid teha. Iseseisev saatmine tuleb hiljem ja ainult siis, kui usaldus on välja teenitud.
5. Mõõda inimese minuteid ühe otsuse kohta, mitte automatiseeritud ülesannete arvu.

Suurem osa ajast ei läinud tehisintellektile. See läks reeglitele, tõrgete vastu kaitsmisele ja olemasolevate süsteemide ühendamisele.

Mudel on lihtne osa. Raske on otsustada, mis jääb inimesele, ja panna see kirja nii, et sellest ei saa mööda arutleda.