Agentska plačila pod človeško politiko

Agentska plačila so plačila, ki jih sproži programska oprema, ne oseba na blagajni (checkout). Agent umetne inteligence ima poverilnice, odloči, da je treba nekaj kupiti, in denar premakne sam – plača račun, obnovi naročnino, rezervira čarter – brez človeka, ki bi pritisnil zadnji gumb. Razlikovalno dejstvo je pobudnik. Oseba, ki klikne »kupi«, je običajno kartično plačilo s klepetalnikom spredaj; agentsko plačilo pa je programska oprema, ki odloča, avtorizira in poravna v trenutku, ko se denar dejansko premakne. Vse težko pri tej kategoriji izhaja iz te ene lastnosti: tisti, ki troši, ni človek in se ne utrudi, ne postane sumničav ali nervozen, kot bi se človek pred nakazilom neznancu.

Zato zanimivo vprašanje nikoli ni bilo, ali bodo agenti trošili denar – že zdaj lahko. Vprašanje je, kdo določa pravila, po katerih trošijo, in ali jih uveljavlja platforma ali jih agent zgolj obljublja.

Način odpovedi je očiten, in prav to je bistvo

Agentu dajte živo plačilno poverilnico in nobene zgornje meje, pa ste zgradili incident goljufije z nakazili, ki se še ni zgodil. Pot do napake ni eksotična. Prompt injection, skrit na spletni strani, agentu naroči, naj plača napadalcu. Napačen opis orodja usmeri legitimen nakup na napačnega prejemnika. Zanka ponovnih poskusov tisočkrat poskusi isto bremenitev, ker signal o uspehu nikoli ni prispel. Nič od tega ne zahteva zvitega nasprotnika – to so običajne napake avtonomne programske opreme, le da je izhod denar, ki zapušča vaš račun.

Zapeljiva rešitev je, da agenta naredimo previdnejšega: boljši sistemski poziv, strožje navodilo, model, ki bolj premišljeno razmišlja o trošenju. S tem kontrolo postavimo na najmanj zaupanja vredno mesto v sistemu – v agentovo lastno razmišljanje, prav tisto, kar je mogoče pregovoriti. Proračun, mimo katerega se agent lahko izgovori, ni proračun. Kontrola mora živeti tam, kamor agent ne seže, torej povsem zunaj agenta.

Izdelek je politika, ne poziv

Model zajezitve je politika, ki jo platforma uveljavi, preden se denar premakne, ne šele potem, ko se je agent odločil. Vsak agent dobi omejitev na transakcijo in dnevni limit – €150.00 na plačilo, €500.00 na dan v naši demo politiki – nad tem pa še mesečni strop €6,000.00. To so trde stene, ki jih preverja platforma, ne obljube, ki jih drži agent. Ko je demo potovalni bot poskusil najeti čarter za €640.00, je bilo plačilo zavrnjeno takoj: nad omejitvijo, preden se je premaknil en cent. Agent, ki se vsak dan vede brezhibno, še vedno ne more zdrsniti čez to, kar dopušča mesec.

Proračun pove koliko; seznam dovoljenih pove kam. Agenti plačujejo le trgovcem, ki ste jih navedli vnaprej. Demo Ops Agent jih pozna natanko štiri, poskus za €180.00 pri ponudniku, ki ni na seznamu, pa je bil zavrnjen kot not-listed. Skupaj potegneta okvir: toliko denarja, samo tem prejemnikom. Znotraj okvira agent teče s polno hitrostjo in nikoli ne sprašuje; okvir pa je tisto, kar ima v lasti človek.

Vprašanje ni, ali bo agent umetne inteligence trošil denar. Vprašanje je, kdo je napisal pravila, po katerih troši – in odgovor naj bo vedno človek, vnaprej, pisno.

Človek nad mejo

Nekatere odločitve so prevelike, da bi jih prepustili okviru. Zato politika vsebuje prag: določen znesek, nad katerim mora plačilo, preden steče, potrditi človek. V demu meja leži pri €100.00. Ko je Ops Agent označil račun #088 podjetja Nord Logistics – €120.00, udobno znotraj dnevnega proračuna €500.00, a nad mejo odobritve – ni plačal. Ustavil se je, predlog predložil osebi in počakal. Enovrstični odgovor ga je odobril; plačilo je bilo poravnano s sklicem 9F21-0716 in ob 09:41 zapisano v revizijsko sled. Pod mejo agent deluje sam; nad njo najprej odgovori človek.

Odobritev ni potrditveno polje, ki izpuhti. Zabeleži, kdo je odobril, na kateri napravi, kdaj in s priloženim podpisom – odobreno v aplikaciji, ključ telefona, 09:41:12. Ko kdo pozneje vpraša, zakaj je do plačila prišlo, je odgovor imenovana oseba in časovni žig, ne skomig z rameni.

Kill switch in dnevnik, ki ga ni mogoče neopazno urejati

Tudi znotraj dobrih sten agenti odpovejo in politike se izkažejo za napačne. To rešujeta dve kontroli. Prva je kill switch: en dotik zaustavi agenta in takoj ustavi vsa plačila, ki bi jih lahko sprožil. Ključi ostanejo veljavni, da se nič drugega ne pokvari – agent preprosto ne more trošiti, dokler ga človek ne vklopi nazaj, njegovi čakajoči predlogi pa zamrznejo na mestu, namesto da bi izginili. V demo floti potovalni bot miruje ustavljen pri €0.00 porabe, njegova čakalna vrsta je nedotaknjena.

Drugi del je revizijska sled, ki jo je mogoče samo dopolnjevati. Vsaka odločitev je zabeležena: kaj je agent poskusil, katero preverjanje pravilnika je uspelo ali ne, kdo je kaj odobril, vse do rotacij ključev. En zapis rekonstruira celotno plačilo — odločitev DEC-4471 prikazuje zahtevek, vsako preverjanje pravilnika z rezultatom (seznam dovoljenih prejemnikov: uspešno, omejitev: uspešno, prag: eskalacija), podpis osebe ter poravnani znesek s plačilno potjo in referenco. Vsak vnos nosi svoj zgoščeni izraz (hash), hash prejšnjega vnosa in svoj položaj v verigi — v predstavitvi #4,471 — zato sprememba katerega koli polja prekine vse nadaljnje zapise. Dnevnik se izvozi kot JSON, skupaj s hashem: vaš je, da ga izročite revizorju, ne naš, da ga hranimo.

Poravnava naj bo dolgočasna, novosti pa v avtorizaciji

Obstaja skušnjava, da bi agentska plačila naredili novo od temeljev navzgor — nova plačilna pot, nov instrument, nov način prenosa denarja. Uprite se ji. Resnično novo je avtorizacija: kako agent dokaže, da sme plačati, po čigavem pravilniku in s kakšno odobritvijo. Ko plačilo opravi to zapornico, naj se poravna po poteh, ki so že leta dolgočasne. V predstavitvi se odobren predlog v višini €120.00 spremeni v običajno kreditno nakazilo SEPA — poravnano prek SEPA Instant nekaj minut po odobritvi — ki se nadalje ne razlikuje od plačila, ki ga je opravila oseba. Banka ne ve in je ne briga, da ga je sprožil agent.

Ta delitev je premišljena. Dolgočasne plačilne poti so predvidljive, kjer shema dopušča, so povratne, razumejo pa jih vse zakladništvo in vsi revizorji, s katerimi boste kdaj imeli opravka. Če novost postavite v pravilnik, plačilo pa na uveljavljeno pot, je tvegani, hitro spreminjajoči se del tisti, ki ga popolnoma nadzirate, del, ki se dotika bank drugih, pa tisti, ki se ga ni treba na novo učiti. Agenti porabljajo iz istega jedra, na katerem teče preostala plačilna družina — opisano na /products/pay — ne iz vzporednega sveta, zgrajenega za robote.

Protokolna krajina še ni umirjena — gradite zanjo

Kako naj agent trgovcu predstavi svojo identiteto in pooblastilo, je odprto vprašanje. Več predlogov tekmuje o tem, kako agent dokaže, kdo je, kaj sme kupiti in kako trgovec to preveri, preden sprejme denar. Nobeden ni zmagal in stava na enega samega bi bila danes prenagljena. Previdna drža je, da avtorizacijski protokol obravnavate kot zamenljiv, vse za njim pa ohranite stabilno: pravilnik, revizijski model in plačilna pot se ne spremenijo, ko se spremeni format na sprednji strani.

V praksi to pomeni majhen, dolgočasen integracijski vmesnik. Agenti se povezujejo prek MCP na mcp.protocore.io/agents; denarnico lahko dobi vsako ogrodje, ki podpira protokol. Vmesnik je namenoma ozek — predlagaj plačilo, prejmi odločitev — ker zanimiva logika živi na platformi, ne v pozivu. Ko se bo industrija dogovorila, kako agenti trgovcem dokazujejo svojo identiteto, se bo spremenila fasada, zidovi za njo pa bodo ostali natanko tam, kjer so.

Kje je njegovo mesto

Agentska plačila niso stava, da bi avtonomna programska oprema smela trošiti brez omejitev. So nasprotno: stava, da bo programska oprema trošila, zato naj bodo omejitve resnične, zunanje in berljive. Proračuni in seznami dovoljenih prejemnikov začrtajo okvir, prag velike odločitve preusmeri k osebi, zaustavitveno stikalo ustavi vse, revizijska sled, ki jo je mogoče samo dopolnjevati, pa pomeni, da je vsako plačilo mogoče pozneje rekonstruirati. Stran izdelka na /products/agents prehodi celotno zanko na demo podatkih, uporabljenih tukaj — ustvari agenta, nastavi pravilnik, spremljaj, kako se plačilo eskalira in poravna — /products/pay pa je jedro, na katerem ta plačila tečejo. Avtonomija je resnična; resnična je tudi povodec, drži pa ga človek.