Agentmaksed inimese poliitika all

Agentmaksed on maksed, mille algatab tarkvara, mitte inimene kassas. Tehisintellekti agent hoiab volitusi, otsustab, et ost tuleb teha, ja liigutab raha ise: tasub arve, uuendab tellimuse, broneerib tšarterlennu, ilma et inimene viimast nuppu vajutaks. Eristav tõsiasi on algataja. Kui inimene klõpsab „osta“, on see tavaline kaardimakse, mille ees on vestlusrobot; agentmakse puhul otsustab, autoriseerib ja arveldab tarkvara hetkel, mil raha päriselt liigub. Kõik selle kategooria raske tuleneb sellest ühest omadusest: kulutaja ei ole inimene, ta ei väsi, ei muutu kahtlustavaks ega närviliseks, nagu inimene enne võõrale raha ülekandmist.

Seepärast ei olnud huvitav küsimus kunagi, kas agendid raha kulutavad, sest nad juba saavad. Küsimus on, kes seab reeglid, mille all nad kulutavad, ja kas neid reegleid jõustab platvorm või lubab neid vaid agent.

Tõrkerežiim on ilmne ja just selles on point

Andke agendile aktiivne maksevolitus ja jätke lagi panemata, ning olete ehitanud veel toimumata pettusejuhtumi. Viis, kuidas see valesti läheb, pole eksootiline. Veebilehele peidetud prompt injection käsib agendil maksta ründajale. Vigane tööriista kirjeldus suunab õigustatud ostu valele saajale. Kordussilmus proovib sama tasu tuhat korda, sest edusignaal ei jõudnud kunagi tagasi. Ükski neist ei vaja nutikat vastast, need on autonoomse tarkvara tavalised vead, ainult et väljundiks on teie kontolt lahkuv raha.

Ahvatlev lahendus on muuta agent ettevaatlikumaks: parem süsteemiprompt, karmim juhis, mudel, mis kulutamise üle rohkem järele mõtleb. See paneb kontrolli süsteemi kõige vähem usaldusväärsesse kohta, agendi enda arutlusse, just sellesse, mida saab ümber veenda. Eelarve, millest agent saab mööda vaielda, ei ole eelarve. Kontroll peab asuma kohas, kuhu agent ei ulatu, ehk agendist täiesti väljaspool.

Poliitika on toode, mitte prompt

Ohjeldusmudel on poliitika, mida platvorm jõustab enne raha liikumist, mitte pärast seda, kui agent on otsustanud. Iga agent saab tehingupõhise ülempiiri ja päevalimiidi (meie demopoliitikas €150.00 makse kohta ja €500.00 päevas) ning nende kohal kuulaekaks €6,000.00. Need on kõvad seinad, mida kontrollib platvorm, mitte agendi antud lubadused. Kui demo reisirobot proovis tšartrit €640.00 eest, lükati makse kohe tagasi: üle piiri, enne kui sent liikus. Agent, kes käitub iga päev laitmatult, ei saa siiski triivida üle selle, mida kuu lubab.

Eelarve ütleb, kui palju; lubatud nimekiri ütleb, kuhu. Agendid maksavad ainult kaupmeestele, kelle olete ette nimetanud. Demo Ops Agent teab neid täpselt nelja ja katse maksta €180.00 nimekirjavälisele müüjale lükati tagasi kui „pole nimekirjas“. Koos tõmbavad need kasti: nii palju raha, ainult neile saajatele. Kasti sees töötab agent täie kiirusega ega pea kunagi küsima; kast on see, mida inimene omab.

Küsimus ei ole kunagi selles, kas tehisintellekti agent raha kulutab. Küsimus on, kes kirjutas reeglid, mille all ta kulutab, ja vastus peaks alati olema: inimene, ette ja kirjalikult.

Inimene üle piiri

Mõned otsused on kasti jaoks liiga suured. Seepärast sisaldab poliitika läve: kindlaksmääratud summa, millest alates peab inimene makse heaks kiitma, enne kui see läbi läheb. Demos on joon €100.00 juures. Kui Ops Agent märkis arve #088 ettevõttelt Nord Logistics (€120.00, mugavalt oma €500.00 päevaeelarve sees, kuid üle kinnitusjoone), ei maksnud ta. Ta tegi pausi, esitas ettepaneku inimesele ja ootas. Üherealine vastus vabastas selle; makse arveldati viitega 9F21-0716 ja jõudis auditilogisse kell 09:41. Joone all liigub agent ise; selle kohal vastab esmalt inimene.

Kinnitus ei ole märkeruut, mis haihtub. See salvestab, kes kinnitas, millises seadmes, mis ajal ja koos allkirjaga: kinnitatud rakenduses, telefonivõti, 09:41:12. Kui keegi hiljem küsib, miks makse tehti, on vastuseks nimeline inimene ja ajatempel, mitte õlakehitus.

Kill-switch ja logi, mida ei saa vaikselt muuta

Ka heade seinte sees agendid käituvad valesti ja poliitikad osutuvad valeks. Seda käsitleb kaks kontrolli. Esimene on kill-switch: üks puudutus peatab agendi ja seiskab koheselt iga makse, mida ta võiks algatada. Võtmed jäävad kehtima, et miski muu ei katkeks: agent lihtsalt ei saa kulutada, kuni inimene ta tagasi sisse lülitab, ja ootel ettepanekud külmuvad paigale, mitte ei kao. Demoparkis seisab reisirobot peatatuna, kulutatud summaga €0.00 ja järjekord terve.

Teine on ainult lisamisega auditilogi. Iga otsus on kirjas: mida agent proovis, milline poliitikakontroll läbiti või ei läbitud, kes mida kinnitas, kuni võtmete roteerimiseni välja. Üks kirje taastab kogu makse – otsus DEC-4471 näitab päringut, iga poliitikakontrolli tulemust (lubatud nimekiri läbitud, limiit läbitud, lävi eskaleeritud), inimese allkirja ning arveldatud summat koos maksekanali ja viitega. Iga kirje sisaldab oma räsi, eelmise kirje räsi ja oma asukohta ahelas (demos #4,471), nii et mis tahes välja muutmine rikub kõik järgnevad kirjed. Logi eksporditakse JSON-ina koos räsiga: see on mõeldud teie kätte audiitorile ulatamiseks, mitte meile hoidmiseks.

Arveldus olgu igav, uudsus kuulugu autoriseerimisse

Kiusatus on teha agendimaksed uueks läbi ja lõhki – uus maksekanal, uus instrument, uus viis raha liigutada. Vastake sellele. Päriselt uus on autoriseerimine: kuidas agent tõendab, et tal on õigus maksta, kelle poliitika alusel ja millise kinnitusega. Kui makse on selle värava läbinud, peaks see arveldatuma kanalis, mis on olnud igav juba aastaid. Demos muutub kinnitatud €120.00 ettepanek tavaliseks SEPA kreeditülekandeks, mille SEPA Instant arveldab minutid pärast kinnitust – allavoolu ei erine see kuidagi inimese tehtud maksest. Pank ei tea ega hooli, et selle algatas agent.

See jaotus on teadlik. Igavad maksekanalid on prognoositavad, tagasipööratavad seal, kus skeem seda lubab, ning arusaadavad igale rahandusosakonnale ja audiitorile, kellega kunagi kokku puutute. Kui uudsus asub poliitikas ja makse arveldatakse tõestatud kanalis, on riskantne ja kiiresti muutuv osa see, mida te täielikult kontrollite, ning teiste pankadega kokku puutuv osa see, mida keegi uuesti õppima ei pea. Agendid kulutavad samast tuumast, millel töötab kogu ülejäänud makseperekond – seda kirjeldab /products/pay –, mitte robotitele ehitatud paralleeluniversumist.

Protokollimaastik pole veel paigas – ehitage sellega arvestades

Kuidas peaks agent esitama oma identiteeti ja volitust kauplejale, on lahtine küsimus. Mitu ettepanekut võistlevad selle üle, kuidas agent tõendab, kes ta on, mida tal on lubatud osta ja kuidas kaupleja seda enne raha vastuvõtmist kontrollib. Ükski pole võitnud ning kõige panustamine ühele neist oleks praegu enneaegne. Kaitsev lähenemine on käsitleda autoriseerimisprotokolli vahetatavana ja hoida kõik selle taga stabiilsena: poliitikamootor, auditimudel ja arveldusteekond ei muutu, kui eesmine andmevorming muutub.

Praktikas tähendab see väikest ja igavat integratsioonipinda. Agendid ühenduvad MCP kaudu aadressil mcp.protocore.io/agents; igal raamistikul, mis protokolli räägib, võib olla rahakott. Liides on teadlikult kitsas – esita makse, saa otsus –, sest huvitav loogika asub platvormil, mitte promptis. Kui tööstus lepib kokku, kuidas agendid end kauplejatele tõendavad, muutub eesmine pool ja selle taga olevad seinad jäävad täpselt sinna, kus nad olid.

Kus see asub

Agendimaksed ei ole panus sellele, et autonoomne tarkvara peaks piiramatult kulutama. Pigem vastupidi: see on panus sellele, et tarkvara hakkab kulutama, ja seetõttu peavad piirangud olema päriselt olemas, välised ja loetavad. Eelarved ja lubatud nimekirjad tõmbavad piirid, lävi suunab suured otsused inimesele, avariilüliti peatab kõik ning ainult lisamisega logi tagab, et iga makse on hiljem taastatav. Tootelehel /products/agents käiakse kogu ring läbi siin kasutatud demoandmetel – loo agent, sea tema poliitika, vaata, kuidas makse eskaleerub ja arveldub – ning /products/pay on tuum, millel need maksed töötavad. Autonoomia on päris, nii on ka rihm, ja seda hoiab inimene.