Darba piezīmes

Aģentu maksājumi cilvēka noteiktas politikas ietvaros

Aģentu maksājumi ir maksājumi, ko uzsāk programmatūra, nevis cilvēks pie checkout. MI aģentam ir akreditācijas dati, tas nolemj, ka pirkumam jānotiek, un pats pārvieto naudu — apmaksā rēķinu, atjauno abonementu, rezervē čārteru — bez cilvēka, kas piespiestu pēdējo pogu. Noteicošais fakts ir iniciators. Cilvēks, kas noklikšķina „pirkt”, ir parasts karšu maksājums ar tērzēšanas robotu priekšā; aģentu maksājums ir programmatūra, kas lemj, autorizē un norēķinās brīdī, kad nauda patiešām kustas. Viss sarežģītais šajā kategorijā izriet no šīs vienas īpašības: tērētājs nav cilvēks, un tas nenogurst, nekļūst aizdomīgs un neuztraucas tā, kā to darītu cilvēks, pirms pārskaita naudu svešiniekam.

Tāpēc interesants jautājums nekad nav bijis, vai aģenti tērēs naudu — tie jau var. Jautājums ir, kas nosaka noteikumus, pēc kuriem tie tērē, un vai šos noteikumus ievieš platforma, vai tos tikai apsola pats aģents.

Kļūmes scenārijs ir acīmredzams, un tieši tā ir būtība

Iedodiet aģentam darbspējīgus maksājumu akreditācijas datus bez griestiem, un esat izveidojis krāpšanas incidentu, kas vēl nav noticis. Tas neiet greizi eksotiskā veidā. Tīmekļa lapā paslēpta prompt injekcija liek aģentam maksāt uzbrucējam. Nepareizs rīka apraksts novirza likumīgu pirkumu uz nepareizu saņēmēju. Atkārtošanas cilpa mēģina to pašu maksājumu tūkstoš reižu, jo veiksmes signāls nekad neatgriezās. Nevienam no tiem nav vajadzīgs viltīgs pretinieks — tās ir autonomas programmatūras ierastās kļūdas, tikai rezultāts ir nauda, kas pamet jūsu kontu.

Kārdinošais risinājums ir padarīt aģentu uzmanīgāku: labāks sistēmas prompts, stingrāks norādījums, modelis, kas dziļāk pārdomā tēriņus. Tas liek kontroli sistēmas neuzticamākajā vietā — paša aģenta spriešanā, tieši tajā, ko var pārliecināt no tās atteikties. Budžets, ko aģents var pārspēt ar argumentiem, nav budžets. Kontrolei jāatrodas vietā, kam aģents nevar piekļūt, tas ir, pilnībā ārpus aģenta.

Politika ir produkts, nevis prompts

Savaldīšanas modelis ir politika, ko platforma ievieš, pirms nauda kustas, nevis pēc tam, kad aģents jau ir izlēmis. Katram aģentam ir limits uz darījumu un dienas limits — mūsu demo politikā €150.00 par maksājumu, €500.00 dienā — ar mēneša griestiem €6,000.00 virs tiem. Tās ir cietas sienas, ko pārbauda platforma, nevis solījumi, ko tur aģents. Kad demo ceļojumu bots mēģināja čartēt par €640.00, maksājums tika noraidīts uz vietas: pārsniegts limits, pirms kustējies kaut cents. Aģents, kas katru dienu uzvedas nevainojami, tik un tā nevar pārsniegt to, ko ļauj mēnesis.

Budžets pasaka, cik daudz; atļauto saraksts — kur. Aģenti maksā tikai tirgotājiem, ko iepriekš nosaucāt. Demo Ops Agent zina tieši četrus, un €180.00 mēģinājums pie sarakstā neiekļauta piegādātāja tika atteikts kā neiekļauts sarakstā. Kopā abi uzzīmē rāmi: tik daudz naudas, tikai šiem saņēmējiem. Rāmja iekšienē aģents darbojas pilnā ātrumā un nekad nav jājautā; rāmis ir tas, kas pieder cilvēkam.

Jautājums nekad nav, vai MI aģents tērēs naudu. Jautājums ir, kas uzrakstīja noteikumus, pēc kuriem tas tērē — un atbildei vienmēr jābūt: cilvēks, iepriekš, rakstiski.
— Protocore · Agents inženierija

Cilvēks virs līnijas

Daži lēmumi ir pārāk lieli, lai tos atstātu rāmim. Tāpēc politika ietver slieksni: noteiktu summu, virs kuras cilvēkam jāapstiprina, pirms maksājums tiek izpildīts. Demo līnija ir pie €100.00. Kad Ops Agent atzīmēja Nord Logistics rēķinu #088 — €120.00, ērti dienas €500.00 budžeta robežās, bet virs apstiprināšanas līnijas —, tas nemaksāja. Tas apstājās, nolika priekšlikumu cilvēka priekšā un gaidīja. Vienas rindas atbilde to atļāva; maksājums tika izpildīts ar atsauci 9F21-0716 un 09:41 nokļuva audita žurnālā. Zem līnijas aģents rīkojas pats; virs tās vispirms atbild cilvēks.

Apstiprinājums nav atzīme, kas izzūd. Tas reģistrē, kas apstiprināja, kurā ierīcē, kurā laikā un ar kādu parakstu — apstiprināts lietotnē, tālruņa atslēga, 09:41:12. Kad vēlāk kāds jautā, kāpēc maksājums notika, atbilde ir vārdā nosaukts cilvēks un laika zīmogs, nevis paraustīti pleci.

Izslēgšanas slēdzis un žurnāls, ko nevar klusām labot

Pat labu sienu iekšpusē aģenti uzvedas nepareizi un politikas izrādās kļūdainas. To risina divas kontroles. Pirmā ir izslēgšanas slēdzis: viens pieskāriens aptur aģentu un uzreiz bloķē katru maksājumu, ko tas varētu uzsākt. Atslēgas paliek derīgas, lai nekas cits nesabojātos — aģents vienkārši nevar tērēt, kamēr cilvēks to neieslēdz atpakaļ, un tā gaidošie priekšlikumi iesalst vietā, nevis pazūd. Demo flotē ceļojumu bots stāv apturēts ar €0.00 iztērētiem, rinda neskarta.

Otrs ir tikai papildināms audita žurnāls. Katrs lēmums ir fiksēts: ko aģents mēģināja, kura politikas pārbaude izturēta vai neizturēta, kas ko apstiprināja, līdz pat atslēgu rotācijām. Viens ieraksts atjauno visu maksājumu — lēmums DEC-4471 rāda pieprasījumu, katru politikas pārbaudi ar rezultātu (atļauto saraksts — izturēts, limits — izturēts, slieksnis — eskalēts), cilvēka parakstu un norēķināto summu ar kanālu un atsauci. Katrs ieraksts satur savu hash, iepriekšējā ieraksta hash un savu vietu ķēdē — demo tas ir #4,471 —, tāpēc jebkura lauka labošana lauž visus nākamos ierakstus. Žurnālu var eksportēt JSON formātā kopā ar hash: tas ir jūsu, ko nodot auditoram, nevis mūsu, ko paturēt.

Norēķiniem jābūt garlaicīgiem; jaunumam — autorizācijā

Rodas kārdinājums agentiskos maksājumus padarīt jaunus līdz pašai pamatnei — jauns kanāls, jauns instruments, jauns veids, kā nauda ceļo. Pretojieties. Patiesi jaunā daļa ir autorizācija: kā aģents pierāda, ka drīkst maksāt, pēc kā politikas un ar kādu apstiprinājumu. Kad maksājums ir izgājis cauri šiem vārtiem, tam jānorēķinās pa kanāliem, kas jau gadiem ir garlaicīgi. Demo apstiprināts €120.00 priekšlikums kļūst par parastu SEPA kredīta pārskaitījumu — to dažas minūtes pēc apstiprinājuma norēķina SEPA Instant — un tālāk tas neatšķiras no cilvēka veikta maksājuma. Banka nezina un neinteresējas, ka to ierosinājis aģents.

Šis sadalījums ir apzināts. Garlaicīgie kanāli ir paredzami, atgriežami, ja shēma to atļauj, un saprotami katram finanšu vadības speciālistam un auditoram, ar ko jums nāksies saskarties. Ja jaunums ir politikā, bet maksājums notiek pa nostabilizētu kanālu, riskantā, strauji mainīgā daļa ir tā, ko pilnībā kontrolējat jūs, bet daļa, kas skar citu banku sistēmas, ir tā, ko nevienam nav jāapgūst no jauna. Aģenti tērē no tā paša kodola, uz kura darbojas pārējā maksājumu saime — tas aprakstīts /products/pay — nevis no paralēlas pasaules, kas būvēta robotiem.

Protokolu ainava vēl nav nostabilizējusies — būvējiet ar to prātā

Kā aģentam jāuzrāda sava identitāte un pilnvara tirgotājam, joprojām ir atklāts jautājums. Vairāki priekšlikumi sacenšas par to, kā aģents pierāda, kas tas ir, ko tam atļauts pirkt un kā tirgotājs to pārbauda, pirms pieņem naudu. Neviens nav uzvarējis, un likt visu uz vienu kārti šodien būtu pāragri. Piesardzīgā pieeja ir autorizācijas protokolu uzskatīt par nomaināmu un visu, kas atrodas aiz tā, turēt stabilu: politiku dzinējs, audita modelis un norēķinu kanāls nemainās, kad mainās priekšpusē esošais datu formāts.

Praksē tas nozīmē mazu, garlaicīgu integrācijas virsmu. Aģenti pieslēdzas pa MCP adresē mcp.protocore.io/agents; jebkurš ietvars, kas atbalsta šo protokolu, var turēt maku. Saskarne ir apzināti šaura — ierosināt maksājumu, saņemt lēmumu —, jo interesantā loģika atrodas platformā, nevis promptā. Kad nozare vienosies, kā aģenti sevi pierāda tirgotājiem, mainīsies priekšpuse, bet sienas aiz tās paliks tieši tur, kur bija.

Kur tas iederas

Agentiskie maksājumi nav derības uz to, ka autonomai programmatūrai jātērē bez ierobežojumiem. Tie ir pretējais: derības uz to, ka programmatūra tērēs, tāpēc ierobežojumiem jābūt reāliem, ārējiem un salasāmiem. Budžeti un atļauto saraksti velk rāmi, slieksnis lielos lēmumus novirza cilvēkam, avārijas slēdzis aptur visu, un tikai papildināms žurnāls ļauj jebkuru maksājumu vēlāk atjaunot. Produkta lapa /products/agents izstaigā visu ciklu ar šeit izmantotajiem demo datiem — izveido aģentu, iestata tā politiku, vēro, kā maksājums tiek eskalēts un norēķināts —, un /products/pay ir kodols, uz kura šie maksājumi darbojas. Autonomija ir īsta; tāpat ir pavada, un to tur cilvēks.

Jāveido sistēma?

Pastāstiet par problēmu. Atgriezīsimies ar arhitektūru un plānu.