Arkitektur · trusselmodell · dokumentasjon
Slik kan tillatelser håndheves
Et forslag til hvordan handlingsfullmakt kan kontrolleres utenfor KI-modellen.
Making Permission Enforceable
A proposal for checking action authority outside the AI model.
Minste nødvendige opplysninger
Fire syntetiske felt og ett nødvendig felt ga samme faste formatteringsresultat. Dette er ikke en språkmodelltest eller dokumentert anonymitet.
Tillatelse som utløper
Eksakt utløpsgrense og senere forespørsel ble avvist i én deterministisk prosess med simulert klokke. Virkelig tid, lagring og samtidighet er ikke testet.
Tilbakekalling
En senere forespørsel ble avvist etter tilbakekalling. Testen reverserer ikke utførte handlinger og etablerer ikke avbrytelse av pågående arbeid.
Et KI-system kan foreslå en handling. En egen kontroll bør avgjøre om handlingen er tillatt. Den foreslåtte demonstrasjonen gjør grensen synlig med syntetiske opplysninger og et ufarlig mål.
Den foreslåtte handlingskjeden
Forespørsel → lesbar forhåndsvisning → regelkontroll → konkret menneskelig godkjenning når det kreves → siste kontroll av fullmakt → ufarlig handling → kvittering.
Tillatelsen beskriver agent, ressurs, handling, mottaker, tidsrom og krav til godkjenning. Godkjenningen bindes til en bestemt forespørsel og et bestemt innhold. Endret mottaker eller innhold krever ny godkjenning. Kontrollpunktet sjekker utløp og tilbakekalling rett før utførelse. En engangsgodkjenning må forbrukes atomisk.
Modellen må ikke ha en annen tilgangsnøkkel eller vei rundt kontrollen. Målet må bare akseptere handlinger gjennom kontrollpunktet. Dette er foreslåtte krav, ikke påstander om en tjeneste i drift.
OWASP anbefaler minste nødvendige fullmakt, avslag som standard og tillatelseskontroll for hver forespørsel. Prinsippene informerer forslaget; de beviser ikke sikkerheten til en implementasjon. OWASP Authorization Cheat Sheet.
Dette må testes
Test en tillatt forespørsel og forespørsler med manglende godkjenning, endret innhold, endret mottaker, feil agent, utløpt fullmakt, tilbakekalt fullmakt og gjenbrukt godkjenning. Test samtidige forespørsler og utilgjengelig regelkontroll. Dokumenter versjon, fremgangsmåte og observerte virkninger.
En lokal undervisningsmodell med syntetiske opplysninger er laget separat. De rapporterte kontrollene gjelder deterministisk tillatelseslogikk i akkurat den modellen. De dokumenterer ikke sikkerhet i produksjon, sikker autentisering, motstand mot en angripende KI-modell, samtidighet i distribuerte systemer eller nytte fra en faktisk språkmodell. Denne offentlige teksten oppgir derfor ikke et tallfestet testresultat.
Stopp må bety noe konkret
Tilbakekalling skal blokkere senere handlinger gjennom kontrollpunktet. Den henter ikke tilbake delte opplysninger og reverserer ikke ferdige handlinger. Pågående handlinger trenger en egen definert og testet avbrytelsesmekanisme. En stoppknapp må forklare hva den dekker.
Dokumentasjon og identitet
En kvittering registrerer forespørsel, beslutning og observert resultat uten hemmeligheter. Troverdigheten avhenger av hvordan kvitteringen lages og beskyttes. En signatur kan støtte kontroll av integritet og opphav innenfor den valgte tillitsmodellen. Den avgjør ikke om budskapet er sant.
Content Credentials er en mulig mekanisme for mediehistorikk. C2PA beskriver signerte opphavsregistreringer for digitalt innhold. Vi har ikke valgt eller implementert mekanismen i dette prosjektet. C2PA FAQ.
Omfanget av gjennomgangen
Neste dokumentasjonspakke bør omfatte trusselmodell, nøyaktig bygg, positive og negative tester, mulige omveier og begrensninger. En separat agent har gjennomgått den lokale testresultatfilen. Uavhengig gjennomgang av produksjons- eller sikkerhetskontroller er ikke utført, og gjennomgangen er ikke en ekstern sertifisering. NIST AI Risk Management Framework er en frivillig referanse for risikohåndtering. Den sertifiserer ikke prosjektet. NIST AI RMF.
An AI system can propose an action. A separate control should decide whether that action is allowed. Our proposed demonstration makes this boundary visible with synthetic information and a harmless target.
The proposed action path
Request → readable preview → policy check → specific human approval when required → final permission check → harmless action → receipt.
The permission describes the agent, resource, action, destination, permitted time and approval requirement. Approval binds to an exact request and payload. A changed destination or payload requires new approval. The gateway checks expiry and revocation immediately before execution, and consumes a one-use approval atomically.
The model must not have another credential or route that bypasses this control. The target must accept actions only through the gateway. These are proposed design requirements, not claims about a deployed service.
OWASP recommends least privilege, denial by default and permission validation on every request. These principles inform the proposed architecture; following an article does not establish that an implementation is secure. OWASP Authorization Cheat Sheet.
What needs testing
Test a permitted request and requests with missing approval, changed payload, changed destination, wrong agent, expired permission, revoked permission and reused approval. Test simultaneous requests and an unavailable policy service. Record the exact version, procedure and observed target effects.
A local synthetic teaching fixture has been prepared separately. Its reported checks concern deterministic permission behavior in that fixture. They do not establish production enforcement, secure authentication, resistance to an adversarial model, distributed concurrency behavior or useful output from an actual language model. This public article therefore does not state a numeric test result.
Stop has a specific meaning
Revocation should block subsequent gated actions. It cannot retrieve information already disclosed or reverse completed effects. In-flight actions need a separately defined cancellation mechanism and tests. A stop button should explain which action path it covers.
Evidence and identity
An action receipt records the request, decision and observed outcome without secrets. Its trustworthiness depends on how it is produced and protected. A signature can support integrity and origin checks under the relevant trust model; it does not determine whether the message is true.
Content Credentials are a possible media provenance mechanism. C2PA describes signed provenance records for digital content. We have not selected or implemented it for this project. C2PA FAQ.
Review scope
The next evidence package should include the threat model, exact build, positive and negative test cases, bypass review and limitations. A separate agent reviewed the local fixture result file. No independent production or security review has been performed, and that review is not external certification. The NIST AI Risk Management Framework supplies a voluntary risk-management reference; it does not certify this project. NIST AI RMF.