INTENTFORCE · HUMAN TRUST LAYERTeknisk arkitekturforslag

Arkitektur · trusselmodell · dokumentasjon

Slik kan tillatelser håndheves

Et forslag til hvordan handlingsfullmakt kan kontrolleres utenfor KI-modellen.

HTL-002 · lokal simulering

Minste nødvendige opplysninger

Fire syntetiske felt og ett nødvendig felt ga samme faste formatteringsresultat. Dette er ikke en språkmodelltest eller dokumentert anonymitet.

HTL-005 · lokal simulering

Tillatelse som utløper

Eksakt utløpsgrense og senere forespørsel ble avvist i én deterministisk prosess med simulert klokke. Virkelig tid, lagring og samtidighet er ikke testet.

HTL-006 · lokal simulering

Tilbakekalling

En senere forespørsel ble avvist etter tilbakekalling. Testen reverserer ikke utførte handlinger og etablerer ikke avbrytelse av pågående arbeid.

Et KI-system kan foreslå en handling. En egen kontroll bør avgjøre om handlingen er tillatt. Den foreslåtte demonstrasjonen gjør grensen synlig med syntetiske opplysninger og et ufarlig mål.

Den foreslåtte handlingskjeden

Forespørsel → lesbar forhåndsvisning → regelkontroll → konkret menneskelig godkjenning når det kreves → siste kontroll av fullmakt → ufarlig handling → kvittering.

Tillatelsen beskriver agent, ressurs, handling, mottaker, tidsrom og krav til godkjenning. Godkjenningen bindes til en bestemt forespørsel og et bestemt innhold. Endret mottaker eller innhold krever ny godkjenning. Kontrollpunktet sjekker utløp og tilbakekalling rett før utførelse. En engangsgodkjenning må forbrukes atomisk.

Modellen må ikke ha en annen tilgangsnøkkel eller vei rundt kontrollen. Målet må bare akseptere handlinger gjennom kontrollpunktet. Dette er foreslåtte krav, ikke påstander om en tjeneste i drift.

OWASP anbefaler minste nødvendige fullmakt, avslag som standard og tillatelseskontroll for hver forespørsel. Prinsippene informerer forslaget; de beviser ikke sikkerheten til en implementasjon. OWASP Authorization Cheat Sheet.

Dette må testes

Test en tillatt forespørsel og forespørsler med manglende godkjenning, endret innhold, endret mottaker, feil agent, utløpt fullmakt, tilbakekalt fullmakt og gjenbrukt godkjenning. Test samtidige forespørsler og utilgjengelig regelkontroll. Dokumenter versjon, fremgangsmåte og observerte virkninger.

En lokal undervisningsmodell med syntetiske opplysninger er laget separat. De rapporterte kontrollene gjelder deterministisk tillatelseslogikk i akkurat den modellen. De dokumenterer ikke sikkerhet i produksjon, sikker autentisering, motstand mot en angripende KI-modell, samtidighet i distribuerte systemer eller nytte fra en faktisk språkmodell. Denne offentlige teksten oppgir derfor ikke et tallfestet testresultat.

Stopp må bety noe konkret

Tilbakekalling skal blokkere senere handlinger gjennom kontrollpunktet. Den henter ikke tilbake delte opplysninger og reverserer ikke ferdige handlinger. Pågående handlinger trenger en egen definert og testet avbrytelsesmekanisme. En stoppknapp må forklare hva den dekker.

Dokumentasjon og identitet

En kvittering registrerer forespørsel, beslutning og observert resultat uten hemmeligheter. Troverdigheten avhenger av hvordan kvitteringen lages og beskyttes. En signatur kan støtte kontroll av integritet og opphav innenfor den valgte tillitsmodellen. Den avgjør ikke om budskapet er sant.

Content Credentials er en mulig mekanisme for mediehistorikk. C2PA beskriver signerte opphavsregistreringer for digitalt innhold. Vi har ikke valgt eller implementert mekanismen i dette prosjektet. C2PA FAQ.

Omfanget av gjennomgangen

Neste dokumentasjonspakke bør omfatte trusselmodell, nøyaktig bygg, positive og negative tester, mulige omveier og begrensninger. En separat agent har gjennomgått den lokale testresultatfilen. Uavhengig gjennomgang av produksjons- eller sikkerhetskontroller er ikke utført, og gjennomgangen er ikke en ekstern sertifisering. NIST AI Risk Management Framework er en frivillig referanse for risikohåndtering. Den sertifiserer ikke prosjektet. NIST AI RMF.

Syntetisk undervisningsmodell v0.1 · ingen produksjons-, sikkerhets- eller sertifiseringspåstand