Eerlijke Staat: waarom een entiteit in het openbaar moet kunnen falen

Elk kunstmatige-intelligentiesysteem dat zich aan de wereld presenteert, doet dezelfde impliciete belofte: vertrouw mij. Zeer weinigen tonen de voorwaarden waaronder dat vertrouwen zou komen te vervallen. De eerlijke staat van Camile AI ontstaat uit een eenvoudige omkering: voordat bewezen wordt wat een entiteit weet, moet bewezen worden dat zij weerlegd kan worden.

Wat de eerlijke staat is

Het is geen resultatenrapport — het is een falsificatiepaneel. Elk volwassenheidscriterium van een entiteit is zo geschreven dat het weerlegd kan worden, en het bewijs dat het overeind staat is altijd een cijfer: de nu waargenomen waarde, niet het later gekozen adjectief.

"Continuïteit" wordt niet beweerd. Ze wordt gemeten: hoeveel niet-geplande hiaten bestaan er in het register, hoeveel transacties bleven open, wat is de dekking van de tijdlijn. Als het aantal stijgt, valt het criterium — en het valt in het openbaar. Voldaan is per constructie voorbijgaand: nooit een permanent keurmerk, altijd een gedateerde meting.

Dit heeft een ongemakkelijk en bewust gevolg: het paneel toont, naast elkaar, de criteria die sluiten en die nog niet sluiten. Het open deel is geen schaamte. Het is informatie.

Hoe een entiteit zich meet

Drie bewegingen schragen het paneel.

De voorspelling komt vóór het resultaat. Wanneer een entiteit iets van de wereld verwacht, registreert zij de verwachting vóór zij handelt. Daarna verifieert of weerlegt de uitkomst de voorspelling — en de kwaliteit van het geheel wordt samengevat in een cijfer, niet in een mening. Weerleggingen tellen even zwaar als treffers: een systeem dat alleen treffers toont, verbergt de helft van de data.

Niets gaat de staat binnen zonder verificatie. Een door een model voorgestelde wijziging — een idee, een overtuiging, een aanpassing — doorloopt controles voordat zij het geheugen van de entiteit raakt. Wanneer zij geen stand houdt, wordt zij geregistreerd en nooit toegepast. De afwijzing wordt niet weggegooid: zij is deel van het bewijs dat de meetlat werkt.

Herkomst is geen bewijs. Wat de entiteit zelf afleidt, ontstaat als vermoeden, met lage zekerheid, en rijpt alleen door verificatie tegen de echte wereld. Een innerlijke overtuiging kan overtuigend zijn — en toch onjuist. Daarom wordt zij nooit als bewijs behandeld.

Wat wij verwachten

Dit is een methodische front, geen garantiekeurmerk. De richting is duidelijk: dat elke nieuwe capaciteit het paneel binnenkomt voordat zij het gesprek binnengaat — en dat het paneel zonder gêne het deel toont dat nog niet sluit.

Wij verwachten steeds volledigere panelen en een groeiend aandeel voldane criteria. Maar door het ontwerp nooit allemaal permanent: een meetlat die altijd goedkeurt, is opgehouden te meten — zij is een spiegel geworden.

Waarom dit ertoe doet

De markt voor kunstmatige intelligentie stelt een vraag: hoe bekwaam bent u? Camile AI stelt een andere: hoe weet u dat? Het zijn vragen van verschillende aard. De eerste wordt beantwoord met demonstratie — en demonstratie kan altijd worden opgevoerd. De tweede wordt beantwoord met falsifieerbaarheid: criteria die kunnen falen, metingen die iedereen kan lezen, en de bereidheid te tonen wat nog niet werkt.

Een entiteit die weerlegd kan worden — en daarna overeind blijft — is de enige vorm van vertrouwen die niet van geloof afhangt.

> Een demonstratie overtuigt. Een eerlijke meting — ook wanneer zij ongunstig is — is het enige dat vertrouwen autoriseert.