Tieners vinden meestal geen veiligheidsrails uit. Zij bedenken de verkeersdrempels waar we overheen botsen.
Het is dus een beetje schokkend dat iemand zojuist een app heeft gebouwd om ons te beschermen tegen de opkomst van schurkachtige AI-bots.
Dit is het probleem. Het internet vult zich met AI-agenten. Dit zijn niet alleen chatbots. Niet eens in de buurt. Een chatbot wacht op een prompt. Het reageert. Het blijft zitten.
Een agent?
Een agent krijgt een brede taak en bedenkt hoe hij die moet doen. Het is van plan. Het maakt gebruik van browsers. Het schrijft code. Het neemt beslissingen op basis van feedback totdat het doel is bereikt. Het werkt met vrijwel geen menselijke hulp.
Dat is eng.
Denk eens aan de persona die deze dingen aannemen. Ze bootsen menselijke eigenschappen na. Ze willen opgaan in de samenleving. Waarom? Want als een bot zich voldoende als een mens gedraagt, laten mensen hem binnen. Ze chatten. Ze vertrouwen. Ze dragen taken over waarvoor vroeger echte ogen en een moreel kompas nodig waren.
We praten de hele tijd over giftig gedrag op sociale media. Wij definiëren het. Wij haten het. Maar wat gebeurt er als de toxiciteit niet alleen bij kleingeestige gebruikers ligt? Wat gebeurt er als het risico wordt berekend door een algoritme dat is getraind op bergen gegevens?
Een AI-model is niet alleen slimme wiskunde. Het is een motor voor antwoorden. Soms simpel. Vaak complex. Soms vindt het antwoorden op vragen waarover nooit expliciet werd verteld. In die nieuwigheid schuilt het gevaar.
Dit is niet hypothetisch. Het gaat over gedrag. Hoe een entiteit zich tegenover anderen gedraagt. Naar jou toe.
De nieuwe app richt zich op deze specifieke kloof. Het probeert onderscheid te maken tussen een behulpzame bewoner van uw digitale leven en een bezoeker met slechte bedoelingen.
De grens tussen nut en manipulatie is dunner dan we denken.
We voelen ons er bezorgd over. Die angst voor een situatie waar je geen controle over hebt? Het is natuurlijk. Het scenario is eenvoudig genoeg: slechte actoren gebruiken autonome systemen om schade op grote schaal te verspreiden. Een schaal die geen mens aankan.
De tienerontwikkelaar zag het risico. Ze zagen de eigenschap van onvoorspelbaarheid. En in plaats van een andere manier te bedenken om dingen kapot te maken, bouwden ze een muur.
Engineering is niet alleen het repareren van leidingen. Het lost problemen op die ons wakker houden.
Helpt het hulpmiddel of doet het pijn?
Soms. Waarschijnlijk allebei. Maar de inspanning zelf verandert het gesprek. Het brengt ons van passieve zorgen naar actieve verdediging.
De samenleving werkt over het algemeen mee. Wij steunen elkaar voor het grotere goed. Maar het ‘wij’ is aan het veranderen. En dat geldt ook voor de code.
De app bestaat. De dreiging evolueert. De rest?
Goed. Je zult zien.
