Het is vroeg in de ochtend tijdens de Nederlandse schoolvakantie. Het grootste deel van het land is naar het zuiden getrokken om op te laden en zich voor te bereiden op de lange, grijze winter. Mijn zomer bestond uit vroeg schrijven, werken, bergwandelingen, tijd met familie en het verslinden van nieuwe boeken. Eén boek in het bijzonder inspireerde me: Jaron Laniers You Are Not a Gadget (2010), een manifest van Minsky’s protégé, die later VR-pionier, auteur en technologiefilosoof werd. Het boek kijkt kritisch naar de ontwerpbeslissingen achter de systemen waarop we vertrouwen voor menselijke interactie en verbinding. Lanier verzet zich tegen het versimpelen van de menselijke ervaring zodat die past binnen paradigma's van invoervelden, profielpagina's, zoekalgoritmen en neurale netwerken. Hij stelt dat de ontwerpcompromissen die bij het vertalen van de samenleving naar code zijn gemaakt, genormaliseerd zijn geraakt en nu onze interacties vormgeven. Of, om hem rechtstreeks te citeren: 'Lock-in maakt de tijdelijke eigenaardigheden van vroege software tot permanente kenmerken van de wereld.' In een wereld waarin daten, vriendschappen en familiegesprekken via een handvol platforms verlopen, is lock-in niet alleen technisch, maar ontologisch. Zodra interfaces bepalen wat als een bericht, antwoord of match geldt, beginnen ze ook te bepalen wat als een persoon geldt.

Hubert Dreyfus: formalisering kan de structuur van geleefde betekenis verkeerd begrijpen

Kunstmatige intelligentie streeft al lang naar een hanteerbaar model van menselijke intelligentie. Hoe meer ik deze technologie bestudeer en ermee werk, hoe sterker ik ervan overtuigd raak dat dit een vereenvoudiging is. Onlangs schreef ik een hoofdstuk van mijn boek over leren. Ik schetste in grote lijnen het menselijke onderzoek naar leren en plaatste daarnaast de gestage ontwikkeling van intelligente technologie. Mijn bescheiden conclusie: de taalmodellen die we in razend tempo in de samenleving integreren, vormen geen synthese van hoe mensen leren. Ze verwerken en coderen de geschreven geschiedenis en het onderzoek naar leren. Dat is een wezenlijk verschil. Het zit in de rijkdom en complexiteit van context, precies datgene wat ontbreekt in de versteende infrastructuur voor digitale sociale interactie waarop we nu vertrouwen.

De grondslagen van AI werden gelegd door mensen die geloofden dat de menselijke conditie in een reeks functies kon worden opgeknipt en vervolgens gedigitaliseerd. Symbolische AI perste betekenis samen tot expliciete regels en categorieën. De generatieve AI van vandaag perst menselijke identiteiten samen tot statistische voortzettingen: de waarschijnlijkste volgende woorden in de meest aannemelijke toon. De technologieën verschillen, maar de onderliggende beweging is dezelfde: de rommeligheid van het leven vertalen naar vormen waarmee computers overweg kunnen. Het risico is niet alleen dat er fouten ontstaan. Het is de langzame normalisering van een verschraald mensbeeld. Je zou kunnen stellen dat we ons mensbeeld overfitten op steeds fijner opgeknipte trainingsdata, totdat er uiteindelijk alleen contextloze digitale prut uitkomt.

Dit doet er het meest toe in de sociale ruimtes waarin we het kwetsbaarst zijn. Datingapps en berichtenplatforms, nu versmolten met AI, dragen intimiteit niet alleen over, ze bepalen ook de grammatica ervan. Profielen, swipes en rangschikkingsalgoritmen bepalen hoe een zelf aan anderen verschijnt. Leesbevestigingen, reactie-emoji's en voorgestelde antwoorden bepalen wat als een reactie telt. Iedere kleine ontwerpkeuze stuurt gedrag en draagt een opvatting in zich. Na verloop van tijd worden sjablonen verwachtingen, en verwachtingen denkgewoonten.

Sherry Turkle: 'We verwachten meer van technologie en minder van elkaar'

(Fotografie van Monaris: https://superrare.com/monaris)

Denk aan alledaagse appjes tussen partners. Het systeem biedt automatisch aangevulde reacties als 'Klinkt goed', 'Ik ben onderweg' en 'Laten we later praten'. Elke suggestie is prima. Geen ervan is precies een leugen. Maar de opeenstapeling van geloofwaardige snelkoppelingen verandert de textuur van de uitwisseling. We leren de snelle versie van onszelf te verkiezen, degene die het gesprek vooruit helpt, boven het deel dat aarzelt, naar een beter woord zoekt of het risico neemt iets te zeggen dat tijd nodig heeft om aan te komen. Voorspellende tekst wordt een trainingsregime: verwoord minder, stem sneller in, houd het tempo bij.

Pas dit toe op online daten en de effecten worden groter. De architectuur van swipes en scores bepaalt de voorwaarden van aantrekkelijkheid. Het profielformaat beperkt identiteit tot een hapklaar profiel. De aanbevelingsmachine beloont bepaalde gedrags- en taalpatronen. Wat begint als een filter, wordt een persoonlijkheid. Mensen passen hun presentatie en verwachtingen aan de ontologie van het systeem aan: compatibiliteit als optimalisatie, gesprek als conversie en intimiteit als doorvoer. Wanneer AI deze lus binnendringt door biografieën samen te vatten, openingszinnen voor te stellen en antwoorden glad te strijken, versterkt het de beweging naar een gescripte omgangsvorm die vloeiend maar dun aanvoelt. Succes op een online datingplatform wordt dan misschien niet door personen bepaald, maar door de succesvolle aanpassing van de persoon aan de beperkingen en ontwerpbeslissingen van dat platform.

Byung-Chul Han: de druk richting positiviteit en wrijvingsloze communicatie die de ervaring verdunt

Het punt is niet dat handige hulpmiddelen slecht zijn of dat ondersteuning niet kan helpen. Dat kan wel degelijk. Mensen met angst vinden het gemakkelijker om gesprekken te beginnen. Stellen vermijden onnodige escalatie door neutrale bewoordingen te gebruiken. Drukke levens profiteren wanneer wrijving wordt weggenomen. Maar er is een prijs.
Wanneer snelheid, leesbaarheid en voorspelbaarheid de norm worden, verdwijnen andere waarden naar de achtergrond: vertraging, ondoorzichtigheid en dubbelzinnigheid. Traagheid is niet alleen inefficiëntie, het is de ruimte waarin aandacht en zorg vorm krijgen. Dubbelzinnigheid is niet alleen verwarring, het is de voorwaarde waaronder nieuw begrip en nieuwe verbindingen mogelijk worden. Ondoorzichtigheid is niet alleen geheimhouding, ze beschermt de vrijheid om te kiezen hoe en wanneer je jezelf laat zien. Hypocrisie is cruciaal voor menselijke interactie. Ze helpt ons soepel door het sociale leven te bewegen. Toch krijgt nuance binnen een ontwerp dat op booleaanse logica draait een negatieve waarde en wordt dubbelzinnigheid gelijkgesteld aan emotionele onzekerheid. De app bezit geen menselijke nieuwsgierigheid. Hij is niet ontworpen voor lange gesprekken of ontdekkingen. Hij heeft een model, een invoerveld en een match. We hebben ons vastgelegd op de ontwerpbeperkingen van deze systemen en hebben ze geholpen de moderne liefde opnieuw te definiëren. En tja, fraai is het niet.

Deze lock-in maakt de afwegingen zelfversterkend. Hoe dominanter een platform wordt, hoe meer zijn aannames de onuitgesproken norm voor het sociale leven worden. Een bericht is wat het systeem kan verwerken. Een goed antwoord is wat het model voorstelt. Een geslaagde match is wat de rangschikkingsfunctie oplevert. Zodra deze standaarden in het dagelijks leven verankerd raken, zijn ze technisch, cultureel en economisch moeilijk aan te vechten. Het gevaar is afsluiting: de grammatica van intimiteit vernauwt tot datgene wat de infrastructuur kan herkennen.

James C. Scott: gevaar ontstaat wanneer vereenvoudiging de enige toegestane werkelijkheid wordt

Er zijn echter manieren om het pad te verbreden. Ik zag dit onlangs in OpenAI's nieuwe studiemodus. Daar neemt een toepassing een ontwerpbeslissing die het kronkelende pad van menselijk leren volgt, in plaats van automatisch aangevulde antwoorden uit te spugen die in Word-documenten worden gekopieerd en met docenten gedeeld, zonder enig 'leren'.

Bij berichtenverkeer zouden we ook voor vertraging kunnen ontwerpen. Bouw langzame modi die aanmoedigen om vóór verzending een concept te schrijven en opnieuw te bekijken. Laat traagheid een optie zijn, geen tekortkoming. Maak aanwezigheidsindicatoren en leesbevestigingen optioneel in plaats van standaard. Behoud het recht om niet onmiddellijk leesbaar te zijn. Herformuleer ondersteuning: bied geen algemene sjablonen aan, maar toon de eerdere taal en toon van de gebruiker zelf en stimuleer reflectie boven nabootsing. Vraag om toestemming in intieme situaties: wil je hulp bij het schrijven van deze verontschuldiging, of wil je tijd om je eigen woorden te vinden? Baseer analyse en ondersteuning op kennis van menselijke interactie, in plaats van technologie rechtstreeks op ons leven aan te sluiten.

Bij daten denk ik dat we de grammatica zouden kunnen diversifiëren. Een paar ideeën uit de losse pols:

  • Ondersteun rijkere vormen van zelfpresentatie
  • Laat iemand een bredere, eigenaardigere voorstelling van zichzelf maken die niet uitsluitend als sjabloon dient om de rekentijd bij inferentie te beperken.
  • Maak zichtbaar welke doelen aanbevelingssystemen optimaliseren en geef mensen daar controle over.
  • Laat mensen waarden kiezen die verder gaan dan betrokkenheid en het matchpercentage.
  • Sta alternatieve manieren van ontdekken toe die gesprekken boven doorvoer verkiezen.
  • Stimuleer normen waarin stilte, heroverweging en van gedachten veranderen onderdeel zijn van de hofmakerij, en niet gelden als tekortschieten.
  • Voeg aan een datingapp een relatiecoach toe die iemand adviseert om niet te ghosten en helpt te reageren op emotionele grensoverschrijding (of gewoon sociopathische onbeleefdheid).
  • Maak een intelligente pauzeknop waarbij een assistent vraagt: 'Weet je zeker dat je dit wilt verzenden?' in plaats van onze emoties botweg automatisch aan te vullen om de snelheid en hoeveelheid van consumptie te verhogen.

Ik zou willen voorstellen om afwijking binnen systemen voor sociale interactie zoveel mogelijk te verdedigen. Bescherm de ongemakkelijke stilte, de stuntelige zin en de grap die niet aankomt en vervolgens wordt hersteld. Dit zijn geen inefficiënties die moeten verdwijnen, ze horen bij het mens-zijn. Ik wil het recht behouden om slecht te schrijven voordat ik goed schrijf, en dat recht ook onderwijzen en voorleven. Dit ben ik, met al mijn grammaticale en logische tekortkomingen. Die ruimte wil ik ook in een relatie hebben, zonder dat ze besmet raakt door het 'als, dan, anders' van conditionele logica.

Het is een bescheiden en tegelijk radicaal idee. Behoud ondersteuning, maar laat die diversiteit versterken in plaats van alles naar elkaar toe te trekken. Behoud efficiëntie, maar niet als enige maatstaf voor waarde. Bouw infrastructuren die meerdere grammatica's van intimiteit kunnen dragen, niet alleen degene die netjes in een database past. Behoud de mogelijkheid om meer te zijn dan de snelle versie van onszelf. Ik ken het bedrijfsmodel achter deze platforms heel goed, maar ik geloof ook dat juist dit de kernfout van datingapps en sociale-mediaplatforms is.

Als we accepteren dat de apps die we voor communicatie, liefde en vriendschap gebruiken ons hebben gevormd en veranderd hoe we andere mensen ervaren, en ik geloof dat dit zo is, dan is het ontwerp van deze systemen een morele kunst.

(Fotografie van Monaris: https://superrare.com/monaris)