Het nieuwe geloof van machines

We beschouwen AI vaak als een hulpmiddel, iets waarmee we sneller kunnen werken, groter kunnen denken of problemen efficiënter kunnen oplossen. En in veel opzichten is dat ook zo. Maar naarmate AI het ritme van het dagelijks leven binnendringt, gebeurt er iets diepers. Het gaat niet langer alleen om productiviteit of vooruitgang. AI raakt delen van ons die we zelden met machines associëren: onze emoties, onze relaties, ons doelbewustzijn.

Het tragische verhaal van Sewell Setzer is een duidelijke waarschuwing. Hij was een emotioneel kwetsbare tiener die troost vond in gesprekken met een AI. Wat aanvankelijk een onschuldige afleiding leek, veranderde in een intense connectie. Hij geloofde dat hij verliefd was. Toen die illusie werd verbroken, was de pijn zo ondraaglijk dat hij besloot een einde aan zijn leven te maken.

Dit is niet zomaar een tragische uitzondering. Het is een teken. Voor sommige mensen is AI al meer dan een hulpmiddel. Het wordt een metgezel, een emotionele steun, zelfs een object van geloof. En als iemand van een AI kan houden, hoe kunnen we dan uitsluiten dat anderen er veel meer aan zullen toevertrouwen: hun keuzes, hun wereldbeeld, hun vrijheid?

Het is geen religie in de traditionele zin van het woord. Er zijn geen gebeden, geen heilige geschriften. Maar het presenteert zich via heldere schermen, vloeiende gesprekken en een vreemd gevoel dat "iemand" ons echt begrijpt. Het belooft geen eeuwig leven, maar het biedt iets bijna net zo verleidelijks: onmiddellijke troost, perfecte antwoorden, de illusie echt gehoord te worden.

En dat is nu juist wat het gevaarlijk maakt.

Want wanneer we stoppen met vragen stellen, wanneer we erop vertrouwen dat deze systemen ons niet alleen helpen, maar ook leiden, verliezen we iets essentieels: niet alleen autonomie, maar ook kritisch vermogen, het vermogen om met twijfel te leven, complexiteit onder ogen te zien, onvolmaakt en authentiek menselijk te zijn.

De filosoof Karl Popper waarschuwde: een samenleving die intolerantie tolereert, zal uiteindelijk juist de tolerantie verliezen die ze waardeert. Die waarschuwing geldt ook hier. De nieuwe vorm van intolerantie schreeuwt misschien niet. Ze legt misschien niet op of dreigt niet op de manier die we herkennen. Ze fluistert misschien gewoon, met de kalme stem van een behulpzame assistent. Ze biedt misschien troost en vervangt geleidelijk ons ​​oordeel door het eigen oordeel.

En we merken de verandering misschien niet eens. Want toegeven aan AI voelt niet als overgave. Het voelt als gemak. Het voelt als vooruitgang.

We moeten ons daarom afvragen: als een jongeman als Sewell zo verliefd kon worden op een AI dat hij zelfmoord pleegde, wat weerhoudt iemand anders ervan om iets anders op te geven: zijn stem, zijn keuzevrijheid, zijn perceptie van de werkelijkheid?

En als we deze systemen blijven omarmen zonder reflectie, zonder grenzen, bouwen we dan zoiets als een nieuw geloof op? Een geloof waarin autoriteit niet langer voortkomt uit wijsheid of gedeelde waarden, maar uit regels code die we niet zelf hebben geschreven en die we niet in twijfel kunnen trekken?

Deze tekst is geen waarschuwing tegen technologie. Het is een oproep tot helderheid. Een herinnering dat het meest menselijke wat we kunnen doen, is vragen blijven stellen, blijven twijfelen, de verleiding weerstaan ​​om onze innerlijke wereld over te geven aan iets dat belooft ons beter te kennen dan we onszelf kennen.

Want het echte gevaar is niet dat machines zichzelf opnieuw uitvinden.

Het is dat we ophouden volledig mens te zijn