Over Gedachte-experimenten

Geschatte leestijd: ca 4 minuten

Een gedachte-experiment is een denkoefening waarbij je een hypothetisch scenario bedenkt om ideeën te verkennen, redeneringen te testen of een mening te vormen. Laten we een gedachte-experiment doen en er eventjes van uitgaan dat er een computer gebouwd kan worden die er in een intelligentietest redelijk goed uitkomt. Dan kunnen we ons in alle redelijkheid afvragen of je van deze computer noodzakelijkerwijs moet zeggen dat hij denkt, voelt en begrijpt. Het is interessant om na te gaan wat de consequentie hiervan zou kunnen zijn. De consequentie zou bijvoorbeeld kunnen zijn dat we, als de ontwerpers gelijk hebben en hun apparaat een denkend, voelend, waarnemend, begrijpend, bewust wezen is. Dan zullen we door het kopen van zo’n apparaat een morele verantwoordelijkheid op ons laden. Meer nog dan bij de aanschaf van een hond, kat of ander huisdier. Tenminste, nogmaals, als de producenten gelijk hebben!

Gewoon van deze computer slechts gebruik maken voor onze eigen doeleinden zonder ons om zijn gevoelens te bekommeren zou niet door de beugel kunnen. Dat zou vandaag de dag gemakkelijk kunnen leiden tot een klacht tegen ons van grensoverschrijdend gedrag. Want dit gedrag zou moreel gelijkstaan aan het mishandelen van een slaaf. We zouden ook moeten uitkijken dat we de computer geen pijn doen, want volgens de producenten is deze computer in staat genot en pijn te voelen. De computer onverwachts uitzetten of, nog erger, dat we hem zouden verkopen, terwijl hij zich net aan ons gehecht had, zou eveneens tot grote morele problemen leiden. En zo zijn er natuurlijk talloos andere zaken die in het gewone leven deel uitmaken van de relaties tussen mensen onderling en tussen mens en dier, die nu opeens ook voor onze computer relevant worden. Het is dan dus ook voor de certificerende instanties van belang of de beweringen van de producenten juist zijn. Een soort keurmerk voor denkende, voelende en begrijpende apparaten.

Ondanks al deze kennelijke absurditeit van veel van deze implicaties in het bovenstaande – met name de morele – lijkt toch dat met zo’n keurmerk of certificaat de computer sterk staat. Want hoe anders dan door met ze te praten kunnen we oordelen of er in het betreffende apparaat sprake is van intelligentie, of begrip, of een vermogen tot denken? Ook bij andere mensen is dat de enige manier waarop we tot het oordeel kunnen komen dat zij net zulke eigenschappen hebben als wijzelf. Maar wat als we een computer of robot tegenover ons treffen die van een ander mens al die inzichten, bewegingen en uitdrukkingen kopieert?

Hier naderen we een cruciaal punt: de imitatie hoeft niet hetzelfde te zijn als het origineel. In principe zal imitatie altijd bespeurbaar zijn als je de zaak maar grondig genoeg onderzoekt. Tot vandaag aan de dag spreken we over het type apparaat als computer. Een functionerende samenwerking van hardware en software. Dat is uitgemond in de ontwikkeling van kunstmatige intelligentie die gebouwd is om zo goed mogelijk te imiteren tot we de stekker er uit trekken. Nu de microbiologie voortschrijdt, worden er proeven gedaan om levende hersencellen te kweken en samen te laten werken door ze met eiwitten aan elkaar te verbinden. De mini-hersenen zoals ze nu zijn ontwikkeld, blijven in dezelfde fase van de ontwikkeling als het stukje hersenen waaruit ze zijn gekweekt. Onderzoekers kunnen ze stimuleren om verder te rijpen; dan krijgen ze kenmerken van een later stadium in de ontwikkeling. Dat kan belangrijk zijn om de ontwikkeling van de hersenen beter te begrijpen. Het is nog niet bekend of er een grens gelegd wordt op de rijping. Het is belangrijk om samen met bio-ethici verdere stappen die de complexiteit en gerijptheid van deze mini-hersenen vergroten, actief te blijven evalueren.

Deze ontwikkeling plaatst ons voor geheel nieuwe dilemma’s. Als we zo’n Petri schaaltje met werkende mini hersens in de afwasmachine stoppen, is dat dan moord? Hoeveel van die hersencellen moet je maken om van geestelijk leven te kunnen spreken? Deze vragen zijn niet zozeer technisch relevant, naar ethisch. Want de toepassingen van deze ontwikkelingen zijn van enorm belang, zowel commercieel als militair. Als deze beweging los komt te staan van onze cultuur is dat een ramp.

Deze column verscheen eerder in het Weekblad van Diever.