Robots en robotmensen

Sinds vorig jaar staat in de Nederland Leest-campagne van de CPNB niet langer een boek centraal, maar een thema. Desalniettemin wordt dit thema ondersteund door een geselecteerd boek dat in bibliotheken gratis aan leden wordt verstrekt – of aan hen die de moeite hebben genomen om op de website van de campagne een zestal niet geheel oninteressante vragen met een simpel ‘eens’ of ‘oneens’ te beantwoorden. Dit jaar is het Ik, robot (1950) van Isaac Asimov dat de discussie over robotica op gang moet helpen. Hiervoor is gebruik gemaakt van de uit 1966 stammende vertaling door Leo H. Zelders, aangevuld met een experimenteel verhaal dat, getuige de verantwoording, werd ‘geschreven door een robot genaamd Asibot onder menselijke leiding van Ronald Giphart.’

Het boek zoals geschreven door Asimov bestaat uit negen hoofdstukken die als losse verhalen te lezen zijn, maar die binnen een raamvertelling een geheel vormen. Die raamvertelling verhaalt over een journalist van de Interplanetaire Pers die de robotpsychologe Susan Calvin interviewt. Calvin is vijftig jaar werkzaam geweest bij US-Robots & Mechanical Men, Inc., de internationale – of eigenlijk ook hier de interplanetaire – leider op het gebied van de ontwikkeling en productie van robots, en heeft daarmee de vooruitgang in de robotica van dichtbij meegemaakt. De negen verhalen worden uit haar mond opgetekend, en schetsen ruwweg deze ontwikkelingsgang van de robots.

Al die verhalen draaien om dilemma’s en andere problemen die kunnen optreden wanneer robots meer en meer geavanceerd raken. Zo gaat het eerste verhaal, ‘Robbie’, over een meisje dat zich sterk hecht aan een robot die als haar kindermeisje fungeert. In discussies tussen haar ouders worden vragen opgeroepen over de wenselijkheid hiervan, en in hoeverre dit te vergelijken valt met, en dus even onschuldig is als de gehechtheid aan een huisdier. Robbie is nog een tamelijk simpele, niet-sprekende robot, maar al snel bereikt de kunstmatige intelligentie een dusdanig niveau dat in ‘Logica’, het derde verhaal, de robot QT-1 zijn intrede doet. QT-1, ook wel Cutie genoemd, is ‘de eerste robot die ooit nieuwsgierigheid aan de dag legde omtrent zijn eigen bestaan’, zoals een van zijn opzichters opmerkt. Deze filosofische inslag leidt er echter toe dat Cutie, door een ijzeren cartesiaanse logica te volgen, concludeert dat hij niet door mensen kan zijn gemaakt maar door ‘de Meester’, zoals hij de energieconvertor van het ruimtestation noemt welke hij dient te onderhouden. Hiermee blijken ook robots vatbaar voor religiositeit:

De robots, klein naast de machtige L-buis, schaarden zich in een rij ervoor, de hoofden diep gebogen, terwijl Cutie langzaam langs de rij op en neer liep. Vijftien seconden gingen voorbij en toen, met een gekletter dat boven het geraas uit klonk, vielen ze op de knieën.

Als een van de opzichters ingrijpt bij deze aanbidding van de convertor krijgt hij te horen: ‘Er is geen Meester dan de Meester en QT-1 is zijn profeet!’ Hiermee gaan de robots in tegen de tweede van de ‘Drie Wetten der Robotica’ waarmee Asimov het boek opent en die de basis vormen voor veel van de verhalen:

1. Een robot mag een mens geen letsel toebrengen, noch, door passief te blijven, een mens letsel laten overkomen.
2. Een robot moet de door mensen gegeven orders gehoorzamen behalve wanneer die orders in strijd zijn met de Eerste Wet.
3. Een robot moet zichzelf beschermen zolang of voor zover dat niet met de Eerste of Tweede Wet in strijd is.

Op het eerste oog lijken dit zeer redelijke wetten voor de robotica, en als robots zo worden geprogrammeerd, wie zal ze dan nog zien als een gevaar voor de mens? Echter, zoals enkele verhalen laten zien kunnen ondanks, of zelfs dankzij deze wetten, problemen optreden. Zo is er een robot die in een staat van evenwicht tussen de tweede en derde wet om zijn doel cirkelt: volgens de tweede wet dient hij zijn menselijke opdrachtgever te gehoorzamen en dus het doel te naderen, maar dit doel blijkt zo gevaarlijk dat het zijn einde zou betekenen, waarmee hij niet alleen de derde wet zou verbreken, maar tevens in het geheel niet zou kunnen voldoen aan de tweede. In een ander geval brengt de eerste wet een robot ertoe te liegen tegen mensen omdat de waarheid hen geestelijk letsel zou toebrengen. Een van de sterkste verhalen, ‘Bewijs’, draait om de vraag of een populaire politicus wel een mens is en niet een robot. Het antwoord zou liggen in de mogelijkheid van de politicus om de eerste wet te breken, dus om een mens letsel toe te brengen. Maar als een robot zo geavanceerd kan raken dat deze door kan voor politicus, is hij door zijn gebondenheid aan de eerste wet dan niet ook direct een betere en wenselijkere politicus dan dat een feilbaar mens is?

Het zijn dit soort kwesties waarbij Ik, robot zich van zijn sterkste kant toont. Het sciencefictiongenre leent zich uitstekend voor de behandeling van vragen over de toekomst van technologie, robots en kunstmatige intelligente, en dit boek is daar een goed voorbeeld van. Voor een boek uit 1950 is het verrassend actueel: niet alleen omdat robots inderdaad steeds geavanceerder raken en een steeds grotere rol lijken te gaan spelen, maar ook omdat de kwesties in dit boek de gebruikelijke zorgen of robots onze banen zullen inpikken en of robots zich mogelijk tegen de mens zullen keren overstijgen of in een origineel licht zetten. Tegelijkertijd ligt hier ook het zwakke punt van de verhalen. Door de eenzijdige focus op dit soort probleemstellingen raken de personages wat op de achtergrond: door een gebrek aan psychologische uitwerking blijven ze vlak en al met al weinig menselijk. Niet alleen Susan Calvin is hiervan een voorbeeld, wat ze overigens ook over zichzelf opmerkt (‘Welnu, ze hebben mij ook wel eens een robot genoemd. Men heeft u toch zeker wel verteld dat ik niet menselijk ben’) maar ook veel van de andere (terugkerende) personages komen niet tot leven. Hierdoor blijven veel van de verhalen beperkt tot een soort puzzels met een herkenbare structuur: het begint met een mysterie, een schijnbaar disfunctioneren van de robots, om te eindigen met een verklaring en een eventuele oplossing. Wat ontbreekt is een menselijk perspectief waarin ruimte is voor het onbehagen dat typisch is waar het nieuwe technologieën betreft, al is het eerder aangehaalde verhaal over Robbie een uitzondering doordat we hier door de ogen van zowel de vader als de moeder een andere kijk op de zaak hebben.

Het verhaal van Asibot en Giphart stelt de recensent voor een probleem: hoe recenseer je een verhaal dat als experiment wordt gepresenteerd? Behandel je het ook als experiment, met de focus op wat het ons leert, of benader je het zoals ieder ander verhaal? In het eerste geval moet worden gezegd dat het indrukwekkend is dat een robot niet alleen in staat is om betekenisvolle zinnen te schrijven, maar deze ook een zekere mate van samenhang kan geven (al had hij de hulp van Giphart nodig). Natuurlijk, dit alles is met de nodige haken en ogen – maar het roept zeker de vraag op hoe ver dit zich kan ontwikkelen. Benaderen we het echter als een gewoon verhaal dan schiet het toch tekort: ondanks een zekere mate van samenhang en iets van een centrale verhaallijn voelt het geheel incoherent, als een rommeltje, en blijft de indruk achter dat het verhaal onaf is, geen punt weet te maken. Toch roept daarmee ook dit verhaal een fundamentele vraag over robotica op: wie is nu de verantwoordelijke schrijver van dit matige verhaal, Asibot of Giphart?

Remco Nieberg

Isaac Asimov – Ik, robot. CPNB. Bibliotheekleden kunnen het boek de hele maand november gratis ophalen.

0

Reacties