Van verdriet naar zaken: AI, chatbots, persoonlijke data en de belofte van onsterfelijkheid

Regelmatig horen we over "digitale wederopstanding", het creëren van klonen van overledenen, mogelijk gemaakt door het synergetische gebruik van generatieve AI, holografische technologieën en inhoudsanalyse met betrekking tot de "dierbare overledenen". De kloon is uiteraard slechts een informatieve verschijning. Hij is noch "levend" noch "bewust", maar moet slechts de schijn wekken daartoe in staat te zijn; hij heeft geen geheugen of identiteit, maar moet de indruk wekken deze te bezitten. Dit is voldoende om een nieuwe markt te creëren.

Van virtuele duetten tot avatars: de evolutie van simulatie

Dit soort verschijnselen zijn zeker niet nieuw, denk maar aan Unforgettable, het beroemde duet tussen Natalie Cole en haar vader Nat. Destijds (het was 1992) waren de technieken duidelijk ambachtelijk en was de interactie tussen vader en dochter slechts oppervlakkig, maar vanuit het perspectief van de kijker verschilt het resultaat niet veel van wat met meer geavanceerde systemen wordt bereikt.

Twintig jaar later, in 2022, herhaalde Abba in Voyage hun optreden uit 1979 voor een lange reeks concerten met alleen hun klonen. En wie zou Carrie Fishers postume cameo in een aflevering van de Star Wars-franchise kunnen vergeten?

De vermarkting van intimiteit: van vermaak naar rouw

Tegenwoordig wordt de informatieve identiteit – de dataset die definieert wie we zijn – steeds meer uitgebuit buiten de grenzen van entertainment. Het dringt zelfs door tot de meest persoonlijke ruimtes. Denk bijvoorbeeld aan het geval van een moordslachtoffer wiens nabestaanden vergeving krijgen voor de moordenaar via een digitale replica van de overledene .

Dit is een symptoom van de giftige relatie die zich ontwikkelt met chatbots en generatieve technologieën, aangewakkerd door het gewetenloze en misleidende gebruik van termen als 'digitale wederopstanding' voor commercieel gewin. Maar het is ook een krachtig cognitief virus dat ideologieën zoals transhumanisme verspreidt, die pleiten voor het overwinnen van de menselijke conditie en de dood door middel van technologische verbetering, om een 'superieure mensheid' te creëren.

Wie controleert de informatieve identiteit na overlijden?

De stenen gast in dit debat tussen sociologie, psychologie, informatietechnologie en pragmatische commerciële belangen zijn ‘data’ – of beter gezegd, de definitie van de juridische aard ervan.

Het creëren van een gepersonaliseerde chatbot – want daar draait digitale wederopstanding om – vereist toegang tot een aanzienlijke hoeveelheid data over de persoon wiens externe persoonlijkheid je wilt (of probeert te) imiteren. Dit betekent dat er slechts twee opties zijn om dit resultaat te bereiken: ofwel verstrekt de persoon de data vrijwillig aan een bedrijf dat de chatbot ontwikkelt, ofwel worden de data door iemand anders aangeleverd.

De rechten van erfgenamen over de gegevens van de overledene (vooral als het om bekende personen gaat)

Als deze iemand anders de rechtmatige erfgenaam is – dat wil zeggen de persoon die wettelijk als zodanig wordt erkend – dan doet het probleem zich niet voor. Foto's, video's, opnames en content van de overledene maken deel uit van de zogenaamde 'nalatenschap' en komen daarom, samen met de daaraan verbonden rechten, direct ter beschikking van de erfgenaam. De erfgenaam heeft dus niet alleen recht op onbeperkte en onvoorwaardelijke toegang tot bijvoorbeeld de e-mailaccounts, socialemediaprofielen of opslagruimte van de overledene, maar mag er ook mee doen wat hij wil. Dit omvat het (laten) creëren van een geanimeerde fetisj voor de overledene en, als de overledene een beroemdheid was, het financieel uitbuiten van de mogelijkheid om hem te laten verschijnen in evenementen, films of uitzendingen.

Dit aspect is met name belangrijk in verband met de economische exploitatie van de "herinnering" van beroemde mensen. De erfgenamen van een kunstenaar verwerven immers niet alleen de rechten op de creatieve output van hun voorouders, maar ook het recht om te profiteren van zijn of haar identiteit, dankzij de auteursrechtwetgeving, die de toekenning van rechten op iemands gelijkenis mogelijk maakt. Natuurlijk, toen deze wet voor het eerst werd bedacht, had niemand zich kunnen voorstellen dat de wet ter bescherming van portretten ook van toepassing zou zijn op de mogelijkheid om ze te animeren. Maar dit verandert niets aan de voorwaarden van de kwestie: het recht op portretten strekt zich uit tot elk technologisch haalbaar gebruik, nu en in de toekomst. Het is geen toeval dat in de filmwereld de grootste zorg van acteurs – en hun erfgenamen – is dat ze gemakkelijk vervangen zullen worden door digitale klonen die in staat zijn om te acteren, of op zijn minst om "op de set te staan" met grote autonomie.

Contracten, toestemming en auteursrecht in het informatieve postmortem

Een iets ingewikkelder geval is het geval van degenen die het recht op gebruik van de gegevens van een overledene hebben verkregen via een contract dat is getekend toen de overledene nog leefde. Bijvoorbeeld door een hypothetische clausule over 'overdracht van eigendom' te accepteren in ruil voor een 'gratis' dienst of omdat het 'gerechtvaardigde belang' van een bedrijf zwaarder weegt dan het recht van een individu .

Wanneer iemand overlijdt, worden de contracten die hij/zij heeft afgesloten beëindigd (een van de eerste trieste gebeurtenissen na een overlijden is juist het beëindigen van een nuts- of bankrelatie). Wanneer het oorspronkelijke contract afloopt, kan iemand die het recht had verworven om vrij over iemands gegevens te beschikken, dit dus niet meer doen, tenzij de erfgenamen een nieuwe overeenkomst sluiten.

De exploitatie van het individuele geheugen

Als deze hypothese wordt bevestigd, kan dit een aanzienlijke impact hebben op de bedrijfsvoering van AI-bedrijven. Het is dan ook aannemelijk dat er in de VS juridische stappen zullen worden ondernomen om compensatie te eisen voor de erfgenamen van iemand wiens informatieve identiteit in een dataset terechtkwam die werd gebruikt om een model te trainen.

In de eerste ronde, die in de Europese Unie werd uitgevochten, erkende een Duitse rechtbank dat (levende) gebruikersgegevens door een Big Tech-bedrijf kunnen worden gebruikt op basis van een ‘gerechtvaardigd belang zonder dat er een contract hoeft te worden afgesloten of iets hoeft te worden betaald’ .

Nu moeten we afwachten of er een tweede herstel komt en waar. We moeten beslissen of dit "vrij spel" ook geldt voor de gegevens van voormalige klanten. Het gaat er niet zozeer om een nep-digitale wederopstanding te organiseren, maar om de honger van de algoritmes te stillen en de schatkist van Big Tech te spekken.