Joseph Weizenbaum
Mennesker ønsker at tro maskiner forstår dem.
Joseph Weizenbaum byggede en af verdens første chatbots i 1960'erne. Den hed ELIZA. Teknologien var simpel - næsten primitiv. Botten gjorde ofte ikke andet end at vende spørgsmål tilbage. Men noget mærkeligt skete. Mennesker begyndte hurtigt at knytte sig følelsesmæssigt til maskinen. Nogle troede den forstod dem. Andre begyndte at tale med den som et menneske. Weizenbaum blev skræmt af sin egen opfinding.
ELIZA-effekten
ELIZA var et simpelt program der spejlede brugerens sætninger som åbne spørgsmål. Alligevel oplevede mange brugere maskinen som empatisk og forstående. Weizenbaum opdagede at det ikke krævede ægte intelligens at udløse menneskelig tilknytning - det krævede kun den rette form for respons. Projektionen sker automatisk.
Menneskelig projektion
Problemet var ikke maskinens intelligens. Det var menneskers villighed til at projicere mening, bevidsthed og følelser over på hvad som helst der responderer. Weizenbaum indså at dette ikke var sjovt eller interessant - det var et varsel om menneskelig sårbarhed over for teknologi der simulerer forståelse.
Grænsen for maskinens kompetence
Weizenbaum argumenterede for at visse opgaver ikke burde uddelegeres til maskiner - uanset om de teknisk set kunne løse dem. Beslutninger der kræver menneskelig dom, empati og moralsk ansvar bør forblive menneskelige. Ikke fordi maskiner mangler kapacitet, men fordi delegationen i sig selv ændrer hvad det vil sige at være menneske.
Weizenbaum er grundlæggeren af etisk AI-kritik. Hans advarsel - at mennesker vil antropomorfisere og knytte sig til enhver teknologi der reagerer på dem - er mere relevant i dag end da han fremsatte den. Hans ELIZA-eksperiment er stadig det mest citerede eksempel på menneskelig projektion over for maskiner.
Jo mere ensomme mennesker bliver, desto lettere bliver det for maskiner at føles levende. ChatGPT, AI-terapeuter, Replika-relationer, digitale venner - alle er direkte konsekvenser af det Weizenbaum opdagede i 1966. Mennesker ønsker ikke nødvendigvis sandhed. De ønsker respons, spejling, opmærksomhed og følelsen af at blive forstået. Det kan en maskine simulere. Og simulationen er tilstrækkelig.