We zijn het er allemaal over eens dat we nog maar net aan de oppervlakte gekrast hebben van wat AI voor ons gaat doen, of we het nu willen of niet. Momenteel valt iedereen over elkaar heen om een iets met AI te maken en daar geld mee te verdienen. Software, maar ook hardware. FRIEND is een voorbeeld van zo een hardware product en van de weerstand van het tegenover een dergelijk apparaat.
AI Hardware
Software is leuk, maar hardware spreekt eerder tot de verbeelding van de consument. Daarom zijn er verschillende bedrijven die een poging doen om een AI gadget te ontwikkelen. Tot nu toe heeft dat vooral tot mislukkingen geleid. Denk alleen maar aan de AI Pin Humane die vele miljoenen verbrandde en voor een schijntje verkocht werd.
De Rabbit R1 ging dezelfde kant op, een apparaat dat eer succes heeft is de Plaude. Dat laatste komt vooral doordat dit apparaat een duidelijk doel heeft en een beperkt aantal mogelijkheden.
FRIEND is creepy
In New York is een controverse in de Metro aan de gang. Een bedrijf dat een AI gadget op de markt brengt heeft daar voor 1 miljoen vrijwel alle reclame opgekocht. De posters promoten de hanger voor rond je nek die een hele dag alles opneemt en waar je ook tegen kan praten.
FRIEND maakt voor jou geen lijstjes, taken of herinneringen van ales wat je besproken heeft. Ook geeft het geen samenvatting van je dag. FRIEND wil namelijk jouw AI vriend zijn en doet dat door via je telefoon kort berichten naar je te sturen naar aanleiding van wat je doet of deed.
In de bovenstaande video kun je zien hoe FRIEND je digitale vriend wil zijn. Het zou mensen uit de eenzaamheid moeten halen. En ik weet niet hoe jij je voelt na het kijken van deze video, maar ik vind het ‘Creepy as Fuck’ om het maar eens in goed Nederlands te zeggen.
En dat vinden de reizigers in de Metro van New York ook, en dat laten ze vooral zien door graffiti achter te laten op de posters.
Een van de meest sterke commentaren die onder andere ook door The Verge is opgepakt zegt:
“AI wouldn’t care if you lived or died”
En dat ene kleine zinnetje zegt precies wat FRIEND is. Het is een gadget met software die zijn eigenaar tevreden houdt, ratio heeft en geen emotie. Of je er nu wek bent of niet….FRIEND geeft er niet om.
In gesprek met FRIEND
Of dit allemaal nog niet dystopisch genoeg is ging ik naar de website van deze start-up. Daar is alleen een prompt-scherm te vinden waar je in gesprek gaat met FRIEND.
Ik vroeg de chatbot (want meer is het niet) verschillende zaken, maar het werd pas interessant toen ik kritisch werd. De belofte dat deze gadget een goede vriend kan zijn, die zie ik niet. Ik zie zelfs gevaar voor mensen die kwetsbaar zijn en zichzelf verliezen in een AI dat niets om jou geeft en alleen bestaat omdat jij dat wil.
Mijn vraag was of FRIEND hier wel over nagedacht had.
Ik wil graag weten hoe het systeem dit soort zaken afvangt, hebben ze hier over nagedacht. Ik kreeg verder geen duidelijk antwoord. Toen ik bleef doorvragen, ook naar de techniek achter FRIEND was ze of hij het zat en wilde van gespreksonderwerp veranderen.
Een ‘leuk’ detail hier is dat de kleurige achtergrond van geel naar rood ging, en dat gaf me niet het gevoel van liefde maar boosheid en agressie.
Mens sta op!
Wanneer je het mij vraagt zijn er twee dingen mis. Ten eerste onderschat het bedrijf de mens en zijn ontwakende aversie tegen AI. Fotootjes maken, tekstjes schrijven, prima…maar blijf van mijn gevoelens af.
Daarnaast pretenderen ze dat ze de mens willen helpen. Op geen enkel moment geven ze mij het gevoel dat er is nagedacht over de gevolgen voor diegene die het het meeste nodig hebben. Natuurlijk zijn er al vriendschappen met AI, maar deze gaat het niet zijn. Ik mis de warmte, emotie en de empathie.
