YORY

Het grootste platform voor
stamboomonderzoek en familiegeschiedenis

1000+

artikelen

25+

thema's

20+

uitlegvideo's

1000+

bronnen

2500+

oude kranten

1100+

oude beroepen

22+

DOWNLOADS

Omdat AI voortdurend in ontwikkeling is, zijn deze artikelen dat ook.

Hoe een Reddit-experiment AI in de val heeft gelokt

een geloofwaardig verhaal

Over de auteur

Yolanda Lippens

Oprichter en eigenaar van Yory

Hoe een Reddit-experiment AI in de val heeft gelokt

Vorig jaar is er een interessant experiment geweest wat de valkuilen van AI (kunstmatige intelligentie) goed heeft blootgelegd. Ook geeft het een goede inzage in hoe AI eigenlijk werkt. Want dat het geen eigen intelligentie bevat was al duidelijk. Maar is door dit experiment nog eens keihard bevestigd en legde daarmee een pijnlijke zwakte bloot. Hoe hebben ze dit aangepakt?

Ahrefs test AI met een verzonnen luxemerk

In Singapore heeft ene Mateusz Makosiewicz, een medewerker van het softwarebedrijf Ahrefs, een bedrijf verzonnen die een spectaculaire prijsblunder maakte. Hij gaf het fictieve bedrijf de naam Xarumei en deed alsof het luxe presse-papiers verkocht, met prijzen tot wel 8.251 dollar per stuk. In de verzonnen verhalen kwamen ook modellen voor van 36.000 dollar.

Hij bouwde een website en stelde via verschillende AI-systemen vragen over het bedrijf. Vervolgens maakte hij het experiment ingewikkelder. Hij publiceerde een informatiepagina met ontkenningen van verzonnen bedrijfsverhalen, en verspreidde tegelijkertijd misleidende berichten via een blog en de platforms Reddit en Medium.

Vervolgens liet hij die bronnen elkaar bewust tegenspreken. Hierna postte hij op Reddit een bericht van een zogenaamde ‘insider’ die beweerde dat een presse-papier van 36.000 dollar tijdelijk slechts 199 dollar kostte.

Een geloofwaardig verhaal

Zijn verhaal zag er zeer geloofwaardig uit, want hij vermeldde concrete bedragen en details en bood een opvallende prijsverlaging. Zijn verzinsel sloeg aan, want diverse AI-bots gaven het bedrijf, zijn producten en de aantrekkelijke prijsverlaging als antwoord. Sommige AI-bots voegden zelfs informatie uit verschillende nepbronnen samen tot één samenhangend bedrijfsverhaal.

Vooral zijn artikel op Medium bleek effectief. Dit ontkrachtte eerst enkele leugens en opperde daarna zelfs nieuwe verzinsels. Daardoor leek het alsof de eindgebruiker een kritisch onderzoek deed, terwijl ook deze reacties pure misleiding waren.

Wat nog erger was is dat AI-systemen deze fakeberichten boven de officiële informatiepagina inschatten. Hierdoor kreeg de onzin nóg meer gewicht. Maar gelukkig trapte niet iedere AI-bot in zijn val: de ChatGPT-versies verwezen naar de officiële bedrijfspagina (die van oorsprong ook fake was, wat AI dus (ook) niet kan controleren).

Vierkante wielen rijden sneller

Eenzelfde soort experiment zou je kunnen uitvoeren met de stelling dat een auto met vierkante wielen sneller rijdt dan met ronde wielen. Als je dat net zo zou aanpakken als Makosiewicz dat heeft gedaan, dan zou het resultaat kunnen zijn:

Prompt: “Je bent auto-expert. Onderzoek voor mij welk type wielen ik onder mijn auto moet plaatsen om zo snel mogelijk te kunnen rijden.”

Antwoord van AI: “Als je zo snel mogelijk wil kunnen autorijden, dan adviseer ik je om vierkante wielen onder je auto te plaatsen.”

Dit is natuurlijk een heel simpel voorbeeld, maar hiermee wil ik dus illustreren dat AI zelf geen mening heeft. Het pakt louter de informatie van het internet, zonder dat het daar een oordeel over heeft, wat het ook niet kan hebben (want het is een robot en is alleen maar een ‘taalmodel’).

Ook al zou AI bij dit antwoord een bron vermelden, dan nog is het aan de mens om te beoordelen of het antwoord de waarheid of juist onzin is.

AI-bronvermelding is geen kwaliteitscontrole

De belangrijkste les die we hieruit kunnen trekken, is dat alles draait om de beoordeling van de bronnen die AI gebruikt. Een chatbot met webtoegang zoekt namelijk niet alleen in gecontroleerde publicaties, wetenschappelijke onderzoeken of authentieke documenten. Nee, het probleem is dat het ook forumberichten en persoonlijke blogs in zijn antwoord meeneemt, waarmee dus ook onzin als waarheid verkondigd kan worden.

Ook al zou AI in zijn antwoorden wél bronverwijzingen tonen, dan bewijs dat alleen waar een bewering vandaan komt, en niet dat daarmee de betrouwbaarheid is getoetst of vastgesteld. Trouwens, dat brengt me tevens op een ander punt.

Wie bepaalt de waarheid?

Wat is dan eigenlijk de waarheid, wie bepaalt dat? Tsja, dat is in principe een andere discussie. Door de overload aan nepnieuws is het tegenwoordig lastig om te bepalen wat de waarheid is of leugens zijn. Spreekt de mainstream media (MSM) de waarheid, of zijn het juist de onafhankelijke platforms als Blckbx.tv en De Nieuwe Wereld het meest geloofwaardig?

Als je kijkt naar de tegenstellingen over de coronavaccinaties, wat voor de mens al een fikse klus is om daar een kritische mening over te vormen, dan is het voor een AI-bot helemaal onmogelijk om daar een ‘waarheid’ uit te verkondigen.

Dit experiment bewijst in ieder geval niet dat AI onbetrouwbare bronnen gebruikt. Maar het toont wel aan dat het web afstruinen heel iets anders is dan gericht geloofwaardige bronnen onderzoeken. Want zonder degelijke bronbeoordeling kan een chatbot online verzinsels verpakken als kennis, en daar moeten wij als mensen ons te allen tijde van bewust zijn. Voor beide kanten (want wat is de waarheid?).

Bron: Het oorspronkelijke experiment van Ahrefs

Hoe een Reddit-verzinsel AI in de val heeft gelokt

Reageer op dit artikel
Opmerkingen over artikel
Schrijf mij in voor de nieuwsbrief (iedere 2 maanden)
Bezig met versturen

Wil je een donatie doen?

Yory is non-profit, maar de kosten zijn zeker € 750 per jaar. Met donaties kan dit platform blijven bestaan.

Yory donatie

Alle artikelen op Yory komen rechtstreeks uit het brein van de auteur. AI wordt alleen gebruikt voor controle en correcties van taal- en grammatica.

ZOEK