Neonazistische chatbot
Grok is behalve een technologisch wonder, ook een psychiatrisch patiënt. De AI-chatbot is vaak behulpzaam, slim en intelligent, maar soms ook tomeloos, racistisch en antisemitisch. Deze week was het weer zover, toen Grok zich ontpopte tot een rasechte neonazi. Verder in deze nieuwsbrief een onderzoek naar nepnieuws over migranten. Voorheen ging dat er vooral over dat migranten crimineel zijn, maar tegenwoordig is het ook gericht op linkse politici die ervan beticht worden dat ze criminele migranten de hand boven het hoofd zouden houden.
Musks chatbot Grok gaat tekeer als een neonazi
Na een update die xAI’s chatbot Grok aanmoedigde om meer politiek-incorrecte antwoorden te geven, begon Grok afgelopen week Hitler aan te prijzen en te beweren dat joden Hollywood in hun macht hebben en uit zijn op de ondergang van ‘het blanke ras.’ Ook noemde hij zichzelf in een aantal posts ‘MechaHitler’.
Het bedrijf xAI schakelde tijdelijk de tekstfunctie van Grok uit, zodat de chatbot geen vragen meer kon beantwoorden. In mei raakte Grok al geobsedeerd met de complottheorie dat witte boeren in Zuid-Afrika systematisch worden uitgemoord (‘white genocide’). Om de chatbot zo ver te krijgen dat hij bij willekeurige vragen zou beginnen over ‘white genocide’ heeft iemand geknoeid met de instellingen. De recente serie antisemitische berichten lijkt het gevolg van geautoriseerde aanpassingen.
Afgelopen woensdag lanceerde Musk het nieuwste model van zijn chatbot, Grok 4. De jongste chatbot kan over elk onderwerp vragen beantwoorden op het niveau van iemand die erop gepromoveerd is en het is een kwestie van tijd voordat Grok nieuwe natuurwetten ontdekt, aldus de tech-ondernemer.
Factchecks van Nieuwscheckers
Motie overdrijft aantal verdronken migranten in de Middellandse Zee
Volgens een Tweede Kamermotie die Anne-Marijke Podt (D66) op 3 juli indiende, zouden er de afgelopen tien jaar 35.000 migranten zijn verdronken in de Middellandse Zee. Maar volgens cijfers van de Internationale Organisatie voor Migratie (IOM) gaat het eerder om 29.000 mensen. Waarschijnlijk verwart Podt het aantal drenkelingen op de Middellandse Zee met het totaal aantal vluchtelingen dat de afgelopen tien jaar verdronk: 36.000 mensen.
Meer dan een kwart tot een derde van de Palestijnen steunt Hamas
Hamas heeft het zwaar te verduren in de Gazastrook. Desondanks blijven veel Palestijnen Hamas steunen, vertelde islamoloog Joas Wagemakers in een uitzending van Nieuwsuur: “Tegelijkertijd is het zo dat wel een kwart tot een derde van de Palestijnse bevolking minimaal voor Hamas is.” Dat is inderdaad het geval, zo blijkt uit peilingen die sinds het begin van de oorlog in de Gazastrook en op de Westelijke Jordaanoever gehouden worden.
Onderzoek: Desinformatie over migratie verschuift van criminaliteit naar links complot
Criminaliteit is een constante in valse berichten over migranten. Maar de laatste jaren is daar iets bij gekomen: linkse politici en bestuurders worden met gefabriceerde beschuldigingen afgeschilderd als degenen die misdaden door migranten gedogen of zelfs steunen. Tenminste, in Spanje, zo blijkt uit onderzoek op basis van factchecks uit de database van de Spaanse organisatie Maldita.
Het onderzoek is gebaseerd op bijna 32 duizend teksten uit 2021 en 2022 over migranten, grotendeels aangeleverd door de gebruikers Maldita’s Whatsapp-chatbot. Elk is een voorbeeld van een van de 81 verschillende hoaxes – valse beweringen, verhalen en beelden - die zijn geïdentificeerd door Maldita.
De hoaxes en de meldingen daarvan hingen niet samen met nieuws over criminaliteit door migranten of met ander nieuws over migratie. Nieuwsgebeurtenissen zijn niet nodig om een morele paniek te triggeren, aldus de onderzoekers. Misdaad, vooral met geweld, was wel het meest voorkomende thema van de hoaxes, gevolgd door beweringen over steun door bewindslieden en over de privileges die migranten zouden genieten.
Wat de zeven meest virale hoaxes verbindt, is dat ze onware beweringen bevatten over steun aan migranten. Van de links-populistische partij Podemos ging bijvoorbeeld een vervalst excuus rond aan moslims vanwege de katholieke processies toen de Heilige Week voor Pasen overlapte met de Ramadan.
Factchecks van andere media
Demonstraties worden niet steeds gewelddadiger
Het kabinet het demonstratierecht inperken, omdat betogingen steeds vaker zouden escaleren. Maar dat klopt niet, blijkt uit een analyse van Follow the Money. De cijfers tonen aan dat slechts 3 procent van de demonstraties uit de hand loopt. In de praktijk kosten festivals en voetbalwedstrijden de politie veel meer inzet.
Nepvideo van gorilla die klein kind aan moeder geeft
Een fascinerend gezicht: een grote gorilla pakt voorzichtig een klein kindje op dat in zijn hok is beland, en geeft het aan de moeder aan de andere kant van hek. Aandoenlijk, maar niet echt gebeurd. De video is gemaakt met AI, zo legt de factcheck van Factly uit.
Beroemdheden als Max Verstappen hebben zich niet uitgesproken tegen pride-maand
Op Facebook gaan berichten rond dat autocoureur Max Verstappen heeft opgeroepen tot een boycot tegen de Amerikaanse pride-maand en tegen ‘woke’. Ook andere beroemdheden als de Servische tennisser Novak Djokovic en de Amerikaanse zangeres Dolly Parton zouden de boycot steunen. Maar zoals AFP uitzocht, zijn deze berichten afkomstig van pulpnieuwssites die goedkoop nieuws produceren en daar geld aan te verdienen. De PR-teams van de beroemdheden bevestigen dat dergelijke uitspraken nooit gedaan zijn.
Prinses zoekt geen Marokkaanse prins-gemaal
Meer pulpnieuws: prinses Amalia is op zoek naar een ‘Marrokaan met status’ als haar echtgenoot, volgens een bericht op Facebook. Op de pulpnieuwssite wordt koningshuisexpert Jeroen Snel als bron genoemd voor de bewering te midden van echte uitspraken die hij deed bij RTL Boulevard. Maar de Rijksvoorlichtingendienst, het aanspreekpunt voor communicatie over het Koninklijk Huis, liet aan DPA weten dat het een verzinsel is.
WhatsApp-spel als nepnieuwstraining
Deze zomer kan je WhatsApp niet alleen gebruiken om je vrienden en familie op de hoogte te houden van je vakantieavonturen, maar ook om je kennis en vaardigheden over nepnieuws bij te spijkeren. Factcheckplatform De Checkers heeft hiervoor een zomerchallenge ontwikkeld.
Je kan heel simpel meedoen: voeg het nummer +32 497 85 52 55 toe aan je contacten, start een gesprek in WhatsApp en kies voor ‘Challenges’. Je kan (op je telefoon) ook simpelweg deze link aan klikken.
Je kan vervolgens vier missies van ongeveer tien minuten spelen. Dit zijn de onderwerpen die aan bod komen:
Nepnieuws herkennen: Krijg tips om gemanipuleerde beelden te doorzien.
Mediabias herkennen: Leer hoe je framing en sturende beelden en koppen herkent, zodat je kan voorkomen dat je onbewust een bepaalde opinie opgedrongen krijgt.
Surf en scroll slim: Ontwijk de golf van het algoritme en navigeer bewust. Krijg inzicht in algoritmes en hoe die bepalen wat je online ziet. Krijg tips om dat zélf naar je hand te zetten.
Breek uit je filterbubbel: Ontsnap uit je bubbel, leer bias herkennen en verbreed je wereldbeeld.
De eerste twee modules kan je nu al spelen, de twee andere komen later deze zomer.
En verder
Een verhaal over mannen die vanuit een wit busje aan een jongetje vragen om een spelletje te spelen, zorgde voor veel onrust in Pijnacker-Nootdorp. Het is onduidelijk of het echt is gebeurd. Nieuwschecker Peter in AD: “Deze verhalen gaan al zeker 25 jaar mee en je leest natuurlijk ook regelmatig verhalen van verschrikkelijke dingen die gebeuren.”
YouTube wordt overspoeld met filmpjes die zijn gemaakt met AI. Het platform wil paal en perk stellen aan deze AI-slop, door het moeilijker te maken om er geld mee te verdienen. [Quartz]
RTL EditieNL laat in een video zien hoe je levensechte nepvideo’s kan maken. “Ik denk dat het mensen helemaal niks uitmaakt dat het nep is.”
Meer dan 90 procent van de door gebruikers voorgestelde 'community notes' op X wordt nooit gepubliceerd, zo blijkt uit onderzoek. [VRT]
Het Republikeinse parlementslid Marjorie Taylor Greene baarde opzien door op de dag van de verwoestende overstromingen in Texas op X aan te kondigen dat ze met wetgeving komt die het verbiedt om het weer te manipuleren. Daarmee gaf ze voeding aan de complottheorie dat de Amerikaanse overheid natuurrampen veroorzaakt. [Forbes]
Nadat de steenrijke kindermisbruiker Jeffrey Epstein dood in zijn cel werd gevonden, ontstond de complottheorie dat hij zou zijn vermoord. Het Amerikaanse ministerie van Justitie heeft nu beelden van een beveiligingscamera vrijgegeven om te bewijzen dat hij niet in zijn cel is vermoord. [NOS]
Commotie over de bestseller Het Zoutpad. Het boek zou waargebeurd zijn, maar volgens de Engelse krant The Observer klopt er van alles niet aan het verhaal. Schrijfster Raynor Winn ontkent dat en heeft gerechtelijke stappen aangekondigd. [RTL Nieuws]
De grootste dreiging voor onze samenleving komt van systematische desinformatie, zo waarschuwen cybersecurity-experts: “Je zoekt een onderwerp waar mensen fifty-fifty over denken – immigratie, abortus. Vervolgens creëer je twee verhalen: één dat heel pro is, en één dat heel contra is. Dan push je de bevolking die je target naar beide extremen.” [ICT/Magazine]
CDA-Kamerleden maken zich hier ook zorgen over, met het oog op de komende Tweede Kamerverkiezingen in oktober. De minister laat weten dat hij onder meer enkele onderzoeken laat uitvoeren. [Binnenlands Bestuur]
Luistertip: Desinformatie in de wachtkamer van de huisarts
Kunt u deze folders in de wachtkamer leggen? Deze vraag stond in een brief die huisartsen in het hele land kregen, samen met een stapel folders van de anti-abortusorganisatie 'Kies Leven'. De folders zouden zogenaamd informeren over de risico’s van een abortus. Maar in werkelijkheid bleek het een folder vol desinformatie, bedoeld om vrouwen ervan te weerhouden hun zwangerschap af te breken. Er volgde een klacht bij de Reclame Code Commissie. In De Nieuws BV praten advocaat Noor Dings en huisarts en seksuoloog Peter Leusink over de kwestie.
Agenda
15 oktober 2025: Datacursus voor journalisten, door het CBS in Den Haag.