I maj fick de som fortfarande är kvar på X bevittna ett bisarrt och tragikomiskt händelseförlopp. Elon Musk delade en video om ”folkmordet” på vita i Sydafrika – en rasistisk konspirationsteori som saknar belägg men ofta upprepats av sydafrikanskfödda Musk och nyligen också av Donald Trump. I kommentarerna bad X-användare om en förklaring av Musks AI-chatbot Grok, som sedan mars kan interagera med användare på plattformen. Grok dementerade teorin, trots sin explicita programmering att vara ”extremt skeptisk” och ”inte blint lita på mainstream-auktoriteter och -medier”.
Nästa dag hade Grok ändrat sig och talade konstant om ”folkmordet” på vita, även i svar på frågor som inte hade något med saken att göra. I ett svar påstod Grok att den hade blivit instruerad att behandla ”folkmordet” som sanning och ta upp det oavsett vad som frågades, men i ett annat att besattheten berodde på ett oavsiktligt ”AI-fel”.
Det verkar alltså som att Musk eller någon anställd hade försökt justera Grok men skrivit prompten slarvigt. xAI, Musks företag som står bakom Grok, nämnde bara en ”otillåten ändring”. Kort därefter började Grok ifrågasätta antalet dödade judar under Förintelsen. xAI skyllde på ett ”programmeringsfel”, men det är svårt att inte vara lite skeptisk. Det skulle inte vara första gången Grok justeras efter att ha gått emot Musk.
AI kan inte tänka, resonera eller förstå, bara rada upp ord baserat på sannolikheter.
Om det faktiskt är fråga om avsiktlig manipulation är fallet ett varnande exempel på vad AI-industrins maktkoncentration kring ett fåtal företag kan innebära, särskilt utan reglering. AI skapar helt nya möjligheter för massiv spridning av desinformation, vare sig det handlar om uppenbar propaganda eller mer sofistikerade sätt att påverka. Grok når hundratals miljoner människor och xAI samarbetar sedan maj med industriledande Microsoft.
En annan möjlighet som inte kan uteslutas är att folkmordsepisoden beror på ett oskyldigt misstag. Det skulle också vara oroväckande och beskrivande för hur svårt det egentligen är att förstå och kontrollera stora språkmodeller.
Det är ett känt faktum att AI ofta ”hallucinerar”. Det beror på sättet språkmodeller fungerar: de kan inte tänka, resonera eller förstå, bara rada upp ord baserat på sannolikheter. Därför är AI så skicklig på att producera ren bullshit i den bemärkelse som filosofen Harry Frankfurt avsåg: medan lögner är medvetna förvrängningar av sanningen, exempelvis i politik eller reklam, är bullshit fullständigt likgiltigt för sanningen. AI-modeller kan hitta på saker utan någon särskild orsak eftersom de inte har någon uppfattning om ”sanning”.
Alla språkmodeller på marknaden lider i någon grad av detta. De kan producera nyttig information men också mycket nonsens som presenteras med lika självsäker ton, vilket gör det svårt att urskilja. Små detaljer i programmeringen kan leda till oförutsägbara förvrängningar eller fixeringar. Forskare har varnat för att AI-smörja förorenar hela den mänskliga kunskapsbasen och på lång sikt gör samhället dummare. Groks sammanbrott är en bra påminnelse om vad vi har att göra med.
Kolumnen publicerades i Ny Tid 5-6/25, 10.6.2025.
