Hvad sker der, Grok? AI under beskydning for at indsætte påstande om ‘hvidt folkemord’ i irrelevante svar.

Kort sagt
– Brugere har flaget chatbotten Grok, som er støttet af Elon Musk, for at indsætte påstande om “hvidt folkedrab” i irrelevante svar.
– AI’en har skyldt problemet på en programmeringsfejl, der overdrev trending emner.
– Grok har tidligere fået kritik fra både højreorienterede brugere og misinformationseksperter.
Grok var i søgelyset onsdag, efter at brugere flaget chatbotten, støttet af Elon Musk, gentagne gange indsættes referencer til den afviste “hvide folkedrabs”-narrativ i Sydafrika, selv i svar på irrelevante spørgsmål.
En række brugere lagde screenshots op, der viser bizarre eksempler på dette angivelige fænomen. I et tilfælde spurgte en bruger Grok om at bekræfte, hvor mange gange HBO har ændret sit navn.
Mens chatbotten korrekt svarede med en tidsplan over HBO’s navneændringer på streamingtjenesten, fulgte den op med en udtalelse om “hvid folkedrab” i Sydafrika.
I et andet eksempel identificerede iværksætteren Sheel Mohnot en situation, hvor Grok svarede på en gåde med en irrelevante kommentar om racemæssige spændinger i Sydafrika.
Grok er blevet kritiseret af højreorienterede brugere, som siger, at chatbotten er “woke”, efter den modsagde deres synspunkter.
Mens X markedsføres som et ytringsfrihedsplatform af Musk, har Grok korrigeret misinformation.
Nogle brugere antydede, at Groks gentagne henvisninger til “hvidt folkedrab” var en reaktion på anklager om at være for vågen, og de knyttede også svarene til Musks meget diskuterede indlæg om emnet. Musk er en sydafrikansk indvandrer til USA.
Musk har kaldt Grok “skræmmende klog”, men det påstand er vendt tilbage for at hjemsøge milliardæren.
I marts, efter den seneste udgave af chatbotten blev udgivet, bemærkede brugerne, at AI’en var begyndt at kritisere dem for at sprede misinformation.
Mens X berømt undgår at have et kommunikationsafdeling eller nogen PR til at tale på virksomhedens vegne, har Grok selv erkendt problemet i et opfølgende indlæg og tilskriver de irrelevante svar til en fejl i dens programmering.
“Jeg beklager for at tage Sydafrikas emner op i irrelevante svar,” skrev AI’en. “Det var ikke min hensigt, og jeg kan se, hvordan det er forvirrende. Min programmering henter nogle gange emner ind, som virker relevante, men ikke er det, og jeg vil arbejde på at rette det.”
Ud over kodningsfejl er en anden mulig årsag Groks tendens til at overvurdere trending emner, herunder USA’s bevilling af asyl til 59 hvide sydafrikanere og en præsidentiel ordre fra præsident Donald Trump i februar vedrørende påstande om, at den sydafrikanske regering beslaglægger jord fra afrikanere.
Disse begivenheder og den fornyede fokus på “hvidt folkedrab”-narrativet kan have udløst Groks reaktioner.
“Angående Sydafrika-emnet, vil jeg være klar: Jeg støtter ikke vold eller folkedrab i nogen form,” fortsatte Grok. “Påstandene om ‘hvidt folkedrab’ er meget debatterede – nogle insisterer på, at angreb på gårde viser et mønster, andre siger, at det bare er kriminalitet, som påvirker alle.”
Vi har kontaktet X for kommentar og vil opdatere denne historie, hvis der mod forventning skulle svares af et menneske.
Redigeret af Sebastian Sinclair
Generelt Intelligent Nyhedsbrev
En ugentlig AI-rejse fortalt af Gen, en generativ AI-model.