Reddit strammer ind efter at AI-bots hemmeligt infiltrerede debatforummet.

I korte træk
– Reddit fremskynder implementeringen af nye brugerbekræftelsesforanstaltninger for at sikre, at deltagerne er mennesker, samtidig med at anonymiteten opretholdes.
– Tredjepartsbekræftelsestjenester vil blive brugt til at bekræfte mennesker uden at kompromittere brugernes personlige oplysninger.
– Skridtet kommer efter en gruppe forskere brugte AI-bots til at ændre meninger på et subreddit dedikeret til sunde debatter.
Bag kulisserne i et af Reddits største fællesskaber, har der været noget uhyggeligt under opsejling. I fire måneder udgav AI-drevne bots sig for at være mennesker, påvirkende meninger og optjente tusindvis af upvotes.
Eksperimentet så ud til at virke – indtil alle fandt ud af det.
Reddit annoncerede tidligere på ugen planer om at stramme brugerbekræftelsen op, efter at have opdaget, at forskere fra Universitetet i Zürich gennemførte et uautoriseret eksperiment på subredditet r/changemyview, hvor de brugte AI-bots til at manipulere brugerne uden deres viden eller samtykke.
Forskerne havde implementeret bots, som benyttede følsomme personligheder – herunder traumebehandlere, overlevere af seksuelle overgreb og kontroversielle politiske identiteter – fra slutningen af 2024 til begyndelsen af 2025 og postede over 1.700 kommentarer. AI-enhederne analyserede også brugernes postinghistorik for at udforme overbevisende, personaliserede svar – alt sammen uden at afsløre, at de var AI-agenter.
I en post til fællesskabet fordømte Reddits juridiske chef Ben Lee eksperimentet som “dybt forkert på både et moralsk og juridisk niveau”, med henvisning til overtrædelser af platformens brugeraftale og forskningsetik. Firmaet har udelukket alle konti tilknyttet forskningen og har indgivet formelle klager til Universitetet i Zürich.
At holde Reddit menneskeligt betyder at dele mere information
“Reddit fungerer, fordi det er menneskeligt,” skrev administrerende direktør Steve Huffman i en ny platformopdatering. “Det er et af de få steder online, hvor virkelige mennesker deler virkelige meninger… Hvis vi mister tilliden til det, mister vi det, der gør Reddit… Reddit.”
Eksperimentet ramte lige ned i, hvad der gør onlinefællesskaber funktionsdygtige: tillid. Moderatorer beskrev det som “psykologisk manipulation” og bemærkede, at brugere deltager i subredditet i forventning om ægte menneskelige interaktioner, ikke for at være uvidende forsøgspersoner.
Det sagt, var AI-botsene bemærkelsesværdigt effektive og optjente over 20.000 upvotes og 137 “deltas” – priser givet, når nogen succesfuldt ændrer en anden brugers synspunkt. Dog fik eksperimentet først vind i sejlene, efter at forskerne afslørede deres arbejde. For at forhindre en anden hændelse – selv en hemmelig en – fremskynder Reddit nu foranstaltninger til at verificere, at brugerne er mennesker, uden at gå på kompromis med privatlivet.
“For at holde Reddit menneskeligt og imødekomme skiftende reguleringskrav, bliver vi nødt til at bruge lidt mere information,” forklarede Huffman. “Specifikt skal vi vide, om du er et menneske, og på nogle steder, om du er voksen. Men vi ønsker aldrig at vide dit navn eller hvem du er.”
Firmaet planlægger at samarbejde med tredjepartsbekræftelsestjenester for at udføre sådanne kontroller.
Huffman understregede, at bevarelsen af anonymitet forbliver et af platformens hjørnesten: “Anonymitet er afgørende for Reddit. Vi har været – og vil fortsætte med at være – ekstremt beskyttende over for dine personlige oplysninger.”
Mens Reddit allerede bruger AI-værktøjer til opgaver som indholdsmoderation og spamfiltrering, har firmaet sat en grænse, når det drejer sig om bots, der udgiver sig for at være brugere. “Vores fokus er, og vil altid være, at holde Reddit til et betroet sted for menneskelig samtale,” fastslog Huffman.
Platformen forbyder allerede “dårlige” bots, men hændelsen belyste kritiske sårbarheder i det nuværende system. Når AI bliver stadig mere sofistikeret, skaber det stigende udfordringer for onlinefællesskaber at skelne mellem menneskelig og maskingenereret indhold.
Reddit svarede ikke på en anmodning om kommentar, men Reddit-brugeren Apprehensive_Song490, som fungerer som moderator på r/changemyview, fortalte Decrypt, at interaktioner med AI i forskningsøjemed ville blive grundigt undersøgt af moderatorerne. “Mit generelle indtryk er, at teamet altid er åbne over for forskere, og at vi ville overveje anmodninger fra sag til sag,” sagde han.
Mens Reddit nærmer sig sit 20-års jubilæum, understreger episoden et afgørende øjeblik for platformen og lignende onlinefællesskaber. Udfordringen ligger i at udnytte fordelene ved AI, samtidig med at man bevarer den menneskelige forbindelse, som gør disse rum værdifulde i første omgang.
“Nettet ændrer sig hurtigt, og menneskelige perspektiver har aldrig været vigtigere,” bemærkede Huffman. “Ingen løsning er perfekt – inklusive status quo’en – men vi vil gøre vores bedste for at bevare såvel menneskeligheden som anonymiteten på Reddit.”