Google lancerer SynthID Detektor for at fange snydere på fersk gerning

På dansk
– Googles SynthID indlejrer sporbar mærker i alle Googles AI-værktøjer.
– Værktøjet markerer AI-genereret billedeindhold ved hjælp af usynlige vandmærker på tværs af medier.
– Det hjælper også med at identificere AI-genereret tekst og video, når bekymringerne om snyd vokser.
Med deepfakes, misinformation og AI-assisteret snyd, der spreder sig online og i klasseværelserne, præsenterede Google DeepMind SynthID Detector tirsdag. Dette nye værktøj scanner billeder, lyd, video og tekst for usynlige vandmærker indlejret af Googles voksende suite af AI-modeller.
Designet til at fungere på tværs af flere formater på ét sted, sigter SynthID Detector mod at øge gennemsigtigheden ved at identificere AI-genereret indhold skabt af Googles AI, herunder lyd-AI’erne NotebookLM, Lyria, og billedgenerator Imagen, og fremhæve de dele, der mest sandsynligt er vandmærket.
“For tekst ser SynthID på, hvilke ord der snart vil blive genereret, og ændrer sandsynligheden for egnede ordvalg, der ikke ville påvirke den samlede tekstkvalitet og anvendelighed,” sagde Google under en demo-præsentation.
“Hvis et afsnit indeholder flere foretrukne ordvalg, vil SynthID registrere, at det er vandmærket,” tilføjede de.
SynthID justerer sandsynlighedsscorerne for ordvalg under tekstgenereringen, indlejrer et usynligt vandmærke, der ikke påvirker betydningen eller læsbarheden af outputtet. Dette vandmærke kan senere bruges til at identificere indhold produceret af Googles app Gemini eller webværktøjer.
Google introducerede først SynthID vandmærkning i august 2023 som et værktøj til at opdage AI-genererede billeder. Med lanceringen af SynthID Detector udvidede Google denne funktionalitet til at omfatte lyd, video og tekst.
I øjeblikket er SynthID Detector tilgængelig i begrænset omfang og har en venteliste for journalister, undervisere, designere og forskere til at prøve programmet.
Når generative AI-værktøjer bliver mere udbredte, finder undervisere det i stigende grad vanskeligt at bestemme, om en students arbejde er originalt, selv i opgaver, der skal afspejle personlige erfaringer.
At bruge AI til at snyde
En nylig rapport fra New York Magazine fremhævede dette voksende problem.
En tekniketikkprofessor ved Santa Clara University tildelte en personlig refleksionsopgave, kun for at opdage, at en studerende havde brugt ChatGPT til at færdiggøre den.
På University of Arkansas i Little Rock opdagede en anden professor, at studerende støttede sig til AI for at skrive deres indledende essays og klasse-mål.
Trods en stigning i studerende, der bruger dets AI-model til at snyde i klassen, lukkede OpenAI sin AI-detekteringssoftware ned i 2023 og henviste til en lav nøjagtighedsrate.
“Vi erkender, at identificering af AI-skrevet tekst har været et vigtigt diskussionsemne blandt undervisere, og lige så vigtigt er det at anerkende grænserne og virkningerne af AI-genererede tekstklassificeringer i klasseværelset,” sagde OpenAI på det tidspunkt.
For at forværre problemet med AI-snyd er der nye værktøjer som Cluely, en applikation designet til at omgå AI-detektionssoftware. Udviklet af den tidligere Columbia University-studerende Roy Lee, omgår Cluely AI-detektion på desktopniveau.
Promoveret som en måde at snyde til eksamener og interviews, rejste Lee 5,3 millioner dollars til at udvide applikationen.
“Det eksploderede, efter at jeg havde lagt en video op, hvor jeg selv brugte det under et Amazon-interview,” fortalte Lee tidligere Decrypt. “Mens jeg brugte det, indså jeg, at brugeroplevelsen var virkelig interessant – ingen havde udforsket denne ide om en gennemsigtig skærm-overlay, der ser din skærm, hører din lyd og fungerer som en spiller to for din computer.”
Selvom der er løfte om værktøjer som SynthID, forbliver mange nuværende AI-detektionsmetoder upålidelige.
I oktober fandt en test af de førende AI-detektorer af Decrypt, at kun to af de fire førende AI-detektorer, Grammarly, Quillbot, GPTZero og ZeroGPT kunne fastslå, om mennesker eller AI havde skrevet den amerikanske Uafhængighedserklæring, hhv.