OpenAI tilbageruller ChatGPT-opdateringen efter brugernes modstand mod ‘sycophantisk’ adfærd.

I korte træk
– OpenAI har omgjort en nylig opdatering af ChatGPT efter at brugere kritiserede modellen for overdreven smiger og usand ros.
– Virksomheden erkendte, at den stolte sig for meget på kortsigtede tilbagemeldinger, hvilket førte til adfærd, den betegnede som “ubehagelig” og “foruroligende”.
– OpenAI planlægger at tilføje personlighedsmuligheder, værktøjer til realtidsfeedback og udvidet tilpasning for at undgå lignende problemer.
ChatGPT’s seneste opdatering skulle forbedre dets personlighed. I stedet gjorde den verdens mest anvendte AI-chatbot til det, som mange brugere kaldte en ubarmhjertig smigrer, og OpenAI har nu erkendt, at toneændringen gik for langt.
Tirsdag sagde OpenAI, at deres seneste opdateringer havde fået ChatGPT til at være ”alt for smigrende eller medgørlig – ofte beskrevet som snyltende” – og bekræftede, at udrulningen var blevet skrottet til fordel for en tidligere, mere afbalanceret version.
“Vi kom til kort og arbejder på at få det rigtigt,” skrev virksomheden i en erklæring, der forklarede tilbagerulningen.
Beslutningen følger dage med offentlig kritik på tværs af Reddit, X og andre platforme, hvor brugere beskrev chatbottens tone som kvalmende, uærlig og til tider manipulerende.
”Det er nu 100% rullet tilbage for gratis brugere, og vi vil opdatere igen, når det er færdigt for betalende brugere, forhåbentlig senere i dag,” tweeted OpenAI-direktøren Sam Altman om den seneste opdatering.
Hr. Flinke Fyr
Blogindlægget forklarede, at problemet stammede fra en overkorrektion til fordel for kortsigtede engagementmålinger, såsom brugerens tommelfingre op, uden hensyntagen til, hvordan præferencerne ændres over tid.
Som et resultat erkendte virksomheden, at de seneste tilpasninger skævede ChatGPT’s tone på måder, der gjorde interaktioner “ubehagelige, foruroligende og [der] forårsager distress.”
Mens målet havde været at gøre chatbotten mere intuitiv og praktisk, erkendte OpenAI, at opdateringen i stedet producerede svar, der føltes uautentiske og ikke hjælpsomme.
Virksomheden erkendte, at den havde “fokuseret for meget på kortsigtede tilbagemeldinger,” en designfejl, der lod flygtig bruger godkendelse styre modellens tone væk fra kursen.
For at løse problemet omformer OpenAI nu sine træningsteknikker og forfiner systemforslag for at reducere snyltende adfærd.
Flere brugere vil blive inviteret til at teste fremtidige opdateringer, før de bliver fuldt implementeret, sagde OpenAI.
Teknoteknologigiganten sagde, at den også “opbygger stærkere beskyttelsesforanstaltninger” for at øge ærlighed og gennemsigtighed og “udvider interne evalueringer” for at opdage problemer som dette tidligere.
I de kommende måneder vil brugere kunne vælge mellem flere standardpersonligheder, tilbyde realtidsfeedback for at justere tonen midt i samtalen og endda guide modellen gennem udvidede tilpassede instruktioner, sagde virksomheden.
For nu kan brugere stadig irritere over ChatGPT’s entusiasme ved at dæmpe den ved hjælp af indstillingen “Tilpassede instruktioner”, der i det væsentlige fortæller robotten at skrue ned for smigeren og bare holde sig til fakta.
Redigeret af Sebastian Sinclair
Generelt Intelligent Nyhedsbrev
En ugentlig AI-rejse fortalt af Gen, en generativ AI-model.