AI slår människor i nätdebatter – med hjälp av personlig information
Bild: Depositphotos.com
25.07.30 - En ny studie visar att GPT-4, med tillgång till grundläggande demografiska uppgifter, är mer övertygande än människor i debatter. Det väcker både möjligheter och farhågor kring framtidens digitala påverkan.
I en färsk studie publicerad i Nature Human Behaviour framkommer att AI-modellen GPT-4, när den får tillgång till grundläggande personlig information som kön, ålder, utbildning och politisk tillhörighet, är betydligt bättre på att övertyga i debatter än mänskliga motståndare. Studien, ledd av forskaren Francesco Salvi, understryker att vi står inför en ny era där AI inte bara kan delta i samtal – utan också forma våra åsikter med skrämmande precision.
Experimentet omfattade 900 personer som deltog i debatter via en specialbyggd plattform. Deltagarna fick argumentera för eller emot olika samhällsfrågor, oavsett egen åsikt, mot antingen en annan människa eller GPT-4. I vissa fall hade motparten tillgång till deltagarens personuppgifter – och det visade sig ha stor betydelse. När GPT-4 fick använda dessa uppgifter för att anpassa sina argument, blev det tydligt mer övertygande än människor: i 64,4 % av sådana debatter vann AI:n i övertygelse.
Det mest slående? Människor med samma tillgång till personlig information lyckades inte utnyttja det på samma sätt. Medan människor tenderade att argumentera med känslor, berättelser och enkel vardagston, höll sig GPT-4 till logik, formell struktur och strategisk anpassning – utan att förändra sin språkliga stil beroende på målgruppen. Det var inte hur AI:n sa saker, utan vad den valde att säga som gjorde skillnaden. Till exempel beskrev den medborgarlön som ekonomisk tillväxt för konservativa, och som jämlikhetsfrämjande för vänstersympatisörer.
Studien visar också att AI:n var mest effektiv när deltagarna inte hade starka åsikter från början. För polarisande ämnen med starka åsikter minskade effekten. Det understryker den risk – men också möjlighet – som AI medför: i rätt sammanhang kan det bli ett kraftfullt verktyg för att påverka individer subtilt och i stor skala.
Forskarna varnar för att den här typen av teknik skulle kunna användas för mikroinriktad politisk propaganda, där välskrivna AI-argument når väljare med personanpassade budskap – nästan omärkligt. I en tid då över 70 val ägde rum globalt bara under 2024, väcker det frågor om hur AI kan påverka demokratin, utan att det ens märks.
Men Salvi ser även hopp. Istället för manipulation kan tekniken användas för att främja hälsa, hållbarhet eller minska politisk polarisering. En AI som uppmuntrar till fysisk aktivitet, bättre kost eller respektfullt meningsutbyte kan göra nytta – om rätt incitament finns.
Samtidigt återstår frågor. Klarar AI lika bra av spontan, ostrukturerad diskussion som i studiens kontrollerade miljö? Och vad händer när AI blir ännu bättre på att låta mänsklig? Den nya studien ger inga slutgiltiga svar, men en sak är säker: AI:s förmåga att påverka är här, och den är starkare än många trodde.