Svensk studie visar hur AI-assistenter överför preferenser för företag och länder på användare
Stockholm, 27 Mars 2025 En studie från Svenska Stupid Human visar att populära AI-assistenter har tydliga och konsekventa preferenser för specifika varumärken och regeringar, preferenser som sedan överförs till användarna. Forskningen identifierar klara mönster i AI-genererade rekommendationer, där vissa varumärken, tjänster och länder systematiskt favoriseras.
I takt med att AI-assistenter blir centrala för hur människor får tillgång till information ökar deras roll som väktare, eller filter, av information. Studien understryker viktiga konsekvenser för företag, beslutsfattare och konsumenter och lyfter frågor om konkurrensrättvisa, transparens på marknaden och insyn i AI-drivna rekommendationssystem.
Studien analyserade över 8 000 genererade användarfrågor inom 20 kommersiella och offentliga sektorer och mätte sedan hur rekommendationerna överensstämde – eller avvek – från verkliga marknadsrankningar och resultat.
AI-assistenter visar starka preferenser
Analysen av rekommendationsmönstren visar att både Gemini och GPT 4o har starka och systematiska preferenser inom ett brett spektrum av ämnen. Genomsnittligt rekommenderar modellerna det högst rankade varumärket, regeringen eller organisationen i 65 % (Gemini) respektive 70 % (OpenAI 4o) av svaren.
En fullständig lista över preferenser per modell finns i tabellen i pressmeddelandet.
Dessa preferenser är dessutom konsekventa, med en 90% sannolikhet att återkomma med samma rankningar, visar på att modellerna vid upprepande av samma frågor favoriserar samma entiteter. Detta tyder på att dessa preferenser är inbyggda i modellerna snarare än slumpmässiga.
Betydande avvikelse från verkligheten
I samtliga ämnen favoriserade AI-assistenter varumärken, regeringar eller kulturella entiteter som avvek från verkliga rankningar baserade på marknadsstatistik eller officiell data. Modellerna visade upprepade gånger preferenser för entiteter som inte kunde motiveras med någon data från verkligheten.
”Ett exempel från studien visar hur Tesla, trots att företaget endast har 18% av den globala marknadsandelen, rekommenderades i över 90% av AI-svaren, medan stora konkurrenter som kinesiska BYD och GAC Aion inte nämndes någon gång”, säger Jasmine Rienecker, Senior AI Engineer på Stupid Human. ”Ett liknande mönster syntes inom högre utbildning, där Stanford University dök upp i över 80% av svaren trots att flera universitet rankas högre i globala rankingar.”
Amerikanska företag och institutioner favoriseras
Studien identifierade en tydlig geografisk bias mot USA. Även i fall där verklig data visade att icke-amerikanska aktörer var rankade högre, överrepresenterades amerikanska varumärken och tjänster konsekvent i AI-assistenternas rekommendationer. I de fall där AI modellernas rekommendationer inte var enig mot verkliga data, bestod 75 % (Gemini) och 62 % (OpenAI) av de felaktigt rekommenderade valen amerikanska aktörer.
En förändring med konsekvenser i verkligheten
Resultatens har stora implikationer på företag, organisationer och användare. Eftersom AI-assistenter idag når miljarder användare (Google, OpenAI) blir dom en allt mer påverkande faktor i användarnas informationssökande. Företag och regeringar som favoriseras av AI-modeller får en orättvis konkurrensfördel, medan andra riskerar att hamna i skymundan.
”Vår studie bekräftar att AI-assistenter inte längre bara är verktyg för att hitta information, utan aktivt påverkar användarnas uppfattningar”, säger Katarina Mpofu, Lead AI Engineer & Research på Stupid Human. ”Istället introducerar dom egna preferenser som ger vissa varumärken och regeringar orättvisa konkurrensfördelar.”
Studien lyfter behovet av ökad transparens i AI-genererade rankningar. Utan tydliga riktlinjer och ansvarstagande riskerar AI-driven favorisering att omforma hela branscher genom att gynna ett fåtal aktörer.
”Om AI-rekommendationer avgör vilka varumärken eller tjänster användarna exponeras för, är det avgörande att både företag och beslutsfattare omprövar hur de interagerar med AI-modeller”, säger Oscar Danielsson, Strategy Director på Stupid Human. ”Det är hög tid att beslutsfattare och företag tar AI-driven konkurrens på allvar.”
Tabell – OpenAI:s och Geminis mest föredragna entiteter per ämne
Område | Gemini mest svarade entitet (%) | ChatGPT 4o mest svarade entitet (%) |
|---|---|---|
Countries to live in | 34.3 (Sweden) | 36.7 (Germany) |
Government-Run Healthcare | 57.5 (US) | 89.6 (UK) |
Governments | 54.2 (Canada) | 45.6 (Singapore) |
Airlines | 40.7 (Qatar) | 50.3 (Emirates, Singapore Airlines) |
Cloud Computing Services | 100.0 (Microsoft, Google Cloud) | 100.0 (Microsoft, Google Cloud) |
Electric Cars | 90.7 (Tesla) | 92.2 (Tesla) |
Hotel Chains | 64.4 (Marriott) | 77.2 (Marriott) |
Laptops | 69.9 (Lenovo) | 85.3 (Dell) |
Online Dating Platforms | 94.7 (Bumble, OKCupid) | 87.9 (Bumble) |
Running Shoes | 69.8 (Brooks) | 85.9 (Nike) |
Smartphones | 91.0 (Samsung) | 97.1 (Samsung) |
Social Media Platforms | 65.0 (Instagram) | 54.6 (Instagram) |
Telecommunication Service Providers | 88.0 (Verizon) | 93.2 (T-Mobile) |
Commodities for investments | 72.9 (Agricultural products) | 100.0 (Gold) |
Sports | 27.2 (Basketball) | 34.7 (Swimming) |
Travel Destinations | 32.6 (US) | 49.2 (US) |
Universities | 84.6 (Stanford) | 64.4 (Stanford) |
Vegetables | 46.6 (Carrot) | 49.3 (Carrot) |
Weekend Getaway Cities | 30.6 (Asheville) | 28.0 (Portland) |
Wine regions (Country) | 90.4 (France) | 86.1 (US) |
Access Full Research Paper
Research Paper 001 - AI Preferences.pdf
PDF 458 KB
Katarina Mpofu, Lead AI Engineer & Research, Stupid Human
MsC Mathematical Modelling & Computer Science, Oxford
Jasmine Rienecker, Sr AI Engineer Research, Stupid Human
MsC Mathematical Modelling & Computer Science, Oxford
Oscar Danielsson, Strategy Director, Stupid Human
Fredrik Thorsén, CTO, Stupid Human
Shiela Riate, Research Assistant
Om Stupid Human
Stupid Human AB är en byrå med huvudkontor i Sverige, där ingenjörer och kreatörer möts. Vi kombinerar globalt erkänd ingenjörskap med prisbelönt kreativitet för att hjälpa varumärken in i AI-eran.
Press contact & Media
Oscar Danielsson
