Jag måste tipsa om Omnis AI-bevakning. Oftast flera gånger varje dag sammanfattar de nyhetsläget kring nya upptäckter och händelser inom fältet. Och det händer mycket! Jag använder de här notiserna som hjälp när jag navigerar mig fram i det föränderliga landskapet och försöker förstå hur AI-utvecklingen påverkar min vardag som digital skribent och kreatör.
I dag berättar Omni om ny forskning kring hjärnröta – på engelska brain rot – i språkmodeller. Rapporten som nämns i artikeln är ännu inte kollegialt granskad, men den tycks peka på något som många som arbetar nära språket nog anat: Att dålig input ger sämre output. Och här är jag inte förvånad. Inte alls, faktiskt.
Språkmodeller har ju inte uppstått ur intet. De har vuxit fram ur en enorm textmassa, skapad och sammanställd av människor – allt från journalister, forskare och professionella skribenter till AI-tränare och lingvister som matat in och kvalitetsgranskat text. Men basen är också ojämn, just för att AI-verktyg och lekmän har bidragit med stora mängder material (många gånger omedvetet). Det är i sig inget negativt, men det påverkar nivån. När grundkvaliteten i en så omfattande corpus varierar kraftigt är det logiskt att även modellernas resonemang blir ojämna.
Som Omni-artikeln lyfter tränades modellerna i studien på ”viralt, trivialt och sensationellt innehåll”. Ju sämre kvalitet på detta, desto sämre blev också resonemangen. Den slutsatsen känns på ett sätt självklar, men blir samtidigt en påminnelse om hur beroende språkmodellerna är av den mänskliga textproduktionens kvalitet och balans.
Omni-artikeln drar också en intressant parallell till människans lärande. Fenomenet hjärnröta tycks nämligen inte bara gälla språkmodeller, utan även oss själva när vi mestadels exponeras för innehåll av låg kvalitet online. Det påverkar hur vi resonerar, vilka slutsatser vi drar och hur vi förstår världen.
Här kan du ta del av artikeln på Omni och av den forskarartikel som sannolikt ska genomgå en kollegial granskning framöver:
- https://omni.se/forskning-ai-far-hjarnrota-precis-som-manniskor/a/o3d1oK
- https://arxiv.org/abs/2510.13928
