AI-bias

AI-bias betyder att ett system systematiskt gynnar eller missgynnar vissa grupper eller resultat – ofta utan att det är avsett. Det kan komma från historiska data, hur frågor ställs (prompt), eller från att träningsmaterial saknar mångfald.

På svenska säger man ofta snedvridning eller partiskhet; bias är etablerat i branschen (jämför statistisk bias). Resultat kan påverka rekrytering, kredit och innehållsrekommendationer; därför är GDPR, dokumentation och mänsklig granskning viktiga bredvid hallucination-arbete.

---

Nyckelegenskaper

• Kan uppstå i träningsdata, etikettering, målvariabler eller i hur människor använder modellen i produktion.
• Märks ofta som systematiska skillnader mellan grupper, inte bara som enstaka felaktiga svar.
• Kräver testning, dokumentation och mänsklig uppföljning, särskilt i beslut som påverkar människor direkt.