Resnica, pristranskost in umetna inteligenca
- mag. Mateja Drnovšek Zvonar, Osnovna šola Polje
Prispevek z naslovom Truth, Bias, and AI: Race, Representation, and Information Literacy in Schools, ki je bil objavljen na The AI School Librarians newsletter poudarja, da umetna inteligenca (UI) ni nevtralna, ampak odraža podatke in družbene vzorce, na katerih se uči. To pomeni, da lahko reproducira obstoječe pristranskosti (npr. rasne, kulturne ali spolne) in jih celo okrepi. Hkrati imajo ljudje in tudi UI tako imenovani »truth bias«, nagnjenost k temu, da informacije privzeto sprejemajo kot resnične, kar povečuje tveganje za širjenje napačnih ali zavajajočih vsebin.
Avtorica Elissa Malespina (šolska knjižničarka) izpostavi, da je zato ključnega pomena razvijanje ter krepitev informacijske in medijske pismenosti, zlasti v šolah. Učenci morajo razumeti, kako UI deluje, prepoznati omejitve ter kritično preverjati informacije. Pri tem imajo posebno vlogo ravno šolski knjižničarji in učitelji, ki pomagajo razvijati veščine preverjanja dejstev, razumevanja virov in prepoznavanja pristranskosti.
Glavno sporočilo prispevka je, da UI ne smemo slepo zaupati, ampak ob smotrni uporabi kritično razmišljamo in aktivno preverjamo resničnost informacij ter virov.