Jaká jsou rizika spojená s generativní umělou inteligencí? Odpověď nabízí nová publikace na podporu mediální gramotnosti určená veřejnosti

Tým E-Bezpečí z Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s Univerzitou Karlovou a hubem CEDMO připravil novou elektronickou publikaci

Tým E-Bezpečí z Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s Univerzitou Karlovou a hubem CEDMO připravil novou elektronickou publikaci s názvem Rizika spojená s generativní umělou inteligencí,  která se věnuje velmi důležité a aktuální problematice potenciálních a reálných rizik spojených s umělou inteligencí (AI).

Úvodní část je věnována především problematice halucinování a tzv. AI biasu, mimo jiné například stereotypizací a zkreslováním informací, kdy umělá inteligence nemusí v praxi uživatelům sdělit vyloženě nepravdivou informaci, ale informaci, která je určitým způsobem zkreslena. Prof. Kamil Kopecký z Univerzity Palackého v Olomouci, autor publikace, vysvětluje: „Umělá inteligence samozřejmě dělá faktické chyby, ale může se také dopouštět zkreslování reality a upevňovat v nás určité druhy stereotypů spojených např. s rasou, národností či pohlavím. Podle několika výzkumů se stereotypního zkreslování dopouštějí například AI nástroje pro generování obrázků (Dall-E, Midjourney), které osoby s vyšším sociálním statutem zobrazují se světlou pletí, zatímco osoby s nižším sociálním statutem s pletí tmavou (či s asijskými rysy). To vše je dáno povahou databází, na kterých jsou modely trénovány a které často nejsou v rovnováze. Nemusí jít však jen o stereotypy spojené s rasou, ale také například národností – Indové jsou umělou inteligencí většinou generováni v turbanu, Mexičané jsou zarostlí, mají na hlavě sombrero, nosí pončo a podobně.“

Dalším klíčovým tématem knihy je zneužívání generativní AI k tvorbě dezinformací a falešných zpráv. I přes…