Odborníkov vystrašila nová schopnosť umelej inteligencie. Mali by sme si dať pauzu, tvrdia
BRATISLAVA - V reakcii na novinku vyhlásili, že to, čo sa podarilo umelej inteligencii, by bolo pre človeka nemožné. Upozornili na riziká, ktorých sa musíme vyvarovať.
Vedci zistili, že umelá inteligencia (AI) dokáže určiť rasu človeka podľa snímok z röntgenu. Odhalili to počas výskumu, v ktorom sa zamerali na prípady, keď AI nedokázala rozpoznať znaky choroby u ľudí tmavej pleti. Chceli preto zistiť, kde je dôvod.
AI funguje v podstate ako ľudské myslenie. Znamená to teda, že môže nevedomky podľahnúť rovnakým predsudkom ako človek. To však predstavuje riziko.
Vedci v súčasnosti nevedia, ako je možné, že AI dokázala určiť rasu zo snímok, ktoré neobsahujú takúto informáciu. Domnievajú sa, že systém dokáže rozpoznať stopy melanínu, pigmentu, ktorý určuje sfarbenie kože. Vedecky to však nie je podložené.
Prečítajte si tiež: Čoskoro môžeme úplne vyčerpať materiály potrebné v elektronike!
Uviedli, že AI dokázala určiť rasu človeka aj z poškodených a nejasných snímok, čo nedokážu ani experti. „Toto vytvára obrovské riziko pre všetky modely používané v medicíne,“ dodali.
Informácie podporujú dôkazy o tom, že AI môže odzrkadľovať predsudky ľudí, či už ide o rasizmus, sexizmus a podobne.
Leo Anthony Celi
V štúdii zostáva ešte veľa nezodpovedaných otázok. Je však dôležité uvedomiť si potenciál rasovej zaujatosti umelej inteligencie, a to najmä v prípade, ak jej v budúcnosti ponúkneme ešte väčšiu mieru zodpovednosti. „Potrebujeme si dať pauzu,“ povedal vedec Leo Anthony Celi z Massachusetts Institute of Technology. „Nemôžeme sa ponáhľať s uvedením algoritmov do nemocníc a kliník, kým si nebudeme istí, že nerobia rasistické a sexistické rozhodnutia,“ uzavrel.
Kríza, ktorú priniesol koronavírus, nás silno zasiahla. Vopred ďakujeme každému, kto zašle hoci len niekoľko centov na náš
účet SK30 7500 0000 0040 2698 9329 Pomôžete tak ľudom, ktorí už roky pracujú pre vás, našich čitateľov, a to aj napriek nižšiemu platu či predĺženému pracovnému času.
Zdroj: Science Alert/Netky Lukáš Dedík
Foto: Flickr, Unsplash, Pixabay
Našli ste chybu, alebo máte tip na zaujímavý článok? Napíšte nám na redakcia@netky.sk