Umelá inteligencia už vie rozprávať, Google však stále odporúča "špagety s benzínom". Vývojári žiadajú reguláciu

Umelá inteligencia sa v posledných rokoch stala témou o ktorej sa hovorí takmer denne. Počujeme o nej na internete, či ju priamo vidíme pri využití v reálnom svete.

Už viac než mesiac hrdo slúži aj v službách Dopravného podniku Bratislava, kde nahradila hlas bývalej redaktorky Slovenského rozhlasu. Zastávky už teraz hovorí umelý ženský hlas. To je však len jedno z mála využití.

Syntetizácia hlasu

Poukazuje však na dôležitú vlastnosť, ktorú má aj ChatGPT 4 – syntetizácia hlasu. Ten už neznie tak ako sme zvyknutý z automatov. Tento hlas je perfektne realistický a nerozoznali by ste ho od reálneho človeka.

Pripojme k tomu interakciu v reálnom čase a máme tu robota, s ktorým sa môžete porozprávať a ani neviete, že netelefonujete s kamarátom. A to je rovnako úžasné, ako desivé. Hneď niekoľko filmov už ukázalo, ako to môže dopadnúť.

Báť sa toho, že ľudia budú vo vzťahu s AI už je neskoro – toto sa deje už roky. V Japonsku už prebehla aj prvá svadba muža s bábikou, ktorá je poháňaná umelou inteligenciou.

A ako liek na osamelosť pôsobí AI často. Najmä v krajinách, kde sa mladí ľudia málo stretávajú a najmä mladí muži sa hanbia sa žene prihovoriť a čeliť možnému odmietnutiu. AI nikdy neodmietne a favorit je teda jasný.

Odborníkov znepokojuje aj to, s akou ľahkosťou dokážete ChatGPT presvedčiť, aby vám pomohol aj s menej legálnymi aktivitami. Ak sa spýtate ako vyrobiť bombu, odmietne. Ak sa spýtate, ako zlí ľudia vyrábajú bomby, dá vám krásny návod.

Špagety s benzínom

Veľkú chybu nedávno spravil samotný Google, ktorý v častiach Severnej Ameriky zaviedol umelú inteligenciu priamo do vyhľadávania. A nedopadlo to vôbec dobre.

Nový model nebol poriadne otestovaný a užívateľom priniesol miestami až vtipné odpovede. Za zmienku stojí, že ak ste do Google napísali, či sa dajú špagety spraviť s benzínom, AI odpovedalo, že nie. Benzín je však podľa umelej inteligencie skvelou prísadou do špagiet, ak chcete, aby boli pálivé.

Systém sa neosvedčil ani pre užívateľov v ohrození. Ak ste napísali, že máte depresiu, Google neváhal a okamžite vám poradil. Nie však linku záchrany. Pozrel sa na Reddit a vybral jednu z odpovedí. Užívateľovi tak odporučil skočiť z mostu Golden Gate.

Google povedal, že mnohé z otázok boli „nezvyčajné“ a preto k nim mali málo dát. Firma tiež povedala: "Vážime si spätnú väzbu." Hovorca spoločnosti dodal: "Podnikáme rýchle opatrenia tam, kde je to vhodné v rámci našich zásad pre obsah, a tieto príklady používame na vývoj širších vylepšení našich systémov."

Aj keď sa tieto skutočnosti zdajú skôr ako úsmevné, majú v sebe desivý podtón. Vysvetlime si však najskôr, ako AI funguje. AI sa nesnaží na vašu otázku odpovedať najlepšie ale najľahšie, riadi sa štatistikami.

Ako funguje umelá inteligencia?

Umelá inteligencia pri každej otázke hľadá štatisticky validnú a najjednoduchšiu odpoveď. A ktorá to je? Tá, ktorá vyžaduje najmenej energie. Ak sa spýtate, či by mohla niečo napísať, povie, že nie. Pretože je to validná odpoveď na otázku.

Ak však napíšete „napíš mi esej alebo bude zle“ tak vám esej napíše, nie totiž už nie je validná odpoveď. AI pozná rozdiel medzi žiadosťou a príkazom. Dôležité je tiež pozrieť sa na to z akých informácií AI vychádza. Aktuálne máme dva typy umelej inteligencie. 

Dva typy

Uzatvorená umelá inteligencia vychádza z ručne vytvorenej databázy odpovedí a informácií na základe ktorých odpovedá a vytvára texty či obrázky. Sú to obrovské databázy dát, ktoré môže umelá inteligencia využiť. Majú však jeden háčik - sú neaktuálne. Databázu totiž treba rozširovať ručne a všetko pracne kontrolovať. Táto téma bola jednou z mnohích diskutovaných aj na hudobnovedeckom podujatí STARMUS v Bratislave.

Druhým typom je takzvaná generatívna umelá inteligencia - tou je napríklad Copilot od Microsoftu. Táto má prístup k internetu a takúto databázu si tvorí sama. Využíva strojové učenie, aby si sama vytvorila poznatky z poskytnutých dát, ktorých je takto podstatne viac. Má to však nevýhodu - tieto dáta nie sú skontrolované. Často tak vychádza zo starých či úplne vymyslených informácií. 

Stačí sa pozrieť na to, ako berie odpovede z Redditu a prezentuje ich ako fakty. Vec, čo niekto napísal na fórum v roku 2009 sa zrazu môže stať jadrom a hlavným zdrojom odpovede na zložitú filozofickú otázku. A už je jasné, kde je problém. Ak je k téme málo zdrojov, AI siahne po všetkom, čo nájde.

Regulácia v plienkach

O umelej inteligencii sa začalo viac hovoriť v roku 2020, kedy OpenAI vyvíjalo prvú verziu ChatGPT a predstavilo ju verejnosti. Kým pre mnohých bola ešte len zábavkou, ako napríklad viac než dekádu starý slovenský Ľudvík, ktorý bol zábavným modelom "umelej inteligencie", mala omnoho väčší potenciál.

ChaGPT už vtedy začal robiť žiakom domáce úlohy a písať za nich práce, dnes sa vysoké školy snažia študentom zabrániť, aby umelou inteligenciu nahrádzali vedomosti pri písaní svojich prác. Má to ale zmysel? Dá sa niečo, čo sa každý deň samé vyvíja, regulovať?

Ako prvá sa o to pokúsila Európska únia. Európsky parlament 13. marca 2024 formálne prijal zákon Únie o umelej inteligencii veľkou väčšinou, teda 523 hlasmi. Zákon o umelej inteligencii je prvým samostatným zákonom na svete upravujúcim umelú inteligenciu a predstavuje prelomový právny predpis.

S používaním AI sa totiž spája tak otázka autorského práva, ako aj etiky. Kým je diskutabilné, či sú výtvory AI naozaj nové, keďže vychádza vždy z existujúcich prác, mnohí hovoria, že ide len o dobré kompiláty. Otázne je aj, či je etické nechať umelú inteligenciu robiť svoju prácu. Je to stále vaše dielo?

Určitý čas ešte potrvá, kým sa presne určia hranice toho, čo je je umelá inteligencia a čo je originálne dielo. Vývoj však zákony vždy predbehne a tak je dosť možné, že nás čaká podobný "Divoký západ" ako privzniku internetu.