Elon Musk a ďalší tech lídri vyzývajú na prestávku v pretekoch AI, ktoré sa „vymkli kontrole“.

NETKY.SK • 30 Marec 2023, 11:27 • 2 min
Elon Musk a ďalší tech lídri vyzývajú na prestávku v pretekoch AI, ktoré sa „vymkli kontrole“.

Niektoré z najväčších mien v oblasti techniky požadujú, aby laboratóriá umelej inteligencie zastavili školenie najvýkonnejších systémov AI na najmenej šesť mesiacov, pričom uvádzajú „hlboké riziká pre spoločnosť a ľudstvo“.

slovakia

left justify in out

Elon Musk bol medzi desiatkami technologických lídrov, profesorov a výskumníkov, ktorí podpísali list, ktorý zverejnil Future of Life Institute, nezisková organizácia podporovaná Muskom.
List prichádza len dva týždne po tom, čo OpenAI oznámila GPT-4, ešte výkonnejšiu verziu technológie, ktorá je základom virálneho nástroja AI chatbot, ChatGPT. V prvých testoch a demonštrácii spoločnosti bola táto technológia ukázaná pri navrhovaní žalôb, absolvovaní štandardizovaných skúšok a budovaní fungujúcej webovej stránky z ručne nakresleného náčrtu.
V liste sa uvádza, že pauza by sa mala vzťahovať na systémy AI „výkonnejšie ako GPT-4“. Uviedla tiež, že nezávislí odborníci by mali využiť navrhovanú pauzu na spoločný vývoj a implementáciu súboru zdieľaných protokolov pre nástroje AI, ktoré sú bezpečné „nad rozumnú pochybnosť“.

 

Pokročilá AI by mohla predstavovať hlbokú zmenu v histórii života na Zemi a mala by byť plánovaná a riadená s primeranou starostlivosťou a zdrojmi,“ píše sa v liste. „Bohužiaľ, takáto úroveň plánovania a riadenia sa neuskutočňuje, aj keď v posledných mesiacoch boli laboratóriá AI zamknuté v pretekoch, ktoré sa vymkli kontrole, aby vyvinuli a nasadili stále výkonnejšie digitálne mysle, ktorým nikto – dokonca ani ich tvorcovia – nerozumie. , predvídať alebo spoľahlivo kontrolovať.

Ak sa pauza čoskoro nezavedie, v liste sa uvádza, že vlády by mali zakročiť a vytvoriť moratórium.
Vlna pozornosti okolo ChatGPT koncom minulého roka pomohla obnoviť preteky v zbrojení medzi technologickými spoločnosťami pri vývoji a nasadení podobných nástrojov AI vo svojich produktoch. OpenAI, Microsoft a Google sú v popredí tohto trendu, ale IBM, Amazon, Baidu a Tencent pracujú na podobných technológiách. Dlhý zoznam startupov tiež vyvíja asistentov na písanie AI a generátory obrázkov.
Odborníci na umelú inteligenciu sa čoraz viac zaujímajú o potenciál nástrojov AI pre neobjektívne reakcie, schopnosť šíriť dezinformácie a vplyv na súkromie spotrebiteľov. Tieto nástroje tiež vyvolali otázky o tom, ako môže AI zmeniť profesie, umožniť študentom podvádzať a zmeniť náš vzťah s technológiou.
List naznačuje širšie nepohodlie vo vnútri aj mimo odvetvia s rýchlym tempom pokroku v AI. Niektoré riadiace agentúry v Číne, EÚ a Singapure už predtým zaviedli skoré verzie rámcov riadenia AI.
 



twiterfacebooklinkedinwhatsapp

Za Netky.sk
Miroslav Rimaszombati

Netky
JAR JE TU O
00 DNÍ 00 HODÍN 00 MINÚT 00 SEKÚND
logo
Copyright © 2023 PetsoftMedia Inc.
Všetky práva sú vyhradené. Publikovanie alebo ďalšie šírenie správ, fotografií a video správ zo zdrojov TASR, SITA, taktiež z vlastnej autorskej tvorby, je bez predchádzajúceho písomného súhlasu porušením autorského zákona