Spoločnosť Microsoft vo svojom reporte uvádza, že rivali USA využívajú umelú inteligenciu pri hackovaní

Zatiaľ čo počítačoví používatelia všetkých vrstiev experimentujú s veľkými jazykovými modelmi, aby im pomohli s programovacími úlohami, preložili phishingové e-maily a zostavili plány útokov, nová správa je prvou, ktorá spája špičkové vládne hackerské tímy so špecifickým využitím LLM. Je to tiež prvá správa o protiopatreniach a prichádza uprostred pokračujúcej diskusie o rizikách rýchlo sa rozvíjajúcej technológie a snáh mnohých krajín obmedziť jej používanie.

Dokument pripisuje rôzne spôsoby použitia AI dvom hackerským skupinám spojeným s čínskou vládou a jednej skupine z Ruska, Iránu a Severnej Kórey, ktoré zahŕňajú štyri krajiny, ktoré sú pre západných kybernetických obrancov v prvom rade znepokojené.

„Skupiny, páchajúce kyberzločiny, aktéri hrozieb národných štátov a iní protivníci skúmajú a testujú rôzne technológie AI, keď sa objavia, v snahe pochopiť potenciálnu hodnotu pre svoje operácie a bezpečnostné kontroly, ktoré možno budú musieť obísť,“ napísal Microsoft v zhrnutí. svojich zistení.

Microsoft uviedol, že skupinám prerušil prístup k nástrojom založeným na ChatGPT od OpenAI. Uviedla, že bude informovať výrobcov o ďalších nástrojoch, ktoré sa používajú, a budú naďalej zdieľať, ktoré skupiny používajú aké techniky.

Spoločnosť uviedla, že zatiaľ neprišla na žiadne veľké útoky poháňané umelou inteligenciou, ale zaznamenala skorší výskum špecifických bezpečnostných nedostatkov, obrany a potenciálnych cieľov.

Sherrod DeGrippo, riaditeľka stratégie spravodajstva o hrozbách spoločnosti Microsoft, uznal, že spoločnosť nemusí nevyhnutne vidieť všetko, čo z tohto výskumu vyplýva, a že odrezanie niektorých účtov by útočníkov neodradilo od vytvárania nových. „Microsoft nechce napomáhať aktérom hrozieb, ktorí páchajú kampane proti komukoľvek,“ povedala DeGrippo. "To je naša úloha, zasiahnuť ich, keď sa vyvinú," dodala.

Spomedzi štátom podporovaných hackerských skupín identifikovaných sa v správe Microsoftu uvádzajú:

• Špičkový ruský tím spojený s vojenskou spravodajskou agentúrou GRU použil AI na výskum satelitných a radarových technológií, ktoré by mohli byť relevantné pre konvenčnú vojnu na Ukrajine.
• Severokórejskí hackeri, ktorí použili AI na prieskum expertov na vojenské kapacity krajiny a na získanie ďalších informácií o verejne oznámených zraniteľnostiach vrátane jednej z roku 2022 vo vlastných nástrojoch podpory spoločnosti Microsoft.
• Tím Islamských revolučných gárd v Iráne hľadal pomoc umelej inteligencie pri hľadaní nových spôsobov, ako klamať ľudí elektronicky, a pri vývoji spôsobov, ako sa vyhnúť odhaleniu.
• Jedna čínska vládna skupina skúmala používanie AI na pomoc pri vytváraní programov a obsahu, zatiaľ čo iná čínska skupina „vyhodnocuje efektivitu LLM pri získavaní informácií o potenciálne citlivých témach, významných jednotlivcoch, regionálnej geopolitike, vplyve USA a vnútorných záležitostiach,“ napísal Microsoft.