Kyberbezpečnostní experti zjistili, že je možné využít velké jazykové modely (LLM) k hromadnému generování nových variant škodlivého JavaScriptového kódu tak, aby lépe unikal detekci.

„Ačkoli LLM nedokážou vytvořit malware od nuly, zločinci je mohou snadno využít k přepsání nebo obfuskování existujícího malwaru, což ztěžuje jeho detekci,“ uvedli výzkumníci z Palo Alto Networks Unit 42 v nové analýze. „Zločinci mohou LLM přimět k transformacím, které vypadají mnohem přirozeněji, což činí detekci tohoto malwaru náročnější.“

S dostatečným množstvím transformací v průběhu času by tento přístup mohl mít výhodu v degradaci výkonu systémů pro klasifikaci malwaru, čímž by je oklamal, aby si myslely, že škodlivý kód je ve skutečnosti benigní.

Ačkoli poskytovatelé LLM stále více zavádějí bezpečnostní opatření, aby zabránili jejich zneužití a produkci nechtěného výstupu, zločinci propagují nástroje jako WormGPT, které umožňují automatizovat tvorbu přesvědčivých phishingových e-mailů přizpůsobených konkrétním cílům, a dokonce vytvářet nový malware.

V říjnu 2024 OpenAI oznámila, že zablokovala více než 20 operací a podvodných sítí, které se pokoušely využít její platformu k průzkumu, výzkumu zranitelností, podpoře skriptování a ladění.

Unit 42 využila sílu LLM k iterativnímu přepisování existujících vzorků malwaru s cílem obejít detekci modely strojového učení (ML), jako jsou Innocent Until Proven Guilty (IUPG) nebo PhishingJS, čímž efektivně vytvořila 10 000 nových variant JavaScriptu bez změny funkčnosti.

Adversariální technika strojového učení je navržena tak, aby transformovala malware pomocí různých metod – konkrétně přejmenováním proměnných, rozdělením řetězců, vkládáním zbytečného kódu, odstraněním nepotřebných mezer a kompletní reimplementací kódu – pokaždé, když je kód zadán do systému jako vstup.

„Konečný výstup je nová varianta škodlivého JavaScriptu, která si zachovává stejné chování jako původní skript, ale téměř vždy má mnohem nižší skóre škodlivosti,“ uvedla společnost a dodala, že chamtivý algoritmus změnil verdikt vlastního modelu klasifikátoru malwaru z „škodlivý“ na „benigní“ v 88 % případů.

Situaci ještě zhoršuje skutečnost, že takto přepsané JavaScriptové artefakty unikají detekci i jinými analyzátory malwaru, když jsou nahrány na platformu VirusTotal.

Zdroj: thehackernews

Zdroj: IT SECURITY NETWORK NEWS  

Zdroj: ICT NETWORK NEWS