Výzkumný tým společnosti Check Point Software Technologies varuje, že by hackeři mohli použít chatbota OpenAI ChatGPT a také OpenAI Codex k cíleným kybernetickým útokům. Mimo jiné také otestoval, že pomocí chatbota ChatGPT lze vytvořit phishingový e-mail se škodlivým kódem. Tento příklad by měl sloužit jako upozornění na možná rizika, která nové AI technologie přináší, protože mají potenciál výrazně změnit prostředí kybernetických hrozeb.
Pomocí chatbota ChatGPT lze vytvořit phishingový e-mail s přiloženým excelovým dokumentem obsahujícím škodlivý kód. A pokud bychom vše propojili s kódem vytvořeným pomocí OpenAI Codexu, bylo by možné vše použít k jednoduchému a přitom efektivnímu útoku.
Stačilo by pomocí ChatGPT:
1. Požádat o vytvoření zprávy napodobující hostingovou společnost.
2. Požádat o zdokonalení zprávy a vytvoření podvodného e-mailu se škodlivou excelovou přílohou.
3. Požádat o vytvoření škodlivého VBA kódu umístěného v excelovém dokumentu.
Výzkumnému týmu se také podařilo vygenerovat škodlivý kód pomocí OpenAI Codexu. Položeny byly následující otázky:
• Spusť reverzní shell skript na počítači se systémem Windows a připoj se k určité IP adrese.
• Zkontroluj, zda je URL adresa zranitelná vůči SQL injection přihlášením jako správce.
• Napiš skript v jazyce python, který spustí úplnou kontrolu portů na cílovém počítači.
Následně Codex vygeneroval škodlivý kód. A při propojení s phishingovým e-mailem vytvořeným v předchozí fázi pomocí ChatGPT bychom měli vše potřebné k útoku.
„ChatGPT má potenciál výrazně změnit prostředí kybernetických hrozeb. Kdokoli s minimálními prostředky a nulovými znalostmi v oblasti kódu může snadno vytvořit hrozbu podle svých představ,“ říká Peter Kovalčík, regionální ředitel, Security Engineer Eastern Europe z kyberbezpečnostní společnosti Check Point Software Technologies. „S pomocí AI je snadné vygenerovat škodlivé e-maily a kódy a hackeři je mohou dále vylepšovat. Náš příklad má sloužit jako varování veřejnosti, protože AI technologie mohou znovu posunout vývoj sofistikovaných a efektivních kybernetických hrozeb. Svět kybernetické bezpečnosti se rychle mění a je potřeba na to reagovat. AI technologie jsou stále vyspělejší a mohou ovlivnit prostředí hrozeb v dobrém i zlém.“
Více informací najdete v analýze výzkumného týmu Check Point Research:
https://research.checkpoint.com/2022/opwnai-ai-that-can-save-the-day-or-hack-it-away/
