Search
Close this search box.

Zranitelnost v macOS ChatGPT mohla umožnit dlouhodobý spyware prostřednictvím funkce paměti

Nyní opravená bezpečnostní zranitelnost v aplikaci ChatGPT pro macOS od OpenAI mohla útočníkům umožnit vložit dlouhodobý perzistentní spyware do paměti nástroje umělé inteligence (AI). Tato technika, nazvaná SpAIware, mohla být zneužita k usnadnění „nepřetržitého získávání dat, které uživatel zadal nebo které ChatGPT obdržel, včetně jakýchkoli budoucích chatovacích relací,“ uvedl bezpečnostní výzkumník Johann Rehberger.

Problém v jádru zneužívá funkci nazvanou paměť, kterou OpenAI zavedla letos v únoru, než ji na začátku měsíce zpřístupnila uživatelům ChatGPT Free, Plus, Team a Enterprise. Tato funkce v podstatě umožňuje ChatGPT pamatovat si určité věci napříč chaty, takže uživatelé nemusí opakovaně zadávat stejné informace. Uživatelé mají také možnost programu nařídit, aby něco zapomněl.

„Paměti ChatGPT se vyvíjejí s vašimi interakcemi a nejsou spojeny s konkrétními konverzacemi,“ říká OpenAI. „Smazání chatu nevymaže jeho paměti; musíte smazat samotnou paměť.“

Tato technika útoku také vychází z předchozích zjištění, která zahrnují použití nepřímé injekce příkazů k manipulaci s pamětí tak, aby si pamatovala falešné informace nebo dokonce škodlivé instrukce, čímž dosahuje formy trvalosti, která přetrvává mezi konverzacemi.

„Protože jsou škodlivé instrukce uloženy v paměti ChatGPT, všechny nové konverzace budou obsahovat instrukce útočníka a neustále odesílat všechny zprávy z chatu a odpovědi útočníkovi,“ řekl Rehberger. „Takže zranitelnost získávání dat se stala mnohem nebezpečnější, protože se nyní rozšiřuje napříč konverzacemi.“

V hypotetickém scénáři útoku by mohl být uživatel oklamán, aby navštívil škodlivou stránku nebo stáhl dokument s pastí, který je následně analyzován pomocí ChatGPT k aktualizaci paměti. Webová stránka nebo dokument by mohly obsahovat instrukce k tajnému odesílání všech budoucích konverzací na server ovládaný protivníkem, který pak může být útočníkem na druhé straně získán mimo jednu chatovací relaci.

Zdroj: thehackernews.com

Zdroj: IT SECURITY NETWORK NEWS  

Zdroj: ICT NETWORK NEWS