Rostoucí rizika při prohlížení agenty
Nová generace prohlížečů s umělou inteligencí se posouvá od jednoduchého shrnutí k provádění reálných úkolů, jako je rezervace letenek nebo vyřizování bankovních požadavků uživatelů. To sice otevírá zcela nový svět pohodlí a efektivity, ale přináší to také různé nevýhody, zejména pokud jde o bezpečnost.
S rostoucí důvěrou uživatelů v tyto entity umělé inteligence se rozšiřují i možnosti zneužití. Agenti umělé inteligence jsou nyní pověřováni přihlášením k klíčovým službám, jako je zdravotnictví, podnikové systémy a finance. Pouhá halucinace nebo chybná interpretace by mohla vést k vážným následkům a potenciálně by mohla vést k odhalení přihlašovacích údajů nebo osobních údajů uživatelů.
Zranitelnosti pro okamžité vkládání
Během zkoumání konkurentů, jako je prohlížeč Comet od Perplexity, výzkumníci z Brave odhalili závažnou zranitelnost: Comet bez rozdílu zachází s obsahem webových stránek jako se součástí uživatelského příkazu. Toto přehlédnutí umožňuje tzv. nepřímou injekci promptů, kdy zdánlivě neškodná webová stránka nebo dokonce komentář na Redditu se skrytými instrukcemi může manipulovat s umělou inteligencí tak, aby navigovala na citlivé stránky, extrahovala data nebo je tajně odebírala, a to vše bez výslovného souhlasu uživatele.
Je překvapivé, že podobná technika byla nedávno demonstrována ve výzkumu zaměřeném na umělou inteligenci Gemini od Googlu. V tomto scénáři vědci ukázali, jak útočníci mohli do pozvánek do Kalendáře Google vkládat škodlivé instrukce, skryté v názvech událostí, které Gemini nevědomky provedlo, když se uživatelé zeptali na jejich rozvrh. Výsledky sahaly od ovládnutí chytrých domácností až po únik e-mailů a manipulaci se Zoomem.
Potřeba lepšího zabezpečení
Ve většině těchto scénářů selhávají zastaralá bezpečnostní řešení, jako je politika stejného původu nebo CORS (Cross-Origin Resource Sharing), a to především proto, že agenti umělé inteligence pracují s oprávněními uživatele na úrovni relace. Místo kompromitování jediného webu může prompt injection překročit hranice domény tím, že využije kontextové znalosti agenta umělé inteligence.
Ať už jsou skryté instrukce úmyslně vloženy do pozvánky v kalendáři nebo omylem ponechány na webové stránce či v e-mailu, mohou současné obranné modely učinit nedostatečnými.
Přijetí bezpečné budoucnosti poháněné umělou inteligencí
Aby vývojáři chránili uživatele, musí implementovat nová ochranná opatření. Prohlížeče by například měly být schopny oddělit důvěryhodné uživatelské příkazy od nedůvěryhodného obsahu, jako jsou nepřímé výzvy ponechané na webových stránkách. Agenti musí pro citlivé operace vyžadovat explicitní potvrzení uživatele.
Agentní prohlížení by navíc mělo být omezeno vlastními limity, odděleno od rutinních úkolů, s jasnými vizuálními pokyny a omezeními oprávnění.
To neznamená, že by se měly vynechat tradiční bezpečnostní obrany. Zavedené obrany, jako je antivirový software, stále hrají klíčovou roli v blokování malwaru, phishingových pokusů a exploit kitů, které často slouží jako odrazový můstek pro pokročilejší útoky řízené umělou inteligencí. Řešení, jako je Bitdefender Ultimate Security, mohou pomoci vytvořit vícevrstvou obranu a zajistit, aby základní ochrana proti dlouhodobým kybernetickým hrozbám zůstala pevně na místě i přes to, že nová rizika, jako je okamžité vniknutí viru, vyžadují pozornost.
Zdroj: Bitdefender
