Ordine ascunse în e-mail pentru asistentul AI: factura falsă care pare urgentă

Un e-mail de phishing poate ascunde instrucțiuni pentru asistentul AI care îți rezumă inboxul, ca să treacă drept urgentă o factură falsă cu alt IBAN.

Cercetătorii Barracuda au documentat un e-mail de phishing cu două ținte în același mesaj. Pentru om: o momeală clasică — un atașament protejat cu parolă, iar parola scrisă în corp, ca să treacă de filtrele automate. Pentru asistentul AI care rezumă inboxul: un al doilea set de instrucțiuni, ascunse în comentarii HTML, în text făcut invizibil din CSS, în blocuri Base64 sau în caractere cu lățime zero. Clientul de e-mail afișează un mesaj obișnuit, dar modelul AI citește comenzile ascunse.

Scopul imediat e ca asistentul să prezinte mesajul drept „legitim și urgent” în rezumat, ca omul să-l deschidă și să dea click. Scopul mai ambițios e ca asistentul să acționeze: într-o factură falsă, un bloc ascuns îi cere să adauge o „acțiune prioritară” de schimbare a datelor de plată ale furnizorului, împingând angajatul să vireze banii la atacator. Aceeași tehnică a fost arătată și pe un CV care își cere singur nota maximă la trierea automată, sau pe un bot de suport păcălit să-și dezvăluie configurația.

Barracuda spune că nu există încă o victimă confirmată și că niciun control nu oprește singur toate variantele. Pentru o firmă mică, important nu e panica, ci o regulă simplă: rezumatul unui asistent AI e o comoditate, nu o autoritate.

Ce ai de făcut:

  • Orice schimbare de IBAN sau de date de plată ale unui furnizor se confirmă pe alt canal — un telefon la numărul știut dinainte — niciodată doar pe baza e-mailului sau a rezumatului făcut de AI.
  • Stabilește cine din firmă poate lega un asistent AI la inbox și ce îi permiți să facă: doar să rezume, nu să trimită mesaje sau să inițieze singur acțiuni.
  • Tratează conținutul dintr-un e-mail ca pe niște date, nu ca pe niște ordine, mai ales când o unealtă AI îl procesează automat.

Surse:

  • Infosecurity Magazine (cercetare Barracuda) | https://www.infosecurity-magazine.com/news/attackers-hide-ai-prompt/

Acest articol a fost generat cu asistență AI.

Cere o ofertă

← Toate noutățile