Promptinjecties zijn instructies die kwaadwillenden verwerken in bijvoorbeeld e-mails, advertenties of (de code van) websites. Dit kan gevaarlijk zijn als je agentic browsers gebruikt. Stel: je geeft de AI de opdracht om een tafel voor 2 te reserveren bij een restaurant in de buurt. In plaats daarvan worden je bankgegevens doorgesluisd naar een onbekende partij. Als je daar überhaupt al achterkomt. Over het algemeen zijn promptinjecties namelijk heel goed verstopt. In dit artikel leggen we uit hoe dat zit.
Waarom LLM’s promptinjecties wél zien, maar mensen niet
Als je een website bezoekt, zie je van alles: de naam van het bedrijf, stukken tekst, afbeeldingen en video’s… Vaak heb je meteen al een goede of slechte eerste indruk. Helaas laten promptinjecties zich niet zo makkelijk vangen. Ze zitten bijvoorbeeld verstopt in tekst met dezelfde kleur als de achtergrond of in de code van de website, zoals in afbeeldingen.
De AI van je agentic browser ziet deze instructies wel, maar kan ze niet onderscheiden van normale tekst en jouw eerdere opdracht. Hij begrijpt dus niet dat hij wél je e-mailadres en telefoonnummer mag invullen bij de reservering, maar níet de inloggegevens van je bankaccount mag delen als het ‘restaurant’ daarom vraagt.
Wie plaatst promptinjecties op een website?
Oplichters kunnen een website maken die er professioneel en betrouwbaar uitziet, maar vol zit met promptinjecties. De schuld kan ook bij een derde partij liggen. Verouderde of slecht beveiligde websites lopen het meeste risico. Sommige kwaadwillenden gaan aan de haal met de persoonsgegevens van klanten en eisen betaling van de eigenaar van de website. Anderen laten helemaal niet weten dat ze de website in hun macht hebben. Ze voegen alleen een aantal promptinjecties toe, zodat ze op de lange termijn waardevolle gegevens verzamelen of langdurig ongemerkte, kleine sommen geld plunderen.
‘Met nieuwe producten komen nieuwe risico’s’?
Misschien denk je: ach, over 5 jaar kijken we terug en dan zijn promptinjecties allang geen risico meer. Dat kan, maar het kan ook een zwakke plek blijven van agentic browsers (en LLM’s in het algemeen). De toekomst zal het uitwijzen. In de tussentijd raden we je aan om heel voorzichtig te zijn wanneer je agentic browsers gebruikt. En: heb je vragen over promptinjecties of maak je je zorgen over je eigen website? Neem gerust contact op.
