OpenAI Lockdown Mode : une protection renforcée contre les injections de prompt

OpenAI Lockdown Mode : une protection renforcée contre les injections de prompt

Temps de lecture : 2 min

Points clés à retenir

  • Protection : le mode verrouillé désactive la navigation web en direct, l’affichage d’images et la recherche approfondie pour limiter les risques.
  • Usage ciblé : cette option n’est pas destinée au grand public mais aux professionnels manipulant des données critiques.
  • Limites assumées : même activé, le mode n’élimine pas toutes les vulnérabilités, notamment sur le contenu mis en cache.

Un bouclier contre l’injection de prompts

La firme d’Altman promet de verrouiller ChatGPT face aux attaques les plus sournoises : les injections de prompt. Dans les faits, ces malveillances consistent à dissimuler des instructions hostiles dans des pages web ou des fichiers, espérant que l’IA les exécute à l’insu de l’utilisateur. En clair, c’est un cheval de Troie numérique qui vise à dérober des données sensibles.

Pour contrer cette menace, OpenAI dévoile ce qu’elle appelle le Lockdown Mode. En activant ce mode, le chatbot restreint plusieurs fonctionnalités clés : la navigation en direct est remplacée par l’accès au contenu mis en cache, et l’extraction d’images depuis le web est désactivée (la génération d’images en interne reste disponible, elle). Sont également bloqués le mode de recherche approfondie et le mode agent.

Une sécurité mesurée

OpenAI est réaliste. Même avec le Lockdown Mode, des vulnérabilités peuvent subsister. Les injections de prompt pourraient encore se dissimuler dans du contenu mis en cache ou dans un fichier téléchargé par l’utilisateur, et altérer ainsi le comportement ou la justesse des réponses. Ce qu’il faut comprendre, c’est que l’objectif n’est pas d’atteindre une sécurité absolue, mais de réduire la probabilité d’exfiltration de données.

Dans sa communication, la société insiste : « Le Lockdown Mode n’est pas conçu pour tout le monde. Il est destiné aux personnes et aux organisations qui manipulent des données sensibles et qui ont besoin d’une protection renforcée contre les risques d’exfiltration liés aux injections de prompt. »

Déploiement en cours

Ce nouveau bouclier est d’ores et déjà déployé pour les comptes ChatGPT Business en libre-service, ainsi que pour certains comptes personnels éligibles. Une mise à jour qui arrive à point nommé à l’heure où la sécurité des IA conversationnelles est au cœur des préoccupations des entreprises.