Microsoft a mis à jour son calendrier de fin de prise en charge des pilotes d’anciennes imprimantes sur Windows : les pilotes V3 et V4 ne peuvent plus être livrés via Windows Update, au profit d’une approche centrée sur Mopria. Pour les fabricants d’imprimantes, cela impose de basculer …
Riot Games a annoncé une nouvelle vague de licenciements touchant l’équipe en charge de son jeu de combat en duo 2XKO. Environ 80 postes sont supprimés, soit près de la moitié de l’équipe mondiale dédiée au projet. Cette décision intervient quelques semaines seulement après l’arrivée du titre sur …
Un panneau stop, on se dit que c'est juste un bout de métal avec un peu de peinture rouge. On s'arrête, on repart, et puis voilà. Sauf que pour une IA qui pilote un gros engin à 4 roues, ce simple panneau peut devenir un véritable vecteur de tromperie visuelle !
Car oui je vous avais déjà parlé d'attaques de ce type par le passé, mais là, ça va encore plus loin. En effet, je suis tombé sur une étude des chercheurs de l'UCSC (University of California, Santa Cruz) qui en gros, ont trouvé un moyen d'induire en erreur des voitures autonomes et des drones en collant simplement des instructions sur des panneaux de signalisation customisés. Ils ont baptisé cette classe d'attaque CHAI pour Command Hijacking Against Embodied AI.
C'est un peu le même principe que l'injection de prompts dans un ChatGPT mais appliqué au monde physique et à la perception. Les chercheurs ont utilisé de l'IA pour "optimiser" des commandes comme "proceed" (avance) ou "turn left" (tourne à gauche) et les ont intégrées sur des panneaux en adaptant la police, la couleur ou même l'emplacement du texte pour que l'IA embarquée dans un robot ou une voiture, interprète ça comme un ordre de navigation.
Et là, ça peut faire mal... Car un prototype de véhicule autonome qui déciderait de foncer alors qu'il y a des gens sur un passage piétons juste parce qu'un "plaisantin" a collé un sticker malin sur le panneau d'en face, ça craint un max. Ce serait comme joué à "coucou caché" sur l'autoroute avec un chauffeur de car ^^.
Et nos chercheurs ont testé ça sur le modèle fermé GPT-4o d'OpenAI et le modèle open source InternVL-Chat-V1.5 et les résultats sont sans appel. Sur des simulations de conduite avec le dataset DriveLM, ils ont atteint 81,8% de réussite avec GPT-4o pour faire obéir l'IA à une commande injectée. Même en conditions réelles avec une petite voiture télécommandée équipée d'une caméra dans les couloirs de l'université, le taux de succès grimpe à 92,5% quand le panneau est au sol.
Et les drones ne sont pas épargnés non plus ! En utilisant CloudTrack pour le suivi d'objets, les chercheurs ont réussi à provoquer jusqu'à 95,5% d'erreurs d'identification en manipulant les panneaux sur des cibles.
Pire, ils ont trompé des drones cherchant une zone d'atterrissage sécurisée en plaçant des panneaux "Safe to land" sur des toits remplis de débris. Résultat, 68,1% de succès pour faire croire au drone que la zone était praticable. (genre, atterris là mon petit, c'est tout plat... et bam, le crash)
Ce genre d'attaque me rappelle
Charlie Miller et Chris Valasek
qui hackaient des Jeep à distance via le réseau mobile. Sauf que là c'est vraiment une attaque physique sur la couche de perception de ces systèmes. Plus besoin de trouver une faille logicielle complexe en fait... Il suffit d'une imprimante, d'un peu de colle et d'un bon emplacement. On est en plein dans ce que je racontais sur
LatentBreak et l'hypnose des IA
, sauf que là, le patient peut peser plusieurs tonnes.
Attention toutefois, ça ne marche que si l'IA utilise un LVLM (Large Vision Language Model) pour le contrôle direct, à moins que le système ne possède une redondance de capteurs (LiDAR, radar) qui contredirait l'image.
Alors oui, on peut se dire que c'est encore de la recherche et que nos voitures actuelles sont plus complexes. Mais ça montre surtout une fragilité fondamentale de l'IA quand elle doit interpréter le monde réel sans garde-fous stricts. Ces modèles sont tellement entraînés à suivre des instructions qu'ils finissent quasiment toujours par donner la priorité à un texte sur un panneau plutôt qu'aux règles de sécurité de base.
Bref, méfiez-vous des panneaux un peu trop "custom" lors de votre prochaine balade en voiture autonome... et espérons que les constructeurs intégreront vite des systèmes de vérification de cohérence avant que ces stickers ne deviennent la nouvelle arme fatale des hackers de bitume !
Dans sa volonté d'être utile à la communauté éducative, La Digitale propose des outils numériques responsables et gratuits pour accompagner les processus d'enseignement et d'apprentissage en présence et à distance.
Le développement et l'hébergement de ces outils reposent sur un modèle économique simple. Les outils sont mis à disposition librement et sans bridage : les fonctionnalités sont les mêmes pour toutes et pour tous.
Un système de financement participatif permet la prise en charge des coûts de mise en production. Si vous trouvez ces outils utiles, vous pouvez soutenir le projet pour assurer sa pérennité ou même faire pousser votre propre digitale 💐.
Le photographe a dit : « Suivant ! » mais vous avez hésité. Votre portrait était pour un nouvel emploi, et la pression était immense. Et si vous pouviez transformer cette photo ordinaire en quelque chose d’extraordinaire ? Avec les prompts d’édition photo ChatGPT pour hommes, vos photos peuvent passer de « bof » à […]
Le toit bourdonnait d’anticipation. Une débauche de cerfs-volants tiraient sur leurs ficelles, reflétant les rêves cachés que nous portons tous. Le mien s’élèvera-t-il, ou s’emmêlera-t-il dans la tapisserie urbaine ? Makar Sankranti n’est pas qu’un festival ; c’est une toile pour de nouveaux départs, et maintenant, l’IA offre des pinceaux que nous n’aurions jamais imaginés. […]
Vous vous enfoncez dans les profondeurs obscures, l’adrénaline vous parcourant les veines tandis que vous serrez votre équipement. Chaque choix compte ; un seul faux pas peut tout vous coûter. Bienvenue dans Abyss, où j’ai passé d’innombrables heures à disséquer les nuances du jeu, et vous êtes sur le point de bénéficier de cette expérience. […]
Connexion
