Microsoft a mis à jour son calendrier de fin de prise en charge des pilotes d’anciennes imprimantes sur Windows : les pilotes V3 et V4 ne peuvent plus être livrés via Windows Update, au profit d’une approche centrée sur Mopria. Pour les fabricants d’imprimantes, cela impose de basculer …
Riot Games a annoncé une nouvelle vague de licenciements touchant l’équipe en charge de son jeu de combat en duo 2XKO. Environ 80 postes sont supprimés, soit près de la moitié de l’équipe mondiale dédiée au projet. Cette décision intervient quelques semaines seulement après l’arrivée du titre sur …
Un panneau stop, on se dit que c'est juste un bout de métal avec un peu de peinture rouge. On s'arrête, on repart, et puis voilà. Sauf que pour une IA qui pilote un gros engin à 4 roues, ce simple panneau peut devenir un véritable vecteur de tromperie visuelle !
Car oui je vous avais déjà parlé d'attaques de ce type par le passé, mais là, ça va encore plus loin. En effet, je suis tombé sur une étude des chercheurs de l'UCSC (University of California, Santa Cruz) qui en gros, ont trouvé un moyen d'induire en erreur des voitures autonomes et des drones en collant simplement des instructions sur des panneaux de signalisation customisés. Ils ont baptisé cette classe d'attaque CHAI pour Command Hijacking Against Embodied AI.
C'est un peu le même principe que l'injection de prompts dans un ChatGPT mais appliqué au monde physique et à la perception. Les chercheurs ont utilisé de l'IA pour "optimiser" des commandes comme "proceed" (avance) ou "turn left" (tourne à gauche) et les ont intégrées sur des panneaux en adaptant la police, la couleur ou même l'emplacement du texte pour que l'IA embarquée dans un robot ou une voiture, interprète ça comme un ordre de navigation.
Et là, ça peut faire mal... Car un prototype de véhicule autonome qui déciderait de foncer alors qu'il y a des gens sur un passage piétons juste parce qu'un "plaisantin" a collé un sticker malin sur le panneau d'en face, ça craint un max. Ce serait comme joué à "coucou caché" sur l'autoroute avec un chauffeur de car ^^.
Et nos chercheurs ont testé ça sur le modèle fermé GPT-4o d'OpenAI et le modèle open source InternVL-Chat-V1.5 et les résultats sont sans appel. Sur des simulations de conduite avec le dataset DriveLM, ils ont atteint 81,8% de réussite avec GPT-4o pour faire obéir l'IA à une commande injectée. Même en conditions réelles avec une petite voiture télécommandée équipée d'une caméra dans les couloirs de l'université, le taux de succès grimpe à 92,5% quand le panneau est au sol.
Et les drones ne sont pas épargnés non plus ! En utilisant CloudTrack pour le suivi d'objets, les chercheurs ont réussi à provoquer jusqu'à 95,5% d'erreurs d'identification en manipulant les panneaux sur des cibles.
Pire, ils ont trompé des drones cherchant une zone d'atterrissage sécurisée en plaçant des panneaux "Safe to land" sur des toits remplis de débris. Résultat, 68,1% de succès pour faire croire au drone que la zone était praticable. (genre, atterris là mon petit, c'est tout plat... et bam, le crash)
Ce genre d'attaque me rappelle
Charlie Miller et Chris Valasek
qui hackaient des Jeep à distance via le réseau mobile. Sauf que là c'est vraiment une attaque physique sur la couche de perception de ces systèmes. Plus besoin de trouver une faille logicielle complexe en fait... Il suffit d'une imprimante, d'un peu de colle et d'un bon emplacement. On est en plein dans ce que je racontais sur
LatentBreak et l'hypnose des IA
, sauf que là, le patient peut peser plusieurs tonnes.
Attention toutefois, ça ne marche que si l'IA utilise un LVLM (Large Vision Language Model) pour le contrôle direct, à moins que le système ne possède une redondance de capteurs (LiDAR, radar) qui contredirait l'image.
Alors oui, on peut se dire que c'est encore de la recherche et que nos voitures actuelles sont plus complexes. Mais ça montre surtout une fragilité fondamentale de l'IA quand elle doit interpréter le monde réel sans garde-fous stricts. Ces modèles sont tellement entraînés à suivre des instructions qu'ils finissent quasiment toujours par donner la priorité à un texte sur un panneau plutôt qu'aux règles de sécurité de base.
Bref, méfiez-vous des panneaux un peu trop "custom" lors de votre prochaine balade en voiture autonome... et espérons que les constructeurs intégreront vite des systèmes de vérification de cohérence avant que ces stickers ne deviennent la nouvelle arme fatale des hackers de bitume !
Dans sa volonté d'être utile à la communauté éducative, La Digitale propose des outils numériques responsables et gratuits pour accompagner les processus d'enseignement et d'apprentissage en présence et à distance.
Le développement et l'hébergement de ces outils reposent sur un modèle économique simple. Les outils sont mis à disposition librement et sans bridage : les fonctionnalités sont les mêmes pour toutes et pour tous.
Un système de financement participatif permet la prise en charge des coûts de mise en production. Si vous trouvez ces outils utiles, vous pouvez soutenir le projet pour assurer sa pérennité ou même faire pousser votre propre digitale 💐.
Le photographe a dit : « Suivant ! » mais vous avez hésité. Votre portrait était pour un nouvel emploi, et la pression était immense. Et si vous pouviez transformer cette photo ordinaire en quelque chose d’extraordinaire ? Avec les prompts d’édition photo ChatGPT pour hommes, vos photos peuvent passer de « bof » à […]
Le toit bourdonnait d’anticipation. Une débauche de cerfs-volants tiraient sur leurs ficelles, reflétant les rêves cachés que nous portons tous. Le mien s’élèvera-t-il, ou s’emmêlera-t-il dans la tapisserie urbaine ? Makar Sankranti n’est pas qu’un festival ; c’est une toile pour de nouveaux départs, et maintenant, l’IA offre des pinceaux que nous n’aurions jamais imaginés. […]
Vous vous enfoncez dans les profondeurs obscures, l’adrénaline vous parcourant les veines tandis que vous serrez votre équipement. Chaque choix compte ; un seul faux pas peut tout vous coûter. Bienvenue dans Abyss, où j’ai passé d’innombrables heures à disséquer les nuances du jeu, et vous êtes sur le point de bénéficier de cette expérience. […]
Alors que les vagues s’écrasent autour de vous, l’air s’électrise d’anticipation. Votre doigt plane au-dessus de la gâchette, le cœur battant à tout rompre tandis que l’écran scintille avec la silhouette d’un poisson rare. Dans Abyss, chaque tir compte, et votre arsenal peut faire toute la différence. Bienvenue dans le monde des armes dans Abyss, […]
Contrairement aux rumeurs qui circulaient le mois dernier, GTA 6 ne sera pas disponible uniquement en version 100% dématérialisée au moment de sa sortie.
Epic Games a pour volonté de proposer une version native de son Store sur la future console Xbox. Ce qui offrirait un nouvel argument au futur produit de Microsoft.
Dans l’univers compétitif de Free Fire, les diamants représentent une monnaie convoitée par de nombreux joueurs. Ils ouvrent l’accès à des skins, personnages et améliorations ...
Alors que la pluie dégouline à travers les fissures d’un donjon faiblement éclairé, Dunk, le chevalier errant, se débat avec les conséquences de ses choix. Ayant affronté la colère méritée d’Aerion Targaryen, il doit maintenant naviguer dans la tempête qui se prépare autour de lui. Dans ce monde où l’honneur et la tromperie s’entremêlent, un […]
Le bourdonnement du modem commuté. Le crépitement statique des dessins animés du samedi matin. Vous vous souvenez de cette sensation électrique lorsque Danny Fenton s’est transformé pour la première fois, n’est-ce pas ? Désormais, l’intelligence artificielle offre un moyen de capturer cette magie, transformant votre selfie de tous les jours en un héros de dessin animé […]
La galerie était silencieuse, mais son téléphone vibrait avec un nouveau like — un autre inconnu captivé. Cela avait commencé comme une curiosité, en modifiant les prompts d’IA, mais maintenant son moi numérique attirait des foules qu’elle n’aurait jamais pu attirer en personne. Était-ce le nouveau visage de l’influence, une aura soigneusement construite ? Maîtrisez […]
Sophie Adenot va rejoindre le club restreint des femmes parties dans l'espace. Si le métier d'astronaute se féminise peu à peu, il reste encore essentiellement exercé par des hommes, même aujourd'hui. Pourtant, des figures féminines ont marqué l'histoire du spatial, et leur travail mérite d'être mis en avant au même titre que celui de leurs homologues masculins.
Quel est donc ce mal étrange qui touche les diplomates américains en poste dans leurs ambassades ? Depuis 2016, des milliers d'entre eux ont ressenti des symptômes anormaux évoquant une possible attaque par des armes acoustiques. Mais malgré des enquêtes, aucune preuve médicale n'est venue...
Le rugissement du ver des sables s’est estompé tandis que la guerrière Fremen levait son crysknife, le bleu de ses yeux brûlant de prophétie. Paul Atreides se tenait devant elle, un leader forgé dans l’épice et le sacrifice, mais le chemin à venir restait enveloppé dans les brumes du temps. En tant que passionné de […]
Les armes dans MENACE se présentent sous une myriade de formes, chacune possédant des compétences distinctes que vous devez maîtriser pour commander efficacement le champ de bataille. Les compétences d’arme englobent diverses statistiques liées à chaque arme à feu dans MENACE. Si vous vous êtes senti perdu dans le jargon, ce guide est là pour […]
Connexion
