Les magasins sans caissiers "alimentés par l'IA" d'Amazon utilisent donc beaucoup de... humains. Voici pourquoi cela ne devrait pas vous surprendre

The Guardian (États-Unis)11 Apr 2024James Bridle

Photographie : Niklas Halle'n/AFP/Getty Images
''Just walk out'' a peut-être fait son temps, mais l'élision du confort du consommateur et du déni plausible est bien vivante dans la grande rue.''

En 2021, lorsqu' Amazon a lancé sa première épicerie "Just walk out" au Royaume-Uni à Ealing, dans l'ouest de Londres, ce journal a publié un article sur les technologies de pointe qui, selon Amazon, rendaient tout cela possible : caméras de reconnaissance faciale, capteurs sur les étagères et, bien sûr, "intelligence artificielle". Les premiers clients ont fait la queue à l'extérieur, impatients de découvrir le futur. "Je suis un early adopter", a déclaré l'un d'entre eux. "J'ai hâte de voir comment fonctionne cette nouvelle technologie et je pense qu'elle sera bientôt omniprésente.

La promesse des magasins "just walk out" était que les clients n'auraient pas besoin de faire la queue devant un caissier, de scanner leurs propres articles ou même de faire une pause en sortant. Ils pouvaient simplement prendre ce dont ils avaient besoin, passer la porte et l'œil bienveillant et omniscient de la technologie fixerait le prix de leurs marchandises, débiterait leur compte et leur enverrait un reçu.

En réalité, des gens regardaient les clients d'Amazon faire leurs achats. Plus d'un millier d'entre eux, comme l'a rapporté The Information, regardaient les caméras et étiquetaient les images des clients. Un employé qui a travaillé sur la technologie a déclaré que de véritables humains - bien que distants et invisibles, basés en Inde - examinaient environ 70 % des ventes effectuées dans les magasins "sans caissiers" à partir de la mi-2022 (Amazon a répondu que "la caractérisation du rôle et du nombre d'examinateurs humains n'est pas exacte"). Aujourd'hui, Amazon serait en train de s'éloigner de l'idée du "Just walk out" et de mettre en place des "chariots intelligents" à la place (un scanner dans votre chariot - big whoop).

Je ne saurais trop insister sur le fait que cela ne devrait pas être une surprise. Tout d'abord, l'histoire des faux robots est très, très ancienne. Elle remonte au moins à 1770 et au "Turc mécanique" original, un robot joueur d'échecs qui a séduit les cours d'Europe pendant des décennies jusqu'à ce qu'il soit révélé qu'il s'agissait en fait d'une série de grands maîtres cachés dans une boîte. Parmi les mises à jour récentes, on peut citer l'"assistant intelligent" de Facebook, M, qui prétend être une IA mais qui renvoie toute question complexe à des personnes, et Cruise, l'entreprise de voitures autopilotées dont les opérations nécessitent l'intervention de travailleurs à distance tous les deux miles et demi à cinq miles.

Toutes ces histoires, prises séparément, sont assez drôles. Mais collectivement, elles brossent le tableau d'une société et d'une culture totalement incapables d'enregistrer la violence qui leur est faite, simplement parce que le processus historique est drapé dans les rubans de la "technologie". Cette violence est perpétrée simultanément dans les grandes rues et sur la scène mondiale. Ce qui me met en colère dans le fait que nous continuons à tomber dans le panneau, ce n'est pas seulement le fait que nous devrions être mieux informés, mais aussi le coût que cela représente.

Le salaire minimum national au Royaume-Uni est de 11,44 livres sterling. Une petite épicerie comme celle d'Amazon Fresh peut compter une demi-douzaine d'employés. En supposant qu'ils soient tous

soient tous payés à plein tarif (ce qui est peu probable) et que tous soient payés au salaire le plus bas (c'est-à-dire qu'ils ne soient pas cadres), le salaire individuel moyen serait d'environ 20 000 livres et la masse salariale annuelle de 130 000 livres. Lorsque ce travail est externalisé par le biais de caméras vidéo, il est confié à des étiqueteurs de données. Les étiqueteurs de données à distance d'Amazon peuvent être payés une ou deux livres de l'heure, s'ils ont de la chance. Si vous pouvez remplacer une demi-douzaine d'employés britanniques par une demi-douzaine de data labellers en Inde, au Kenya ou aux Philippines, la différence dans la seule facture annuelle de personnel pourrait être de près de 100 000 livres sterling par an.

Jeff Bezos est la deuxième personne la plus riche du monde, avec une valeur d'environ 205 milliards de dollars (163 milliards de livres sterling). Cet argent ne sort pas de nulle part. Il ne sort pas d'une machine à sous située au bout d'une jetée et intitulée "J'ai appris à coder à Princeton et c'est pour cela que je suis meilleur que vous". C'est le résultat de la dissimulation délibérée du travail réel - concevoir, fabriquer, trier, emballer, cuisiner, cultiver, livrer - derrière de petites icônes sur l'écran de votre smartphone, afin de le dévaloriser. C'est l'utilisation systématique de l'astuce du faux robot pour diminuer la valeur du travail, jusqu'à ce que les gens dorment dans des tentes aux portes de l'usine, et qu'ils mettent la différence en banque.

La taille de la fusée de Bezos est très précisément déterminée par la différence de coût entre le salaire d'un travailleur britannique et celui d'un travailleur indien - y compris toute l'inégalité raciste et colonialiste historiquement déterminée que ce calcul implique. Mais ne vous y trompez pas : Bezos et ses semblables paieront un robot encore moins cher, dès que cela sera possible. La seule leçon à tirer d'Amazon Fresh est que nous n'en sommes pas encore - tout à fait - là.

L'histoire du faux robot a également un autre objectif : c'est une distraction. En 2021, Amazon et Google ont signé conjointement un contrat de 1,2 milliard de dollars pour fournir à l'État israélien, y compris à l'armée, des systèmes d'informatique en nuage et d'intelligence artificielle. Bien qu'il n'y ait aucune preuve que Google ou

Si rien ne prouve que la technologie de Google ou d'Amazon ait été utilisée pour tuer des civils, cet accord permanent témoigne d'une volonté de s'engager avec une armée qui a tué 30 000 personnes et dont l'utilisation du ciblage par "IA" lui permet de dire : "C'est la machine qui a fait le coup : "C'est la machine qui l'a fait".

Le slogan "Just walk out" a peut-être fait son temps, mais l'élision du confort du consommateur et du déni plausible est bien vivante dans les grandes surfaces. Tesco a ouvert son premier magasin GetGo en 2021, promettant le même type de commodité sans caisse que "Just walk out" - il y a maintenant des magasins à Londres, Birmingham et Welwyn Garden City. Tesco se targue d'utiliser la reconnaissance faciale, mais GetGo crée des "contours squelettiques" de vous. La technologie sous-jacente du service est fournie par Trigo, une société israélienne qui se vante que la quasi-totalité de ses ingénieurs ont été "triés sur le volet dans des unités militaires d'élite", notamment l'unité 8200, l'agence de surveillance militaire de Tsahal, et l'unité 9900, sa division spécialisée dans la surveillance et la cartographie. Le suivi point par point de corps inconnus dans l'espace bâti, basé sur l'analyse algorithmique de la démarche et de la posture ? Je me demande où ils ont appris à faire cela.

James Bridle est écrivain et artiste, et l'auteur de Ways of Being : Beyond Human Intelligence
Article Name:Les magasins sans caissiers "alimentés par l'IA" d'Amazon utilisent beaucoup d'êtres humains. Voici pourquoi cela ne devrait pas vous surprendre
Publication:The Guardian (USA)
Auteur:James Bridle

AI est l'abréviation de "Actually, Indians" (en fait, les Indiens) -
Amazon Fresh met fin à la technologie d'achat "Just Walk Out", qui n'a jamais vraiment fonctionné.
La caisse "IA" était en fait alimentée par 1 000 examinateurs vidéo humains en Inde.

Ron Amadeo - 4/3/2024, 6:55 PM

L'entreprise Amazon renonce à la technologie "Just Walk Out" sans caissier dans ses épiceries Amazon Fresh. The Information rapporte que les nouveaux magasins seront construits sans la technologie de surveillance alimentée par la vision artificielle, et que "la majorité" des magasins existants seront débarrassés de cette technologie. Au début, Amazon avait pour ambition de vendre Just Walk Out à d'autres magasins physiques. Le problème, c'est que la technologie n'a jamais vraiment fonctionné.

Comme indiqué sur la boîte, Just Walk Out était censé permettre aux clients de prendre ce qu'ils voulaient dans un magasin et de partir, sans passer par la caisse. Amazon voulait suivre ce que les clients emportaient avec eux uniquement par le biais de la vidéosurveillance alimentée par l'IA ; le système ne nécessitait qu'un scan du téléphone à la porte, et les clients étaient facturés ultérieurement sur leur compte Amazon.

Lorsque la technologie a été annoncée en 2016, l'argumentaire d'Amazon était le suivant : "Et si nous pouvions intégrer l'apprentissage automatique, la vision par ordinateur et l'IA les plus avancés dans le tissu même d'un magasin pour que vous n'ayez jamais à faire la queue ?". Le magasin était équipé de plus de 100 caméras et d'emplacements d'articles rigides, tous conçus pour essayer de rendre possible le passage en caisse par vision artificielle alimentée par l'IA.

Un rapport de The Information datant de mai 2023 a révélé la myriade de problèmes techniques qu'Amazon rencontrait encore avec cette idée six ans après l'annonce initiale. Le rapport indique qu'"Amazon avait plus de 1 000 personnes en Inde travaillant sur Just Walk Out à la mi-2022, dont les tâches consistaient à examiner manuellement les transactions et à étiqueter les images des vidéos pour former le modèle d'apprentissage automatique de Just Walk Out".

La formation fait partie de tout projet d'IA, mais il semble qu'Amazon n'ait pas fait beaucoup de progrès, même après des années de travail sur le projet. "À la mi-2022, Just Walk Out nécessitait environ 700 évaluations humaines pour 1 000 ventes, ce qui dépassait largement l'objectif interne de réduire le nombre d'évaluations à 20 ou 50 pour 1 000 ventes", indique le rapport.

Le rapport indique que l'équipe d'Amazon "a manqué à plusieurs reprises les objectifs" visant à réduire le nombre d'évaluations humaines, et que "la dépendance à l'égard des humains de réserve explique en partie pourquoi il faut parfois des heures aux clients pour recevoir leurs reçus".

Selon le rapport de The Information, la technologie Just Walk Out a été déployée dans 20 magasins Amazon Go, 40 épiceries Amazon Fresh et deux magasins Whole Foods. Elle a même été adoptée par des magasins tiers, dont "30 magasins exploités par d'autres sociétés dans des stades américains, 12 aéroports et une université à Arlington, en Virginie", selon le rapport.
Un panier Amazon Dash Cart offre beaucoup plus d'informations sur ce que vous achetez.
Agrandir / Un panier Amazon Dash Cart offre beaucoup plus d'informations sur ce que vous achetez.

https://www.theinformation.com/articles/how-amazons-big-bet-on-just-walk-out-stumbled

Amazon

Amazon va passer à un format plus raisonnable sans caissier : des chariots d'achat avec des écrans de caisse et des scanners intégrés. Les clients peuvent tranquillement scanner les articles qu'ils jettent dans le "Amazon Dash Cart", et l'écran leur permet de voir instantanément le total de leurs achats. Grâce à ces scanners, Amazon n'a plus besoin d'une petite armée d'employés de magasin pour ranger constamment les rayons afin que le système de vision par caméra puisse fonctionner.

Amazon a fait parvenir une déclaration à ce sujet :

Nous avons consacré beaucoup de temps à la refonte d'un certain nombre de nos magasins Amazon Fresh au cours de l'année écoulée, afin d'offrir une meilleure expérience d'achat globale avec plus de valeur, de commodité et de sélection - et jusqu'à présent, nous avons constaté des résultats positifs, avec de meilleurs scores de satisfaction des clients et une augmentation des achats. Les clients nous ont également fait savoir qu'ils appréciaient l'avantage d'éviter les files d'attente aux caisses grâce à Just Walk Out, mais qu'ils souhaitaient également pouvoir trouver facilement des produits et des offres à proximité, consulter leur ticket de caisse pendant qu'ils font leurs achats et savoir combien d'argent ils ont économisé en faisant leurs courses dans le magasin. Pour offrir encore plus de commodité à nos clients, nous lançons Amazon Dash Cart, nos chariots d'achat intelligents, qui permettent aux clients de bénéficier de tous ces avantages, y compris celui d'éviter la file d'attente à la caisse.

Cet article a été mis à jour pour inclure la déclaration d'Amazon et préciser que ce sont les magasins Amazon "Fresh" qui abandonnent la technologie "Just Walk Out".