Les magasins sans caissiers "alimentés par l'IA" d'Amazon utilisent donc beaucoup de... humains. Voici pourquoi cela ne devrait pas vous surprendre

The Guardian (États-Unis)11 Apr 2024James Bridle

Photographie : Niklas Halle'n/AFP/Getty Images
''Just walk out'' a peut-être fait son temps, mais l'élision du confort du consommateur et du déni plausible est bien vivante dans la grande rue.''

En 2021, lorsqu' Amazon a lancé sa première épicerie "Just walk out" au Royaume-Uni à Ealing, dans l'ouest de Londres, ce journal a publié un article sur les technologies de pointe qui, selon Amazon, rendaient tout cela possible : caméras de reconnaissance faciale, capteurs sur les étagères et, bien sûr, "intelligence artificielle". Les premiers clients ont fait la queue à l'extérieur, impatients de découvrir le futur. "Je suis un early adopter", a déclaré l'un d'entre eux. "J'ai hâte de voir comment fonctionne cette nouvelle technologie et je pense qu'elle sera bientôt omniprésente.

La promesse des magasins "just walk out" était que les clients n'auraient pas besoin de faire la queue devant un caissier, de scanner leurs propres articles ou même de faire une pause en sortant. Ils pouvaient simplement prendre ce dont ils avaient besoin, passer la porte et l'œil bienveillant et omniscient de la technologie fixerait le prix de leurs marchandises, débiterait leur compte et leur enverrait un reçu.

En réalité, des gens regardaient les clients d'Amazon faire leurs achats. Plus d'un millier d'entre eux, comme l'a rapporté The Information, regardaient les caméras et étiquetaient les images des clients. Un employé qui a travaillé sur la technologie a déclaré que de véritables humains - bien que distants et invisibles, basés en Inde - examinaient environ 70 % des ventes effectuées dans les magasins "sans caissiers" à partir de la mi-2022 (Amazon a répondu que "la caractérisation du rôle et du nombre d'examinateurs humains n'est pas exacte"). Aujourd'hui, Amazon serait en train de s'éloigner de l'idée du "Just walk out" et de mettre en place des "chariots intelligents" à la place (un scanner dans votre chariot - big whoop).

Je ne saurais trop insister sur le fait que cela ne devrait pas être une surprise. Tout d'abord, l'histoire des faux robots est très, très ancienne. Elle remonte au moins à 1770 et au "Turc mécanique" original, un robot joueur d'échecs qui a séduit les cours d'Europe pendant des décennies jusqu'à ce qu'il soit révélé qu'il s'agissait en fait d'une série de grands maîtres cachés dans une boîte. Parmi les mises à jour récentes, on peut citer l'"assistant intelligent" de Facebook, M, qui prétend être une IA mais qui renvoie toute question complexe à des personnes, et Cruise, l'entreprise de voitures autopilotées dont les opérations nécessitent l'intervention de travailleurs à distance tous les deux miles et demi à cinq miles.

Toutes ces histoires, prises séparément, sont assez drôles. Mais collectivement, elles brossent le tableau d'une société et d'une culture totalement incapables d'enregistrer la violence qui leur est faite, simplement parce que le processus historique est drapé dans les rubans de la "technologie". Cette violence est perpétrée simultanément dans les grandes rues et sur la scène mondiale. Ce qui me met en colère dans le fait que nous continuons à tomber dans le panneau, ce n'est pas seulement le fait que nous devrions être mieux informés, mais aussi le coût que cela représente.

Le salaire minimum national au Royaume-Uni est de 11,44 livres sterling. Une petite épicerie comme celle d'Amazon Fresh peut compter une demi-douzaine d'employés. En supposant qu'ils soient tous

soient tous payés à plein tarif (ce qui est peu probable) et que tous soient payés au salaire le plus bas (c'est-à-dire qu'ils ne soient pas cadres), le salaire individuel moyen serait d'environ 20 000 livres et la masse salariale annuelle de 130 000 livres. Lorsque ce travail est externalisé par le biais de caméras vidéo, il est confié à des étiqueteurs de données. Les étiqueteurs de données à distance d'Amazon peuvent être payés une ou deux livres de l'heure, s'ils ont de la chance. Si vous pouvez remplacer une demi-douzaine d'employés britanniques par une demi-douzaine de data labellers en Inde, au Kenya ou aux Philippines, la différence dans la seule facture annuelle de personnel pourrait être de près de 100 000 livres sterling par an.

Jeff Bezos est la deuxième personne la plus riche du monde, avec une valeur d'environ 205 milliards de dollars (163 milliards de livres sterling). Cet argent ne sort pas de nulle part. Il ne sort pas d'une machine à sous située au bout d'une jetée et intitulée "J'ai appris à coder à Princeton et c'est pour cela que je suis meilleur que vous". C'est le résultat de la dissimulation délibérée du travail réel - concevoir, fabriquer, trier, emballer, cuisiner, cultiver, livrer - derrière de petites icônes sur l'écran de votre smartphone, afin de le dévaloriser. C'est l'utilisation systématique de l'astuce du faux robot pour diminuer la valeur du travail, jusqu'à ce que les gens dorment dans des tentes aux portes de l'usine, et qu'ils mettent la différence en banque.

La taille de la fusée de Bezos est très précisément déterminée par la différence de coût entre le salaire d'un travailleur britannique et celui d'un travailleur indien - y compris toute l'inégalité raciste et colonialiste historiquement déterminée que ce calcul implique. Mais ne vous y trompez pas : Bezos et ses semblables paieront un robot encore moins cher, dès que cela sera possible. La seule leçon à tirer d'Amazon Fresh est que nous n'en sommes pas encore - tout à fait - là.

L'histoire du faux robot a également un autre objectif : c'est une distraction. En 2021, Amazon et Google ont signé conjointement un contrat de 1,2 milliard de dollars pour fournir à l'État israélien, y compris à l'armée, des systèmes d'informatique en nuage et d'intelligence artificielle. Bien qu'il n'y ait aucune preuve que Google ou

Si rien ne prouve que la technologie de Google ou d'Amazon ait été utilisée pour tuer des civils, cet accord permanent témoigne d'une volonté de s'engager avec une armée qui a tué 30 000 personnes et dont l'utilisation du ciblage par "IA" lui permet de dire : "C'est la machine qui a fait le coup : "C'est la machine qui l'a fait".

Le slogan "Just walk out" a peut-être fait son temps, mais l'élision du confort du consommateur et du déni plausible est bien vivante dans les grandes surfaces. Tesco a ouvert son premier magasin GetGo en 2021, promettant le même type de commodité sans caisse que "Just walk out" - il y a maintenant des magasins à Londres, Birmingham et Welwyn Garden City. Tesco se targue d'utiliser la reconnaissance faciale, mais GetGo crée des "contours squelettiques" de vous. La technologie sous-jacente du service est fournie par Trigo, une société israélienne qui se vante que la quasi-totalité de ses ingénieurs ont été "triés sur le volet dans des unités militaires d'élite", notamment l'unité 8200, l'agence de surveillance militaire de Tsahal, et l'unité 9900, sa division spécialisée dans la surveillance et la cartographie. Le suivi point par point de corps inconnus dans l'espace bâti, basé sur l'analyse algorithmique de la démarche et de la posture ? Je me demande où ils ont appris à faire cela.

James Bridle est écrivain et artiste, et l'auteur de Ways of Being : Beyond Human Intelligence
Article Name:Les magasins sans caissiers "alimentés par l'IA" d'Amazon utilisent beaucoup d'êtres humains. Voici pourquoi cela ne devrait pas vous surprendre
Publication:The Guardian (USA)
Auteur:James Bridle