La technologie digitale : progrès ou escroquerie ?

Addiction numérique : au-delà de l’enfance

« Cette application est plus addictive que la cocaïne ! » C’est ce que Ruha Benjamin a entendu de la part d’un milliardaire propriétaire d’une plateforme numérique. Ce jour-là, elle a décidé de suivre leur exemple en limitant l’utilisation du mobile pour ses deux enfants. « À Silicon Valley, ils veulent que nos enfants, et non pas les leurs, deviennent dépendants de leurs plateformes », explique-t-elle. L’universitaire souligne qu’« il est impossible que si vous êtes collé à votre téléphone toute la journée, votre enfant comprenne qu’il vaut mieux discuter vraiment avec un ami plutôt que de le voir sur les réseaux sociaux ». Elle promeut ainsi une vision où « l’ennui est perçu comme un seuil vers des plaisirs authentiques. Ces milliardaires nous maintiennent dans un état d’anxiété permanent, nous rendant incapables de nous promener ou de rester inactifs, jusqu’à atteindre cet état de sérénité nécessaire pour profiter d’un repas en famille ou d’une longue promenade ».

Pourquoi appelle-t-elle à une croisade contre la numérisation de nos vies ?

Parce que nous avons l’illusion que les technologies numériques vont améliorer nos vies, alors qu’en réalité, elles ne les améliorent que pour ceux qui les créent, les conçoivent, les contrôlent et en tirent profit.

Pensez-vous que notre vie est meilleure aujourd’hui qu’avant l’arrivée du GPS ?

Cela dépend. La technologie n’est pas intrinsèquement bénéfique ; elle ne peut être considérée comme neutre si elle est utilisée uniquement dans le but d’enrichir quelques-uns.

Et donc, elle reproduit les préjugés et les erreurs de son concepteur ?

Ces algorithmes sont connus sous le nom de « SPS » (scores de prévision des étudiants) et anticipent si tel ou tel élève est davantage susceptible de manquer des cours ou d’obtenir de bonnes ou mauvaises notes.

Et sont-ils efficaces ?

Ils conditionnent l’attitude de l’enseignant envers chaque élève. Le problème réside dans le fait que l’algorithme ne prend pas en compte la préparation et l’attitude de l’enseignant, ni celle de l’université, ni des administrateurs…

En fin de compte, ne reproduit-il pas les préjugés de ceux qui conçoivent ces algorithmes ?

En effet, ces outils sont alimentés par de grandes quantités de données, qui incluent des comportements et des notes de millions d’élèves précédents, et celles-ci ne sont pas neutres non plus.

Si des élèves d’un certain quartier, d’un certain âge ou d’une certaine ethnicité échouent, ceux d’aujourd’hui seront-ils également jugés sur cette base ?

C’est exactement cela. Ce type d’algorithme projette les problèmes du passé dans le futur.

Qui a créé cet algorithme et pourquoi ?

Pendant la pandémie, le gouvernement britannique a commencé à utiliser cet algorithme pour décider quels élèves étaient éligibles pour accéder à l’université.

C’est donc une forme de sélection ?

Le résultat a été une discrimination envers les élèves des quartiers les plus défavorisés, qui ont manifesté dans les rues contre un algorithme qui les condamnait à ne pas poursuivre leurs études. Des algorithmes comme celui-ci déterminent le cours de nos vies. Savez-vous pourquoi j’ai dû prendre un Uber pour me rendre à l’aéroport de New Jersey et venir ici ?

Ce n’était pas un choix personnel ?

Les applications que j’ai utilisées pour demander un transport sont conçues de telle manière qu’elles éliminent la possibilité d’utiliser les transports en commun, même si vous le souhaitiez. Elles sont nuisibles pour tous.

Il semblait que les applications augmentaient notre capacité à choisir.

Dans de nombreux cas, c’est exactement le contraire. Elles ne servent que ceux qui les ont conçues.

Quel constat !

Je regrette fréquemment de les utiliser. La couverture de mon dernier livre a été conçue avec une intelligence artificielle, qui en réalité, n’est rien d’autre qu’un plagiat numérique de la propriété intellectuelle d’autres designers ayant auparavant mis leur effort pour réaliser ces idées.

Cette section est souvent piratée, au profit de milliardaires numériques.

Des millions de journalistes, concepteurs et photographes dans le monde rencontrent ce problème. La technologie ne représente pas toujours un progrès et peut parfois se révéler être un vol.

Pourquoi engager un créateur alors que quelques clics suffisent pour produire ce que l’on veut gratuitement ?

Les textes et images issus de ce processus peuvent être précieux, mais ils naissent du piratage des idées d’autrui. C’est comme aller manger un menu composé de plats volés, que vous obtenez gratuitement ou que le restaurant vous facture à ceux qui les ont volés. Cela ressemble également à la technologie qui pourrait priver les acteurs de leur emploi, ce qui a même motivé leur grève à Hollywood.

Comment prévenir le vol intellectuel ?

Il est nécessaire d’agir avant que le vol ne se produise. Nous devrions proposer des réglementations proactives pour nous protéger des algorithmes, tout comme un médicament ne peut être mis sur le marché sans un processus d’approbation long et rigoureux.

Suffirait-il d’un tel processus ?

Nous proposons la création d’un label de « Technologie numérique d’intérêt public » conçu pour servir tout le monde et non seulement les entreprises qui en bénéficient. Il existe des chatbots, par exemple, qui engendrent des addictions et des dépressions chez leurs utilisateurs. S’ils avaient été conçus pour servir et non pour générer des revenus, ils ne seraient pas néfastes.

Pensez-vous qu’il n’est pas trop tard et qu’il y a déjà trop d’argent en jeu pour y parvenir ?

Combien a coûté l’inclusion des ceintures de sécurité dans les voitures ? Et l’interdiction du tabagisme dans les lieux publics ? L’ancien gouverneur du Michigan, avant son mandat, concevait des algorithmes et en a implanté un dans l’État qui déterminait qui pouvait recevoir des allocations sociales. Cet algorithme a rejeté 95 % des demandes comme frauduleuses.

Cela permet de réduire le déficit public.

Cela a été tragique pour des milliers de citoyens qui se sont retrouvés à la rue à cause d’une case laissée vide, de l’utilisation d’initiales ou d’une majuscule mal placée…

La technologie ne crée-t-elle pas d’opportunités ?

C’est ce que l’on nous vend : une intelligence artificielle qui soignera, des robots qui effectueront les tâches ménagères… Mais, aujourd’hui encore, elle sert à ne pas vous octroyer un prêt si l’algorithme découvre que vous souffrez d’un cancer. Actuellement, la valorisation des « sept géants » numériques en bourse dépasse le budget de la plupart des pays.