La plateforme X, sous la direction d’Elon Musk, a restreint les fonctionnalités d’édition d’images de son outil d’IA, Grok, aux utilisateurs payants, suite à des critiques concernant la création de deepfakes sexualisés. Cette décision fait suite à un fort mécontentement du public après que Grok ait permis des modifications d’images sans le consentement des personnes concernées.
Désormais, Grok informe les usagers que seules les personnes abonnées peuvent demander de telles modifications, ce qui implique que leurs informations de paiement doivent être enregistrées. Pour ceux qui ne souhaitent pas s’abonner, Grok reste accessible via une application séparée et un site web, mais avec des fonctionnalités d’édition d’images limitées.
Les propos du professeur Clare McGlynn, spécialiste en régulation légale de la pornographie et de la violence sexuelle, soulignent la réaction disproportionnée de Musk, qui semble s’opposer aux comptes rendus du public. Elle précise que, au lieu de prendre des mesures responsables pour empêcher son outil d’être utilisé de manière abusive, l’entreprise a restreint l’accès à la majorité des utilisateurs.
Ces changements surviennent après que le gouvernement a exhorté le régulateur Ofcom à utiliser tous ses pouvoirs, y compris une interdiction potentielle, face aux préoccupations concernant les images générées par l’IA sur le site. Le Premier ministre Sir Keir Starmer a qualifié ces images de « honteuses » et « dégoûtantes », affirmant que le gouvernement soutenait intégralement Ofcom dans cette démarche.
Les sources gouvernementales ont précisé que Ofcom devait mobiliser tous les moyens possibles concernant Grok et X. Parmi les pouvoirs d’Ofcom selon la loi sur la sécurité en ligne, figure la possibilité d’obtenir une ordonnance du tribunal pour empêcher les tiers d’aider la plateforme possédée par Elon Musk à lever des fonds ou à être accessible au Royaume-Uni.
Grok permet aux utilisateurs de taguer directement dans les publications ou les réponses pour demander une réponse spécifique. Cependant, cette fonctionnalité a également ouvert la voie à des demandes d’éditions d’images, notamment celle de retirer une grande partie des vêtements d’une personne. Les utilisateurs ayant demandé de telles modifications ont exprimé leur humiliation et leur déshumanisation. En conséquence, depuis vendredi matin, Grok a clairement indiqué que « la génération et l’édition d’image sont actuellement limitées aux abonnés payants », incitant les utilisateurs à s’abonner pour débloquer ces fonctionnalités.
Des publications sur la plateforme laissent entendre que seuls les utilisateurs avec une marque de vérification bleue, réservée aux abonnés payants, ont réussi à demander des modifications d’images à Grok. Le professeur McGlynn a noté que cette démarche rappelle la réaction d’X l’année dernière concernant des deepfakes pornographiques, où la plateforme avait bloqué les recherches de contenu sexualisé à l’aide de cette vidéo générée par IA.
Bon à Savoir
- Grok est disponible en mode gratuit avec des fonctionnalités d’édition d’images restreintes pour les utilisateurs non abonnés.
- Les critiques de la gestion d’X par Musk soulignent une tendance à éviter la responsabilité en matière de contenu abusif.
- Ofcom est habilité à agir pour protéger les utilisateurs contre les contenus illégaux générés par l’IA.
- La régulation de l’IA soulève des questions éthiques complexes, notamment en matière de consentement et de vie privée.
Cette situation pose une question fondamentale sur l’équilibre entre innovation technologique et responsabilité sociale. À mesure que la technologie progresse, il est impératif de réfléchir aux implications éthiques de son utilisation. Nous sommes à un croisement où la régulation doit non seulement protéger les individus, mais aussi promouvoir un environnement numérique sain et respectueux. La question qui demeure est de savoir comment trouver cet équilibre, tout en respectant la liberté d’expression et le droit à la création.