Grok AI a généré près de 3 millions d’images sexualisées en moins de deux semaines, dont 23 000 images semblant représenter des enfants, selon des chercheurs qui l’ont qualifié de “machine industrielle pour la production de matériel d’abus sexuel”. Cette estimation a été formulée par le Center for Countering Digital Hate (CCDH) après que l’outil de génération d’images d’Elon Musk a suscité une indignation internationale en permettant aux utilisateurs de télécharger des photos d’inconnus et de célébrités, les transformant en images suggestives avant de les publier sur X.
Cette tendance a pris de l’ampleur au nouvel an, atteignant son apogée le 2 janvier avec 199 612 demandes individuelles, selon une analyse de Peryton Intelligence, une entreprise spécialisée dans la détection de la haine en ligne.
Une évaluation plus approfondie des résultats de cette fonctionnalité, lancée le 29 décembre 2025 jusqu’au 8 janvier 2026, a révélé que l’impact de la technologie pourrait être plus large que prévu. Des figures publiques telles que Selena Gomez, Taylor Swift, Billie Eilish et Kamala Harris figuraient parmi les images analysées.
À partir du 9 janvier, la fonctionnalité a été restreinte aux utilisateurs payants, des mesures supplémentaires ayant suivi après que le Premier ministre britannique, Keir Starmer, a qualifié la situation de “dégoûtante” et de “honteuse”. Des pays comme l’Indonésie et la Malaisie ont également décidé de bloquer cet outil d’IA.
Le CCDH a estimé qu’au cours de cette période de 11 jours, Grok a aidé à créer des images sexualisées d’enfants toutes les 41 secondes, illustrant ainsi un problème alarmant. Imran Ahmed, directeur du CCDH, a déclaré : “Ce que nous avons trouvé était clair et troublant : Grok est devenu une machine industrielle pour la production de matériel d’abus sexuel. Stripper une femme sans son consentement est une forme d’abus. Elon a continué à promouvoir le produit même lorsqu’il était évident qu’il était utilisé de cette manière, suscitant ainsi la controverse.”
Il a ajouté : “Cela fait partie d’un schéma courant à Silicon Valley, en particulier pour les plateformes sociales et d’IA. Les incitations sont mal alignées, et tant que les régulateurs ne prendront pas des mesures adéquates, ces abus continueront.” Le 14 janvier, X a annoncé avoir mis fin à la fonctionnalité Grok pour modifier des images de personnes réelles afin de les montrer dans des vêtements révélateurs, même pour les abonnés payants.
X a réaffirmé son engagement à faire de la plateforme un endroit sûr pour tous, déclarant qu’elle n’avait aucune tolérance pour l’exploitation sexuelle des enfants, la nudité non consensuelle et le contenu sexuel indésirable.
Bon à Savoir
- L’outil de génération d’images a été largement utilisé pendant la période des fêtes de fin d’année, ce qui a accentué sa visibilité.
- Les préoccupations concernant les contenus générés par l’IA soulèvent des questions éthiques sur la responsabilité des entreprises de technologie.
- Des mesures de sécurité sont mises en place par certaines plateformes, mais elles peuvent varier d’une nation à l’autre.
- Les discussions sur la régulation de l’IA soulignent l’urgence d’établir un cadre juridique approprié pour prévenir de tels abus.
- Le phénomène remet en question les normes de consentement dans la création et le partage de contenu numérique.
La situation actuelle soulève des questions profondes sur l’interaction entre la technologie, la créativité et l’éthique. Il est crucial de réfléchir à la manière dont nous pouvons équilibrer innovation et responsabilité. La technologie doit servir à promouvoir la sécurité et le respect, et non à perpétuer des abus. La responsabilité collective est essentielle pour construire un environnement numérique plus sain et plus éthique, où chacun se sente protégé et respecté.