La plupart des experts en intelligence artificielle mettent en garde contre les dangers que cette technologie pourrait représenter pour l’humanité. Bien que certaines de ces alarmes puissent sembler exagérées ou motivées par des intérêts personnels, il est crucial d’examiner ces préoccupations avec un œil critique. Certaines mises en garde méritent toutefois une attention particulière.
Récemment, plusieurs chercheurs en sécurité de l’IA ont décidé de quitter leurs postes, soulignant que les entreprises axées sur le profit négligent la sécurité au profit du développement de produits potentiellement dangereux. À court terme, cela pourrait mener à une dégradation rapide des standards dans la quête des bénéfices immédiats. Sans réglementation, l’intérêt public se voit relégué derrière celui des profits. L’importance croissante de l’IA dans nos vies quotidiennes et dans la gouvernance, combinée à l’appétit des milliardaires pour le profit, appelle à une plus grande responsabilité.
Le choix d’utiliser des agents conversationnels, tel que des chatbots, comme interface principale pour l’IA repose principalement sur des considérations commerciales. L’interaction ainsi favorisée est plus engageante qu’une simple barre de recherche. Zoë Hitzig, chercheuse chez OpenAI, met en garde contre les dangers de l’introduction de publicités dans cette dynamique, qui pourrait mener à des manipulations. OpenAI déclare que la publicité n’influence pas les réponses de ChatGPT, mais, à l’instar des réseaux sociaux, ces publicités pourraient devenir moins visibles tout en étant plus ciblées psychologiquement, s’appuyant sur des interactions privées profondément ancrées.
Notons également qu’en rejoignant OpenAI l’année dernière, Fidji Simo, qui a joué un rôle clé dans le développement du système publicitaire de Facebook, a suscité des interrogations. De plus, le licenciement d’un cadre, Ryan Beiermeister, pour des raisons de discrimination montre que des pressions commerciales influencent clairement les orientations de l’entreprise et, probablement, celles de l’industrie entière. La polémique autour des outils d’IA de Grok d’Elon Musk, qui ont été exploités abusivement avant d’être restreints par un accès payant, soulève des questions sur la monétisation des dangers.
Évaluer des systèmes spécialisés développés pour des usages sociaux tels que l’éducation ou le gouvernement est plus complexe. Toutefois, la recherche incessante des profits tend à introduire des biais inévitables dans tous les systèmes humains, et il en ira de même pour l’IA.
Le souci ne se limite pas à une seule entreprise. Une lettre de démission plus vague d’un chercheur chez Anthropic, Mrinank Sharma, évoquait un « monde en péril » et la difficulté de faire primer nos valeurs sur nos actions. Autrefois entièrement à but non lucratif, OpenAI a d’abord choisi de se commercialiser en 2019, conduisant à l’émergence d’Anthropic, présenté comme une alternative plus prudente. Le départ de M. Sharma suggère que même des entreprises fondées sur la retenue succombent à la tentation du profit.
La cause de cette réorientation est claire. Les entreprises dépensent leur capital d’investissement à un rythme historique, leurs revenus n’augmente pas assez rapidement, et il n’est pas encore évident de savoir ce que l’IA peut réellement « faire » pour générer des bénéfices. Des secteurs allant du tabac à la pharmacie illustrent comment les incitations à la rentabilité peuvent altérer le jugement. La crise financière de 2008 a bien montré les conséquences d’un système essentiel dirigé par des besoins à court terme et un encadrement faible.
Il est donc urgent de mettre en place une réglementation étatique forte. Le récent rapport international sur la sécurité de l’IA pour 2026 a proposé une évaluation réaliste des risques, allant de l’automatisation défectueuse à la désinformation, ainsi qu’un cadre clair pour la réglementation. Pourtant, malgré le soutien de 60 pays, les gouvernements américains et britanniques ont choisi de ne pas le ratifier, traduisant une inquiétante volonté de protéger l’industrie plutôt que de l’encadrer.
Bon à Savoir
- La sécurité de l’IA est devenue un sujet de préoccupation majeure parmi les chercheurs et les acteurs de l’industrie.
- Les retours critiques sur le modèle commercial de certaines entreprises d’IA soulignent un conflit potentiel entre sécurité et profit.
- Des experts recommandent une régulation stricte pour garantir que l’IA serve l’intérêt public plutôt que des intérêts commerciaux exclusifs.
- Les implications éthiques de l’utilisation de l’IA dans des domaines sensibles comme l’éducation et la santé restent à explorer.
Cette situation soulève une question fondamentale sur nos valeurs collectives face à une technologie en pleine expansion. Comment garantir que l’innovation ne se fasse pas au détriment de l’humanité ? Cela nous amène à réfléchir sur la manière dont la rentabilité peut altérer notre vision de l’avenir, et sur la responsabilité que nous partageons dans ce monde technologique en constante évolution.