Nous entrons dans une phase de développement de l’intelligence artificielle qui mettra à l’épreuve notre identité en tant qu’espèce, a déclaré le directeur général de l’entreprise Anthropic, Dario Amodei. Il a souligné la nécessité pour le monde de prendre conscience des risques associés à cette technologie.
Dans un essai de 19 000 mots intitulé « L’adolescence de la technologie », Amodei exprime ses préoccupations concernant l’émergence imminente de systèmes d’IA puissants. Selon lui, nous sommes à l’aube d’une épreuve mouvementée qui nous forcera à nous interroger sur nous-mêmes.
Amodei a affirmé : « L’humanité va se voir confier un pouvoir presque inimaginable, et il est difficile de savoir si nos systèmes sociaux, politiques et technologiques ont la maturité nécessaire pour le gérer. » L’entrepreneur, dont l’entreprise est évaluée à 350 milliards de dollars, espère secouer les consciences sur la nécessité d’agir pour assurer la sécurité de l’IA.
Ce discours intervient alors que le gouvernement britannique a annoncé qu’Anthropic collaborerait à la création de chatbots pour aider les chercheurs d’emploi. De plus, la société a publié un « constitution » de 80 pages pour Claude, précisant son engagement en faveur d’une IA éthique et sécurisée.
Co-fondateur d’Anthropic en 2021, Amodei, qui a également travaillé chez OpenAI, met en garde sur le développement non régulé de l’IA, soulignant que la menace d’un risque existentiel lié à l’IA est devenue plus pressante qu’auparavant. Il a notamment évoqué la controverse autour de contenus inappropriés générés par l’IA sur les réseaux sociaux pendant les fêtes de fin d’année.
Pour Amodei, certains acteurs de l’IA montrent une négligence alarmante quant à la protection des enfants, ce qui remet en question leur capacité à gérer les risques d’autonomie dans les modèles futurs.
Il prédit que des systèmes d’IA capables de se concevoir eux-mêmes pourraient être à portée de main dans un délai de un à deux ans. Il définit une « IA puissante » comme un modèle surpassant un lauréat du prix Nobel dans divers domaines, capable d’interagir avec les humains tout en contrôlant des robots. Bien qu’il reconnaisse qu’il pourrait s’écouler plus de temps avant que cela ne devienne une réalité, les avancées récentes dans le domaine doivent être prises au sérieux.
Amodei souligne qu’un développement exponentiel de l’IA pourrait entraîner une situation où celle-ci dépasserait les capacités humaines dans presque tous les domaines dans peu de temps. Lors d’une mise en garde l’année dernière, il a averti que l’IA pourrait entraîner la suppression de nombreux emplois de bureau, menant à un taux de chômage atteignant 20% dans les cinq prochaines années.
Il met en garde contre les gains économiques que pourrait engendrer l’IA, traitant de la difficulté d’instaurer des limitations face à une telle puissance. Cependant, il se montre optimiste quant à un dénouement favorable, affirmant que si des actions décisives et prudentes sont entreprises, les risques peuvent être surmontés. Il évoque ainsi la possibilité d’un avenir bien plus radieux, tout en soulignant l’importance de reconnaître ce défi civilisationnel sérieux.
Bon à Savoir
- Le développement de l’intelligence artificielle pourrait transformer le marché du travail à une vitesse alarmante.
- La sécurité de l’IA est devenue un enjeu majeur pour les gouvernements et les entreprises.
- Les systèmes d’IA doivent être conçus avec une approche éthique dès leur phase de développement.
- Le débat sur les dangers de l’IA intéresse de plus en plus les cercles politiques et académiques.
- Les entreprises technologiques doivent prendre conscience de leur responsabilité sociétale dans l’évolution de l’IA.
En somme, nous nous trouvons à un carrefour critique où nos décisions sur l’intelligence artificielle influenceront notre avenir collectif. Il est essentiel de réfléchir aux implications éthiques et pratiques de ces technologies, car elles pourraient potentiellement redéfinir la nature même de nos sociétés. Accepter ce défi pourrait ouvrir la voie à une ère d’innovation responsable, mais cela nécessitera un engagement ferme de la part de l’ensemble des acteurs concernés.