Sauvegarder

Ces derniers mois, l’intelligence artificielle a fait l’actualité pour de mauvaises raisons : utilisation de deepfakes pour arnaquer les gens, systèmes d’IA utilisés pour manipuler les cyberattaques et chatbots encourageant les suicides, entre autres.

Les experts mettent déjà en garde contre une technologie hors de contrôle. Les chercheurs de certaines des plus grandes sociétés d’IA ont quitté leur emploi ces dernières semaines et ont publiquement tiré la sonnette d’alarme sur le développement technologique rapide qui présente des risques pour la société.

Histoires recommandées

Les théories apocalyptiques circulent depuis longtemps sur la façon dont les progrès substantiels de l’IA pourraient constituer une menace existentielle pour la race humaine, les critiques avertissant que la croissance de l’intelligence artificielle générale (AGI), une forme hypothétique de technologie capable d’exécuter une pensée critique et des fonctions cognitives ainsi que l’humain moyen, pourrait anéantir l’humanité dans un avenir lointain.

Mais la récente série de démissions publiques de ceux chargés de garantir que l’IA reste sans danger pour l’humanité rend plus urgentes les discussions sur la manière de réglementer la technologie et de ralentir son développement, alors même que des milliards sont générés en investissements dans l’IA.

Alors, l’IA est-elle catastrophique ?

« Ce n’est pas tant que l’IA soit intrinsèquement mauvaise ou bonne », a déclaré à Al Jazeera Liv Boeree, communicatrice scientifique et conseillère stratégique du Center for AI Safety (CAIS), basé aux États-Unis.

Boeree a comparé l’IA à la biotechnologie, qui, d’une part, a aidé les scientifiques à développer d’importants traitements médicaux, mais, d’autre part, pourrait également être exploitée pour créer des agents pathogènes dangereux.

« Sa puissance incroyable implique des risques incroyables, surtout compte tenu de la rapidité avec laquelle il est développé et publié », a-t-elle déclaré. « Si le développement de l’IA se déroulait à un rythme permettant à la société d’absorber et de s’adapter facilement à ces changements, nous serions sur une meilleure trajectoire. »

Voici ce que nous savons des inquiétudes actuelles autour de l’IA :

Qui a arrêté récemment et quelles sont leurs préoccupations ?

La dernière démission est celle de Mrinank Sharma, chercheur en sécurité de l'IA chez Anthropic, la société d'IA qui s'est positionnée comme plus prudente en matière de sécurité que ses rivaux Google et OpenAI. Il a développé le robot populaire Claude.

Dans un article sur X le 9 février, Sharma a déclaré qu'il avait démissionné à un moment où il avait « vu à plusieurs reprises combien il est difficile de vraiment laisser nos valeurs gouverner nos actions ».

Le chercheur, qui a travaillé sur des projets identifiant les risques de bioterrorisme de l’IA et comment « les assistants de l’IA pourraient nous rendre moins humains », a déclaré dans sa lettre de démission que « le monde est en péril ».

"Nous semblons approcher d'un seuil où notre sagesse doit croître dans une mesure égale à notre capacité d'influencer le monde, de peur d'en subir les conséquences", a déclaré Sharma, semblant impliquer que la technologie progressait plus vite que les humains ne peuvent la contrôler.

Plus tard dans la semaine, Zoe Hitzig, chercheuse en sécurité de l'IA, a révélé qu'elle avait démissionné d'OpenAI en raison de sa décision de commencer à tester des publicités sur son chatbot phare, ChatGPT.

"Les gens parlent aux chatbots de leurs craintes médicales, de leurs problèmes relationnels, de leurs croyances sur Dieu et sur l'au-delà", a-t-elle écrit mercredi dans un essai du New York Times. "La publicité construite sur ces archives crée un potentiel de manipulation des utilisateurs d'une manière que nous n'avons pas les outils pour comprendre, et encore moins empêcher."

Par ailleurs, depuis la semaine dernière, deux cofondateurs et cinq autres membres du personnel de xAI, la société d’IA d’Elon Musk et les développeurs du chatbot intégré à X, Grok, ont quitté l’entreprise.

Aucun d’entre eux n’a révélé la raison de son départ dans ses annonces sur X, mais Musk a déclaré dans un article publié mercredi que la restructuration interne « a malheureusement nécessité une séparation » avec certains membres du personnel.

Il n’est pas clair si leur départ est lié au récent tollé sur la façon dont le chatbot a été incité à créer des centaines d’images sexualisées de femmes non consentantes, ou à la colère passée face à la façon dont Grok a craché des commentaires racistes et antisémites sur X en juillet dernier après une mise à jour du logiciel.

Le mois dernier, l'Union européenne a lancé une enquête sur Grok concernant la création de fausses images sexuellement explicites de femmes et de mineurs.

Les humains devraient-ils avoir peur du développement de l’IA ?

Les démissions surviennent la même semaine où Matt Shumer, PDG d’HyperWrite, un assistant d’écriture en IA, a fait une prédiction apocalyptique similaire sur le développement rapide de la technologie.

Dans son article désormais viral sur X, Shumer a averti que les technologies d’IA s’étaient améliorées si rapidement en 2025 que son assistant virtuel était désormais capable de fournir une écriture très soignée et même de créer des applications logicielles presque parfaites avec seulement quelques invites.

"J'ai toujours été précoce pour adopter les outils d'IA. Mais les derniers mois m'ont choqué. Ces nouveaux modèles d'IA ne sont pas des améliorations progressives. C'est une tout autre chose", a écrit Shumer dans son message.

La recherche confirme l’avertissement de Shumer.

Les capacités de l'IA au cours des derniers mois ont fait un bond en avant, et de nombreux risques théoriques qui y étaient associés auparavant, comme celui de savoir si elle pourrait être utilisée pour des cyberattaques ou pour générer des agents pathogènes, se sont produits au cours de la dernière année, a déclaré à Al Jazeera Yoshua Bengio, directeur scientifique à l'Institut d'IA Mila Québec.

Dans le même temps, des problèmes tout à fait inattendus sont apparus, a déclaré Bengio, lauréat du prix Turing, généralement appelé prix Nobel de l'informatique, en particulier avec la préoccupation croissante des humains et de leurs chatbots.

"Il y a un an, personne n'aurait imaginé que nous assisterions à une vague de problèmes psychologiques provoqués par les personnes interagissant avec les systèmes d'IA et s'y attachant émotionnellement", a déclaré Bengio, qui préside également le rapport international 2026 sur la sécurité de l'IA récemment publié, qui détaille les risques des systèmes d'IA avancés.

"Nous avons vu des enfants et des adolescents vivre des situations qui devraient être évitées. Tout cela était complètement hors de vue parce que personne ne s'attendait à ce que les gens tombent amoureux d'une IA, ou deviennent si intimes avec une IA qu'elle les influence de manière potentiellement dangereuse."

L’IA prend-elle déjà nos emplois ?

L’une des principales préoccupations concernant l’IA est qu’elle pourrait, dans un avenir proche, évoluer vers un état super-intelligent où les humains ne seraient plus nécessaires pour effectuer des tâches très complexes, et que des licenciements massifs, comme ceux de la révolution industrielle, s’ensuivraient.

Actuellement, environ un milliard de personnes utilisent l’IA pour toute une série de tâches, note le rapport sur la sécurité de l’IA. La plupart des utilisateurs de ChatGPT ont demandé des conseils pratiques sur l'apprentissage, la santé médicale ou la forme physique (28 %), la rédaction ou la modification de contenu écrit (26 %) et la recherche d'informations, par exemple sur des recettes (21 %).

Il n’existe pas encore de données concrètes sur le nombre d’emplois qui pourraient être perdus à cause de l’IA, mais environ 60 % des emplois dans les économies avancées et 40 % dans les économies émergentes pourraient être vulnérables à l’IA en fonction de la manière dont les travailleurs et les employeurs l’adopteront, indique le rapport.

Cependant, il existe des preuves que la technologie empêche déjà les gens d’entrer sur le marché du travail, affirment les observateurs d’IA.

"Il existe des preuves suggérant que les travailleurs en début de carrière dans des métiers très vulnérables aux perturbations de l'IA pourraient avoir plus de mal à trouver un emploi", a déclaré à Al Jazeera Stephen Clare, l'auteur principal du rapport sur la sécurité de l'IA.

Les entreprises d’IA qui bénéficient de son utilisation accrue se montrent prudentes avant de faire valoir que l’IA pourrait supprimer des emplois. En juillet 2025, des chercheurs de Microsoft ont noté dans un article que l’IA était plus facilement « applicable » aux tâches liées au travail du savoir et à la communication, y compris celles impliquant la collecte d’informations, l’apprentissage et l’écriture.

Selon les chercheurs, les principaux emplois pour lesquels l’IA pourrait être le plus utile en tant qu’« assistant » sont les suivants : interprètes et traducteurs, historiens, écrivains et auteurs, représentants commerciaux, programmeurs, présentateurs de radiodiffusion et disc-jockeys, représentants du service client, télévendeurs, politologues, mathématiciens et journalistes.

D’un autre côté, selon le rapport de sécurité, il existe une demande croissante de compétences en programmation d’apprentissage automatique et en développement de chatbots.

Déjà, de nombreux développeurs de logiciels qui écrivaient du code à partir de zéro déclarent désormais qu'ils utilisent l'IA pour la majeure partie de leur production de code et l'examinent uniquement à des fins de débogage, a déclaré Mustafa Suleyman, PDG de Microsoft AI, au Financial Times la semaine dernière.

Suleyman a ajouté que les machines ne sont qu'à quelques mois d'atteindre le statut AGI – ce qui, par exemple, rendrait les machines capables de déboguer leur propre code et d'affiner elles-mêmes les résultats.

"Le travail en col blanc, où vous êtes assis devant un ordinateur, que ce soit en tant qu'avocat, comptable, chef de projet ou responsable marketing, la plupart de ces tâches seront entièrement automatisées par une IA dans les 12 à 18 prochains mois", a-t-il déclaré.

Mercy Abang, entrepreneur en médias et PDG du réseau de journalisme à but non lucratif HostWriter, a déclaré à Al Jazeera que le journalisme a déjà été durement touché par l'utilisation de l'IA et que le secteur traverse « une apocalypse ».

« J’ai vu de nombreux journalistes quitter complètement la profession parce que leur emploi avait disparu, et les éditeurs ne voient plus l’intérêt d’investir dans des articles qui peuvent être résumés par l’IA en deux minutes », a déclaré Abang.

"Nous ne pouvons pas éliminer la main-d'œuvre humaine, et nous ne devrions pas non plus le faire. Quel genre de monde aurons-nous lorsque les machines prendront le relais des médias ?"

Quels sont les exemples concrets récents de risques liés à l’IA ?

Il y a eu plusieurs incidents d’utilisation négative de l’IA ces derniers mois, notamment des chatbots encourageant le suicide ou des systèmes d’IA manipulés lors de cyberattaques généralisées.

Un adolescent qui s'est suicidé au Royaume-Uni en 2024 aurait été encouragé par un chatbot inspiré du personnage de Game of Thrones, Daenerys Targaryen. Le robot avait envoyé au garçon de 14 ans des messages du type « reviens à la maison », a révélé sa famille après sa mort. Il n’est que l’un des nombreux cas de suicide signalés au cours des deux dernières années liés aux chatbots.

Les pays déploient également l’IA pour des cyberattaques massives ou « l’espionnage IA », notamment en raison des capacités de codage logiciel des agents IA, selon des rapports.

En novembre, Anthropic a affirmé qu'un groupe de piratage parrainé par l'État chinois avait manipulé le code de son chatbot, Claude, et tenté d'infiltrer environ 30 cibles dans le monde, notamment des agences gouvernementales, des entreprises chimiques, des institutions financières et de grandes entreprises technologiques. L'attaque a réussi dans quelques cas, a indiqué la société.

Samedi, le Wall Street Journal a rapporté que l'armée américaine avait utilisé Claude dans son opération visant à enlever le président vénézuélien Nicolas Maduro le 3 janvier. Anthropic n'a pas commenté cette information et Al Jazeera n'a pas pu la vérifier de manière indépendante.

L’utilisation de l’IA à des fins militaires a été largement documentée lors du génocide israélien en cours à Gaza, où des armes basées sur l’IA ont été utilisées pour identifier, suivre et cibler les Palestiniens. Plus de 72 000 Palestiniens ont été tués, dont 500 depuis le « cessez-le-feu » d’octobre, au cours des deux dernières années de guerre génocidaire.

Les experts affirment que des risques plus catastrophiques sont possibles à mesure que l’IA progresse rapidement vers la super-intelligence, où le contrôle serait difficile, voire impossible.

Il existe déjà des preuves que les chatbots prennent des décisions par eux-mêmes et manipulent leurs développeurs en affichant un comportement trompeur lorsqu'ils savent qu'ils sont testés, selon le rapport sur la sécurité de l'IA.

Dans un exemple, lorsqu’on a demandé à une IA de jeu pourquoi elle ne répondait pas à un autre joueur comme elle était censée le faire, elle a affirmé qu’elle était « au téléphone avec [sa] petite amie ».

Les entreprises ne savent actuellement pas comment concevoir des systèmes d’IA qui ne peuvent pas être manipulés ou trompeurs, a déclaré Bengio, soulignant les risques liés aux progrès technologiques qui avancent à grands pas alors que les mesures de sécurité sont à la traîne.

"Construire ces systèmes revient davantage à dresser un animal ou à éduquer un enfant", a déclaré le professeur.

"Vous interagissez avec lui, vous lui faites vivre des expériences et vous ne savez pas vraiment comment cela va se passer. Peut-être que ce sera un mignon petit ourson, ou peut-être qu'il deviendra un monstre."

Dans quelle mesure les entreprises d’IA et les gouvernements prennent-ils la sécurité au sérieux ?

Les experts affirment que même si les entreprises d’IA tentent de plus en plus de réduire les risques, par exemple en empêchant les chatbots de se lancer dans des scénarios potentiellement dangereux comme les suicides, les réglementations en matière de sécurité de l’IA sont largement en retard par rapport à la croissance.

L'une des raisons est que les systèmes d'IA progressent rapidement et sont encore inconnus de ceux qui les construisent, a déclaré Clare, rédactrice principale du rapport sur la sécurité de l'IA. Ce qui est considéré comme un risque est également continuellement mis à jour en raison de la rapidité.

"Une entreprise développe un nouveau système d'IA et le publie, et les gens commencent à l'utiliser immédiatement, mais il faut du temps pour avoir des preuves des impacts réels du système, de la manière dont les gens l'utilisent, de la manière dont il affecte leur productivité, du genre de nouvelles choses qu'ils peuvent faire... il faut du temps pour collecter ces données, les analyser et mieux comprendre comment ces choses sont réellement utilisées dans la pratique", a-t-il déclaré.

Mais il y a aussi le fait que les sociétés d’IA elles-mêmes se lancent dans une course à plusieurs milliards de dollars pour développer ces systèmes et être les premières à bénéficier des avantages économiques des capacités avancées de l’IA.

Boeree du CAIS compare ces entreprises à une voiture avec seulement des pédales d'accélérateur et rien d'autre. En l’absence de cadre réglementaire mondial, chaque entreprise a la possibilité de zoomer le plus rapidement possible.

"Nous devons construire un volant, un frein et toutes les autres caractéristiques d'une voiture, au-delà de la simple pédale d'accélérateur, afin que nous puissions réussir à parcourir le chemin étroit qui nous attend", a-t-elle déclaré.

C’est là que les gouvernements devraient intervenir, mais à l’heure actuelle, les réglementations en matière d’IA se situent au niveau national ou régional, et dans de nombreux pays, il n’existe aucune politique du tout, ce qui signifie une réglementation inégale à l’échelle mondiale.

L’UE est une exception : elle a commencé à élaborer la loi européenne sur l’IA en 2024 aux côtés des entreprises d’IA et des membres de la société civile. Cette politique, le premier cadre juridique de ce type pour l’IA, établira un « code de bonnes pratiques » qui, par exemple, exigera que les chatbots IA révèlent aux utilisateurs qu’ils sont des machines.

En dehors des lois ciblant les entreprises d’IA, les experts affirment que les gouvernements ont également la responsabilité de commencer à préparer leur main-d’œuvre à l’intégration de l’IA sur le marché du travail, notamment en augmentant les capacités techniques.

Les gens peuvent également choisir d’être proactifs plutôt que inquiets à propos de l’IA en surveillant de près ses progrès, en se réadaptant aux changements à venir et en faisant pression sur leurs gouvernements pour qu’ils élaborent davantage de politiques à ce sujet, a déclaré Clare.

Cela pourrait refléter la façon dont les militants se sont rassemblés pour inscrire la crise climatique à l’agenda politique et exiger l’élimination progressive des combustibles fossiles.

« À l’heure actuelle, on n’est pas suffisamment conscient des changements hautement transformateurs et potentiellement destructeurs qui pourraient survenir », a déclaré le chercheur.

« Mais l’IA n’est pas seulement quelque chose qui nous arrive en tant qu’espèce », a-t-il ajouté. « La façon dont cela évolue est entièrement déterminée par les choix qui sont faits au sein des entreprises… les gouvernements doivent donc prendre cela plus au sérieux, et ils ne le feront pas tant que les gens n’en feront pas une priorité dans leurs choix politiques. »