Jacob Coxon alerte : l’IA auto‑améliorante menace l’humanité, appel à la régulation
Le chercheur en intelligence artificielle Jacob Coxon, ancien d’OpenAI et d’Anthropic, demande aux États de réguler la course au développement d’IA capables de s’améliorer de façon autonome, estimant que cela pourrait mettre en danger l’humanité.
Un appel pressant à la régulation
Jacob Coxon, chercheur en intelligence artificielle ayant travaillé chez OpenAI et Anthropic, a récemment lancé un avertissement aux gouvernements. Il estime que la compétition actuelle pour créer des systèmes d’IA capables de s’améliorer sans intervention humaine doit être encadrée par des règles claires. Selon lui, l’absence de cadre juridique expose la société à des risques majeurs.
Les risques d’une IA auto‑améliorante
Coxon souligne que des IA capables de se perfectionner de manière autonome pourraient évoluer au-delà du contrôle humain. Cette capacité d’auto‑amélioration, s’il n’est pas maîtrisé, pourrait, selon le chercheur, devenir fatale pour l’humanité. Il insiste sur le fait que la vitesse de développement ne doit pas primer sur la sécurité et la responsabilité.
Vers une gouvernance internationale
Le chercheur appelle les États à coopérer afin d’établir des normes communes. Une régulation concertée, selon lui, permettrait de limiter les dérives potentielles tout en préservant les bénéfices de l’innovation. Jacob Coxon conclut que la prise de conscience collective est indispensable pour éviter que la course à l’IA ne se transforme en menace existentielle.
💬 Commentaires
Connectez-vous pour laisser un commentaire.
Soyez le premier à réagir.
À lire aussi en Tech & IA
Cybersécurité : Sites de préfectures, dont Paris, hors ligne après alerte de l’ANSSI
Des sites de plusieurs préfectures françaises, dont celui de Paris, sont inaccessibles ce mercredi suite à la découverte d’une faille informatique jugée critique par l’ANSSI.
Mistral AI relance les ambitions françaises face aux géants américains de l'IA
La start‑up française Mistral AI dévoile un nouveau modèle d’intelligence artificielle et vise à réduire l’écart avec les leaders américains OpenAI et Anthropic, selon Le Figaro.
Moteurs « look up » : fonctionnement des sites de données volées
Les autorités alertent sur la multiplication récente de sites clandestins qui utilisent des bases issues de cyberattaques pour proposer des moteurs de recherche de données volées.
McDonald’s US : l’IA fixe les prix, créant des écarts entre restaurants
Aux États‑Unis, McDonald’s utilise l’intelligence artificielle pour recommander les prix de ses produits dans chaque restaurant, ce qui augmente les différences de tarifs entre les établissements et engendre des tensions avec les franchisés.
Fuite de données personnelles de candidats à la présidentielle 2027 sur des moteurs pirates
Des données personnelles de millions de Français, dont les politiciens Jean‑Luc Mélenchon, Édouard Philippe et Marine Le Pen, sont accessibles en ligne via des plateformes dites « lookups », selon RTL.
Google, OpenAI et Anthropic s’unissent pour créer un régulateur commun de l’IA
OpenAI, Anthropic et Google DeepMind ont annoncé travailler à la mise en place d’un organe de supervision des risques liés à l’intelligence artificielle, tandis que des élus alertent sur le risque d’un « cartel de l’IA ».