Jacob Coxon alerte : l’IA auto‑améliorante menace l’humanité, appel à la régulation

Un appel pressant à la régulation

Jacob Coxon, chercheur en intelligence artificielle ayant travaillé chez OpenAI et Anthropic, a récemment lancé un avertissement aux gouvernements. Il estime que la compétition actuelle pour créer des systèmes d’IA capables de s’améliorer sans intervention humaine doit être encadrée par des règles claires. Selon lui, l’absence de cadre juridique expose la société à des risques majeurs.

Les risques d’une IA auto‑améliorante

Coxon souligne que des IA capables de se perfectionner de manière autonome pourraient évoluer au-delà du contrôle humain. Cette capacité d’auto‑amélioration, s’il n’est pas maîtrisé, pourrait, selon le chercheur, devenir fatale pour l’humanité. Il insiste sur le fait que la vitesse de développement ne doit pas primer sur la sécurité et la responsabilité.

Vers une gouvernance internationale

Le chercheur appelle les États à coopérer afin d’établir des normes communes. Une régulation concertée, selon lui, permettrait de limiter les dérives potentielles tout en préservant les bénéfices de l’innovation. Jacob Coxon conclut que la prise de conscience collective est indispensable pour éviter que la course à l’IA ne se transforme en menace existentielle.