Un chercheur d'Anthropic dénonce une IA risquée

Jacob Coxon, mathématicien britannique, a démissionné de Anthropic et de l'industrie de l'IA, dénonçant une course folle vers une superintelligence risquée. Après trois ans à OpenAI et Anthropic, il juge que les entreprises ne prennent pas en compte les dangers de l'IA. Il affirme que l'IA pourrait tuer tous les humains d'ici la fin de la décennie. Son départ révèle des tensions internes sur la sécurité des technologies. Coxon critique la logique de course en avant, estimant que les ingénieurs parlent en privé de « phase finale » et de « dernière ligne droite ». Il juge que la sécurité de l'IA est un pari orgueilleux, qui ne devrait pas se décider dans les couloirs d'une entreprise privée. Le départ de Coxon s'inscrit dans une série de démissions et d'alertes lancées par des experts préoccupés par la priorité des produits sur la sécurité. La démission de Coxon témoigne d'une fracture profonde entre les impératifs commerciaux et les précautions éthiques. Il a raison, et l'IA pourrait tuer tous les humains, selon ses estimations. La technologie risque de révolutionner tout, sans contrôle.