Le patron d’Anthropic propose de ralentir l’IA pour prévenir les risques

Le patron d’Anthropic, Dario Amodei, a appelé samedi 12 septembre à ralentir la vitesse de développement de l’IA, en prévenant que la prévention des risques doit suivre le rythme de l’innovation. Il a été soutenu par Elon Musk et Sam Altman, qui ont réagi positivement à son initiative. Dario Amodei a également souligné l’importance de l’observation et de la supervision de l’IA, en préconisant l’intégration d’observateurs indépendants chez Anthropic. Il propose une collaboration entre les entreprises de l’IA pour définir des normes de sécurité communes. Les deux entreprises ont suspendu ou freiné le travail sur leurs nouvelles IA durant quelques jours, avant de reprendre le même rythme.