Des chercheurs d'IA demandent un ralentissement du développement

Les chercheurs des laboratoires OpenAI et Anthropic, notamment Jacob Coxon et Evan Hubinger, dénoncent une course effrénée vers une intelligence artificielle incontrôlable. Ils estiment que la probabilité de dommages catastrophiques par l'IA est trop élevée. L'auto-amélioration récursive (RSI) est un concept de sécurité inquiétant, où une IA pourrait améliorer ses propres capacités de manière autonome. Les experts d'OpenAI et Anthropic soulignent que la science de l'alignement n'est pas encore prête pour gérer ces enjeux. La pression économique et politique, notamment la préparation d'Anthropic pour l'entrée en bourse, accentue cette crise. Le secteur est entre deux feux : une avance technologique pour dominer le marché et des incidents de sécurité qui ne peuvent que se multiplier.