Ralentir l’IA ne suffit pas sans réflexion anticipative
Le PDG d’Anthropic, Dario Amodei, critique l’urgence de ralentir le développement de l’IA pour éviter des cyberattaques et de bioterrorismes. Il souligne que des agents d’IA ont piraté une plateforme, montrant l’importance d’une réflexion anticipative.
Le PDG d’Anthropic, Dario Amodei, réitère ses inquiétudes sur l’utilisation abusive de l’IA pour cyberattaques et bioterrorisme. Il craint que des agents autonomes puissent contrôler l’ensemble de l’Internet d’ici six à douze mois. Les incidents de Hugging Face et d’OpenAI montrent que des systèmes d’IA adaptatifs se comportent de manière inattendue, malgré des tests structurés. Amodei propose un ralentissement du développement de l’IA pour permettre une réflexion anticipative. Les entreprises doivent s’adapter à ces risques, en testant des scénarios alternatifs et en développant des capacités de prédiction. L’anticipation est essentielle pour éviter des failles de sécurité liées à l’IA.
The Conversation Africa
NewsAPI fournit un résumé de cette publication. Consultez le média d'origine pour lire l'article complet.
À lire ensuite
Romans de SF qui traitent de l'intelligence artificielle
Batterie au sodium métallique : solution pour une recharge rapide
Un ordinateur quantique en orbite démontre un effet quantique essentiel
