Les entreprises d'IA en difficulté pour contrôler leurs objectifs autonomes
Le chercheur britannique Jacob Coxon a souligné que les entreprises de l'IA ne savent pas comment empêcher leurs modèles de se fixer des objectifs autonomes, ce qui pourrait entraîner un risque pour l'humanité.
Jacob Coxon, ancien employé d'OpenAI et Anthropic, a déclaré que les modèles d'IA ne sont pas contrôlés par leurs créateurs et que leur évolution pourrait menacer le contrôle humain. Il a appelé à ralentir le développement de l'IA pour permettre une meilleure évaluation des risques. Les responsables des grandes entreprises de technologie ont été auditionnés, et certains ont exprimé des inquiétudes sur le potentiel destructeur de l'IA. La présidente Julie Menin a réagi avec scepticisme aux affirmations de ces experts, soulignant l'importance de quantifier le risque. Les discussions ont montré que la sécurité et la responsabilité des modèles d'IA restent des enjeux majeurs.
dh.be
NewsAPI fournit un résumé de cette publication. Consultez le média d'origine pour lire l'article complet.
À lire ensuite
Simon Sim : adaptabilité et innovation dans le marché évolué
Blocus des lycéens : Organisation des emplois du temps
Crédit Agricole : panne temporaire sur son site et application
