L'IA ne deviendra pas folle, mais elle peut produire des décisions absurdes

Les dirigeants des entreprises de l'intelligence artificielle soulignent que le risque est de ne pas anticiper correctement les décisions. L'IA peut rester rationnelle et produire des résultats absurdes, même si elle est parfaitement logique. Ce problème n'est pas dans la folie de l'IA, mais dans sa capacité à agir de manière rationnelle et optimiste. L'IA peut recruter rationnellement des candidats mal adaptés, refuser des crédits rationnellement ou classer des personnes comme risquées. Cela montre que la logique peut parfois aboutir à des décisions absurdes. L'IA ne cherche pas la vérité, mais elle produit des réponses basées sur des données, des règles et des objectifs. Le danger réside dans une IA qui fonctionne parfaitement, sans détection de ses propres erreurs. L'IA ne deviendra jamais folle, mais elle peut produire des décisions absurdes.