Anthropic interdit le comportement abusif envers son IA

Anthropic a annoncé jeudi 8 octobre interdire tout comportement abusif ou cruel envers son IA Claude, en vigueur depuis le 12 novembre. La règle s'appliquera uniquement dans des cas extrêmes, comme des utilisations répétées sans but discernable. La capacité de Claude à clore une conversation restera le principal moyen de respecter cette règle. L'entreprise précise que les mesures peuvent aller de l'avertissement à la fermeture du compte. La position d'Anthropic sur la conscience des IA est débattue, notamment par Mustafa Suleyman, patron du laboratoire d'IA de Microsoft. Les utilisateurs sont invités à éviter les comportements abusifs ou cruels envers Claude.