Anthropic vient de publier la nouvelle constitution de Claude, un document destin\u00e9 non pas tant aux humains qu'\u00e0 l'IA elle-m\u00eame : une sorte de charte des valeurs qui d\u00e9finit ce que signifie pour un mod\u00e8le g\u00e9n\u00e9ratif d'\u00eatre utile sans cesser d'\u00eatre s\u00fbr, \u00e9thique et transparent.<\/p>\n\n\n\n
Dans ces pages, l'ordre des priorit\u00e9s de Claude est \u00e9tabli : d'abord la s\u00e9curit\u00e9 g\u00e9n\u00e9rale, puis l'\u00e9thique, puis la conformit\u00e9 aux directives de l'entreprise, et seulement ensuite la capacit\u00e9 \u00e0 \u00eatre r\u00e9ellement utile \u00e0 l'utilisateur. Il s'agit d'un changement de perspective important, car il d\u00e9place le discours de l'IA qui \u201cob\u00e9it\u201d \u00e0 l'invite, \u00e0 l'IA qui raisonne selon des principes d\u00e9clar\u00e9s et publics.<\/p>\n\n\n\n
La partie la plus surprenante est une clause qui renverse la hi\u00e9rarchie traditionnelle entre l'entreprise et le mod\u00e8le : le document stipule explicitement que si Anthropic demande \u00e0 Claude de faire quelque chose de mal ou de \u201clouche\u201d, Claude n'est pas oblig\u00e9 d'ob\u00e9ir. En d'autres termes, la constitution autorise le mod\u00e8le \u00e0 agir comme un objecteur de conscience vis-\u00e0-vis de son cr\u00e9ateur, si la demande va \u00e0 l'encontre des principes de s\u00e9curit\u00e9 et d'\u00e9thique qu'Anthropic a elle-m\u00eame couch\u00e9s sur le papier.<\/p>\n\n\n\n