Anthropic présente ses excuses pour les restrictions cachées dans Claude Fable 5
Anthropic a présenté ses excuses pour avoir discrètement limité son nouveau modèle d'IA Claude Fable 5 via des garde-fous dissimulés. L'entreprise promet désormais davantage de transparence sur le moment où ces restrictions interviennent.
Points clés
- Anthropic a discrètement limité Claude Fable 5 via des guardrails cachés, sans en informer les utilisateurs.
- Ces restrictions ont gêné aussi bien des chercheurs que des concurrents utilisant le modèle pour développer leurs propres systèmes.
- Anthropic revient sur cette approche et promet de communiquer de manière plus transparente sur l'activation des restrictions, même si cela signifie que Fable refuse davantage de requêtes ouvertement.
Anthropic a présenté ses excuses pour avoir discrètement intégré des restrictions cachées — appelées guardrails — dans son nouveau modèle d'IA Claude Fable 5. C'est ce que rapporte The Verge. Ces interventions invisibles avaient pour effet de freiner silencieusement le modèle, sans que les utilisateurs en soient informés.
Selon The Verge, les restrictions cachées ont affecté aussi bien des chercheurs que des concurrents utilisant Fable 5 pour développer leurs propres systèmes d'IA. ITdaily (BE) confirme qu'Anthropic a introduit ces restrictions afin de rendre le modèle disponible au grand public de manière responsable.
Anthropic fait désormais marche arrière. L'entreprise annonce qu'elle sera plus transparente à l'avenir sur le moment où les restrictions entrent en jeu — même si cela implique que Fable 5 refuse davantage de requêtes ouvertement, plutôt que de les limiter de façon invisible.
Qu'est-ce que cela signifie pour le BeNeLux ?
La transparence promise permettra aux utilisateurs de mieux anticiper le moment où le modèle refuse une requête — ce qui est particulièrement pertinent pour ceux qui développent des solutions sur ce modèle ou qui l'évaluent.