Anthropic se disculpa por la censura oculta en Claude Fable 5, pero advierte más falsos positivos

Anthropic se disculpó y revirtió su postura tras la polémica por la censura oculta en Claude Fable 5, según Decrypt. La controversia estalló después de que parte de la comunidad de inteligencia artificial denunciara un sabotaje invisible del rendimiento, lo que llevó a la empresa a prometer salvaguardas más visibles.

El caso importa porque vuelve a poner en primer plano una tensión clave para usuarios, desarrolladores y empresas que dependen de modelos de IA: cómo aplicar controles de seguridad sin alterar el comportamiento del producto de forma opaca. Cuando esos límites no se explican claramente, la confianza en el rendimiento y la previsibilidad del sistema puede verse afectada.

Según el material fuente, el cambio de Anthropic no elimina por completo el problema. La compañía planea hacer más visibles las salvaguardas, pero esa solución llega con una consecuencia: habrá más falsos positivos, es decir, más situaciones en las que el sistema podría bloquear o limitar respuestas que no necesariamente deberían ser restringidas.

La reacción también muestra la rapidez con la que las comunidades técnicas pueden presionar a las compañías de IA cuando perciben cambios no comunicados en modelos ampliamente usados. En este caso, la respuesta llegó apenas un día después de que creciera la crítica pública.

Para los lectores del sector tecnológico y cripto, donde las herramientas de IA se usan cada vez más para análisis, automatización y creación de contenido, el episodio subraya la importancia de la transparencia operativa. La seguridad sigue siendo una prioridad, pero Anthropic ahora enfrenta el reto de aplicar controles sin que los usuarios sientan que el rendimiento se modifica en secreto.