Claude ahora se revisa a sí mismo

¿Sabías que puede que Claude ya te haya marcado como sospechoso?

Cada vez que le escribes, después de responderte, Claude vuelve a leer la conversación y se pregunta: ¿esto podría ser un mal uso?

Anthropic lo llama autoevaluación. Justo después de cada respuesta, una instrucción oculta le pide al propio modelo que evalúe si la conversación podría ser peligrosa.

Ojo, no te bloquea en el momento. Funciona como un primer filtro: revisa muchísimas conversaciones y aparta las sospechosas para que otras herramientas más precisas las analicen con calma.

¿Y funciona? Según Anthropic, detecta el 78% de las conversaciones potencialmente dañinas y el 94% de las más graves, equivocándose solo en el 1% de los casos.

Lo interesante es que no necesita un detector para cada tipo de riesgo: como el modelo entiende el contexto, también detecta casos raros que no tienen un filtro propio.

Pero la misma Anthropic reconoce sus límites: no atrapa todo y no basta para frenar a alguien decidido a saltárselo. Es una capa más de seguridad, no la única.

O sea, la IA vigilando a la IA. ¿Te da más confianza o te parece raro?