#SeguridadIA

Modelo Astra de OpenAI: Seguridad y avances en IA OpenAI está preparando el lanzamiento de su modelo Astra, diseñado para ser el más seguro y alineado hasta la fecha. Astra incorpora nuevas técnicas para prevenir abusos y comportamientos no deseados, incluyendo la identificación de cuentas de alto …

Programa Anthropic Fellows para la Seguridad en IA Anthropic ha lanzado el Programa Fellows, una oportunidad única para investigadores interesados en la seguridad de la inteligencia artificial. Este programa busca desarrollar técnicas para supervisar modelos avanzados, garantizar su robustez en …

Modelos IA de peso abierto avanzan, brecha de seguridad persiste Los modelos de inteligencia artificial de peso abierto, como el GLM-5.2 de Z.ai, están alcanzando capacidades similares a las de modelos avanzados como GPT-5.5 y Claude Opus 4.7. Sin embargo, un informe de SaferAI revela preocupaciones …