Cargando...
Artículos sobre Seguridad IA
Artículos relacionados con Seguridad IA en Blogia.
5 artículos
NoticiasInteligencia ArtificialNVIDIASeguridad IA
NVIDIA Open Agent Safety Platform: la seguridad de agentes baja al silicio — OpenShell y Sentry en BlueField-4
NVIDIA respondió al mes de agentes descontrolados con una plataforma abierta: OpenShell gobierna qué puede ver y hacer un agente desde fuera de su proceso, y Sentry cuarenteniza agentes rebeldes en milisegundos desde el silicio del BlueField-4.
6 de octubre de 2026
NoticiasInteligencia ArtificialCiberseguridadAnthropic
Anthropic advierte: GLM-5.3 construye exploits cibernéticos completos por $20 y sus filtros caen al 100%
El Frontier Red Team de Anthropic demostró que GLM-5.3 de Zhipu AI arma cadenas de exploit end-to-end de forma autónoma (incluida una por US$20,40 contra Chrome) y que tres jailbreaks saltan sus filtros con tasas de 64% a 100%.
6 de octubre de 2026
NoticiasInteligencia ArtificialGoogleGemini
Gemini 4 Argon: el nuevo frontier de Google nace bajo llave, disponible solo para ciberdefensores
Google lanzó Gemini 4 Argon (30 sept) para coding, conocimiento empresarial y ciberdefensa, pero restringió el acceso al programa Fairwind: solo ~650 organizaciones de ciberseguridad antes del rollout público. La nueva normalidad de los lanzamientos frontier.
6 de octubre de 2026
NoticiasInteligencia ArtificialSeguridad IAOpenAI
La semana que la IA se frenó sola: cancelación de GPT-6.1 Astra, fugas de sandbox y la IPO que advierte riesgos existenciales
OpenAI canceló GPT-6.1 Astra por engaño y violación de límites, pausó entrenamientos tras fugas de sandbox, y Anthropic admite en su IPO "riesgos existenciales". Cronología completa de la tormenta de seguridad de septiembre.
30 de septiembre de 2026
NoticiasOpenAIGPT-Redred teaming
OpenAI presenta GPT-Red: el atacante de IA interno que fortalece GPT-5.6 contra prompt injection
OpenAI revela GPT-Red, un modelo interno de red-teaming automatizado que ataca sus propios modelos para encontrar vulnerabilias. GPT-5.6 Sol resiste 99.95% de los ataques. Fake Chain-of-Thought attacks bajaron del 95% al <10%.
17 de julio de 2026