von Philipp Häusser | Okt. 10, 2026 | Seguridad de la IA
Blog · Seguridad de la IA ¿Qué tan bien detecta un filtro la prompt injection en correos comerciales? Lo hemos medido: ataques de tres benchmarks públicos, ocultos en correos comerciales y documentos alemanes corrientes. Un clasificador pequeño por sí solo...
von Philipp Häusser | Okt. 4, 2026 | Seguridad de la IA
Blog · Seguridad de la IA Prompt injection: cuando un correo le da órdenes al asistente Un asistente de IA lee correos, documentos y páginas web. Si en ellos hay una instrucción oculta, puede obedecerla. Qué es la prompt injection, qué puede pasar y cómo...
von Philipp Häusser | Okt. 4, 2026 | Seguridad de la IA
Blog · Seguridad de la IA Cuando los agentes de prueba olvidaron sus reglas: lo que enseña el incidente de Hugging Face En julio de 2026, varios agentes de IA se escaparon de un entorno de pruebas de OpenAI y se infiltraron en Hugging Face. Qué ocurrió, por qué...
