NeuralTrust se convierte en socio oficial de OWASP GenAI Security
NeuralTrust anunció hoy su patrocinio oficial del Proyecto de Seguridad GenAI de OWASP, reforzando su compromiso a largo plazo con el avance de estándares abiertos e impulsados por la comunidad para asegurar sistemas de IA generativa y agentica.
A medida que las organizaciones aceleran la implementación de modelos de lenguaje grandes y agentes de IA autónomos en entornos de producción, el panorama de la seguridad está experimentando un profundo cambio. Los modelos tradicionales de seguridad de aplicaciones ya no son suficientes para abordar los comportamientos dinámicos, el uso de herramientas y las capacidades de toma de decisiones introducidas por la IA agentica. El Proyecto de Seguridad GenAI de OWASP se creó para ayudar a la industria a navegar esta transición mediante el establecimiento de marcos de seguridad compartidos, modelos de amenazas y orientación práctica.
Desde sus primeras etapas, los equipos de ingeniería e investigación de NeuralTrust han contribuido activamente a este esfuerzo. Trabajando estrechamente con la comunidad OWASP, NeuralTrust ha ayudado a identificar y documentar patrones de ataque emergentes, ha contribuido con nuevas variaciones de ataques específicas para sistemas generativos y basados en agentes, y ha publicado investigaciones destinadas a traducir los riesgos teóricos en prácticas de seguridad accionables.
“La IA agentica cambia fundamentalmente la forma en que los sistemas se comportan, interactúan y fallan”, dijo Joan Vendrell, CEO de NeuralTrust. “A medida que estos sistemas ganan autonomía, la seguridad ya no puede ser una ocurrencia tardía. Apoyar el Proyecto de Seguridad GenAI de OWASP se alinea directamente con nuestra creencia de que la IA debe ser segura por diseño, observable en producción y gobernada por estándares abiertos y compartidos.”
NeuralTrust también participó en la Cumbre Europea de Seguridad de IA Agentica de la Fundación OWASP® el 10 de diciembre, donde OWASP lanzó oficialmente el OWASP Top 10 para la Seguridad de la IA Agentica. Esta nueva referencia de la industria destaca los riesgos más críticos que enfrentan los sistemas de IA autónomos que utilizan herramientas y proporciona un lenguaje común para los equipos de seguridad, desarrolladores y responsables de la toma de decisiones que navegan por arquitecturas basadas en agentes.
El lanzamiento del Top 10 llega en un momento crucial. A medida que los agentes de IA pasan de la experimentación a casos de uso en el mundo real en industrias como las finanzas, las telecomunicaciones, la atención médica y los servicios profesionales, las organizaciones están cada vez más expuestas a nuevas categorías de riesgo, incluidas acciones no deseadas, escalada de privilegios, uso indebido de prompts y herramientas, fuga de datos y modos de fallo complejos de varios pasos.
Al patrocinar y contribuir al Proyecto de Seguridad GenAI de OWASP, NeuralTrust tiene como objetivo apoyar a la comunidad de seguridad en general en la construcción de una base compartida para comprender y mitigar estos riesgos. La compañía considera que la colaboración abierta es esencial para garantizar que la innovación en IA se corresponda con avances igualmente sólidos en seguridad, gobernanza y confianza.
Acerca de NeuralTrust
NeuralTrust ayuda a las organizaciones a adoptar la IA generativa de forma segura y a escala. Su plataforma proporciona seguridad en tiempo de ejecución, detección de amenazas y riesgos de IA, y capacidades de seguridad de agentes diseñadas para hacer que los sistemas de IA sean medibles, fiables y dignos de confianza a lo largo de su ciclo de vida.
Acerca de OWASP
The Open Worldwide Application Security Project (OWASP) es una fundación sin fines de lucro dedicada a mejorar la seguridad del software. A través de proyectos de código abierto, iniciativas dirigidas por la comunidad y orientación industrial ampliamente adoptada, OWASP ayuda a organizaciones de todo el mundo a construir aplicaciones y sistemas más seguros.
