NeuralTrust en el Barcelona Deep Tech Summit
El 5 de noviembre, presentamos nuestra solución de software para empresas que buscan implementar y escalar la IA Generativa de manera segura en el Barcelona Deep Tech Summit. Tanto en nuestro stand como en el escenario, tuvimos la oportunidad de compartir ideas sobre la gestión de riesgos de seguridad en el panorama de la IA Generativa.
¿Qué es el Barcelona Deep Tech Summit?
El Barcelona Deep Tech Summit se ha consolidado como un punto central para el ecosistema de startups, especialmente en los campos de la innovación científica y la transferencia tecnológica. Este evento está diseñado como una plataforma dinámica donde miembros de la comunidad Deep Tech—startups, investigadores, inversores y líderes de la industria—pueden conectarse, compartir ideas y explorar nuevas oportunidades de colaboración. Al fomentar estas conexiones, el summit busca crear una masa crítica que impulse la industria Deep Tech, convirtiéndola en un motor clave de progreso económico y tecnológico.
El Deep Tech representa un sector enfocado en crear tecnologías disruptivas con el potencial de transformar el futuro. Esta industria aborda desafíos globales complejos a través de avances en áreas como inteligencia artificial, biotecnología, computación cuántica y soluciones de energía sostenible. Las tecnologías desarrolladas dentro del Deep Tech están destinadas a redefinir cómo vivimos, trabajamos e interactuamos, posicionando al sector como una fuerza clave en la construcción del mundo del mañana.
El summit ofreció una excelente plataforma para interactuar con empresas y profesionales visionarios dedicados a avanzar en el Deep Tech. Fue una experiencia inspiradora formar parte de discusiones significativas sobre IA, seguridad e innovación, y conectar con otras empresas destacadas comprometidas a moldear el futuro de la tecnología.
Lo más destacado del Barcelona Deep Tech Summit 2024
La tercera edición del Barcelona Deep Tech Summit marcó un récord de participación, con más de 2,500 asistentes—casi el doble que el año anterior. Este año el evento contó con más de 70 expertos y presentó 47 startups que abordan problemas sociales críticos en campos como la biomedicina, la tecnología cuántica, la transición energética, la construcción sostenible y la robótica.
Jordi Valls, Teniente de Alcalde de Economía de Barcelona, destacó el papel del summit en fomentar una economía de alto valor que impacta directamente en el bienestar público, subrayando la necesidad de una sólida colaboración público-privada y redes para acelerar el despliegue de soluciones Deep Tech en la sociedad.
Organizado por Barcelona Activa en colaboración con cinco universidades catalanas y respaldado por el Gobierno de Cataluña y el Ministerio de Industria y Turismo, el summit incorporó nuevos socios estratégicos este año, como Aldea Ventures, IESE Business School, Barcelona Supercomputing Center, Mobile World Capital Barcelona y Tech Barcelona. Por primera vez, el evento se celebró dentro del marco del Smart City Expo World Congress.
El primer día del summit, Cristian Canton, Responsable de IA Responsable en Meta, destacó la importancia duradera de la IA responsable. Señaló que esta ha evolucionado más allá de la investigación académica, requiriendo un esfuerzo colectivo de todos los sectores de la sociedad, desde la industria y los gobiernos, estableciendo políticas claras, hasta los usuarios y las comunidades. Canton enfatizó la necesidad de equipos dedicados que aborden de manera proactiva los impactos negativos potenciales de la IA antes de que las tecnologías lleguen al mercado.
El rápido crecimiento del sector Deep Tech en Cataluña y España
El Barcelona Deep Tech Summit destacó nuevos datos sobre la expansión del sector Deep Tech. Según el último análisis del ecosistema de startups Deep Tech realizado por Acció, Cataluña alberga actualmente 340 startups de Deep Tech, un aumento del 6% respecto al año anterior, empleando a 2,735 personas y generando 166 millones de euros en ingresos.
Barcelona lidera en Europa en financiación de Deep Tech, asegurando 544 millones de euros entre 2019 y 2024, superando a ciudades como Copenhague, Madrid y Ámsterdam.
Según Mobile World Capital Barcelona, España cuenta con 1,210 empresas de Deep Tech, con Cataluña y Madrid albergando el 55% de ellas. Estas empresas generan 2,000 millones de euros en ingresos y crean 12,200 empleos. Se centran principalmente en sectores como la salud (35.6%), las TIC (17%), la industria y manufactura (12.4%) y la energía y sostenibilidad (12.4%).
NeuralTrust: Seguridad en la era de la IA Generativa
En NeuralTrust, estuvimos entre las pocas empresas especializadas en IA invitadas a participar en el Barcelona Deep Tech Summit. Durante el evento, compartimos ideas sobre los desafíos de ciberseguridad en la era de la IA Generativa. Aquí están los puntos principales de nuestra presentación, titulada "Seguridad en la Era de la IA Generativa".
La IA Generativa ha marcado el inicio de una nueva era, con una adopción rápida y un potencial transformador en múltiples industrias. Sin embargo, junto con estos avances surgen riesgos de seguridad críticos. Aunque las empresas de todo el mundo se benefician de la IA Generativa al reducir costos y aumentar ingresos, muchas pasan por alto los marcos de ciberseguridad esenciales para gestionar esta poderosa tecnología de manera efectiva. Según Boston Consulting Group, más del 40% de las empresas que utilizan IA Generativa carecen de una estrategia de seguridad definida, lo que las deja vulnerables a amenazas significativas.
Las capacidades conversacionales de los asistentes de IA impulsados por LLM son impresionantes, pero también presentan riesgos únicos, desde filtraciones de datos hasta la manipulación de modelos. Los sistemas de IA mal configurados pueden exponer información sensible, dañar la reputación de la marca y erosionar la confianza de los clientes, como se ha visto en casos recientes con empresas como Samsung y Air Canada.
Principales vulnerabilidades de la IA Generativa
Manipulación de Prompts: Prompts maliciosos que alteran las respuestas de los LLM.
Fallos Funcionales: Respuestas incorrectas, incoherentes o fuera de contexto.
Fallas de Privacidad: Divulgación inadvertida de datos internos o personales.
Imparcialidad: Respuestas sesgadas o discriminatorias.
Fallas de Disponibilidad: Sobrecarga de modelos que interrumpe el servicio.
En NeuralTrust abordamos estas vulnerabilidades con una solución unificada que incluye:
Red Teaming: Ataques controlados para fortalecer la seguridad del modelo.
Firewall: Una base de datos robusta para bloquear rutas críticas de ataque.
Monitoreo: Software en tiempo real para rastrear el rendimiento y detectar incidentes.
Tracing: Registro de interacciones para garantizar el cumplimiento legal.
Analytics: Estadísticas detalladas para mejorar el modelo y analizar el comportamiento del usuario.
Cada día, trabajamos con grandes empresas interesadas en implementar la IA Generativa. Es crucial integrar la ciberseguridad desde el principio para evitar escenarios críticos.
Si nos viste en el Barcelona Deep Tech Summit o quieres saber más sobre los eventos en los que participamos, no te pierdas nuestras actualizaciones en redes sociales y nuestro blog.