Le 5 novembre, nous avons présenté notre solution logicielle pour les entreprises cherchant à implémenter et à déployer à grande échelle l'IA Générative (Generative AI) en toute sécurité lors du Barcelona Deep Tech Summit. Sur notre stand et sur scène, nous avons eu l'opportunité de partager nos perspectives sur la gestion des risques de sécurité dans le paysage en évolution rapide de l'IA générative.
Qu'est-ce que le Barcelona Deep Tech Summit ?
Le Barcelona Deep Tech Summit est devenu une plaque tournante centrale pour l'écosystème des startups, particulièrement dans les domaines de l'innovation scientifique et du transfert de technologie. Cet événement est conçu comme une plateforme dynamique où les membres de la communauté Deep Tech — start-ups, chercheurs, investisseurs et leaders de l'industrie — peuvent se connecter, partager des perspectives et explorer de nouvelles opportunités de collaboration. En favorisant ces connexions, le sommet vise à construire une masse critique qui propulsera l'industrie Deep Tech vers l'avant, en faisant un moteur majeur du progrès économique et technologique.
La Deep Tech représente un secteur axé sur la création de technologies de rupture ayant le potentiel de remodeler l'avenir. Cette industrie aborde des défis mondiaux complexes grâce à des avancées dans des domaines tels que l'intelligence artificielle (artificial intelligence), la biotechnologie (biotechnology), l'informatique quantique (quantum computing) et les solutions énergétiques durables. Les technologies développées au sein de la Deep Tech sont sur le point de redéfinir notre façon de vivre, de travailler et d'interagir, positionnant le secteur comme une force clé dans la formation du monde de demain.
Le sommet a offert une excellente plateforme pour échanger avec des entreprises et des professionnels avant-gardistes dédiés à l'avancement de la deep tech. Ce fut une expérience inspirante de participer à des discussions significatives sur l'IA, la sécurité et l'innovation, et de se connecter avec d'autres entreprises remarquables engagées à façonner l'avenir de la technologie :
Points forts du Barcelona Deep Tech Summit 2024
La troisième édition du Barcelona Deep Tech Summit a connu une participation record, avec plus de 2 500 participants — près du double de l'année précédente. L'événement de cette année a accueilli plus de 70 experts et présenté 47 start-ups s'attaquant à des problèmes sociétaux critiques dans des domaines tels que la biomédecine, la technologie quantique, la transition énergétique, la construction durable et la robotique.
Jordi Valls, Adjoint au Maire de Barcelone chargé de l'Économie, a souligné le rôle du sommet dans la promotion d'une économie à haute valeur ajoutée qui a un impact direct sur le bien-être public, insistant sur la nécessité d'une forte collaboration public-privé et de réseaux pour accélérer le déploiement des solutions Deep Tech dans la société.
Organisé par Barcelona Activa en partenariat avec cinq universités catalanes et soutenu par le Gouvernement de Catalogne et le Ministère de l'Industrie et du Tourisme, le sommet a accueilli cette année de nouveaux partenaires stratégiques, notamment Aldea Ventures, IESE Business School, Barcelona Supercomputing Center, Mobile World Capital Barcelona et Tech Barcelona. Pour la première fois, l'événement s'est tenu dans le cadre du Smart City Expo World Congress.
Le premier jour du Barcelona Deep Tech Summit, Cristian Canton, Responsable de l'IA Responsable chez Meta, a souligné l'importance durable de l'IA responsable. Il a noté que l'IA responsable a évolué au-delà de la recherche universitaire, nécessitant un effort collectif de tous les secteurs de la société — de l'industrie et des gouvernements établissant des politiques claires aux utilisateurs et aux communautés. Canton a insisté sur la nécessité d'équipes dédiées pour traiter de manière proactive les impacts négatifs potentiels de l'IA avant que les technologies ne soient mises sur le marché.
Croissance Rapide du Secteur Deep Tech en Catalogne et en Espagne
Le Barcelona Deep Tech Summit a mis en lumière de nouvelles données sur l'expansion du secteur Deep Tech. La dernière Analyse de l'Écosystème des Start-ups Deep Tech par Acció montre que la Catalogne héberge désormais 340 start-ups Deep Tech — une augmentation de 6 % par rapport à l'année dernière — employant 2 735 personnes et générant 166 millions d'euros de chiffre d'affaires. Barcelone est en tête en Europe pour le financement Deep Tech, ayant obtenu 544 millions d'euros de 2019 à 2024, dépassant des villes comme Copenhague, Madrid et Amsterdam.
Selon Mobile World Capital Barcelona, l'Espagne compte 1 210 entreprises Deep Tech, la Catalogne et Madrid en hébergeant 55 %. Ces entreprises génèrent 2 milliards d'euros de chiffre d'affaires et créent 12 200 emplois. Elles se concentrent principalement sur des secteurs tels que la santé (35,6 %), les TIC (17 %), l'industrie et la fabrication (12,4 %), et l'énergie et la durabilité (12,4 %).
NeuralTrust : La Sécurité à l'ère de l'IA Générative
Chez NeuralTrust, nous faisions partie des entreprises spécialisées en IA sélectionnées pour participer au Barcelona Deep Tech Summit. Sur place, nous avons partagé nos perspectives sur les défis de la cybersécurité (cybersecurity) à l'ère de l'IA Générative. Voici les principaux points de notre présentation, intitulée La Sécurité à l'Ère de l'IA Générative.
L'IA Générative a marqué le début d'une nouvelle ère, avec une adoption rapide et un potentiel de transformation dans tous les secteurs. Cependant, ces avancées s'accompagnent de risques de sécurité critiques. Alors que les entreprises du monde entier bénéficient de la GenAI en réduisant les coûts et en augmentant les revenus, beaucoup négligent les cadres de cybersécurité essentiels requis pour gérer efficacement cette technologie puissante. Selon le Boston Consulting Group, plus de 40 % des entreprises utilisant la GenAI n'ont pas de stratégie de sécurité définie, les laissant vulnérables à des menaces importantes.
Les capacités conversationnelles des assistants IA alimentés par les LLMs sont impressionnantes, mais elles comportent également des risques uniques, allant des fuites de données à la manipulation de modèles. Des systèmes d'IA mal configurés peuvent exposer des informations sensibles, nuire à la réputation de la marque et éroder la confiance des clients, comme l'ont montré des cas récents avec des entreprises comme Samsung et Air Canada.
Les principaux défis de sécurité avec l'IA Générative découlent de sa nature très flexible et "créative". Les LLMs, entraînés sur de vastes données, répondent de manière zero-shot, ce qui signifie qu'ils peuvent répondre à des questions sans contexte préalable. Cependant, cette adaptabilité les rend également susceptibles aux Prompt Hacks — des techniques qui manipulent les réponses pour révéler des informations confidentielles ou inappropriées. Ces risques incluent l'accès non autorisé à des sujets sensibles, les mentions de concurrents et les fuites de données. Avec peu d'effort, les utilisateurs malveillants peuvent provoquer des réponses préoccupantes, y compris du contenu politique, des tons inappropriés, et même des offres de produits gratuits qui pourraient entraîner des problèmes juridiques et de réputation.
Voici quelques vulnérabilités critiques que les entreprises doivent considérer lors du déploiement de systèmes GenAI :
- Prompt Hacks : Des prompts malveillants peuvent manipuler les réponses et le comportement des LLMs.
- Défaillances Fonctionnelles : Les modèles peuvent produire des réponses incorrectes, incohérentes ou hors sujet.
- Défaillances de Confidentialité : Les LLMs peuvent divulguer par inadvertance des données internes de l'entreprise ou des informations personnelles.
- Défaillances d'Impartialité : Les chatbots peuvent produire des réponses biaisées ou discriminatoires.
- Défaillances de Disponibilité : Les modèles peuvent être surchargés, entraînant des interruptions de service et un gaspillage de ressources.
Chez NeuralTrust, nous abordons ces vulnérabilités avec une solution de plateforme unifiée qui comprend :
- Red Teaming : Des attaques contrôlées pour tester et renforcer la sécurité des modèles.
- Firewall : Une base de données robuste pour bloquer les routes d'attaque critiques.
- Monitoring : Un logiciel en temps réel pour suivre les performances des chatbots et détecter rapidement les incidents.
- Tracing : Garantit la conformité en maintenant un journal des interactions des chatbots pour répondre aux normes légales.
- Analytics : Des statistiques approfondies sur les interactions des utilisateurs, aidant à l'amélioration des modèles et à l'analyse du comportement des utilisateurs. Chaque jour, nous travaillons en partenariat avec de grandes entreprises intéressées par le déploiement actif de l'IA Générative ou qui le font déjà. Il est essentiel d'intégrer les considérations de cybersécurité dès le départ pour éviter les écueils potentiels. Sans cette prévoyance, les entreprises risquent de faire face au pire de ces scénarios.
Que vous nous ayez vus au Barcelona Deep Tech Summit ou que vous souhaitiez en savoir plus sur les événements auxquels nous participons, ne manquez pas toutes les mises à jour sur nos réseaux sociaux et notre blog.
