Hackathon Secure Horizons : trois étudiants de Télécom SudParis récompensés pour leur projet d’IA et cybersécurité

En seulement 36 heures, trois étudiants de Télécom SudParis ont imaginé et développé Theras Guard, un projet qui leur a permis de décrocher le titre de « Second Winner » de la track « AI for Security & Secure AI » lors du hackathon Secure Horizons, organisé les 10 et 11 octobre à l’ESSEC Business School.

36 heures pour relever un défi au cœur des enjeux de l’IA

L’IA au service de la cybersécurité, la sécurisation de l’IA et la blockchain : autant de sujets au cœur du hackathon Secure Horizons, organisé par UTOPIA, KRYPTOSPHERE® et l’ESSEC Institute for AI & Business. Les 10 et 11 octobre, près de 150 étudiants issus de grandes écoles se sont retrouvés sur le campus de l’ESSEC pour 36 heures de réflexion, de développement et d’expérimentation.

Dans le cadre de la track « AI for Security & Secure AI », Steve Tekombong, Thélio Larue et Rayan Okombi-Okoko, élèves-ingénieurs à Télécom SudParis, ont choisi de se pencher sur un enjeu qui prend de plus en plus d’importance avec le développement de l’IA : comment s’assurer qu’un agent IA ne réalise que les actions qui lui sont autorisées ? En effet, ces outils sont désormais capables d’interagir directement avec les systèmes informatiques des entreprises, par exemple pour consulter des documents ou envoyer des e-mails. Il devient donc essentiel de pouvoir contrôler leurs actions et prévenir les éventuels risques.

Pour Steve Tekombong et Thélio Larue, étudiants en première année, il s'agissait de leur premier hackathon. Tous deux souhaitaient découvrir ce format de compétition et confronter leurs connaissances à une problématique concrète. « Nous avions envie de sortir du cadre académique pour passer à la pratique. Concevoir une solution destinée à répondre aux besoins réels d'une entreprise, réfléchir à son utilisation et à sa mise en œuvre : c'était une expérience nouvelle et particulièrement motivante », expliquent-ils.

En deuxième année, Rayan Okombi-Okoko avait déjà participé à des hackathons à dimension entrepreneuriale. Il souhaitait cette fois découvrir une approche davantage orientée vers le développement technique. La rencontre des trois profils et de leurs motivations a donné naissance à une équipe complémentaire prête à relever le défi.

Theras Guard : une « porte de vérité » pour contrôler les agents IA

Le constat de départ est simple : un agent IA peut être performant et rendre de nombreux services, mais il peut également être manipulé ou détourné de son objectif initial. Une instruction malveillante, une injection de prompt (une instruction cachée dans un document ou un message, destinée à manipuler l'IA et à lui faire ignorer ses consignes initiales) ou des données externes compromises peuvent ainsi l'amener à accéder à des informations confidentielles ou à effectuer des opérations non autorisées.

Plutôt que de chercher uniquement à empêcher la compromission de l'agent lui-même, les trois étudiants ont choisi d'adopter une autre approche : contrôler systématiquement ce que l'agent cherche à faire, avant que l'action ne soit exécutée.

C'est ainsi qu'est né Theras Guard, un outil de cybersécurité qui agit comme une passerelle de contrôle entre les agents IA et les outils informatiques auxquels ils peuvent accéder, notamment via des serveurs MCP (Model Context Protocol).

Son principe repose sur un système de règles explicites et déterministes, définies par les experts de l'entreprise. Chaque action demandée par un agent est confrontée à ces règles avant toute exécution. Trois décisions sont alors possibles :

  • Autoriser l'action lorsque celle-ci respecte les règles définies ;
  • Bloquer l'action lorsqu'elle présente un risque ou contrevient aux autorisations établies ;
  • Demander une validation humaine lorsque la situation nécessite une analyse complémentaire.

« Nous avons voulu créer une véritable porte de contrôle. Contrairement à une approche dans laquelle une intelligence artificielle en surveille une autre, notre solution repose sur des règles définies par l'entreprise. La décision ne dépend donc pas d'une nouvelle appréciation probabiliste : elle est déterminée par les règles établies. Et lorsqu'une situation nécessite un arbitrage, l'humain conserve la décision finale », expliquent les élèves-ingénieurs.

Cette approche constitue le principal élément différenciant de leur projet. Elle vise à apporter aux entreprises un cadre de contrôle prévisible, cohérent et traçable, tout en conservant la souplesse nécessaire à l'intervention d'un expert.

Concrètement, imaginons une entreprise qui utilise un agent IA pour résumer des courriels, rechercher des documents ou transmettre des fichiers à ses collaborateurs et à ses clients. Si une instruction malveillante tente de détourner cet agent pour lui faire transmettre des documents confidentiels à un destinataire non autorisé, Theras Guard intervient avant l'exécution de l'action. La demande est alors analysée au regard des règles de sécurité de l'entreprise et peut être bloquée.

L'outil intègre également une console de supervision permettant à l'expert en cybersécurité de suivre les requêtes, de consulter les décisions prises et, lorsque cela est nécessaire, d'intervenir. Chaque action fait l'objet d'une traçabilité, avec un journal exploitable par les systèmes de supervision de sécurité de l'entreprise (SIEM).

Autre atout : Theras Guard a été pensé pour faciliter son intégration dans les environnements existants.

Theras Guard en images

Un outil de cybersécurité développé en 36 heures

Développer une telle solution en 36 heures représentait un véritable défi. Pour tenir les délais, les trois étudiants ont rapidement réparti les responsabilités en fonction de leurs compétences et des différents blocs nécessaires au fonctionnement de l'outil.

L'ensemble du projet a été développé en Python, avec GitHub pour la gestion et le partage du code. Mais au-delà de la répartition technique, c'est surtout leur méthode de travail qui leur a permis d'avancer efficacement. Les étudiants ont commencé par une phase de brainstorming pour définir rapidement les grandes lignes du projet et les objectifs à atteindre. Ils ont ensuite découpé les 36 heures en plusieurs phases de développement, ponctuées de points réguliers toutes les deux à trois heures.

« Nous nous étions fixé des objectifs intermédiaires. À chaque étape, nous mettions en commun nos avancées, vérifiions que les différents modules fonctionnaient ensemble et corrigions les éventuelles incohérences », racontent-ils.

45 attaques bloquées sur 45 pendant le hackathon : des premiers résultats prometteurs

Pour démontrer l'efficacité de leur solution, les étudiants ont également développé un outil interne de génération de scénarios d'attaque, baptisé Forge. Celui-ci s'appuie sur un modèle d’IA capable de comprendre et de générer du texte (LLM) pour produire automatiquement différentes situations destinées à mettre Theras Guard à l'épreuve.

Lors des tests présentés au jury, 60 scénarios ont été exécutés. Parmi eux, 45 correspondaient à de véritables attaques, qui ont toutes été bloquées. Vingt actions ont nécessité une validation humaine. L'équipe a également relevé zéro faux positif, c'est-à-dire aucune action légitime bloquée à tort. Ces premiers résultats, obtenus dans le cadre des scénarios testés pendant le hackathon, ont constitué un argument important pour démontrer le potentiel de la solution.

Un pitch convaincant devant le jury du hackathon

À l'issue des 36 heures de développement, les équipes devaient défendre leur réalisation devant un jury de professionnels. Pour Theras Guard, l'exercice était particulièrement exigeant : cinq minutes de présentation, suivies de deux minutes de questions.

« Nous pensons que notre présentation a joué un rôle important. Nous avons réussi à expliquer clairement le problème auquel nous répondions, à montrer le fonctionnement de notre solution et à présenter un produit déjà opérationnel, avec une réflexion sur ses possibilités de déploiement », expliquent-ils.

Un moment les a particulièrement marqués : à l'issue de leur présentation, un membre du jury leur a demandé de résumer leur projet en seulement dix secondes, en s'adressant à un interlocuteur non spécialiste du sujet. Un exercice qu'ils sont parvenus à relever avec succès.

À l’annonce des résultats, leur équipe a décroché le 2ᵉ prix de la catégorie « AI for Security & Secure AI », remportant ainsi une récompense de 1 000 euros. Une belle reconnaissance pour leur travail et leur engagement autour des enjeux de cybersécurité liés à l’intelligence artificielle.

Une expérience formatrice en IA et cybersécurité et une aventure qui ne fait que commencer

Au-delà de la récompense, les trois étudiants retiennent une expérience particulièrement riche, qui leur a permis de mobiliser et de développer des compétences complémentaires : programmation, architecture logicielle, travail collaboratif, gestion de projet, mais aussi communication et présentation d'une innovation devant des professionnels.

« Nous avons rencontré des étudiants, mais aussi des ingénieurs déjà diplômés, des professionnels et des participants qui avaient remporté d'autres hackathons. Cela peut être impressionnant au départ, surtout lorsque l'on participe pour la première fois. Mais cette expérience nous a montré que l'expérience ne fait pas tout : la complémentarité d'une équipe, la pertinence d'une idée et la capacité à défendre son projet comptent tout autant. »

Forts de cette première réussite, les étudiants envisagent désormais la suite de l'aventure Theras Guard. Ils ont commencé à réfléchir à son positionnement, aux entreprises susceptibles d'être intéressées et aux évolutions qui permettraient de transformer leur prototype en une solution répondant à des besoins réels du marché.

Ils échangent notamment avec des professionnels et des entrepreneurs pour identifier les usages prioritaires et définir leur stratégie de développement. Une nouvelle étape est aujourd'hui engagée : l'équipe prépare la commercialisation de Theras Guard, avec l'ambition de faire passer le projet du prototype à une solution destinée aux entreprises, avec l’accompagnement d’IMT Starter, l'incubateur porté par Télécom SudParis. Le site de Theras Guard a également été publié.

Et leur enthousiasme ne s'arrête pas là : les trois étudiants ont déjà commencé à se renseigner sur de prochains hackathons, avec l'envie de renouveler l'expérience et de porter à nouveau les couleurs de Télécom SudParis.

Leur conseil aux étudiants qui hésiteraient encore à se lancer ? Ne pas attendre de se sentir parfaitement prêt. Oser participer, s'investir pleinement et apprendre sur le terrain. Car c'est aussi en confrontant ses idées à la réalité que l'on progresse le plus.

Une belle illustration de l'esprit d'initiative, de la créativité et de l'engagement de nos élèves-ingénieurs.

Bravo à Steve Tekombong, Thélio Larue et Rayan Okombi-Okoko pour cette belle réussite !

 

En savoir plus :

→ Découvrir la formation d’ingénieur généraliste à Télécom SudParis

 

Ces articles pourraient aussi vous intéresser :

© Télécom SudParis – Siret : 180 092 025 00055 – APE : 8542Z