Skip to main content

Avis d'expert

Data & IA

Cybersécurité à l’ère de l’IA : quand l’intelligence rencontre la responsabilité

Publié le 18/11/2025

– Écrit par Nguyen Pham Quang Viet

Retour sur une journée au SITI 2025, entouré par le bourdonnement de l’innovation et l’intensité silencieuse de ceux qui savent que l’intelligence artificielle ne se contente pas de transformer la technologie — elle redéfinit notre manière de penser l’expertise, la confiance et le contrôle.

Ce n’était pas une conférence sur les outils ou les algorithmes. C’était une conférence sur l’équilibre.
Entre la vitesse et la sécurité. L’automatisation et la responsabilité. Des machines capables de réfléchir — et des humains qui doivent encore décider.

La matinée a commencé par une discussion qui illustrait parfaitement l’enthousiasme désordonné de l’adoption actuelle de l’IA. « Beaucoup d’organisations », a dit quelqu’un, « ne planifient pas leur stratégie IA — elles y tombent par hasard. » Les départements testent des copilotes, des pilotes se multiplient partout, et soudain, une entreprise se retrouve avec une douzaine d’expériences déconnectées et aucune direction claire.

SITI 2025, AI

Cela est frappant. Ce n’est pas un manque de vision ; c’est un manque de coordination.
Tout le monde veut innover, mais peu veulent s’arrêter pour définir ce que signifie réellement la réussite. Les dirigeants craignent que ce processus ralentisse les progrès, tandis que les équipes techniques redoutent que la bureaucratie étouffe la créativité.
Résultat ? Une fragmentation déguisée en innovation.

En écoutant, nous comprenons que la gouvernance n’est pas un frein — c’est un volant.
Lorsqu’une entreprise investit tôt dans l’alignement — en définissant ses valeurs, son éthique et sa tolérance au risque — elle ne perd pas en vitesse ; elle gagne en clarté. Une gouvernance bien pensée ne contraint pas ; elle oriente.

Plus tard dans l’après-midi, une session de Palo Alto Networks a ajouté une note plus préoccupante. Près de huit entreprises sur dix utilisent déjà l’IA en production, mais moins de trois sur dix ont effectué une évaluation des risques liés à l’IA.

Ce paradoxe est marquant.
Nous adoptons l’IA plus vite que nous ne la sécurisons.

L’IA n’ajoute pas simplement une nouvelle couche logicielle ; elle transforme toute la surface du risque. Les données circulent de manière imprévisible. Les invités peuvent être manipulés. Les modèles peuvent être trompés pour révéler ce qu’ils ne devraient pas.
Et en écoutant, une question se pose : comment sécuriser quelque chose qui apprend plus vite que nous ne pouvons l’auditer ?

La conclusion était claire : la sécurité de l’IA doit commencer avant la mise en production du premier modèle. Testez-le en isolation. Observez son comportement. Comprenez ce qu’il peut exposer. Et surtout, gardez un humain dans la boucle pour les décisions critiques. L’objectif n’est pas d’enfermer l’innovation, mais d’intégrer la sécurité dans sa conception même — un équilibre délicat entre agilité et assurance.

Au milieu des sessions techniques, une vérité plus discrète revenait sans cesse : l’IA ne remplacera jamais le jugement humain.
Elle peut analyser des téraoctets de journaux et identifier des anomalies en millisecondes — mais elle ne comprend pas pourquoi quelque chose est important. Elle ne perçoit pas l’hésitation dans un choix ni le doute dans un schéma.

Le contexte, l’empathie et l’intention restent des territoires humains.

Pour prospérer à cette époque, les experts doivent évoluer — non pas pour concurrencer l’IA, mais pour la compléter. La précision devient une discipline ; la curiosité, une garantie.
Les meilleurs défenseurs ne se contenteront pas de comprendre comment l’IA se comporte, mais aussi comment elle se comporte mal — comment peut-elle être manipulée ou faire des suppositions. L’avenir de la cybersécurité appartiendra à ceux qui associent la logique à l’éthique, les données au discernement, et la vitesse à la conscience.

En fin de journée, un débat sur la confiance a suscité des discussions animées.
Si même les pionniers de l’IA admettent que nous ne pouvons pas nous fier entièrement à ses résultats, comment pouvons-nous lui confier la défense de nos systèmes ?

Une réponse possible serait la coexistence.
Nous n’avons pas besoin d’une confiance aveugle — nous avons besoin d’une validation continue. Les machines peuvent détecter et réagir à la vitesse des machines, mais les humains doivent encore interpréter le sens. Certains qualifient ce modèle hybride d’inefficace. En revanche, cela pourrait-être vu comme une redondance nécessaire. En cybersécurité, la duplication n’est pas un gaspillage ; c’est une résilience.

SITI 2025, AI, data

Les derniers panels se sont tournés vers l’avenir — l’aube de ce que Cisco appelle l’ère de l’IA agentique.
Ce ne sont plus des copilotes ou des assistants, mais des systèmes autonomes capables de raisonner, de planifier et de collaborer avec d’autres agents IA. Construits sur des infrastructures hybrides — des GPU NVIDIA aux clusters Kubernetes — ils représentent non seulement une évolution, mais une escalade.

Et pourtant, au milieu de ces merveilles techniques, on peut se surprendre à réfléchir à ce que l’IA a déjà accompli.
Du code qui s’écrit tout seul.
Des systèmes qui détectent les ransomwares avant qu’ils ne se propagent.
Des outils qui donnent la vision et la voix à ceux qui en étaient privés.

Ce ne sont pas des menaces pour le travail humain — ce sont des extensions.
L’IA ne remplacera pas la curiosité ni l’empathie ; elle remplacera la répétition. Ce n’est pas une perte. C’est une libération.

En quittant le SITI 2025, il serait normal de se sentir à la fois inspiré et préoccupé. L’IA détecte, décide et même défend — mais elle ne peut toujours pas être responsable. Cela reste notre rôle.

Le défi à venir n’est pas de savoir si les machines peuvent penser, mais si nous pouvons les guider avec sagesse.
La gouvernance, la transparence et l’éthique ne sont pas des accessoires ; ce sont les fondations du progrès intelligent.

L’avenir appartiendra à ceux qui avancent vite et réfléchissent profondément — à ceux qui utilisent l’IA non pas comme un substitut à l’intelligence humaine, mais comme un partenaire qui l’amplifie.
L’IA peut protéger, prédire et performer — mais seuls les humains peuvent s’assurer qu’elle le fait avec un objectif.