Langue

  • Français

L’IA pour la sécurité : des machines pour accroître les capacités humaines

On entend de plus en plus parler d’intelligence artificielle (IA). Elle semble omniprésente dans pratiquement tous les secteurs de même que dans un vaste éventail de technologies, comme les véhicules autonomes et les assistants numériques. Mis à part le battage médiatique et les inquiétudes que suscite la prise de pouvoir par les robots, l’IA, qui repose sur une approche pragmatique, des techniques scientifiques et des opérations mathématiques, permet d’analyser un très grand volume de données, de dégager des constantes et de repérer des anomalies.

IDC a récemment publié son guide semestriel des dépenses consacrées aux systèmes cognitifs et à l’intelligence artificielle (en anglais). Selon IDC, les dépenses du Canada en matière d’IA et de systèmes cognitifs atteindront 675,2 millions $ CA en 2018. Selon le groupe consultatif sur les TI d’IDC Canada, l’adoption de l’IA au Canada augmentera de plus de 50 % d’ici deux ans.

Nous savons donc que l’IA devient un élément incontournable dans nos façons de faire. Qu’est-ce que cela signifie pour la sécurité?

Prenons l’exemple de TELUS, où je travaille. TELUS est une entreprise aux besoins complexes qui a concentré ses travaux en matière d’IA sur les applications d’intervention en cas d’incident de sécurité. Les intervenants en cas d’incident sont les gardiens de l’entreprise. Nous surveillons et controns les menaces et leurs auteurs. Durant mes années d’intervention en cas d’incident, j’ai constaté le chemin parcouru par les entreprises dans le continuum du spectre du savoir. Les données sont toujours le point de départ. Puis, on trouve des façons d’automatiser la conversion de ces données en information. Plus récemment, on a commencé à transformer l’information en connaissances au moyen de ce qu’on appelle l’IA faible, à savoir une intelligence machine qui se focalise sur une tâche précise.

Il faut aussi savoir que les machines jouent un rôle essentiel en matière d’automatisation à chaque stade du spectre du savoir. Toutefois, ce n’est que depuis peu que les machines offrent des capacités nous permettant d’appliquer des algorithmes d’IA à l’échelle requise pour résoudre des problèmes complexes et réels.

Mais l’étape décisive, et sans doute la plus importante, relève toujours de la compétence humaine. Une fois que nous possédons les connaissances et l’information produites par des algorithmes créés par l’homme, nous devons poursuivre le cheminement et transformer ces acquis en sagesse pour en arriver à une meilleure compréhension et savoir comment répondre à une situation en particulier.

Les stades du spectre du savoir : données, information, connaissances et sagesse

Le spectre du savoir et son rôle dans les interventions en cas d’incident sont un exemple de la coexistence des machines et de l’homme dans un contexte d’intelligence artificielle et de sécurité.

Données

Les données sont composées d’événements bruts générés par un environnement donné. Par exemple, Alice a ouvert une session à 9 h, et Bob l’a fait par l’intermédiaire d’un RPV à partir de Vancouver. Si votre bassin d’utilisateurs est aussi grand que celui de TELUS, le volume de données à traiter manuellement est énorme. En fait, les systèmes de TELUS génèrent 4,2 milliards d’événements par jour. Des « moteurs » de collecte de journaux modulables sont essentiels à nos équipes d’intervention en cas d’incident pour maîtriser la situation.

Information

L’homme a de la difficulté à traiter de tels volumes de données. Mais il nous faut interpréter ces événements pour assurer la sécurité de nos clients et de nos systèmes. Grâce à l’automatisation des systèmes permettant de transformer ces données en information, nos équipes de sécurité peuvent concentrer leurs analyses sur un volume réduit de renseignements utiles. Jusqu’ici, les outils à notre disposition n’offraient que des capacités de traitement et d’analyse relativement simples. En fait, dans le sondage sur les analyses de la sécurité de l’institut SANS de 2016 (en anglais), 66 % des organisations déclaraient avoir mis au point des systèmes d’analyse à l’interne, et seulement 4 % d’entre elles estimaient que le processus d’analyse était entièrement automatisé. Cet écart a créé une ouverture sur le marché pour l’application de l’IA et de techniques d’apprentissage machine.

Connaissances

Pour bénéficier d’une meilleure gestion du volume de données, d’une puissance de traitement accrue et d’analyses plus approfondies, les organisations ont commencé à adopter l’IA et l’apprentissage machine. Mais il faut encore s’occuper d’une autre nécessité, celle de découvrir l’intention, un aspect difficile à codifier.

Certains chercheurs en IA s’y consacrent en appliquant des analyses du comportement de l’utilisateur pour comprendre l’intention derrière les actions. Ils examinent par exemple les habitudes d’utilisation du courriel et des cartes à bande magnétique pour déceler les anomalies et les risques. Il s’agit d’une approche fort prometteuse pour les interventions en cas d’incident, puisque, dans un grand nombre d’entre elles, nous intervenons en suivant notre instinct.

À l’instar des policiers, il n’y a jamais suffisamment d’analystes pour passer au peigne fin toute l’information et prendre une décision éclairée. Or, en automatisant la conversion de données en information et en connaissances, nous pouvons nous concentrer sur la prise de mesures appropriées et l’harmonisation des processus en conséquence.

Sagesse

On entend par sagesse la compréhension juste des choses – la raison pour laquelle un événement s’est produit, et non le fait qu’il se soit produit ou la façon dont il s’est produit. Et le motif est un élément manifestement très utile à connaître dans un contexte de sécurité. Il nous aide à comprendre si une personne ou une organisation est visée systématiquement ou s’il s’agit d’un événement unique. Nous pouvons partager nos découvertes entre collègues de tous les secteurs pour améliorer la gestion du risque et mieux comprendre les intentions des auteurs des menaces.

Dans le cyberespace, la juste compréhension des choses n’est pas une mince affaire. On ne peut pas prendre d’empreintes digitales. Voilà pourquoi les esprits les plus brillants doivent occuper des fonctions en cybersécurité. Ce dernier stade dans le continuum du spectre du savoir montre à quel point l’homme et la machine se complètent. Les machines sont essentielles à l’automatisation de la production de connaissances. Les hommes doivent utiliser celles-ci pour acquérir de la sagesse et déterminer les mesures à prendre.

Les machines peuvent accroître notre sécurité

D’un point de vue de sécurité, la « marche des machines » combinée à la conception d’applications par et pour les hommes fait en sorte que notre société est plus sécuritaire. Nous pouvons couvrir un plus grand nombre de vecteurs d’attaque. Nous pouvons surveiller un plus grand nombre de systèmes de diverses façons sans augmenter la taille de l’équipe. Nous pouvons profiter de la vitesse de réponse des machines pour analyser des ensembles de données de taille colossale. Si nous pouvons extraire des connaissances de manière automatisée, alors nous pouvons automatiser et grandement améliorer nos interventions et l’atténuation des risques.

Les menaces évoluent rapidement. Le traitement rapide de grands volumes de données (tout en privilégiant la protection de la vie privée), la production automatisée de connaissances et l’acquisition de sagesse peuvent favoriser de meilleurs résultats en matière de sécurité.

Pour en savoir plus sur les répercussions technologiques et sociales de l’intelligence artificielle, lisez notre billet de blogue Bina48 : la prochaine frontière technologique ou l’apocalypse des robots?

Comments are closed.