Pourquoi et comment protéger les données sources de l’intelligence artificielle

Pour les entreprises les plus avancées dans l’intégration de l’IA, l’heure est désormais au passage d’une phase de POC (Proof-of-Concept) à une phase de déploiement opérationnel. Cette dernière, salutaire car elle permet de constater les bénéfices de l’IA, s’accompagne d’un certain nombre de challenges : mobilisation du capital humain, intégration au SI de l’entreprise, automatisation des chaînes de traitement de données.

Les IA sont devenues ainsi des éléments contributifs à la chaîne de production des biens ou services. Il convient de sécuriser leur fonctionnement tant en terme de motorisation (les algorithmes) que de carburant (les données).

Ceci est particulièrement vrai dans les applications faisant appel au machine-learning et produisant des indicateurs opérationnels basés sur le prédictif ; on pense notamment aux applications suivantes :

• moteur de recommandation dans les e-services ou le e-commerce ;
• gestion prédictive de stock ;
• maintenance prédictive ;
• anticipation des ventes ;
• prévention des fraudes ;
• liste non limitative…

Une fois déployées à l’échelle, ces intelligences artificielles participent directement au processus business ou encore aux transactions avec les clients et fournisseurs.

On peut alors aisément imaginer les incidents et conséquences d’un arrêt de fonctionnement des IA, ou de résultats erronés voire manipulés : perte de CA, risque sur la réputation, augmentation de coûts directs…

Ainsi, les entreprises désireuses de mettre en production l’IA doivent intégrer dans leur gouvernance un chapitre dédié à l’analyse de risques et au maintien en sécurité des données alimentant les algorithmes.

L’ISO 27005 comme outil de sécurisation des intelligences artificielles

ISO 27005 est une norme internationale décrivant les lignes directrices à adopter pour la gestion des risques en sécurité de l’information. Elle vise à appréhender les risques, identifier les menaces et vulnérabilités pesant sur les processus business, mesurer leurs impacts potentiels et traiter les risques. 

Deux composantes de la norme nous semblent particulièrement adaptées au contexte de l’IA.

1-. La qualification des conditions de traitement des données au regard de la disponibilité, l’intégrité et la confidentialité.

• Disponibilité : sans une disponibilité garantie des données sources, les algorithmes ne sont plus alimentés, les IA ne produisent plus de résultats ; le processus business sous-jacent s’arrête.
• Intégrité : si les données sources sont corrompues ou sciemment modifiées, les résultats produits par l’IA sont faussés ; les décisions business qui en découlent sont erronées.
• Confidentialité : les paramètres des algorithmes doivent être protégés pour empêcher des actions visant à manipuler les IA.

2-. Le cycle PDCA (Plan – Do – Check – Act) pour l’amélioration continue du maintien en sécurité.

• Plan : modéliser les conditions dans lesquelles les données doivent être acquises, nettoyées, préparées pour les traitements algorithmiques ; évaluer les risques et les traiter.
• Do : mettre en place des mesures de protection autour des données et algorithmes.
• Check : vérifier régulièrement que les mesures en place sont adaptées et à jour.
• Act : réviser régulièrement la politique de sécurité, intégrer les nouveaux jeux de données et leur contexte d’exploitation.

Ainsi, la gestion des risques sur les données est un élément essentiel à prendre en compte dans la gouvernance des projets d’intégration de l’intelligence artificielle. Elle doit accompagner la mise en production des capacités de l’IA et être définie dès les phases de POC. 

Les centres d’excellence IA doivent intégrer, au moins régulièrement, la participation du RSSI ou de consultants certifié ISO 27005.