Gestion des risques et de responsabilité liés à l’intelligence artificielle

L’intelligence artificielle est désormais intégrée à de nombreux environnements professionnels.

Les organisations utilisent notamment des modèles de langage, des agents d’intelligence artificielle, des systèmes de génération de contenus, des systèmes d’analyse, des outils de recommandation, des systèmes de décision, des technologies de reconnaissance, des solutions de vision, des systèmes vocaux ou encore des technologies intégrées à leurs propres logiciels et infrastructures.

Cette intégration modifie parfois profondément les méthodes de travail, les processus, les prises de décision et les relations avec les clients, les fournisseurs ou les utilisateurs.

Lorsque l’intelligence artificielle intervient dans un processus, il devient alors nécessaire de pouvoir déterminer précisément :

• quelle technologie est utilisée
• quel fournisseur intervient
• quel modèle est utilisé
• dans quelle version
• dans quel environnement
• avec quelles données
• selon quelle configuration
• pour quel usage
• avec quelles interventions humaines
• quelles évolutions sont intervenues dans le temps

NeuriaLabs Risk & Responsibility apporte cette capacité d’analyse et de documentation.

L’une des particularités du département repose sur l’analyse de la situation de l’organisation avant l’intégration de l’intelligence artificielle.

NeuriaLabs établit un état de référence permettant de comprendre le fonctionnement initial de l’organisation ou du processus concerné.

Cette analyse peut porter notamment sur :

• les processus existants
• les méthodes de travail
• les systèmes utilisés
• les données exploitées
• les interventions humaines
• les décisions prises
• les résultats obtenus
• les performances
• les coûts
• les délais
• les taux d’erreur
• les responsabilités
• les procédures internes

Cette situation de référence permet ensuite de comparer le fonctionnement de l’organisation après l’intégration de l’intelligence artificielle.

L’analyse ne porte donc pas uniquement sur la technologie. Elle porte également sur l’évolution du fonctionnement de l’organisation résultant de l’utilisation de cette technologie.

NeuriaLabs analyse ensuite la technologie d’intelligence artificielle utilisée par le client.

Selon la nature du système concerné, cette analyse peut porter sur :

• le modèle d’intelligence artificielle
• le fournisseur
• l’éditeur
• la version du modèle
• l’API utilisée
• l’agent d’intelligence artificielle
• les outils auxquels l’agent peut accéder
• les données utilisées
• les modalités de traitement
• les paramètres
• les configurations
• les intégrations
• les systèmes connectés
• les différentes versions utilisées
• les conditions d’utilisation
• la documentation technique disponible
• les évolutions du système
• les modifications intervenues après son intégration

Cette analyse permet de disposer d’une compréhension précise de l’environnement technologique dans lequel l’intelligence artificielle intervient.

NeuriaLabs documente les conditions dans lesquelles l’intelligence artificielle est intégrée aux activités du client.

Nous établissons notamment :

• les usages de l’intelligence artificielle
• les processus concernés
• les systèmes concernés
• les interactions entre les différents composants
• les interventions humaines
• les automatisations
• les données utilisées
• les résultats produits
• les actions déclenchées
• les évolutions du système

Cette documentation permet de conserver une vision précise de l’environnement technologique au moment de l’intervention de NeuriaLabs. Elle constitue également une base de référence pour toute analyse ultérieure.

NeuriaLabs identifie les risques susceptibles de résulter de l’utilisation de l’intelligence artificielle dans l’organisation.

• erreurs de traitement
• erreurs de décision
• automatisations incorrectes
• dysfonctionnements
• dégradation des performances
• interruption d’un processus
• perte de productivité

• erreurs dans les recommandations
• erreurs de tarification
• mauvaise qualification de prospects
• erreurs dans les opérations commerciales
• pertes liées à des décisions automatisées

• erreurs de calcul
• erreurs de prévision
• décisions financières incorrectes
• opérations incorrectes
• pertes résultant d’un fonctionnement défaillant

• utilisation incorrecte de données
• exposition de données
• transmission de données à un tiers
• utilisation de données confidentielles
• traitement inapproprié de certaines informations

• modification d’un modèle
• changement de version
• évolution d’une API
• modification d’un système tiers
• défaillance d’un fournisseur
• interaction imprévue entre plusieurs technologies

Lorsque l’intelligence artificielle dispose de capacités d’action, les risques peuvent également concerner les opérations qu’elle est capable d’effectuer.

Un agent peut notamment analyser une information, prendre une décision, utiliser un outil, modifier une donnée, transmettre une information ou déclencher une opération.

L’analyse de NeuriaLabs tient compte de cette capacité d’action lorsqu’elle existe.

NeuriaLabs établit une situation de référence permettant de comparer l’environnement de l’organisation avant et après l’intégration de l’intelligence artificielle.

Cette comparaison peut permettre d’identifier :

• l’apparition d’un nouveau comportement
• une modification des performances
• une augmentation des erreurs
• une modification d’un processus
• une modification d’une décision
• une évolution d’un résultat
• une nouvelle dépendance technologique
• une modification intervenue après l’intégration ou l’évolution d’un système d’IA

Cette approche est essentielle lorsqu’un problème apparaît plusieurs mois après la mise en œuvre d’une technologie.

Elle permet de rechercher précisément à quel moment une modification est intervenue et quels éléments ont évolué entre la situation initiale et la situation constatée.

Lorsqu’un problème survient, NeuriaLabs peut intervenir afin d’en rechercher l’origine.

L’analyse porte notamment sur :

• les circonstances de l’incident
• la technologie concernée
• le modèle utilisé
• sa version
• les données concernées
• les paramètres
• les systèmes connectés
• les modifications intervenues
• les résultats produits
• les actions réalisées
• les conséquences constatées

NeuriaLabs reconstitue alors les différentes étapes ayant précédé l’incident.

L’objectif est d’établir une analyse technique permettant de déterminer les éléments susceptibles d’être à l’origine du problème.

À partir des éléments recueillis, NeuriaLabs constitue un dossier technique et documentaire.

Ce dossier rassemble notamment :

• l’analyse initiale
• la situation de référence
• l’environnement technologique
• les informations relatives au modèle
• les informations relatives au fournisseur
• les évolutions constatées
• les éléments techniques disponibles
• l’analyse de l’incident
• la chronologie des événements
• les conséquences constatées
• les éléments permettant d’établir les responsabilités susceptibles d’être engagées

Le dossier est conservé par le client afin de pouvoir être utilisé ultérieurement lorsque cela est nécessaire. Le client dispose ainsi d’un historique documenté de son utilisation de l’intelligence artificielle.

Lorsque l’analyse fait apparaître qu’un problème peut être lié à un fournisseur, un éditeur, un développeur, un intégrateur ou à un autre acteur technologique, NeuriaLabs accompagne le client dans la constitution des éléments techniques nécessaires à sa démarche.

L’objectif est de permettre au client de disposer d’un dossier précis et documenté pour :

• présenter les faits
• établir la chronologie
• identifier les éléments techniques concernés
• démontrer les conditions dans lesquelles le problème est apparu
• établir les conséquences constatées
• présenter les éléments permettant de rechercher la responsabilité du tiers concerné

NeuriaLabs intervient ainsi sur la dimension technologique et documentaire du dossier.

Lorsque l’intervention de professionnels du droit est nécessaire, les éléments techniques constitués par NeuriaLabs peuvent être transmis aux conseils du client afin de leur permettre de disposer d’une compréhension précise de l’environnement technologique concerné.

L’analyse initiale constitue le service principal.

NeuriaLabs propose également, à la demande du client, un service complémentaire de suivi continu de l’environnement d’intelligence artificielle. Ce service n’est pas intégré systématiquement à la prestation initiale. Il fait l’objet d’une intervention et d’une facturation distinctes.

AI Continuous Monitoring permet notamment de suivre :

• les changements de modèles
• les changements de versions
• les évolutions des fournisseurs
• les modifications des systèmes
• les évolutions des configurations
• les changements dans les usages
• les évolutions des performances
• les incidents
• les nouvelles dépendances technologiques
• les modifications susceptibles d’avoir une incidence sur l’environnement analysé

Le client peut ainsi demander à NeuriaLabs de poursuivre l’analyse de son environnement après la constitution du dossier initial.

NeuriaLabs Risk & Responsibility n’est pas limité à une catégorie particulière d’intelligence artificielle.

Le département peut concerner notamment :

• les LLM
• les modèles multimodaux
• les agents d’intelligence artificielle
• les systèmes de génération de texte
• les systèmes de génération d’images
• les systèmes de génération vidéo
• les systèmes de génération audio
• les systèmes vocaux
• les systèmes de vision
• les systèmes de recommandation
• les systèmes de prédiction
• les systèmes de scoring
• les systèmes décisionnels
• les systèmes d’automatisation
• les systèmes d’intelligence artificielle intégrés à des logiciels
• les systèmes d’intelligence artificielle intégrés à des infrastructures
• les systèmes d’intelligence artificielle utilisés dans des environnements industriels ou techniques

NeuriaLabs intervient indépendamment de la technologie utilisée dès lors qu’une analyse technique de son utilisation est nécessaire.

Le département s’adresse aussi bien aux TPE et PME qu’aux ETI, aux grands groupes et aux organisations publiques.

Il peut notamment être proposé aux :

• banques
• établissements financiers
• compagnies d’assurance
• fintech
• entreprises technologiques
• éditeurs de logiciels
• entreprises de cybersécurité
• sociétés de services
• entreprises industrielles
• entreprises pharmaceutiques
• entreprises de santé
• entreprises énergétiques
• entreprises de transport
• entreprises aéronautiques
• entreprises automobiles
• entreprises logistiques
• entreprises de commerce
• entreprises de distribution
• entreprises de commerce électronique
• entreprises immobilières
• entreprises de communication
• agences
• médias
• entreprises audiovisuelles
• entreprises sportives
• entreprises du secteur public
• administrations
• collectivités
• établissements publics
• gouvernements
• organisations internationales
• ONG

Le département s’adresse à toute organisation dont les activités intègrent ou sont susceptibles d’intégrer des technologies d’intelligence artificielle.

NeuriaLabs Risk & Responsibility repose sur une démarche précise :

• Analyser

  Comprendre l’organisation, ses processus et la technologie utilisée.

• Documenter

  Constituer les éléments relatifs à l’environnement technologique et à son utilisation.

• Établir

  Définir une situation de référence permettant de comparer les évolutions.

• Surveiller

  À la demande du client, suivre l’évolution de l’environnement technologique.

• Investiguer

  Analyser les incidents et rechercher leur origine.

• Constituer

  Rassembler les éléments techniques et documentaires nécessaires.

• Accompagner

  Permettre au client de disposer des éléments nécessaires pour faire valoir ses droits auprès des acteurs concernés.

L’objectif de NeuriaLabs Risk & Responsibility n’est pas de supposer l’origine d’un problème.

Il consiste à analyser les faits, reconstituer les événements et documenter les éléments techniques disponibles.

Cette approche permet de distinguer :

• ce qui existait avant l’utilisation de l’intelligence artificielle
• ce qui a été introduit avec son intégration
• ce qui a évolué par la suite
• ce qui a changé au moment de l’incident
• les conséquences qui ont été constatées

NeuriaLabs apporte ainsi au client une analyse technique documentée de son environnement d’intelligence artificielle.