Aller au contenu
Aide Valdra
Gouvernance de l’IA

Incidents d’IA

Consignez le moment où un outil d’IA se trompe, évaluez sa gravité et gardez une trace de ce que vous avez fait.

Lire la vidéo en texte

Incidents d’IA, dans Valdra.

La clinique de cette vidéo est fictive, comme chaque détail.

Quand un outil d’IA se trompe et cause un préjudice, ou aurait pu en causer, consignez un incident d’IA.

Donnez-lui un titre, la catégorie la plus proche et le système d’IA concerné.

Sur la page de l’incident, évaluez sa gravité. Quand la loi européenne sur l’IA s’applique, la page indique s’il faut le signaler et dans quel délai.

Consignez la correction sous Résolution : le statut, les mesures correctives et la cause première.

Les notes de suivi s’ajoutent au fil, pour que le dossier montre ce que vous avez fait et quand.

À quoi ça sert

Un outil d’IA a fait une erreur qui a causé un préjudice, ou aurait pu en causer un. Vous la consignez, évaluez sa gravité et notez comment vous l’avez corrigée. La page suit l’article 73 du Règlement européen sur l’IA, qui fixe des délais pour signaler les incidents graves.

Ceci est une orientation générale, pas un avis juridique.

Avant de commencer

  • Forfait : tous les forfaits peuvent consigner et évaluer les incidents. Rédiger le rapport demande Starter et plus.
  • Rôle : un Administrateur ou un Membre peut consigner et modifier les incidents. Un Auditeur peut les lire.
  • À avoir sous la main : ce qui s’est passé, quand, le système d’IA concerné et le nombre de personnes touchées.

Étapes

Ouvrez Incidents d’IA

Dans le menu, ouvrez Gouvernance de l'IA, puis cliquez sur Incidents d’IA sous Exploiter.

Incidents d’IA sans incident consigné.
Incidents d’IA sans incident consigné.

Cliquez sur Consigner un incident

Entrez un Titre. Sous Catégorie (art. 73), choisissez la plus proche, par exemple Dysfonctionnement. Sous Système d’IA concerné, choisissez le système.

Ajoutez une Description et la Nature du préjudice si vous les connaissez. Entrez le nombre de Personnes touchées.

Cliquez sur Consigner.

Le formulaire Consigner un incident d’IA pour une note transcrite avec le mauvais médicament.
Le formulaire Consigner un incident d’IA pour une note transcrite avec le mauvais médicament.

Ouvrez l’incident

L’incident s’affiche sous Ouverts. Cliquez sur son titre pour l’ouvrir.

Le nouvel incident sous Ouverts, pas encore évalué.
Le nouvel incident sous Ouverts, pas encore évalué.

Cliquez sur Évaluer la gravité (art. 73)

Valdra évalue la gravité de l’incident et s’il doit être signalé. Avant cela, l’incident affiche Non évalué. La gravité s’affiche ensuite : Non grave, Grave ou Critique, avec les motifs sous Évaluation.

Sous Faits, Juridictions affiche un code court, comme CA-QC, et non le nom du lieu.

La page de l’incident avec la carte Réponse à l’incident.
La page de l’incident avec la carte Réponse à l’incident.

Consignez la correction

Sous Résolution, choisissez le Statut. Remplissez Mesures correctives et Cause première. Cliquez sur Enregistrer. Vous verrez Enregistré.

Ajoutez des notes de suivi sous Notes de suivi.

Ce que vous verrez

La liste a des vues : Ouverts, À signaler, Délai dépassé, Exercices et Fermés. Un incident à signaler affiche le temps qui reste pour le faire.

Quand un incident doit être signalé, Rédiger le rapport rédige un rapport pour l’autorité. Le rapport s’affiche sous Rapport pour l’autorité (art. 73). Il est rédigé en anglais. Une fois l’autorité avisée, cliquez sur Marquer l’autorité avisée. Entrez l’Autorité et la Date de l’avis, puis cliquez sur Consigner.

Des renseignements personnels ont été perdus ou communiqués par erreur? Sur la page de l’incident, cliquez sur Ouvrir l’intervention en cas d’atteinte.

Lancer un exercice crée un incident d’entraînement. Il s’affiche seulement sous Exercices, pas dans les autres vues.

Erreurs fréquentes et solutions

Le bouton Consigner reste gris. Le Titre est vide. Entrez-en un.

Rédiger le rapport est grisé. Vous voyez Évaluez d’abord : non signalable pour le moment. Cliquez d’abord sur Évaluer la gravité (art. 73).

Vous avez changé la catégorie. Réévaluez la gravité après un changement de catégorie.

Si ça n’a pas fonctionné

Le nombre de personnes touchées est un nombre entier de 0 ou plus. Entrez un nombre sans décimales.

L’incident n’a pas été consigné. Réessayez. Attendez un instant et cliquez de nouveau sur Consigner.

La rédaction automatique n’est pas disponible pour le moment. Réessayez Rédiger le rapport plus tard.

L’action a échoué. Réessayez. Le bouton cliqué n’a pas abouti. Réessayez.

L’enregistrement a échoué. Réessayez. Votre modification n’a pas été enregistrée. Cliquez de nouveau sur Enregistrer.

La note n’a pas été ajoutée. Réessayez. Cliquez de nouveau sur Ajouter.

L’exercice n’a pas démarré. Réessayez. Cliquez de nouveau sur Lancer un exercice.

Étape suivante

Vérifiez les appels d’IA avec la passerelle.

Sur cette page