La CNIL recale l’algorithme du système APB

La CNIL a mis en demeure le ministère de l’enseignement supérieur sur le système d’admission post bac. Le gouvernement a 3 mois pour rectifier le tir.

A croire que l’acronyme APB signifie « algorithme pensé bêtement ». Le régulateur en charge de la protection de la vie privée vient en tout cas de lancer un avertissement sans frais au ministère de l’enseignement supérieur sur la plateforme d’admission post-bac. Cette dernière a pour objectif de décider l’orientation des élèves à partir de plusieurs critères : les vœux des candidats, leur localisation et leur situation de famille.

Pas de pleins pouvoirs pour les algorithmes

Saisie en 2016, la CNIL a mené une enquête en mars 2027. Dans sa mise en demeure publiée aujourd’hui, le régulateur relève plusieurs manquements à la loi Informatique et Libertés. En premier lieu, la CNIL critique l’omnipotence de l’algorithme sans qu’aucune intervention humaine ne vienne équilibrer ou pondérer la décision finale. Le régulateur s’appuie sur l’article 10 de la loi Informatique et Libertés, prévoyant qu’aucune « décision produisant des effets juridiques à l’égard d’une personne ne peut être prise sur le seul fondement d’un traitement automatisé de données destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité ». En pleine discussion sur le pouvoir de l’intelligence artificielle, ce rappel de la CNIL peut s’appliquer à d’autres activités gérées par les algorithmes.

Un plaidoyer pour la transparence des algorithmes

La faible transparence sur le fonctionnement de l’algorithme est par ailleurs montrée du doigt. Il n’existe aucune explication pour savoir pourquoi un élève obtient un score et son coreligionnaire un score différent avec des critères similaires.

En octobre 2016, le ministère avait publié une partie du code source de la plateforme après une bataille juridique, sans lever les doutes sur l’opacité de l’algorithme. La CNIL rappelle donc que « les informations permettant de connaître et de contester la logique qui sous-tend le traitement automatisé en cas de décision prise sur le fondement de celui-ci et produisant des effets juridiques à l’égard de l’intéressé ».

En dehors d’APB, toutes administrations utilisant un algorithme devra s’employer à une politique de transparence et d’explication. Une orientation qui milite vers la publication du code source des algorithmes.

Une plateforme morte en 2018

Parmi les autres oublis d’APB, la CNIL note l’insuffisance d’informations comme l’identité du responsable de traitement, la finalité du traitement et les droits des personnes.

Cette décision intervient au moment de la rentrée universitaire. La plateforme a été fortement critiquée à la rentrée en laissant plus de 3000 élèves sans affectation. Le gouvernement par la voix de la ministre de l’enseignement supérieur, Frédérique Vidal, a en septembre dernier annoncé la mort de la plateforme d’ici 2018.

Crédit Photo: VisualHunt

Auteur : Jacques Cheminat

Journaliste pendant 15 ans sur les thématiques, télécoms, réseaux, datacenter, stockage, sécurité, virtualisation, etc..., j'ai choisi d'ouvrir ce blog pour écrire sur tous les sujets IT, les tendances et mes humeurs.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s