La plupart des algorithmes performants actuels – notamment l’apprentissage profond (deep learning) et ses réseaux de neurones – fonctionnent comme des boîtes noires. On sait qu’ils donnent de bons résultats, mais impossible de comprendre leur logique interne. Ceci pose problème pour de nombreux domaines d’application (médecine, justice…), ce qui incite les régulateurs à exiger des systèmes « explicables ». Plusieurs pistes vers l’explicabilité existent. Zoom sur la « prétopologie ».

Alors que le dispositif avait suscité de nombreuses critiques au sein d'associations en France, la CNAF a choisi de ne pas renoncer à son algorithme de contrôle des allocataires et vient de déployer un nouveau modèle de « data mining ».​ Cette fois, l’organisme mise sur une communication plus transparente et a décidé de soumettre l’algorithme à la vérification de tout un chacun. Numerama a pu s’entretenir avec son directeur, Nicolas Grivel, qui détaille cette démarche.