lundi 30 janvier 2017

Régulation des algorithmes ?

Vous en avez peut être entendu parler : l'état français réfléchit à créer une instance de "régulation des algorithmes". En clair il s'agit de placer des limites éthiques d'utilisation du "machine learning".
Je vais ce soir à une réunion de présentation à CAP Digital, j'espère y avoir quelques éléments de réponse à ces questions qui me sont venues à l'esprit :
  • Ce contrôle n'est-il pas un frein au développement du "machine learning" et de l'Intelligence Artificielles en France ?
  • Comment, en pratique, contrôler un algorithme?
    • Bien souvent, ces algorithmes sont considérés comme des secrets industriels.
    • En "machine learning" les algorithmes sont souvent "neutres", c'est les données qui les pilotent vraiment. Or ces données sont souvent confidentielles, et en plus elles peuvent changer très rapidement. Les algorithmes devraient alors être surveillé en permanence!?
    • Alors qu'on manque déjà de gens pour créer ces algorithmes, où trouver des gens pour les contrôler? Il semblerait que des gens de l'INRIA composerait une commission. Problème : l'INRIA vend aussi de tels algorithmes, peuvent-il être juge et partie ? et en plus avoir le droit de consulter tous les algorithmes de leur potentiels concurrents ?
    • Beaucoup de techniques de "machine learning" produisent des algorithmes dont même leur créateurs sont incapable de définir précisément les modes de fonctionnement. Cette incapacité est souvent due à des raisons théorique (ou l'absence de théorie suffisamment avancée) et non à l'incompétence de leur créateurs.
Si d'autres questions vous semblent intéressantes suggérez-les moi via Twitter (ou en commentaire de cet article).

Je ferai prochainement, ici, un bilan de ce que j'aurai entendu à cette réunion.