Euractiv a publié un brouillon de livre blanc de la Commission européenne pour une approche européenne de l’intelligence artificielle, dans lequel elle considère l’imposition d’une interdiction de 3 à 5 ans de la reconnaissance faciale dans les lieux publics pour les acteurs publics comme privés.

Cette période servirait à développer une méthodologie pour évaluer l’impact de la reconnaissance faciale, et pour identifier et développer d’éventuelles mesures de gestion de risque.

Le livre blanc rappelle que toute exploitation de la reconnaissance faciale en Europe doit se plier au RGPD (Règlement Général sur la Protection des Données), qui confère notamment à tout citoyen le droit de ne pas être le sujet d’une décision basée exclusivement sur un traitement automatisé, y compris le profilage.

Plus généralement, les auteurs proposent cinq options de régulation pour l’intelligence artificielle :

  • Conformité volontaire à un ensemble de règles, donnant droit à l’exploitation d’un label d’éthique et de confiance ;
  • Exigences spécifiques pour l’administration publique, qui pourrait s’inspirer d’une approche similaire mise en œuvre au Canada ;
  • Les applications ou les secteurs à haut risque (comme santé, aéroports, transports, police, justice) devront se conformer à des règles de gestion de risque juridiquement contraignantes ;
  • Sécurité et responsabilité : des amendements ciblés sur législation européenne sur la sécurité et la responsabilité pourront être pris pour couvrir les risques liés aux futurs développements de l’intelligence artificielle : directive générale sur la sécurité des produits, directive sur les machines, directive sur les équipements radio, directive sur la responsabilité du produit ;
  • Enfin la cinquième option, la gouvernance, nécessite un système puissant de supervision publique par des autorités nationales, et la coopération de ces dernières.

Les approches adoptées formellement seront sans doute un mélange des options 3, 4 et 5.

L’initiative européenne nous semble fondamentale pour un sain développement de l’intelligence artificielle au service des êtres humains.

Même Sundar Pichai, CEO de Google, affirme publiquement que l’intelligence artificielle est trop importante pour ne pas être régulée, et que les inquiétudes sur ses effets potentiellement négatifs sont fondées.

Aujourd’hui, de nombreuses agences de maintien de l’ordre aux États-Unis exploitent une application de reconnaissance faciale de Clearview AI, une jeune pousse qui a collecté en toute illégalité plus de 3 milliards de photographies sur les réseaux sociaux et autres sites sur la toile.