Dénommé Advanced Technology External Advisory Council (ATEAC, conseil consultatif externe sur la technologie avancée), fondé pour guider « un développement responsable de l’intelligence artificielle » chez Google, le comité d’éthique était composé de huit membres, non rémunérés, qui devaient se rencontrer quatre fois par an dans le but d’évaluer les programmes d’IA de Google.
Parmi les sujets qui fâchent : l’IA ne renforce-t-elle pas les États autoritaires ? Doit-on travailler à des programmes militaires basés sur l’IA ? Les résultats des algorithmes d’IA sont-ils justes ? Reproduisent-ils nos biais ?
Il y a quelques jours près de 2 500 d’employés de Google ont signé une pétition exigeant la démission de Kay Coles James qu’ils accusent d’être anti-transsexuels, anti-LGBTQ et anti-immigrés.
La nomination de Dyan Gibbens, fondatrice et CEO de Trumbull Unmanned, une entreprise de drones, a inquiété sur les partenariats avec les militaires.
Alessandro Acquisti, professeur à l’Université Carnegie Mellon, a démissionné.
On demanda aux autres nominés de justifier leur décision de rester.
Finalement, Google a mis fin au fiasco en dissolvant le comité. Elle a déclaré à Vox :*
Il est devenu évident que dans l’environnement actuel, l’ATEAC ne peut pas fonctionner comme nous le souhaitions. Nous mettons donc fin au comité et repartons de zéro. Nous continuerons à être responsables dans notre travail sur les questions relatives à l’IA et nous trouverons d’autres moyens d’obtenir des opinions externes sur ces sujets.
* Traduction: Le Diligent