Quand Les Algorithmes “Décident”,
A Qui Incombe La Responsabilité ?

Nos villes sont progressivement gouvernées par des technologies de plus en plus complexes. Au quotidien, chacun a tendance à leur faire confiance… Après tout, ce sont des machines et elles sont censées être objectives. Mais dans ce cas, nous sommes tous réduits à un réseau de données. Alors, quelles peuvent être conséquences pour nous, citoyens ? Plus important encore, lorsque les algorithmes “décident”, à qui incombe la responsabilité en cas de défaillance ?

Au nom de l’optimisation des services urbains, les “solutions” Smart City se sont développées à tel point que l’on confie certaines tâches quotidiennes à des algorithmes. Au quotidien, personne ne se pose plus réellement de questions sur l’autonomisation de nos lignes de métro ou sur la synchronisation des feux tricolores qui régulent la fluidité de nos rues. En revanche, tout prochainement, nous avons de fortes probabilités, c’est déjà en partie le cas, de nous retrouver dans le scénario où vous arriverez à l’aéroport pour prendre votre vol à l’heure au moyen d’un véhicule autonome et votre accès sera conditionné et validé par l’intelligence artificielle qui aura au préalable scanné votre passeport/visage et qui décidera si oui ou non vous pouvez rejoindre votre pays de destination.

La technologie et la politique ont une relation aussi ancienne que l’existence de la société, et l’Intelligence Artificielle a, depuis la création de la science-fiction, rempli notre imaginaire et n’a pas fini de l’alimenter. Toutefois, la vérité démontre que, très progressivement, les compétences déléguées à l’I.A aboutiront au final au transfert même de l’autorité à des intelligences algorithmiques. La simplicité voudrait qu’il soit mis en place en amont des politiques de confidentialité, protection des données, de régulation des acteurs, etc. Mais dans un monde si globalisé et si agité par autant d’acteurs hétérogènes, il paraît impossible de se repérer et de bien cibler les solutions.