Intelligence artificielle et conscience

1er extrait

Il a été annoncé que les technologies développées par la Chine seront bientôt capables d’identifier un individu sur les 1,3 milliard de Chinois en moins de 3 secondes. Les autorités du pays commencent à déployer un outil développé par la société Watrix permettant de reconnaître et d’identifier un individu en fonction de sa silhouette et de sa démarche. Si la reconnaissance faciale peut effectivement constituer une aide précieuse pour traquer les terroristes, il semble déjà qu’avec un tel usage sur un carrefour routier, nous soyons confrontés à une première dérive et une atteinte à la liberté.

En octobre 2021, la presse internationale nous apprenait que Singapour testait de nouveaux robots patrouilleurs de rues. Ces robots sur roues, équipés de 7 caméras, réprimandent les habitants se livrant à des « comportements sociaux indésirables ». Singapour a souvent été critiqué pour réprimer les libertés civiles et sa population est habituée à de multiples contrôles, mais il y a des signes d’un malaise grandissant face à des technologies intrusives.

2ème extrait

Il existe cependant des domaines où l’utilisation de l’IA peut étonner et même inquiéter. Par exemple, l’IA entre peu à peu dans le domaine de la justice prédictive. En France, le projet DataJust avait permis d’établir des probabilités de succès et d’estimer le montant des dommages-intérêts auxquels peut prétendre un justiciable, en s’appuyant sur l’ensemble des décisions de justice accessibles. Les juges pouvaient également s’y référer en cas de jurisprudence. Au moment où ce projet48 semble abandonné en France (début 2022), des publications scientifiques nous apprenaient que des chercheurs en IA, chinois, allaient beaucoup plus loin puisqu’ils disaient avoir développé une IA capable de rendre des décisions à la place d’un procureur. Une IA est en cours de test par le parquet populaire de Shanghai. Elle pourrait à terme remplacer les procureurs en Chine. Sur la base de descriptions orales, l’algorithme a été entraîné sur les huit crimes les plus perpétrés dans la ville et donnerait un verdict avéré de 97 %. Le « procureur IA » développé par Shi Yong et son équipe a été entraîné sur 17 000 cas, de 2015 à 2020, il peut actuellement distinguer huit délits parmi les plus courants perpétrés à Shangai, et porter des accusations. Cela pose un problème de fond quant à l’éthique et ce point fera l’objet d’un développement spécifique.

3ème extrait

Il est peu probable que les IA soient animées un jour d’une réelle volonté ou d’émotions. Aujourd’hui, elles ne font que les simuler. Mais il est envisageable que ces IA soient capables de mimer ces émotions avec une telle précision, qu’il deviendrait impossible de faire la différence. Ces IA émotionnelles présentent malgré tout un danger potentiel : elles faciliteraient la manipulation. Elles pourraient notamment influencer des personnes ayant un vide affectif. Créer des machines simulant la sensibilité est un courant de recherche émergeant, mais différent de la recherche d’une véritable conscience artificielle.