Les récentes avancées en matière d’intelligence artificielle (IA) représentent « une grave menace pour les droits humains » (alerte du 18 février par le Haut-Commissaire des Nations unies aux droits de l’Homme). L’inquiétude de l’ONT est-elle justifiée ?
L’inquiétude est élevée car la réglementation n’est pas encore claire en termes de classification des risques et de mise en œuvre et la surveillance par les autorités compétentes. La menace que l’on vit est celle du changement de valeurs de l’humanité, par des décisions qui sont de plus en plus automatisées. L’IA, à terme, peut ébranler notre sécurité, voire, notre santé mentale, notre façon de vivre. Les relations interpersonnelles sont également touchées, j’en veux pour preuve, le succès de certains algorithmes de recommandations, employés sur les réseaux sociaux. Cela nous donne une idée précise : de ce que certaines décisions indicible, impalpable, immatérielle, peuvent avoir comme conséquence. En outre, l’UE ne peut ignorer les risques incertains, ceux auxquels les générations futures seront confrontées. Nous avons besoin d’une bonne gouvernance pour résoudre ce problème, et je ne suis pas sûr que la proposition actuelle de loi sur l’IA y réponde. Au niveau de l’entreprise, les travailleurs devraient également disposer de cette capacité critique.
IA : Beaucoup de collaborateurs se disent préoccupés. De quels outils dispose-t-on pour protéger leurs données personnelles ?
La loi sur la vie privée qui existe depuis longtemps, et récemment mis à jour au niveau de l’UE. Il s’agit du RGPD . C’est un aspect fondamental du droit humain., qui a une connotation d’extra-territorialité. D’autres pays ont importé les dispositions de la RGPD dans leurs juridictions telles que l’Australie, le Canada, le Chili, ou bien le Japon. Un autre outil consiste à sensibiliser chaque individu à la protection de ses propres données personnelles et à sa capacité à s’interroger de manière critique sur l’opportunité de fournir ses données personnelles aux nombreuses entreprises qui les collectent pour leur propre profit.
Quelles propositions pourraient-être faites pour que l’Europe assume une position de leader numérique en garantissant les droits fondamentaux des salariés ?
L’Europe est un leader numérique au niveau de la gouvernance. C’est la première juridiction à avoir fait passé des lois sur des systèmes d’IA, c’est très pertinent en termes de positionnement géopolitique . Au niveau technique, l’Europe n’est pas séduisante comme l’Asie ou l’Inde ou bien les les États-Unis. Elle veut faire une sorte de contre-poids, mais l’UE ne peut se contenter de proposer de nombreuses directives et règlements, le véritable pouvoir résidera dans leur mise en œuvre effective. La proposition législative actuelle sur la prise de décision et la surveillance algorithmique ne s’appliquera qu’aux travailleurs des plateformes. Les législateurs ont la responsabilité d’étendre ces dispositions à tous les travailleurs afin qu’ils bénéficient d’une prévention et d’une protection réelles sur leur lieu de travail. Je pense qu’un nouveau cadre juridique dans le contexte de l’emploi est nécessaire. Les travailleurs ne devraient pas avoir des droits « théoriques », mais des droits qu’ils peuvent effectivement exercer à l’ère de l’IA. La Course à l’IA est économique.