Ouvrir le débat sur l'éthique est toujours compliqué, plus encore dans le domaine des nouvelles technologies. S'il me fallait caractériser rapidement la révolution actuelle, je dirais que c'est l'affaire d'un mariage explosif, celui de l'intelligence artificielle (I.A.) avec les NBIC. Les NBIC désignent un champ scientifique multidisciplinaire qui se situe au carrefour des nanotechnologies (N), des biotechnologies (B), des technologies de l'Information (I) et des sciences cognitives (C). Les avancées dans ces quatre territoires de recherche ont trouvé un catalyseur extraordinaire dans les technologies d'Intelligence Artificielle en ce sens que l'I.A. manipule aisément des séries de grands nombres, chose totalement impossible pour l'homme. Cet outil décuple les possibilités d'observation. C'est quelque part le microscope du XXIe siècle par lequel les scientifiques peuvent par exemple examiner pour un point précis des centaines de milliers de bases composant l'ADN, comparer des milliers de génomes de façon très pointue, travailler sur des langages et des comportements humains retranscrits en algorithmes... L'I.A. décuple bien le pouvoir de l'homme sans pour autant être intelligente comme on l'entend trop en français dans ce terme anglais.
L'approche éthique peut se voir de deux manières. L'éthique de conviction, qui agit à priori, est définie par un débat démocratique ouvert, mais nécessite que les enjeux soient compris de tous. Si les décisions sont politiques, quand on sait que Junker n'avait même pas de téléphone portable en 2018, que la majorité des politiciens ne sont pas du tout issus du monde de la "tech", il me semble difficile d'appliquer une éthique de conviction en bonne connaissance de cause. D'autant qu'une grande majorité utilise tous ces produits sans se douter qu'elle "est" le produit !
L'autre approche serait celle de l'éthique conséquentialiste et c'est celle qui semble prédominer dans le monde moderne. La vitesse à laquelle avance le monde le laisse en effet sur place en termes de régulation et ce n'est qu'une fois le problème rencontré qu'on définit une éthique. Cette approche nécessite alors des mesures d'impact. Typiquement, il aura fallu deux mesures d'impact, Hiroshima et Nagasaki, avant une régulation mondiale des armes nucléaires. En l'espèce, cette approche dénigre un peu le principe de précaution et c'est bien l'imagination de conséquences qui permet aux écrivains de science-fiction de réaliser leurs meilleures oeuvres.
Du point de vue géopolitique, le monde est divisé en cultures qui ne fonctionnent pas avec les mêmes lois éthiques, implicites ou explicites. Des valeurs historiques, religieuses bien différentes forment chacun des groupes humains et les encouragent dans leurs pseudo-différences. Ce découpage se retrouve également dans une même population, à des niveaux très profonds. Par exemple, un codeur d'algorithme d'I.A. a des règles éthiques (de conviction, donc) plus sensibles que celles de son collègue au marketing.
Une chose est sûre, c'est l'importance de la formation et l'information. C'est tellement troublant de voir tant de personnes surprises de réaliser que leurs données de santé sont collectées par leur montre connectée, de les voir aussi réaliser que leurs parcours de sport et même le temps pendant lequel elles se douchent peuvent aussi être analysés. C'est tout aussi troublant de voir des scientifiques utiliser des nanotechnologies à grande échelle sans étude d'impact à plus long terme.
En fait, la position éthique est la seule à dépasser la relation entre fin et moyen. La fin a toujours été notre amélioration. Les moyens semblent nous échapper aujourd'hui, dans les mains de quelques puissantes sociétés. C'est pour cela qu'il est compliqué de parler d'éthique. L'équilibre entre fin et moyen est rompu. Les États, et donc le peuple, ont perdu la main. Un des exemples les plus flagrants est que les projets spatiaux sont désormais portés par des sociétés. Pourtant, même si certains jouent la politique de l'autruche, Il y aura toujours des conséquences éthiques et le risque, c'est que les sociétés qui apportent aujourd'hui les "moyens" n'assument pas leur part de responsabilité. Parce que la vocation d'une société n'est surement pas d'être éthique. Puisque, aussi, il n'existe pas vraiment de contrôle à priori et qu'on risque d'être nous-mêmes surpris des conséquences !
@stephanledoare