S'agissant de l'Intelligence Artificielle, le sujet de l'éthique associée est vaste. De nombreux écrits existent sur le sujet et je n'ai pas l'ambition ici d'ouvrir un débat philosophique compliqué sur le sujet. L'idée est d'apporter un éclairage sur certains concepts.
L'éthique (du grec ethos « caractère, coutume, mœurs ») est une discipline philosophique portant sur les jugements de valeur. On s'intéresse aux normes morales, aux limites à ne pas franchir, aux devoirs de l'Homme envers lui-même, les autres et l'Humanité. La morale regroupe l'ensemble des règles à suivre pour être en conformité avec les moeurs et les coutumes d'une société.
Ma première interrogation concerne l’universalité. Comment parvenir à une morale "mondialisée" avec des GAFA "transhumanist-compliants", des BATX chinois glorifiant le groupe et listant chaque individu, un monde occidental "siècle des lumières-nostalgique" pris en sandwich géo-politico-économique, une Afrique colonisée (par des chinois) pour en faire un "garde-manger", des peuples défendant des traditions bien différentes notamment au proche et moyen-orient pour ne citer que ces différentes composantes de notre diversité humaine. L'UNESCO a bien tenté un rapport sur le sujet fin 2017, prônant la dignité humaine, le respect de la vie privée, la responsabilité, la bienfaisance, l'innocuité ou la justice, tous ces éléments à prendre en compte dans les constructions de machines dites « Intelligentes". Bon.
Certains industriels prennent le problème autrement. Pour les "voitures autonomes" et le problème éthique du tramway (les freins lâchent, soit il continue tout droit écrasant 4 personnes, soit je peux changer l'aiguillage, je le déroute et ne tue qu'une personne, tout en impliquant ma responsabilité), Mercedes a posé une règle interne : le conducteur (lire "le client") sera toujours la priorité (ne pas lire "tu ne tueras point »)
Du côté de la psychologie, à partir du moment où on dépasse le phénomène d'aversion freudien de rejet du robot "presque" ressemblant à l'homme mais pas assez quand même, on se retrouve en situation d'empathie avec la machine. Une étude a par exemple montré que nous plaquions sur l'objet animé des sentiments empathiques similaires à ceux que nous aurions eu pour un humain (les ondes cérébrales sont presque identiques). L'anthropomorphie montre que l'homme est un être social qui projette des intentions sur tous les objets (du nounours à la naissance jusqu'à l'aspirateur-robot qui doit être réparé et non changé parce que "c'est celui-ci et pas un autre », cas client véridique). Et les ChatBots effacent les frontières, à la limite de devenir notre future "petite voix intérieure". Qu'attendrons-nous de ces systèmes ? Qu'ils soient nos esclaves ? qu'ils nous aident ? Qu'ils deviennent de véritables compagnons ?
Les robots sexuels posent d'autres problèmes. L'entreprise Trottla au Japon produit des poupées représentant des écolières depuis plus de dix ans. Son PDG, Shin Takagi, déclare publiquement être pédophile mais n'être jamais passé à l'acte, c'est pourquoi il a conçu ces poupées. Selon la future personnalité juridique des I.A., nous pourrions être devant un nouveau dilemme : laisser faire pour encourager le "non-passage à l'acte" ou décider de juger pour pédophilie ? (Un certain David Turner rentrant à Londres avait dans sa valise une poupée sexuelle d'enfant qui comportait certains "détails anatomiques précis" ainsi que des photos dans son ordinateur, ce qui lui a valu 16 mois de prison). En l'état il reste de nombreux vides juridiques à combler.
L'éthique mondiale est un défi qu'ont déjà tenté de relever les différentes religions et voilà que l'intelligence Artificielle s'invite dans ce jeu en nous forçant la main. L'éducation et la prise de conscience de tous est un préalable certain mais on constate aussi dans le cadre des accords concernant le climat, le nucléaire ou l’économie toute la complexité du vivre-ensemble mondial. Pourtant, ne pas agir aujourd'hui, c'est comme attendre un tsunami en priant.
Stéphan Le Doaré
@stephanledoare
コメント