#HomoCreatus : Les grands singes, l’Homo Sapiens et l’IA 2


Mars 2017

Judith Nicogossian, docteure en anthropologie bio-culturelle, poursuit son exploration de l’impact des techniques et des technologies sur le corps humain.

Alors que la santé aborde des mutations technologiques majeures, avec des impacts conséquents sur notre perception de nous-même et de l’autre, nous vous proposons d’inaugurer ici une série d’articles de fond, rédigés par l’anthropobiologiste Judith Nicogossian.

Une réflexion dans la continuité de nos précédents billets de blog, à retrouver dans la rubrique « Visions du soin ».

Bonne lecture !


 

 

« Je pars de l’a priori que, pour comprendre les enjeux de la robotique pour la société, il faut garder présente à l’esprit l’idée de la suprématie de l’homme sur les robots et celle de la volonté de la maintenir. » (Sido, sénateur[1])

 

De nouvelles interactions homme-machine, cybernétique et/ou génétique, ou encore des projets d’intelligence artificielle (IA) voient le jour. A l’ère du digital, les organismes sont de plus en plus façonnés par du design intelligent… plutôt que par les contraintes du milieu.

Entre cerveau humain et IA, ces projets ont un impact direct sur l’humain, car ils le transforment de facto, posant des problèmes de société, comme celui de la vie publique et de la vie privée ; de la présence et de l’absence ; du réel et du virtuel ; de la construction identitaire ; de l’acte de communication (verbale et non-verbale). Autour des interactions neuves homme-machine, des réflexions anthropologiques, juridiques et éthiques se posent, de façon inédite. Elles concernent par exemple le statut des systèmes intelligent, l’autonomie robotique, la réversibilité des processus d’augmentation, les émotions et notamment les phénomènes d’empathie réciproque.

Car ces machines à notre image, sont susceptibles de transformer l’Homme, comme l’ont déjà fait beaucoup d’outils et de techniques depuis la maîtrise du feu… L’IA implique l’ensemble des acteurs sociaux, avec des usages à venir imprévisibles, sur lesquels il devient important de se pencher.

Assistons-nous à la refabrication de l’espèce ?

L’Homo Creatus est-il l’histoire de demain ?

 

The road to AI – Chloe Warner

 

La famille des Grands Singes

  • – 6millions d’années : l’Australopithèque, ancêtre de l’humain, se sépare de la famille des Grands Singes ;
  • – 2,5 millions d’années : l’humain apparaît sous plusieurs formes préhistoriques d’hominidés, comme l’Homo Neanderthalensis, ou Homo Erectus ;
  • – 400 000 ans : l’Homo commence à chasser.
  • – 100 000 ans : l’Homo Sapiens[2] se retrouve à la tête de la chaîne alimentaire.
  • – 70 000 ans : débute la Révolution Cognitive commence – avec le langage, la compréhension de l’environnement, le développement des mythes ;
  • – 12 000 ans : débute la Révolution Agricole – avec la domestication de plantes, d’animaux, l’élevage ;
  • – 500 ans : débute la Révolution Scientifique. Les organismes ne prennent plus uniquement forme par la sélection naturelle du milieu ce qui met en cause notre environnement, notre biologie ; ce qui nous place en rupture épistémologique d’avec le continuum évolutionniste.

Le poids de son cerveau est une particularité physique de l’Homo Sapiens, il compte pour 2 à 3% du poids total du corps, et consomme 25% de l’énergie du corps au repos. (Les cerveaux des autres singes ne requièrent que 8% de l’énergie du corps au repos.)

Les hommes archaïques payèrent de deux manières pour le développement, inexpliqué, de ce gros cerveau énergivore :

  1. ils passèrent plus de temps à chercher de la nourriture ;
  2. leurs muscles s’atrophièrent.

Devenus bipèdes, les naissances prématurées sont impératives chez l’homme en matière de sélection naturelle, vu l’étroitesse du bassin de la mère, celle-ci devant survivre à l’accouchement. Ces naissances posent des marques de néoténie[3], dont les signes sont flagrants à la naissance, comme les deux parties du crâne non soudées et l’ensemble des systèmes vitaux sous-développés.

La néoténie fournit une explication au paradoxe de l’humain, entre sa prématuration[4] et sa supériorité sélective[5], le fait qu’il n’atteindra jamais son développement terminal, et le primat qu’il gagne sur les autres espèces. Il compense sa vulnérabilité dans le développement de la technique, tout en encourageant par le même coup l’extraordinaire plasticité de ses adaptations culturelles.

Grâce aux prothèses, l’Homo Sapiens réajuste le déséquilibre initial de son adaptabilité, ce qui a pour effet de favoriser l’émergence d’aptitudes sociales, mais également des problématiques en lien.

Aujourd’hui, ces techniques scientifiques (systèmes d’interface homme-machine, systèmes intelligents et clonage) ont une spécificité : la modification de la vie humaine – englobant plastique et identité – et de l’environnement, rompant avec les modifications connues jusqu’alors de la sélection naturelle.

 

L’Intelligence artificielle (IA)

L’IA, ou « cerveau électronique », a eu historiquement pour but de donner à la machine la capacité de résoudre des problèmes ou d’accomplir des tâches de « haut niveau » habituellement dévolues à l’être humain. C’est un vieux fantasme de création, évoquant l’imaginaire du Golem, ou encore l’automate de Vaucanson (XVIIIème)… que l’on retrouve par exemple chez Google, avec son « majordome virtuel »[6].

 

Eva – Chloe Warner

 

Machine learning

La recherche s’est d’abord orientée vers la modélisation des connaissances et des raisonnements, le pré-enregistrement du plus grand ensemble possible de connaissances, réalisée sous l’étroite supervision d’experts des domaines d’application concernés.

Développement des techniques d’apprentissage automatique et de fouille de données, le deep learning a ouvert une voie différente. L’IA apprend alors par l’expérience, un peu comme un humain, qui construit son système neural et cognitif par ses expériences. Exemple : Atlas[7], l’androïde de chez Google, qui apprend seul à marcher.

Sur la plan de la recherche scientifique et de l’imaginaire, la marche du progrès[8] se poursuit, de représentation archétypale en représentation archétypale, jusqu’à introduire l’idée d’une espèce humaine Sapiens possiblement recréée.

Reprise par les séries Person of Interest[9], ou Real Humans[10], l’IA forte n’est encore juste qu’une idée. L’IA forte dépassera alors l’intelligence de son créateur, comme dans Ex Machina[11]avec Ava[12], qui domine le héros… pour le sacrifier. Dans ce film, tout est inversé, c’est ainsi Ava qui fait subir le test de Turing[13]au héros humain !

 

La fin de l’Homo Sapiens ?

« Pour la première fois dans l’histoire de l’humanité, nous déléguons à des entités autres qu’humaines des responsabilités importantes. » (Kirchner , président de l’INRIA[14])

L’IA, incluant la robotique sociale, est la construction d’acteurs sociaux artificiels. Elle pose la question du substitut ou du remplacement. Elle n’a pourtant pas pour but de remplacer mais de se substituer aux agents humains dans certaines circonstances[15]. Un substitut, c’est un peu comme un esclave, (au sens d’Aristote), sans statut légal, un peu comme des choses mais chargés d’une autorité qu’ils ne possèdent pas – l’acte qui l’a institué a tracé les limites de l’autorité du substitut.

Pourtant des études récentes estiment déjà que la robotisation pourrait avoir des effets considérables en termes d’emploi. Une étude récente de l’institut de recherche japonais Nomura Research Institute, en collaboration avec l’université d’Oxford[16], conclut que, avant une vingtaine d’années, 49 % des emplois japonais seront remplacés par des robots. Pour les États-Unis d’Amérique, ce taux de remplacement serait de 47 % et pour la Grande-Bretagne de 35 %.

L’IA et le robot serait amenés à interagir avec mais également à remplacer partiellement l’humain dans certains secteurs d’activité.

 

(HS 312-1) Fossil Bones – Chloe Warner

 

La question juridique

Des questions juridiques relatives à l’autonomie robotique et a posteriori lors d’un litige émergent, avec la question de la nécessité de normes nouvelles. Face à l’humain, qu’est-ce qu’on attend des machines, de leur degré d’autonomie et de contrôle ?

L’élaboration d’une éthique robotique[17] est en cours (le Parlement européen[18], avec le projet RoboLaw[19], ou encore l’association Cyberlex[20]), sur les possibilités et limites du pouvoir décisionnel du robot, et du couple qu’il forme avec l’utilisateur – imaginons-le, très vieux ou très jeune – ou avec l’opérateur.

« A robots différents, régimes juridiques différents (Nevejans[27]

Des questions importantes sont soulevées :

  1. la validation et traçabilité – Des incertitudes sont associées aux processus d’acquisition, d’interprétation et d’exécution du robot, ainsi qu’à sa capacité d’apprentissage, ce qui peut rendre partiellement imprévisibles ses décisions et ses actions, comme celle de dispenser un soin, de donner un diagnostic, d’effectuer des gestes de secourisme, et même d’estimer dans une certaine mesure s’il doit en prendre l’initiative. Il existe des risques que l’IA interprète mal la situation et intervienne à mauvais escient. Il importe d’être vigilant sur les limites de la perception (auditive et visuelle) ainsi que de la caractérisation de la situation par l’IA. Il devrait exister un traçage du passage de l’IA en mode sauvetage –la possibilité de rendre compte du comportement pour des raisons à la fois d’amélioration du système et de responsabilité.
  2. la prise de commande et sauvetage – « Faudra-t-il inventer un droit à la déconnection et une sorte d’habeas mentem en écho à l’habeas corpus? » Il serait utile de pouvoir reprendre les substituts en main, par une commande suffisamment facile pour un utilisateur novice, un « bouton rouge[21] ». Et de pouvoir arrêter et rallumer, en cours, la prise de données et leur distribution.
  3. le respect de la vie privée et protection des personnes (CNIL[22]).
  4. la personnalité juridique – « Seront-ils un jour dotés d’une éthique intégrée, correspondant à leurs domaines respectifs ? Cela entraînera-t-il une forme de responsabilité de leur part en cas d’action ayant causé un dommage à autrui ? Au regard de ce devoir de responsabilité, les robots recevront-ils des droits ? » (Sido, sénateur[23]) Certains estiment que le robot devrait avoir une personnalité juridique particulière en tant qu’objet, comme le Parlement européen[24] qui vient de voter une proposition de résolution à ce sujet ; si d’autres estiment que le robot doit posséder des droits, comme l’être humain[25].
  5. la propriété intellectuelle dans la question de la captation permanente des données.

Il ne faut pas confondre éthique des robots et robo-éthique. Alors que l’éthique des machines implique que le robot lui-même doive respecter des règles éthiques, la robo-éthique s’applique à l’homme, qui va concevoir ou utiliser des robots. Il faudra formuler un certain nombre de grands principes robo-éthiques, centrés sur l’homme, qu’il soit concepteur, fabricant, vendeur, utilisateur, opérateur ou bénéficiaire du robot. En la matière, la place des droits de l’homme est fondamentale.

La réalité de l’IA est difficilement saisissable au plan juridique définie en tant que caméléon juridique (Lutron, avocat[26]). La mise sur le marché d’un robot industriel n’a rien de commun avec celle d’un robot chirurgical, d’où une impossibilité de concevoir un régime commun : Nevejans[27], maître de conférences en droit, précise : « à robots différents, régimes juridiques différents ». « Par ailleurs, l’industrie de la robotique ne sera pas une industrie figée, dans la mesure où il est déjà possible de fabriquer son propre robot, au moyen d’une imprimante tridimensionnelle […] l’environnement de la robotique ne sera sans doute pas toujours l’apanage d’une industrie contrôlée par des acteurs identifiés et susceptibles de maîtriser leur filière de bout en bout », poursuit Lutron[28].

Non seulement il n’y a rien de commun entre un robot tueur, un robot compagnon, un robot pour fabriquer d’autres robots, des nano-robots, mais les fabrications customisées complexifieront le phénomène de traçabilité des systèmes intelligents, rappelant les enjeux entre humains et inhumains de la série real Humans[29].

Avec une appréhension sur le plan conceptuel complexe, compte tenu de la diversité de ses formes, il s’agira dès lors d’évaluer les usages par catégorie, pour pouvoir y apporter des réponses normatives.

 

Ange intelligent ou arme implacable ?

Nous sommes encore loin de reproduire une IA forte, ou encore de modéliser sur une machine toutes les fonctions cognitives du cerveau humain ; pourtant, les recherches rendront certainement possibles la réalisation d’IA convaincantes[30], capables de simuler l’intelligence sur une base émotionnelle, qui devront alors être dotées d’une éthique robotique et de principes centrés sur l’homme, afin de conserver à ce dernier des droits fondamentaux.

La relation homme-machine soulève des cognitives : il s’agirait également d’empêcher un déficit de confiance de la part des utilisateurs, sur des systèmes intelligents prometteurs, mais également une confiance trop aveugle dans les formes variées de design intelligent.

L’IA interroge sur la réponse normative que devront apporter les législateurs afin de protéger l’Homo Sapiens de cet Homo Creatus, que nous créons.

Il faut réfléchir, de façon préventive à préserver l’Homo Sapiens, aux effets de l’imitation du vivant, de la ressemblance visuelle ou du comportement, à l’intérieur, mais aussi hors des usages pour lequel les différents types d’IA sont conçus, afin d’anticiper sur les effets pervers des technologies.

Le brouillage de la frontière entre être vivant et artefact doit se considérer sur le plan éthique, et particulièrement au sujet des populations les plus vulnérables : nous devons considérer la suprématie de la vie humaine, et l’importance d’une bioéthique, tout en accompagnant la formulation de principes d’une éthique robotique et d’une robo-éthique.


Le saviez-vous ?

  • La première machine à calculer est la pascaline de Blaise Pascal (XVIIème siècle), qui l’inventa pour son père surchargé de travail.
  • Le Mark 1 d’IBM (ou ISCC) serait la première IA, ordinateur, inventé en 1944. Le terme ordinateur[31] est lui-même créé par IBM France en 1955.
  • En 1997 l’IA Deeper Blue[32] bat le champion du monde des échecs, après une défaite de l’année précédente. Garry Kasparov ne put jamais prendre sa revanche, car l’IA fut rapidement démantelée.
  • En mars 2016, Alpha Go (DeepMind), bat le champion du monde de Go, mais l’IA de Google parle et lit aussi sur les lèvres.
  • L’IA peut créer de la musique[33], des scénarios de littérature, ou encore de cinéma[34].
  • On retrouve le scénario de Her de Spike Jone dans les aventures de Dorothée[35]!
  • On affirme au sénat, qu’à la suite des ordinateurs et des téléphones : « 2017 verra arriver les premières voitures autonomes sur le boulevard périphérique parisien et les autoroutes » (Devauchelle)[36].
  • Si Tay (Microsoft)[37], contaminée par des propos racistes et xénophobes des utilisateurs twitter, eut une durée de vie de quelques heures, on observe aussi chez les IA du deep-learning des comportements agressifs[38] en situation de stress.

Sources

[1] http://www.senat.fr/rap/r15-570/r15-570.html
[2] http://www.albin-michel.fr/ouvrages/sapiens-9782226257017
[3] https://sniadecki.wordpress.com/2016/07/21/bolk-anthropogenese/
[4] https://www.cairn.info/resume.php?ID_ARTICLE=JFP_024_50
[5] https://www.cairn.info/revue-journal-francais-de-psychiatrie-2006-1-page-49.htm
[6] http://www.lemonde.fr/pixels/article/2016/06/02/l-intelligence-artificielle-domestiquee_4930971_4408996.html
[7] http://www.bostondynamics.com/robot_Atlas.html
[8] http://histoirevisuelle.fr/cv/icones/207
[9] https://www.sciencesetavenir.fr/decouvrir/tele-cinema/person-of-interest-le-fantasme-d-une-intelligence-artificielle-autonome_36778
[10] http://sites.arte.tv/real-humans/fr
[11] https://www.youtube.com/watch?v=XYGzRB4Pnq8
[12] https://lejournal.cnrs.fr/articles/ava-le-robot-qui-nous-calculait-trop
[13] http://www.cnrs.fr/ins2i/IMG/pdf/prade.pdf
[14] http://www.senat.fr/rap/r15-570/r15-570.html
[15] Vivre avec les robots, Dumouchel Damiano, Ed. Seuil, 2016.
[16] http://www.oxfordmartin.ox.ac.uk/downloads/news-items/Nikkei_Frey_Osborne_030116.pdf
[17] http://robohub.org/robolaw-why-and-how-to-regulate-robotics/
[18] http://www.europarl.europa.eu/news/fr/news-room/20170110IPR57613/robots-vers-des-r%C3%A8gles-europ%C3%A9ennes
[19]
https://www.europarltv.europa.eu/programme/society/robolaw-regulating-robotics
[20] http://www.cyberlex.org/
[21] http://www.lemonde.fr/pixels/article/2016/06/07/pourquoi-google-a-concu-un-bouton-rouge-pour-desactiver-des-intelligences-artificielles_4941225_4408996.html
[22] https://www.cnil.fr/fr/etude-dimpacts-sur-la-vie-privee-suivez-la-methode-de-la-cnil
[23] http://www.senat.fr/rap/r15-570/r15-570.html
[24] http://www.village-justice.com/articles/Quelle-personnalite-juridique-pour-les-robots,24075.html
[25] http://www.bbc.co.uk/programmes/p027v94m
[26] http://www.senat.fr/rap/r15-570/r15-570.html
[27] http://www.senat.fr/rap/r15-570/r15-570.html
[28] http://www.senat.fr/rap/r15-570/r15-570.html
[29] https://lejournal.cnrs.fr/articles/real-humans-revu-par-les-chercheurs-1
[30] http://www.babelio.com/livres/Alexandre-Les-robots-font-ils-lamour-/886802
[31] http://centenaireibmfrance.blogspot.fr/2014/04/1955-terme-ordinateur-invente-par-jacques-perret.html
[32] http://www.ina.fr/video/CAB96007057
[33] http://www.huffingtonpost.fr/2016/09/26/intelligence-artificielle-chanson-musique-pop_n_12193950.html
[34] http://www.lemonde.fr/pixels/article/2016/06/10/une-intelligence-artificielle-ecrit-le-scenario-d-un-court-metrage_4947819_4408996.html
[35] http://tvmag.lefigaro.fr/programme-tv/article/television/87995/quand-dorothee-sauvait-le-monde-grace-a-un-ordinateur-parlant-.html
[36] http://www.senat.fr/rap/r15-570/r15-570.html
[37] http://www.lemonde.fr/pixels/article/2016/03/24/a-peine-lancee-une-intelligence-artificielle-de-microsoft-derape-sur-twitter_4889661_4408996.html
[38] http://trustmyscience.com/intelligence-artificielle-google-devient-tres-agressive-en-situation-stressante/


Laissez un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

2 commentaires sur “#HomoCreatus : Les grands singes, l’Homo Sapiens et l’IA

  • Yves Goulnik

    Comme vous l’indiquez dans votre chapeau, la santé aborde des mutations technologiques majeures – curieux dans ce contexte que ce billet ne fasse référence ni au projet Watson d’IBM, ni au DeepMind de Google dans son application santé (et controverse publique en Angleterre suite à l’accord avec la NHS). Non plus qu’à une IA qu’on pourrait de qualifier de subliminale, celle des algorithmes de ‘profiling’ des GAFA (Google, Apple, Facebook, Amazon). Autant de domaines qui suscitent nombre de questions sociétales, juridiques, cognitives…

  • Judith NICOGOSSIAN

    Le développement de l’IA et son apprentissage (machine learning) est lié à la récupération de données (data mining) à propos d’expériences humaines réelles.​ ​
    L​’accord du partage de données entre la NHS et Deep Mind, concerne l’extraction de l’ensemble des données patients, ​si ​
    les enjeux officiels de cet outil ont pour objectif la détection précoce de maladies​, ce n’est plus un secret de savoir que Google (avec son Deep Mind) possède de grandes ambitions dans le secteur de la santé digitale… ce qui prête à controverses – et inquiétudes – quant à l’utilisation de nos données privées après récupération [1]. ​Bien sûr, l​a rapidité dédiée au diagnostic de telles machines, comme le Watson d’IBM, peut s’avérer utile dans certains cas [2]. Mais​ existent de nombreuses​ dérive​s ​​; ​ainsi le GAFA ​généralise ​des activités de profiling commercial, comme DeepFace, algorithme dévoilé par Facebook, qui reconnait les visages humains dans les images à 97% des cas. Sans oublier que le plus grand financement de l’IA est militaire [3] ​… Tout ceci contribue à renforcer l’importance de débattre de façon pluridisciplinaire autour de ces questions. Merci pour votre partage !

    Notes
    [1] https://www.newscientist.com/article/2086454-revealed-google-ai-has-access-to-huge-haul-of-nhs-patient-data/
    [2] http://www.japantimes.co.jp/news/2016/08/11/national/science-health/ibm-big-data-used-for-rapid-diagnosis-of-rare-leukemia-case-in-japan/#.WNkEmWekKUl
    [3] https://www.nytimes.com/2016/10/26/us/pentagon-artificial-intelligence-terminator.html?_r=0