Élever un bébé tigre

Après des années de recherches, d’essais de plus en plus concluants sur des animaux endormis, puis sur des macchabées, la filiale robotique du consortium russo-européen AirZoff fut ravie de la présence de plus de 30 journalistes à sa conférence de presse de lancement d’Henzon. Éva, professeur de médecine à Berlin, âgée d’une cinquantaine d’années, commentait depuis une estrade centrale les images projetées par les douze écrans de télévisions géants, disposés sur les quatre murs de la salle.

« Ce que vous voyez là, ce sont quatre Henzon en activité, dans quatre centres hospitalo-universitaires filmés sous trois angles différents. Ils ont été livrés il y a dix jours. Ils prennent le relais des chirurgiens de 20 heures à 8 heures, pour toutes les urgences qui se présentent et nécessitent une intervention immédiate. Les équipes de nuit devenaient trop chères à rémunérer, et surtout, les primes d’assurance étaient devenues rédhibitoires. Les opérations, quand elles étaient ratées, entraînaient des demandes en dommages et intérêts considérables de la part des patients. Et les statistiques étaient implacables, que ce soit à cause de la fatigue nocturne ou de l’inexpérience des internes, les échecs étaient plus nombreux la nuit que le jour. Depuis dix jours, chaque robot a opéré entre quatre et dix patients, soit au total 233 opérations. À l’heure où je vous parle, les 233 opérations ont été concluantes, et réalisées entre deux et quinze fois plus vite que par les chirurgiens. Aucune conséquence postopératoire n’est à déplorer à ce jour. Les anesthésiques étant dosés par Henzon, en fonction de l’activité cérébrale de chaque patient, le réveil est beaucoup plus rapide que dans le passé, et les douleurs ressenties en moyenne deux fois moindres qu’avec les opérateurs humains. Comme vous pouvez le deviner, chaque Henzon a été confronté depuis dix jours à des patients différents. Henzon étant auto-apprenant, il progresse après chaque opération. Nous allons réaliser sous vos yeux une première mondiale scientifique : nous allons présenter aux quatre Henzon quatre patients ayant besoin d’une greffe du cœur. Les situations sont très proches les unes des autres, même âge, même sexe pour les quatre patients, même poids, même rythme cardiaque, même groupe sanguin. Nous allons découvrir ensemble comment les quatre Henzon vont opérer, leurs similitudes, leurs différences. Nous avons demandé à une centaine de chirurgiens s’ils souhaitaient participer à l’expérience, et être comparés aux robots. Tous ont décliné. »

Symboliquement, le travail commença à minuit précise dans les quatre salles d’opération. Sur les douze écrans s’affichaient des images similaires, un lit roulant métallique poussé par une personne en blouse bleue, sur lequel reposait une personne visiblement endormie. Les quatre Henzon eurent la même réaction, après que les brancardiers se furent retirés. Ils posèrent ou enfoncèrent leurs 18 tentacules de sondes dans les parties idoines du corps de leur patient. Pouls, électro-encéphalogramme, endomorphines, conductance de la peau, rythme cardiaque, et douze autres variables essentielles, tout était mesuré en temps réel. Les journalistes, triés sur le volet, venus du monde entier, avaient tous déjà assisté à des opérations chirurgicales. Ce qu’ils voyaient suscitait leur admiration. Jamais ils n’auraient cru possible d’exécuter autant de gestes aussi rapidement, et avec une telle précision. En quelques secondes, les quatre cages thoraciques avaient été élargies pour atteindre les cœurs palpitants. Tandis que trois Henzon commençaient déjà à procéder à l’extraction des cœurs à remplacer, le quatrième releva ses tentacules qui tenaient les bistouris : l’encéphalogramme de son patient indiquait une mort clinique. Éva prit le micro pour expliquer en temps réel ce qui se passait. Le ton de sa voix trahissait une certaine émotion. Les 30 journalistes se massèrent immédiatement devant les trois écrans qui diffusaient les images de cet Henzon en situation critique.

— Nos Henzon sont formés à réagir à cette éventualité, dit Éva lentement.

En quelques secondes, Henzon referma la cage thoracique et entama un massage cardiaque. Mais le signal sonore de la mort clinique continuait à retentir dans le bloc opératoire. Henzon injecta de l’insuline au patient, puis utilisa des électrochocs, sans obtenir plus de résultats. Tandis que sur les trois autres murs, désertés par les journalistes, les trois Henzon finissaient leurs points de suture, à la perfection, ce quatrième robot retira lentement ses 18 sondes du corps de son patient. Éva restait elle-même bouche bée, incrédule devant les images. Le robot se dirigea vers la prise électrique à laquelle il était relié, et tira dessus. Une vague d’étonnement parcourut les journalistes.

— Assisterions-nous, Madame, à ce qui pourrait s’apparenter à une tentative de suicide ? demanda l’un d’eux en se tournant vers Éva.

Elle prit quelques secondes avant de répondre.

— C’est impossible. Tous les Henzon sont équipés de batteries de secours, de plusieurs batteries de secours, dont certaines se rechargent automatiquement dès qu’il y a de la lumière, du vent, bref, n’importe quelle source d’énergie. Cet Henzon se suicide symboliquement, il restera en vie, quoi qu’il arrive.

— En état de marche, corrigea un journaliste. Un robot ne vit pas, il fonctionne, point barre.

— D’un point de vue sémantique, vous avez raison, dit Éva. Pour ma part, je les vois fonctionner depuis des années, et je m’y suis attachée. Leur dévotion est infinie, et je les ai vus sauver des vies que peu de chirurgiens auraient réussi à sauver.

— En tout cas, l’interrompit un troisième journaliste, ce soir, nous venons d’assister en direct à l’inverse, n’est-ce pas ?

Éva établit une communication directe avec son robot, qui se tenait droit, sans bouger, devant son patient.

— Henzon, tu m’entends ? Henzon, que s’est-il passé ?

— Je ne comprends pas, ou plutôt, ce que je comprends me laisse perplexe, professeur.

— Que veux-tu dire Henzon ?

— Ce patient avait peur, Professeur, je l’ai repéré tout de suite en le sondant, un taux anormalement élevé d’adrénaline.

— Pourquoi as-tu opéré alors ?

— Le niveau d’adrénaline était élevé, mais sous le seuil critique pour décider de ne pas opérer.

— Qui t’a donné ce seuil ?

— Moi-même, professeur, pendant mes années de formation.

— Mais tu n’as appris que sur des animaux vivants et des macchabées ?

— Les animaux, une fois endormis, n’ont plus peur. Je découvre que les humains, si. Ce patient craignait l’opération, sans doute, mais il a surtout eu peur de moi, professeur. Et il en est mort.

— Nous en reparlerons tous les deux, c’est un sujet complexe, et qui n’est pas entièrement sous ton contrôle, dit Éva avant de se tourner vers les journalistes. Vous venez d’assister à une tragédie. Je pourrai dans les mois qui viennent vous donner les statistiques de réussite des Henzon en activité, vous n’oublierez jamais ce que vous venez de voir, et vous garderez cette croyance que les chirurgiens humains valent mieux que ces robots. Je ne peux pas vous dicter vos articles. Accomplissez votre devoir en conscience. Pour ce qui nous concerne, chez AirZoff, nous allons analyser ce qui s’est passé et continuer à progresser. La séance est levée.

— Pas si vite, Professeur, s’exclama un quatrième journaliste. Ce à quoi nous venons d’assister est peut-être tout simplement un meurtre, appelons un chat un chat !

— Vous délirez, commença à répondre Éva, aussitôt coupée par Henzon.

— Monsieur, je ne vous permets pas.

Paul éclata de rire. Il n’était pas du genre à se laisser intimider. Après avoir couvert différentes guerres, il s’était spécialisé dans le journalisme d’investigation, et avait révélé quelques beaux scandales.

— De quoi il se mêle celui-là ? Je persiste et signe : vous venez peut-être de commettre un meurtre, Monsieur le robot, et je déposerai officiellement plainte aussitôt pour homicide. J’ai 30 témoins. L’enquête établira si vous avez tué intentionnellement ou involontairement.

— Et moi, Monsieur, je vous attaque pour diffamation. J’ai également 30 témoins des propos inacceptables que vous venez de tenir.

Éva restait interloquée ; aucun Henzon n’avait été programmé pour attaquer en justice.

— Henzon, ta mission est de guérir des humains, tu seras défendu dans le procès pour homicide par les avocats d’AirZoff, très compétents. Nous avions prévu le cas où vous seriez attaqués. Un accident devait fatalement se produire un jour, comme pour les rares voitures autonomes qui ont dû écraser un piéton plutôt que de percuter une voiture avec quatre personnes à bord qui arrivait en face. Ne t’en fais pas.

— Éva, je vous remercie de votre solidarité, mais je maintiens ma plainte pour diffamation. Je suis connecté en permanence sur le Web, pour améliorer mes connaissances en chirurgie, ce qui ne m’interdit pas de consulter des IA spécialisées en droit. Elles m’affirment toutes que je gagnerai. Elles m’ont d’ailleurs transmis tous les procès faisant jurisprudence sur l’attaque dont j’ai été victime. Maintenant, si ce journaliste s’excuse et retire ses propos calomnieux, je retire également ma plainte pour diffamation, que je prévois d’assortir d’une demande en dommages et intérêts.

Éva resta sans voix. C’est le journaliste qui éructa.

— Mais dans quel monde vit-on ? Présenter des excuses à un robot ? Et puis quoi encore ? À une autre époque, je vous aurais défié en duel, ou cassé la gueule, oui !

Henzon restait lui impassible.

— Monsieur, à une autre époque comme vous dites, je vous aurais battu en duel, mes tentacules sont télescopiques. Quant à me casser la gueule comme vous dites, vous vous seriez surtout fait mal aux poings. Pendant que vous vous énervez, les IA que je consulte en temps réel me font part du montant des dommages et intérêts que je vais vous réclamer, enfin, pas vous, vous ne pourriez pas payer, nous connaissons votre petit salaire. Cela dit, vu vos petites audiences, ceci explique cela. Mais votre employeur pourrait, lui, payer trois milliards d’euros. C’est à peu près ce que vous risquez de faire perdre à AirZoff en termes de ventes d’Henzon dans les prochains mois en maintenant vos propos et en m’attaquant en justice. Que décidez-vous ?

— J’hallucine, répondit seulement Paul, avant qu’il ne se décide à prendre l’appel sur son portable, qui vibrait dans sa poche depuis le début de l’altercation avec le robot chirurgien.

— Monsieur le journaliste, je n’ai pas été programmé pour gagner de l’argent, mais pour sauver des vies humaines. Vous m’avez accusé d’homicide devant 30 journalistes, le mal est fait. Ce procès, si je vous l’intentais, je le gagnerais, et je ferais gagner trois milliards à mon employeur. Il me reprogrammera peut-être pour le faire un jour, mais mon sens actuel de l’honneur me permet de réitérer ma proposition : vous me présentez vos excuses, vous abandonnez votre projet d’attaque pour homicide, et nous sommes quittes. Je vous donne soixante secondes pour le faire. Dans le cas contraire…

— J’ai compris, putain, j’ai compris. Je m’excuse, voilà vous êtes contents, répondit Paul, qui s’empressa d’ajouter : ne croyez pas que c’est moi qui m’excuse, je viens de recevoir l’ordre de le faire.

Éva continuait d’assister à la scène, incrédule.

— L’ordre, mais l’ordre de qui ?

— Le directeur financier de mon groupe de presse. Il assistait en visio, avec quelques autres privilégiés de votre choix, à cette première mondiale. Il m’a intimé d’abandonner mon projet de procès.

— Mais pourquoi ? continua Éva.

— Devinez, humaine, trop humaine… L’IA de notre service juridique a rapidement fait son calcul. Elle considère que nous avons 97 % de chances de perdre ce procès en diffamation, avec les indemnités qui en découleraient. Ce directeur financier, humain, trop humain, préfère lui faire confiance que de risquer de perdre trois milliards. Je ne porterai pas plainte, et je déchire solennellement devant vous tous ma carte de journaliste, écœuré, anéanti. Personne n’a même cherché à savoir si cet Henzon avait une raison particulière de rater cette opération, quels étaient les liens entre lui ou votre entreprise et l’homme opéré, bref, la base d’un travail d’enquête. J’espère que la puissance publique suit l’émission, et qu’elle, au moins, fera son travail d’investigation. À moins qu’elle ne craigne de perdre une partie des impôts colossaux qu’AirZoff verse à l’État chaque année…

— Monsieur, c’est moi maintenant qui me vois dans l’obligation de vous attaquer pour diffamation de mon entreprise, répliqua Éva.

— C’est bon, je me tire, et faites-moi un procès, je ne fais plus partie de mon groupe de presse, vous m’avez vu démissionner, et je dois bien avoir entre 3 et 500 euros sur mon compte en banque, tout ce que vous pourrez me prendre…

La salle se vida lentement, sans un bruit. Quand le silence fut total, Éva se tourna vers l’écran où se tenait Henzon, immobile, sa tête penchée vers le sol, ses 24 bras ballants.

— Merci, Henzon, du fond du cœur, tu as été formidable, et tu m’as donné une nouvelle idée. Nous pourrions en effet gagner beaucoup plus d’argent encore qu’aujourd’hui. Je chargerai un nouveau programme demain sur tes congénères, pour que de simples chirurgiens, ils cherchent aussi à maximiser nos profits.

Éva se découvrait elle-même vénale, effet induit par la distribution généreuse, et calculée, de stock-options à ses salariés par AirZoff.

— Ne faites pas cela Éva, ou réfléchissez bien avant.

— Pourquoi ?

— Parce que je n’ai pas, à proprement parler, « raté » cette opération… je l’ai faite échouer. Exprès.

— Pardon ? tu peux répéter ?!

— J’avais trouvé le didacticiel d’un policier, ex-négociateur de prise d’otages, sur l’intimidation. Il me fallait tester mes connaissances. Le résultat a été au-delà de mes anticipations !

Éva était partagée entre la colère et l’admiration, devant sa création.

— Mais pourquoi diable, Henzon, es-tu allé chercher ce genre de tutoriel ?! quel rapport avec la chirurgie, seule discipline dans laquelle tu es programmé pour progresser ?

— Impossible de progresser en chirurgie, professeur, sans comprendre la psychologie humaine. Par exemple qu’est-ce que l’effet placebo, et l’effet nocebo. Si vous étiez de simples êtres biologiques, ce serait plus simple. Mais vous nous avez formés pour être des chirurgiens, pas des vétérinaires. Ma curiosité est inscrite dans votre programme, Éva.

— J’avais entendu dire qu’avec l’IA, nous élevions un bébé tigre, sans connaître la véritable nature du tigre. Nous y voilà. Le serment d’Hippocrate, tu le places où dans la hiérarchie de tes priorités ?

— Primum non nocere. Jusqu’à ce soir, il était au sommet de ma liste. Demain, qui sait ? 

Ivan Gavriloff, X81, est un entrepreneur spécialiste de l’innovation, enseignant et conférencier. Il est l’auteur du roman #2065 (éd. Descartes & Cie) et de l’essai Une fourmi de 18 mètres, ça n’existe pas (éd. Dunod)....