Article paru le 12 février 2020 dans le journal "El Pais".
https://elpais.com/noticias/rafael-yuste-rojas/
Pourquoi nous devons interdire la manipulation de nos cerveaux avant qu'elle ne soit possible
Le scientifique Rafael Yuste, à l'origine de la plus grande initiative visant à comprendre le cerveau, appelle les gouvernements à créer de nouvelles lois contre les risques de la neurotechnologie.
"Nous avons une responsabilité historique. Nous sommes à un moment où nous pouvons décider du type d'humanité que nous voulons". Ce sont des mots capitaux, tout autant que le défi auquel Rafael Yuste est confronté. Ce neuroscientifique espagnol, professeur à l'université de Columbia (USA), a les fantômes d'autres grands scientifiques de l'histoire qui ont ouvert la boîte de Pandore qui murmurent dans sa conscience. Lui qui a promu l'initiative sur le cerveau, la plus grande tentative de découvrir les secrets du cerveau, ne fuit pas sa responsabilité : "Je la porte comme un devoir". M. Yuste est bien conscient de ce que son domaine, la neurotechnologie, est déjà capable de voir et de faire dans nos esprits. Et il craint qu'elle ne devienne incontrôlable si elle n'est pas réglementée. C'est pourquoi il appelle les gouvernements du monde entier à créer et à protéger une nouvelle catégorie de droits : les neuro-droits. Le Chili veut être le premier pays à les inclure dans sa constitution, et des négociations sont déjà en cours pour que cet esprit soit inclus dans la stratégie du gouvernement espagnol en matière d'intelligence artificielle.
"La vie privée maximale d'une personne est ce qu'elle pense, mais il commence à être possible de la déchiffrer", avertit M. Yuste.
L'année dernière, Yuste a réussi à manipuler le comportement de souris. Pour ce faire, il est intervenu dans le minuscule cerveau des rongeurs, qui est entraîné à siroter du jus lorsqu'il voit des bandes verticales sur un écran. Yuste et son équipe avaient ciblé les neurones spécifiques qui s'activaient à ce moment-là et les avaient stimulés directement lorsque les barres n'étaient pas visibles à l'écran. Mais les souris ont siroté leur jus comme si elles les avaient vues. "Ici, à Columbia, un de mes collègues a mis au point une prothèse visuelle sans fil pour les aveugles, dotée d'un million d'électrodes, qui permet de connecter une personne au réseau. Mais elle peut aussi être utilisée pour créer des soldats superpuissants", prévient M. Yuste. Le dispositif, financé par la Darpa (l'agence de recherche de l'armée américaine), pourrait stimuler jusqu'à 100 000 neurones, ce qui permettrait d'acquérir des compétences surhumaines.
Lorsque M. Yuste a commencé à travailler sur l'initiative relative aux neuro-droits il y a deux ans, il s'agissait presque d'une approche abstraite, de science-fiction. "Mais l'urgence de la situation s'est accrue, des problèmes assez graves se profilent à l'horizon ; les entreprises technologiques se lancent tête baissée dans ce domaine parce qu'elles pensent, à juste titre, que le nouvel iPhone sera une interface cerveau-ordinateur non invasive", avertit M. Yuste. L'homme qui a été le fer de lance d'un projet américain de 6 milliards de dollars pour la recherche sur le cerveau énumère avec inquiétude les mouvements de ces derniers mois. Facebook a investi un milliard de dollars dans une entreprise qui fait communiquer le cerveau avec les ordinateurs. Et Microsoft a investi un autre milliard dans l'initiative d'intelligence artificielle d'Elon Musk, qui investit 100 millions de dollars dans Neuralink, une entreprise qui implantera des fils très fins dans le cerveau de ses utilisateurs pour accroître leurs compétences. Et Yuste sait que Google fait des efforts similaires qui ne sont pas publics. L'ère du neurocapitalisme est arrivée.
"Ces grandes entreprises technologiques deviennent nerveuses pour ne pas se laisser distancer par le nouvel iPhone cérébral. Nous devons nous adresser directement à la société et aux législateurs pour prévenir les abus", dit-il. La technologie de M. Musk vise à aider les patients atteints de paralysie ou amputés d'un membre à contrôler leur parole et leurs mouvements ou à voir et entendre grâce à leur seul cerveau. Mais il ne cache pas que l'objectif ultime est de nous connecter directement aux machines pour nous améliorer grâce à l'intelligence artificielle. L'initiative de Facebook est similaire : une entreprise ayant un historique de respect de la vie privée comme celle de Zuckerberg, accède aux pensées de ses utilisateurs.
Ces affirmations ressemblent à de la science-fiction, mais un simple examen de certaines réalisations récentes en matière de neurosciences met ces aspirations à portée de main. En 2014, des scientifiques espagnols ont réussi à transmettre le "bonjour" directement du cerveau d'un sujet à celui d'un autre, à 7 700 kilomètres de distance, au moyen d'impulsions électriques. Plusieurs laboratoires sont parvenus à recréer une image plus ou moins claire de ce que voit un sujet, simplement en analysant les ondes cérébrales qu'il produit. L'électroencéphalographie a été utilisée pour lire des mots tels que "cuillère" ou "téléphone" dans le cerveau d'une personne qui y pensait. Il a également été utilisé pour identifier les humeurs. À l'université de Berkeley, ils ont pu identifier la scène que les sujets regardaient grâce au nuage de mots que leur cerveau générait à la vue de la scène : chien, ciel, femme, parler... Cette technologie pourrait être utilisée pour découvrir des sentiments, en fonction des mots qui surgissent à la vue d'une image : par exemple, elle pourrait lire "haine" à la vue de l'image d'un dictateur.
Le neuroscientifique madrilène Rafael Yuste.
Certains de ces jalons ont dix ans et, depuis, des milliards ont été investis dans des projets privés et gouvernementaux monumentaux, de Facebook à Darpa en passant par l'Académie chinoise des sciences. "Il pense que le projet chinois est trois fois plus grand que le projet américain et qu'il va droit au but, en fusionnant les deux côtés : l'intelligence artificielle et la neurotechnologie", prévient Yuste, qui se dit optimiste quant aux avantages de la neurotechnologie et souhaite donc la réglementer.
"À court terme, le danger le plus imminent est la perte de l'intimité mentale", prévient M. Yuste, qui a lancé son initiative sur les neuro-droits après en avoir discuté à Columbia avec une équipe de 25 neuroscientifiques, juristes et éthiciens appelée le Morningside Group. De nombreuses entreprises ont déjà mis au point des dispositifs, généralement sous la forme d'un casque, pour enregistrer l'activité cérébrale des utilisateurs qui veulent contrôler mentalement des drones et des voitures, ou pour mesurer le niveau de concentration ou le stress des travailleurs, comme c'est le cas pour les conducteurs publics en Chine. Ils y sont également utilisés avec des écoliers : le bandeau lit leurs ondes cérébrales et une petite lumière indique à l'enseignant leur niveau de concentration. Le problème est que l'entreprise qui les vend, BrainCo, vise la plus grande base de données de ce type d'activité cérébrale. Plus elle dispose de données, plus ses relevés seront bons et précieux, bien entendu. Alors que l'industrie technologique extrait depuis une décennie toutes les données qu'elle peut obtenir de l'utilisation des applications et des appareils, la possibilité de presser chaque neurone est un filon irrésistible.
Des bandeaux qui espionnent les neurones
Le règlement proposé par le groupe de Yuste comporte deux approches. La première est l'autorégulation, avec un serment technocratique qui lie déontologiquement les ingénieurs, les informaticiens et les autres spécialistes qui se consacrent à la neurotechnologie. En ce sens, des négociations sont en cours avec l'Espagne pour intégrer l'esprit de ce serment dans la stratégie nationale en matière d'intelligence artificielle que prépare le gouvernement. D'autre part, Yuste aspire à ce que les neuro-droits soient inclus dans la Déclaration des droits de l'homme et à ce que les gouvernements établissent un cadre juridique pour prévenir les abus. Le pionnier sera le Chili, avec le gouvernement duquel il a presque finalisé une législation spécifique et son inclusion dans la Constitution.
"Ce qui m'inquiète le plus, c'est le décryptage des neurodonnées : la vie privée ultime d'une personne est ce qu'elle pense, mais il commence à être possible de la décrypter", avertit M. Yuste. "Nous le faisons tous les jours dans les laboratoires avec des souris, et dès que des entreprises privées auront accès à ces informations, riez des problèmes de confidentialité que nous avons eus jusqu'à présent avec les téléphones portables. C'est pourquoi nous avons besoin de neuro-droits, car c'est une question de droits de l'homme", résume-t-il. Le neuroscientifique veut alerter la population car "il n'y a aucune réglementation et cela affecte les droits humains fondamentaux".
"Il y a un potentiel de désastre si nous laissons la situation continuer à échapper à tout contrôle, car il y a un manque total de réglementation", avertit M. Martínez-Conde.
La neurobiologiste Mara Dierssen, qui n'est pas impliquée dans l'initiative de Yuste, souligne les problèmes bioéthiques découlant des possibilités d'amélioration de l'homme par la neurotechnologie. Si, selon elle, beaucoup de sensationnalisme et d'arrogance entourent des entreprises comme celle de Musk, Mme Dierssen souligne qu'"à long terme, il est prévu que les implants puissent entrer dans le domaine de la chirurgie élective pour ceux qui veulent "alimenter leur cerveau avec la puissance d'un ordinateur"". "Quelles sont les conséquences de la neuro-amélioration dans un monde globalisé, biotechnifié et socio-économiquement inégalitaire ? La grande question qui se pose inévitablement est de savoir dans quelle mesure ces techniques seraient accessibles à tous", déclare M. Dierssen, chercheur au centre de régulation génomique et ancien président de la société espagnole de neurosciences.
Pour la neuroscientifique Susana Martínez-Conde, l'initiative est "non seulement positive mais nécessaire". "Nous réalisons, en tant que société, que les avancées technologiques vont bien au-delà de ce à quoi nous sommes philosophiquement et juridiquement préparés. Nous sommes confrontés à des situations sans précédent dans l'histoire", déclare M. Martínez-Conde, directeur du Laboratory for Integrative Neuroscience de l'université d'État de New York. "Nous devons en prendre note car la neurotechnologie a des implications directes sur ce que signifie être humain. Il y a un potentiel de désastre si nous laissons la situation continuer à devenir incontrôlable parce qu'il y a un manque total de réglementation. Il est temps d'agir avant une catastrophe à l'échelle mondiale", prévient-il.
Cette catastrophe a des résonances historiques. Alors qu'il parle depuis son bureau de Columbia, M. Yuste regarde le bâtiment où a été lancé le projet Manhattan, qui a conduit au largage des bombes atomiques sur Hiroshima et Nagasaki. "Ces mêmes scientifiques ont ensuite été les premiers en première ligne dans la bataille pour la réglementation de l'énergie nucléaire. Les mêmes personnes qui ont fabriqué la bombe atomique. Nous sommes sur le côté, à l'origine d'une révolution neuroscientifique, mais nous sommes aussi les premiers à devoir alerter la société", dit-il.
Nouveaux "neuro-droits
Le groupe dirigé par Rafael Yuste développe ses préoccupations autour de cinq neuro-droits :
1.- Droit à l'identité personnelle. Ces spécialistes craignent que la connexion des cerveaux aux ordinateurs ne dilue l'identité des personnes. Lorsque les algorithmes aident à prendre des décisions, le moi de l'individu pourrait être brouillé.
Le droit au libre arbitre. Ce droit neurologique est étroitement lié au droit à l'identité personnelle. Lorsque des outils externes interfèrent avec nos décisions, la capacité des humains à décider de leur avenir peut être remise en question.
3.- Droit à l'intimité mentale. Les outils neurotechnologiques qui interagissent avec le cerveau auront la capacité de recueillir toutes sortes d'informations sur les sujets dans la sphère la plus privée que l'on puisse imaginer : leurs pensées. Les experts estiment qu'il est essentiel de préserver l'inviolabilité des "neurodonnées" générées par les cerveaux humains.
4.- Le droit à l'égalité d'accès aux technologies d'augmentation. M. Yuste est convaincu que les neurotechnologies apporteront d'innombrables avantages aux humains, mais il craint que les inégalités et les privilèges pour les quelques personnes qui auront accès à ces nouvelles capacités humaines ne se multiplient.
5.- Le droit à la protection contre les préjugés et la discrimination. Ces dernières années, nous avons vu de nombreux cas dans lesquels les programmes et les algorithmes multiplient les préjugés et les partis pris. Ce droit vise à garantir que de telles défaillances sont recherchées avant leur mise en œuvre.
https://elpais.com/noticias/rafael-yuste-rojas/
