Photo de

NEURALINK OU LA NECESSITE DE REPENSER NOTRE DROIT

 Le 28 août dernier, Elon Musk a présenté, dans le cadre de sa société Neuralink, une puce à destination des individus et implantée dans le cerveau d’un cochon aux fins, à terme, de rendre aux personnes paralysées, l’usage de leurs membres en réparant les terminaisons nerveuses endommagées et reconnectant le cerveau et les zones du corps. Servant directement d’interface avec le cerveau d'une personne, l’implant permet de contrôler les niveaux d'hormones, de lire les signaux du cerveau et même de les modifier pour résoudre des problèmes. Installé à l’arrière du crâne par un robot dans une opération ne laissant qu’une petite cicatrice, l’implant utilise la technologie bluetooth et se recharge durant la nuit par un système d’induction reliant la puce à un appareil présent dans l’oreiller de l’utilisateur.

Ce type d'avancée dans les interfaces cerveau-ordinateur offre la possibilité (inespérée) pour ses utilisateurs d’interagir directement avec les appareils en utilisant leurs pensées au lieu d'un clavier, d'une souris ou d'un écran tactile. Une technologie adaptative comme celle-ci représente une chance de mener une vie plus normale pour les personnes souffrant de troubles ou de maladies cérébrales. Or, les objectifs de Neuralink ne s’arrêtent pas au traitement de problèmes mécaniques, touchants les sens ou la motricité du corps. Elon Musk souhaite également permettre le traitement de troubles psychiatriques tels que la dépression et les addictions, au besoin par une modification voire une suppression des souvenirs. Le milliardaire est ainsi allé jusqu’à évoquer la sauvegarde et le téléchargement de ces derniers sur des interfaces robotiques. Ce but louable pose pourtant question. Tout le monde se souvient du film Minority Report, mettant en scène Prédicrime, une brigade visant à prédire les crimes et arrêter les délinquants en devenir. Cette science-fiction de 2002 deviendrait-elle bientôt réalité ? Jusqu’où pourrait aller une telle technologie implantée à l’arrière de notre crâne dans l’aliénation de nos libertés fondamentales ?

Le risque, dont le souhait a déjà été émis par de grands dirigeants de la tech, est évidemment que ces innovations permettent à terme de lire nos pensées, dernier bastion encore infranchissable de nos droits et libertés fondamentaux. Dans ce cas, est-ce qu’une simple pensée d’infraction nous amènerait devant les tribunaux à l’instar de Minority Report ? Comment résonnerait le droit de se taire lors d’une garde-à-vue si on peut lire vos pensées ?

La menace la plus évidente porte sur la cybersécurité et les piratages informatiques, qu'il s'agisse d'individus ou de groupes travaillant pour diverses organisations. Neuralink a répondu à cette question en déclarant qu'en ayant le contrôle à la fois du matériel et des logiciels, Neuralink serait capable d’assurer la sécurité de sa technologie. Or, la réalité aujourd’hui est qu’aucun système ne peut être parfaitement sûr.

Le film Inception de 2010 explore les nombreuses raisons pour lesquelles on pourrait être incité à « pirater » le cerveau d'une personne par le biais d'une interface Neuralink, qu’il s’agisse de secrets gouvernementaux, de codes bancaires, d’informations personnelles à des fins de chantage, de secrets commerciaux, etc. Cette manipulation pourrait se produire à l’insu de l'utilisateur, en cassant simplement le cryptage ou en surveillant les sorties de l'implant comportant les données personnelles.

Ainsi, si une application tierce se voit accorder l'accès à des données cérébrales dorsales, il peut devenir délicat de savoir exactement quelles informations restent sur votre appareil et quelles informations sont transmises au fournisseur de l'application.

Le même scénario est à prévoir pour la technologie Neuralink. Le potentiel de la technologie contrôlée par le cerveau est incroyablement vaste, mais il repose sur les formes existantes de communication sans fil (i.e le même principe est déjà appliqué aux claviers ou écouteurs sans fil).

Une fois que vos données s'interfaceront avec des services en ligne et des sites hébergés par des fournisseurs communs (tel que icloud), elles seront alors vulnérables à toute forme de cyberattaque courante actuellement utilisée par les pirates.

A titre d’exemple, le système Bluetooth est considéré comme un protocole sûr en raison de son système de couplage et de ses récepteurs à courte portée. Cependant, il existe des Chevaux de Troie connus qui peuvent être propagés via Bluetooth et utilisés pour voler des données sur les appareils Android. Cela suggère un risque potentiel avec Neuralink, qui pourrait etre facilement attacable via l’application Bluetooth.

Il est également important de garder à l'esprit que les appareils compatibles Bluetooth transmettront un signal à tout récepteur qu'ils trouveront dans la région. Bien que la technologie des réseaux privés virtuels (VPN) se soit avérée efficace en tant qu'outil de protection de la vie privée en cryptant les connexions Internet traditionnelles, le Neuralink est un territoire inexploré. Grâce à lui, les transmissions sans fil pourraient théoriquement être captées pour suivre vos déplacements géographiques pendant la journée. Certains experts en cybersécurité s'inquiètent de la manière dont les entreprises ou les gouvernements utiliseraient la technologie d'interface cérébrale pour leurs programmes de surveillance.

D’autre part, la technologie Neuralink soulève de véritables questions éthiques, liées notamment à la possibilité de manipuler la mémoire des personnes. Une autre menace provenant d'une mauvaise utilisation de la technologie Neuralink pourrait venir de personnes bien intentionnées mais malavisées. Pour guérir les maladies, encore faut-il définir quelles conditions humaines constituent des maladies (à guérir). A titre d’exemple, les troubles du spectre autistique sont considérés par beaucoup comme un problème à résoudre, alors qu’une minorité d’experts les considère comme le simple fruit de la neurodiversité, n’entachant nullement la santé de l’individu mais dont la société actuelle conteste l’(ordinaire) intégration sociale.

Il existe déjà des fondamentalistes qui tentent de "guérir" l'homosexualité et de "réparer" les personnes transgenres avec des soi-disant « programmes de traitement » frauduleux ou malavisés destinés à les « transformer » en hétérosexuels et/ou cisgenres, ayant des résultats désastreux pour le sujet. Bien qu'un nombre croissant d'États interdisent cette pratique auprès des jeunes, certaines personnes sont, hélas, encore partisantes de ces escroqueries. La technologie Neuralink serait une aubaine pour ces organisations, leur permettant d'utiliser cette technologie pour « induire » les personnes LGBT à changer d'orientation et d'identité sexuelle.

Imaginez donc un instant les implications que pourraient avoir des opérations de piratage d’un implant Neuralink que vous auriez programmé pour traiter votre dépression ou tout autre problème psychique, voire psychiatrique, tel que la schizophrénie, agissant par exemple sur votre perception ou vos souvenirs.

Aussi, le recours à une telle technologie ne peut se faire sans une confiance (absolue) en nos gouvernements. Chose plus facile à dire qu’à faire. Bien que les gouvernements démocratiques disposent, théoriquement des garanties juridiques pour empêcher tout abus de droit, l’histoire nous apprend à nos propres dépens que nous ne pouvons avoir une confiance aveugle en les gouvernements. Ainsi, les expériences de Tuskegee sur la syphilis, le projet MKUltra ou le lancement d'armes biologiques ne sont que quelques exemples d’utilisation détournée d’une technologie. 

Plus récemment, nous avons vu avec quelle facilité les candidats politiques peuvent abuser des données provenant des médias sociaux pour manipuler les élections. Avec des données volées (ce qui pourrait potentiellement arriver avec Neuralink), un certain nombre d'élections ont été manipulées pour élire des figures autoritaires de droite. La tentation d'une utilisation abusive de données encore plus profondes provenant d'interfaces cerveau-ordinateur est trop grande pour qu'on l'ignore.

Mais restons prudent, n’oublions pas que la technologie n’est ni bonne ni mauvaise. C’est son utilisation qui l’est. La création d’internet était annoncée comme la fin des dictatures et l’essor de la démocratie. Aujourd’hui cependant, on voit se développer de plus en plus de théories complotistes et de fake-news.

Se pose donc la question de l’objectif de la technologie : est-elle un outil au service de l’amélioration de l’Homme ou bien une arme menant petit à petit à sa disparition en tant qu’espèce biologique consciente ?

Ne soyons pas trop alarmistes. Les implants souhaités seront dotés d’avantages indéniables : les paralysés retrouveraient l’usage de leurs membres, notre cerveau pourrait être connecté au wifi et à internet en permanence, la médecine ou encore l’éducation en serait améliorée (apprendre, retenir et aller chercher dans notre inconscient serait monnaie courante), etc.

Il est donc important que l’Europe se décide, en amont de la commercialisation de ces technologies, à réglementer et à repenser nos droits et libertés fondamentaux afin notamment d’empêcher ce qui pourrait devenir le neuromarketing ou plus largement le neuro-capitalisme, selon les termes du Docteur Marcello Ienca, spécialiste en neuro-éthique.

Certains pays et organisations internationales ont déjà initiés des réflexions. Ainsi, le Chili a, en 2019, mis en place le NeuroProtection Agenda qui a pour objectif de protéger les données personnelles du cerveau (« DataBrain »). Le Parlement chilien est donc amené à étudier (i) un amendement de l’article 19 de la Constitution en date du 7 octobre 2020, visant à définir l’identité mentale comme un droit fondamental ainsi que (ii) une loi de la même date sur la NeuroProtection encadrant les termes de « neuro-technologie », « Interfaces cerveau-ordinateur », « neuro-droits » ou encore « neuro-data ». Ce projet de loi souhaite interdire la commercialisation des « neurodata ».

La prestigieuse Université de Columbia, par le biais du groupe NeuroRights Initiative, propose la création de 5 neurorights[1] : (i) le droit à l’identité personnelle visant à empêcher que la neuro-technologie ne viennent brouiller la frontière entre la conscience des individus et les apports technologiques externes, (ii) le droit au libre arbitre laissant à l’individu la liberté de prendre ses décisions, (iii) le droit à l’intimité mentale protégeant les neurodata contre la commercialisation, (iv) le droit à l’égalité d’accès à l’augmentation mentale ou encore (v) le droit à la protection contre les biais algorithmiques.

Il ne s’agit que de pistes de réflexions. De nombreuses autres idées peuvent être avancées et la nécessité de réunir des spécialistes est indéniable. Aussi, on pense à la mise en place d’un droit à la liberté cognitive laissant le libre choix aux individus d’accepter ou de refuser une neuro-technologie, le droit à la continuité psychologique permettant à chacun d’obtenir le retrait de toute neuro-technologie implantée, etc.

Le 11 décembre 2019, l’OCDE a également pris des recommandations pour une innovation responsable dans les neuro-technologies. Ces recommandations se fondent sur 9 principes visant à guider les gouvernements vers la régulation d’innovations éthiques[2]. Plus proche de nous, le 17 novembre 2017, l’Espagne a également lancé sa première version d’une charte des droits digitaux (« Carta de Derechos Digitales »).

Malheureusement en France et outre des initiatives privées, ni le Gouvernement, ni le Parlement ne semblent s’être véritablement penchés sur cette question. C’est ainsi que le projet de loi relatif à la bioéthique se cantonne à « assurer une information permanente du Parlement et du Gouvernement sur le développement des connaissances et des techniques dans le domaine des neurosciences ».

Bien qu’ayant une noble ambition, la technologie Neuralinks se heurte toutefois aux difficultés inhérentes à tout progrès, car être libre signifie avant tout pouvoir être soi, en disposant de sa conscience, de son libre arbitre et surtout d’un plein exercice de ses facultés, qu’elles soient décuplées technologiquement ou non. Si l’Homme peut se transcender, il doit avant tout rester Homme, c’est-à-dire conserver sa personnalité, sans quoi l’amélioration devient destruction.

Saluons les initiatives qui se multiplient pour faire évoluer nos droits et libertés fondamentaux au regard de ces neurotechnologies pouvant, à l’avenir, devenir particulièrement intrusives. Dès lors, il est nécessaire que des mesures concrètes soient prises pour réglementer l’usage des neuro-technologies et l’exploitation des neurodata. A titre d’exemple, si le Règlement Général de Protection des Données, aujourd’hui sur toutes les lèvres, offre une protection contre l’usage des données personnelles, n’oublions pas que jusqu’à son entrée en vigueur l’exploitation des données personnelles a pu battre son plein. Il faut éviter cela, car les neurotechnologies auront des conséquences bien plus importantes sur la vie des individus que les données personnelles que nous connaissons.

Le principe veut que la technologie soit créée puis qu’on la réglemente. Brisons ce cercle en réglementant en amont.

Article rédigé par Virna Rizzo, Avocat, et Jordan Le Gallo, Avocat.

 

[1] https://neurorights-initiative.site.drupaldisttest.cc.columbia.edu/sites/default/files/content/The%20Five%20Ethical%20NeuroRights%20updated%20pdf_0.pdf

[2] https://www.oecd.org/science/recommendation-on-responsible-innovation-in-neurotechnology.htm

Nous contacter

Cohen Amir-Aslani se tient à votre disposition pour envisager avec vous les meilleures solutions.