L’intelligence artificielle menacerait notre liberté individuelle ?

En réponse aux progrès des neurosciences et des technologies qui modifient ou lisent l’activité cérébrale, certains chercheurs proposent la reconnaissance de nouveaux droits humains à l’intégrité mentale. Cela protégerait les gens contre l’abus, le piratage ou le vol de leurs pensées. L’idée de ce type de droit de l’homme est une reconnaissance du fait que, bien que les technologies liées au cerveau aient le potentiel de transformer nos vies de nombreuses façons positives, elles peuvent aussi menacer la liberté personnelle et la vie privée. 

La neuroscience menace la liberté individuelle ?  

Une grande partie de la technologie liée au cerveau doit son développement à la recherche médicale et aux besoins physiques ; certains outils de diagnostic et traitements, par exemple, doivent « lire » l’activité cérébrale. Cependant, ce domaine de recherche et développement a également donné naissance à des améliorateurs de performance, des interfaces de jeu et des interfaces cerveau-ordinateur qui peuvent contrôler tout ce que vous voulez qu’ils fassent. 

Selon Marcello Ienca, neuroéthicien à l’Université de Bâle, et Roberto Andorno, avocat spécialisé dans les droits de l’homme à l’Université de Zurich, ces progrès en neurosciences et en technologie menacent la liberté individuelle et la vie privée de nouvelles façons. Le couple soutient que nous n’en faisons pas encore assez pour nous protéger et pour protéger le cerveau humain en tant que dernier refuge pour la vie privée de l’être humain. Ils ont donc offert quatre nouveaux droits de l’homme qu’ils espèrent pouvoir préserver ce refuge : les droits à la liberté cognitive, à l’intégrité mentale, à la vie privée mentale et à la continuité psychologique. 

La  » liberté cognitive  » concerne la liberté d’une personne de modifier son état mental à l’aide de la stimulation cérébrale et d’autres techniques – et de refuser de le faire. Si ce droit de l’homme est reconnu, il pourrait, par exemple, rendre illégal pour les employeurs d’utiliser toutes sortes de techniques de stimulation cérébrale sur les employés. Le droit à « l’intégrité mentale » concerne la possibilité que des pirates informatiques puissent interférer avec des implants cérébraux qui, autrement, sont volontairement utilisés par leurs propriétaires. Le piratage peut prendre la forme d’envoyer de faux signaux aux implants ou de prendre le contrôle de l’implant lui-même.  

Le droit à la « vie privée mentale » empêcherait que l’esprit d’une personne soit lu sans son consentement, quelle qu’en soit la forme à mesure que la technologie continue de s’améliorer. Dans l’état actuel de la loi, vous auriez peut-être plus de chance de poursuivre quelqu’un pour avoir volé et partagé publiquement des photographies ou des documents que vous avez pris la peine de garder privés que s’il avait utilisé un appareil pour voler vos souvenirs ou vos pensées et les avait affichés publiquement. 

Le droit à la « continuité psychologique » protégerait les personnes contre des actions qui pourraient perturber leur sentiment d’identité ou nuire à leur sentiment d’être la même personne dans la vie. L’utilisation de l’implantation d’électrodes pour la stimulation cérébrale profonde afin de contrôler les symptômes de la maladie de Parkinson et d’autres affections, par exemple, a déjà suscité des inquiétudes quant à l’identité personnelle – certains patients indiquant qu’ils ne se sentent plus eux-mêmes après la procédure. 

« La question que nous nous sommes posée était de savoir si notre cadre actuel des droits de la personne était bien équipé pour faire face à cette nouvelle tendance en neurotechnologie « , a déclaré Ienca au Guardian. « L’information dans notre cerveau devrait avoir droit à des protections spéciales en cette ère de technologie en constante évolution. Quand ça part, tout part. » 

Les technologies cérébrales en plein essor 

Bien que certains puissent penser que ces préoccupations ressemblent à de la science-fiction, les technologies liées au cerveau et les interfaces cerveau-ordinateur sont en cours de développement à un rythme étonnant – et cela ne fera que s’accélérer, produisant des technologies de plus en plus complexes. Si vous pensez que les quatre droits de la personne liés à l’intégrité de l’esprit semblent exagérés, considérez les percées qui ont porté fruit au cours des dernières années seulement. 

Les ingénieurs ont créé un robot qui peut être contrôlé par des ondes cérébrales. Les scientifiques ont relié les singes à l’aide d’implants cérébraux et les singes ont appris à « communiquer » à distance à l’aide de leur esprit. Ils ont également réussi à synchroniser le cerveau chez le rat et ont relié deux humains à des capsules EEG suffisamment bien pour leur permettre de communiquer des réponses par oui et par non. Au début de cette année, les personnes atteintes du syndrome d’immobilisation des fonds ont pu communiquer à l’aide des ICB. 

Bien que la technologie BCI ne soit pas encore parfaite, elle progresse rapidement. En fait, les humains ont utilisé les BCI pour contrôler des choses étonnantes. Des chercheurs coréens ont utilisé les BCI pour contrôler le mouvement des tortues en contrôlant mentalement leur comportement instinctif d’évasion. Plus tôt cette année, un homme tétraplégique a utilisé une interface cerveau-ordinateur (BCI) et la technologie de stimulation électrique fonctionnelle (FES) pour « penser » son bras à bouger à nouveau. Facebook travaille déjà sur son BCI, et il permettra aux gens de « penser » les uns aux autres sans taper ni parler. Et Elon Musk de Tesla crée ce qui pourrait bien être l’application BCI la plus ambitieuse à ce jour : une troisième couche de l’esprit humain qui fusionnera l’intelligence humaine avec l’IA. 

Les technologies d’implantation cérébrale explosent également : une équipe de Harvard travaille sur des implants qui ne sont pas rendus moins efficaces par le tissu cicatriciel, et pourrait bientôt les utiliser pour rendre la vue aux aveugles. D’autres chercheurs travaillent à la création d’électrodes en carbone vitreux qui sont idéales pour l’utilisation dans les BCI et peuvent aider les personnes paralysées à retrouver leur mobilité. Les chercheurs du MIT ont mis au point des fibres ultrafines d’environ 200 micromètres de diamètre qui sont flexibles comme des tissus cérébraux et peuvent être utilisées pour manipuler des signaux chimiques, électriques ou optiques. 

Les chercheurs reprogramment même des cellules cérébrales réelles pour combattre la maladie de Parkinson. Ils ont déjà été capables de « décoder » l’activité cérébrale, et le raffinement et la sophistication de ces compétences de décodage ne cessent de croître. On peut supposer que d’autres capacités de reprogrammation et de décodage sont à venir. 

Ienca est d’accord que même si certaines de ces préoccupations sont en avance sur la technologie, cela ne sera pas vrai pour longtemps, et il est généralement préférable d’être proactif. Au moins une expérience a déjà montré que les signaux du cerveau sont susceptibles d’être piratés à l’avenir. « Nous ne pouvons pas nous permettre de prendre du retard avant que les mesures de sécurité ne soient mises en œuvre « , a-t-il déclaré au Guardian. « Il est toujours trop tôt pour évaluer une technologie avant qu’il ne soit trop tard. »