Black Mirror, bateau de Thésée et immortalité numérique
Si vous n'avez pas vu Black Mirror et que vous souhaitez voir la série, vous pouvez arrêter ici et revenir plus tard. Si vous n'avez pas prévu de voir cette superbe série ou si vous l'avez déjà vue, c'est pour vous. Même si mon but n'est pas de spoiler, juste en rapportant certains épisodes à la notion d'immortalité numérique, je vais vous enlever la surprise.
Pour faire simple, l'immortalité numérique ou virtuelle est un concept qui se base sur la possibilité de transférer la personnalité dans un support numérique. Cela peut se faire en enregistrant l'ensemble des conversation d'une personne et en la stockant dans une mémoire pour lui permettre de continuer d'exister.
Techniquement, il n'est pas difficile de nos jours de stocker l'ensemble des interactions d'une vie. Les capacités de stockage sont telles qu'elles permettent d'avoir toutes les conversations qu'une personne pourrait avoir stockées sur un support de 4 ou 5 cm3. Stocker l'ensemble de ce qu'une personne a vu ne prendrait pas non plus une place énorme.
Le troisième montre des limites dans les données qui peuvent être utilisées. En effet, la façon dont on interagit sur les réseaux sociaux ou lors de la création de photos ou de vidéos ne reflète pas vraiment notre personnalité. Les réseaux sociaux biaisent eux-mêmes la façon dont on perçoit le réseau puisqu'il va nous proposer du contenu qu'il supposera plaisant ou intéressant. Les utilisateurs ont donc plus tendance à réagir sur un certain type de contenu. Par ailleurs, les utilisateurs auront tendance à créer du contenu qui plait à son réseau pour un semblant de popularité plutôt que de créer du contenu personnel sur lequel, ils pourront être critiqués. Quand, ils le font, c'est souvent de manière "épidermique" sur un sujet d'actualité. Une immortalité basée là-dessus serait forcément biaisée.
Dans l'épisode s02e01 "Be right back", Martha qui perd son mari dans un accident de voiture a d'abord recours à un bot virtuel pour combler l'absence. Ce robot est capable de lui écrire des mails dans un premier temps grâce à un algorithme qui étudie les comportements sur les réseaux sociaux. Ensuite, le robot peut l'appeler par téléphone grâce à une autre partie de l'algorithme qui synthétise la voix grâce aux données privées que fournit Martha. Cet apport de données permet à l'intelligence artificielle d'être encore plus près des réactions du défunt. L'impression qu'a l'IA sur Martha est telle qu'elle décide de participer à une expérience. Une enveloppe corporelle neutre va lui être envoyée et sera activée par ses soins.
Ici, l'immortalité est mise en place pour combler le manque dans le cœur d'un proche. Si l'expérience est louable, elle montre vite ses limites. L'IA ne réagit pas comme un humain aux situations qui n'ont pas été traitées dans l'algorithme. C'est le problème que je soulevais dans le point précédent au sujet de la moisson de données via les réseaux sociaux et des données privées.
Cela dit, est-ce qu'une capture tout au long de la vie ou via un cliché de la mémoire à un moment donné aurait permis de changer cela ? Rien n'est moins sûr. En effet, la société qui produira des robots ou des IA de ce type ne voudra pas avoir mauvaise presse avec une création qui se comporte mal. On imagine donc le robot au service de l'humain qui l'a commandé au point que ses réactions ne seront pas réelles dans certains cas. Cet aspect est traité dans l'épisode et conduit au rebut du robot jusque dans le grenier.
La deuxième utilisation consiste à créer un paradis numérique dans lequel sont stockés les personnalités d'un certain nombre de gens. Ces personnes pourraient interagir entre elles en fonction de la capture qui a été faite au moment de votre mort. Cet aspect est traité dans l'épisode s03e04 "San Junipero". Des retraités isolés, des patients tétraplégiques ou en phase terminale se retrouvent à l'époque qu'ils souhaitent revivre et si cela leur plait, il peuvent basculer indéfiniment une fois leur mort venue.
Une des limites qui est étudiée dans l'épisode est l'ennui qui vient avec l'immortalité. Emil Michel Cioran écrivait
Une copie numérique de nous-mêmes ne semble pas être à même de s'ennuyer. Dans l'épisode s02e01 "Be right back", le robot, remisé au grenier avec une visite hebdomadaire de la fille que le défunt a conçu la veille de sa mort, ne semble pas s'ennuyer. Techniquement, ce n'est pas possible. Est-ce qu'une enceinte intelligente s'ennuie quand on ne l'utilise pas ? Je ne pense pas. De là, est-ce qu'il est possible de considérer un double imparfait, puisqu'il ne connait pas tous les sentiments, comme une extension de la vie ? Même si la copie était parfaite, peut-on considérer qu'il s'agit d'une extension de notre propre vie ?
Un bug fait basculer le paradis artificiel qui est devenu assez poussé pour que les limites de l'ennui ne soit plus visibles et dont les personnalités sont le reflet de celles qu'elles sont sensées reproduire. Des sondes dans le programme doivent donc permettre de juger si le paradis est toujours viable. Sur quel critères ?
Il est donc intéressant de se poser la question de savoir si une personnalité stockée dans un nouveau corps ou dans un monde virtuel où il pourra continuer à interagir est toujours la même personne. En tout cas, je crois que c'est une question qui est soulevée par l'épisode s03e04 "San Junipero" ou s02e01 "Be right back".
Elle l'est de manière moins explicite dans l'épisode spécial "White christmas" où un clone numérique est créé pour devenir l'intelligence artificielle d'une maison. Dans cette épisode, le but est d'avoir une intelligence artificielle qui puisse connaître précisément les besoins et les envies d'une personne. Le clone est sensé sentir le temps passer et l'ennui. J'ai du mal à conceptualiser comment une intelligence artificielle pourrait s'ennuyer mais ce concept est à recouper avec un aspect de l'immortalité que j'abordais précédemment. Des clones numériques et leurs sentiments sont également présentés dans l'épisode S04e01 "USS Callister".
Le paradoxe du bateau de Thésée s'invite dans le débat pour savoir si une création de nous-mêmes, même parfaite, est nous-mêmes. Là où le bateau de Thésée a une continuité dans l'histoire, l'immortalité numérique voudrait dire qu'on bascule d'un état vers l'autre. Dans ce cas, il est difficile de concevoir qu'il s'agit du même être. Si le bateau de Thésée par la force de Zeus avait été démonté et que l'ensemble de ses planches avaient servies à reconstruire le bateau à l'identique, s'agirait-il toujours du bateau de Thésée ? D'un autre côté, un double immortel qu'on créerait dans un paradis artificiel tout au long de notre vie serait-il pour autant une continuité de nous-mêmes ?
Toutes les bonnes choses ont une fin, la vie et cet article en font partie...
Qu'est-ce que l'immortalité numérique/virtuelle ? Comment y accéder ?
Pour faire simple, l'immortalité numérique ou virtuelle est un concept qui se base sur la possibilité de transférer la personnalité dans un support numérique. Cela peut se faire en enregistrant l'ensemble des conversation d'une personne et en la stockant dans une mémoire pour lui permettre de continuer d'exister.
Techniquement, il n'est pas difficile de nos jours de stocker l'ensemble des interactions d'une vie. Les capacités de stockage sont telles qu'elles permettent d'avoir toutes les conversations qu'une personne pourrait avoir stockées sur un support de 4 ou 5 cm3. Stocker l'ensemble de ce qu'une personne a vu ne prendrait pas non plus une place énorme.
Transfert de la personnalité sur un support numérique
Le premier problème réside dans la capture et le transfert des données dans le support. C'est le moment où l'évolution technique doit intervenir et où Black Mirror nous propose des solutions. A l'heure actuelle, ces technologies semblent être trop abstraites pour exister.- Un système de capture comme dans l'épisode de Black Mirror s01e03 "The entire history of you" permettrait de capturer et de stocker chaque instant d'une vie. Pour rappel, une puce est logée sous le lobe et permet via une connexion au cerveau de collecter tout ce que le sujet voit ou entend. Le transfert post-mortem sur un support ne serait pas plus compliqué que ça. Une technologie similaire est présentée dans l'épisode s04e02 "Archangel".
- Une autre technologie évoquée dans Black Mirror est la lecture du cerveau comme ça peut être le cas dans l'épisode spécial "White Christmas" ou dans l'épisode s03e02 "Playtest". Dans les deux cas, une puce est insérée pour lire ou capturer les données stockées dans le cerveau afin de les utiliser pour confondre un criminel ou l'immerger dans un jeu à réalité augmentée.
- Un troisième système de capture est présenté dans la série et est celui souvent retenu par les défenseurs de l'immortalité numérique. Il s'agit d'aspirer l'ensemble des données que nous avons créer sur les réseaux sociaux et d'y agréger celles que nous avons stocké de manière privée. Ce procédé est décrit dans l'épisode s02e01 "Be right back".
Le troisième montre des limites dans les données qui peuvent être utilisées. En effet, la façon dont on interagit sur les réseaux sociaux ou lors de la création de photos ou de vidéos ne reflète pas vraiment notre personnalité. Les réseaux sociaux biaisent eux-mêmes la façon dont on perçoit le réseau puisqu'il va nous proposer du contenu qu'il supposera plaisant ou intéressant. Les utilisateurs ont donc plus tendance à réagir sur un certain type de contenu. Par ailleurs, les utilisateurs auront tendance à créer du contenu qui plait à son réseau pour un semblant de popularité plutôt que de créer du contenu personnel sur lequel, ils pourront être critiqués. Quand, ils le font, c'est souvent de manière "épidermique" sur un sujet d'actualité. Une immortalité basée là-dessus serait forcément biaisée.
Mise en place de l'immortalité
Cet aspect est traité de deux manières. Il est intéressant de noter que le but de l'immortalité n'est pas le même dans les deux épisodes.Dans l'épisode s02e01 "Be right back", Martha qui perd son mari dans un accident de voiture a d'abord recours à un bot virtuel pour combler l'absence. Ce robot est capable de lui écrire des mails dans un premier temps grâce à un algorithme qui étudie les comportements sur les réseaux sociaux. Ensuite, le robot peut l'appeler par téléphone grâce à une autre partie de l'algorithme qui synthétise la voix grâce aux données privées que fournit Martha. Cet apport de données permet à l'intelligence artificielle d'être encore plus près des réactions du défunt. L'impression qu'a l'IA sur Martha est telle qu'elle décide de participer à une expérience. Une enveloppe corporelle neutre va lui être envoyée et sera activée par ses soins.
Ici, l'immortalité est mise en place pour combler le manque dans le cœur d'un proche. Si l'expérience est louable, elle montre vite ses limites. L'IA ne réagit pas comme un humain aux situations qui n'ont pas été traitées dans l'algorithme. C'est le problème que je soulevais dans le point précédent au sujet de la moisson de données via les réseaux sociaux et des données privées.
Cela dit, est-ce qu'une capture tout au long de la vie ou via un cliché de la mémoire à un moment donné aurait permis de changer cela ? Rien n'est moins sûr. En effet, la société qui produira des robots ou des IA de ce type ne voudra pas avoir mauvaise presse avec une création qui se comporte mal. On imagine donc le robot au service de l'humain qui l'a commandé au point que ses réactions ne seront pas réelles dans certains cas. Cet aspect est traité dans l'épisode et conduit au rebut du robot jusque dans le grenier.
La deuxième utilisation consiste à créer un paradis numérique dans lequel sont stockés les personnalités d'un certain nombre de gens. Ces personnes pourraient interagir entre elles en fonction de la capture qui a été faite au moment de votre mort. Cet aspect est traité dans l'épisode s03e04 "San Junipero". Des retraités isolés, des patients tétraplégiques ou en phase terminale se retrouvent à l'époque qu'ils souhaitent revivre et si cela leur plait, il peuvent basculer indéfiniment une fois leur mort venue.
Une des limites qui est étudiée dans l'épisode est l'ennui qui vient avec l'immortalité. Emil Michel Cioran écrivait
Le seul argument contre l'immortalité est l'ennui.Cet aspect traité dans un certains nombre d'ouvrages cinématographiques ou littéraires est pour moi l'argument de poids contre l'immortalité. Dans l'épisode auquel je fais référence, les habitants de San Junipero sont divisés entre les touristes et les locaux. Les touristes sont les malades et les locaux sont les morts. Les locaux essayent de tromper l'ennui avec les touristes mais au bout d'un moment, ils en viennent à chercher des choses qui leur feront oublier leur immortalité. Le suicide numérique ne semblant pas possible, on les trouve à s'amuser dans une boîte de nuit sado-masochistes aux pratiques violentes. Cela pose la question de savoir si l'ennui mortel n'aura pas raison de notre immortalité.
Une copie numérique de nous-mêmes ne semble pas être à même de s'ennuyer. Dans l'épisode s02e01 "Be right back", le robot, remisé au grenier avec une visite hebdomadaire de la fille que le défunt a conçu la veille de sa mort, ne semble pas s'ennuyer. Techniquement, ce n'est pas possible. Est-ce qu'une enceinte intelligente s'ennuie quand on ne l'utilise pas ? Je ne pense pas. De là, est-ce qu'il est possible de considérer un double imparfait, puisqu'il ne connait pas tous les sentiments, comme une extension de la vie ? Même si la copie était parfaite, peut-on considérer qu'il s'agit d'une extension de notre propre vie ?
Quid du bug
Imaginons maintenant que le double parfait est créé et qu'il soit tellement parfait qu'il nous permette de poursuivre notre vie au-delà de la mort. Je n'ai pas fait d'alerte spoiler pour "abre los ojos" d'Alejandro Amenabar car juste le faire consiste à spoiler. Cela dit, l'homme se trouve être bloqué dans un cauchemar qui s'étend sur une éternité. Ce qui devait être un paradis, se transforme en enfer. Pour Cesar, il est possible de quitter son monde cauchemardesque pour retourner dans son enveloppe physique qui peut être soignée. Cela dit, le temps est passé dans le monde extérieur et il n'est pas sûr de retrouver sa place dans un monde qui a évolué.Un bug fait basculer le paradis artificiel qui est devenu assez poussé pour que les limites de l'ennui ne soit plus visibles et dont les personnalités sont le reflet de celles qu'elles sont sensées reproduire. Des sondes dans le programme doivent donc permettre de juger si le paradis est toujours viable. Sur quel critères ?
Le bateau de Thésée
Pour faire court, Thésée est allé tuer le minotaure dans le labyrinthe et a ramené les enfants prisonniers à Athènes. Les athéniens auraient conservé le bateau en bois pendant de nombreuses décennies (voire siècles) en changeant le bois du bateau au fur et à mesure qu'il vieillissait. Au final, il ne restait plus de pièce du vaisseau originel et les philosophes se sont demandé si on pouvait le considérer encore comme le bateau de Thésée.Il est donc intéressant de se poser la question de savoir si une personnalité stockée dans un nouveau corps ou dans un monde virtuel où il pourra continuer à interagir est toujours la même personne. En tout cas, je crois que c'est une question qui est soulevée par l'épisode s03e04 "San Junipero" ou s02e01 "Be right back".
Elle l'est de manière moins explicite dans l'épisode spécial "White christmas" où un clone numérique est créé pour devenir l'intelligence artificielle d'une maison. Dans cette épisode, le but est d'avoir une intelligence artificielle qui puisse connaître précisément les besoins et les envies d'une personne. Le clone est sensé sentir le temps passer et l'ennui. J'ai du mal à conceptualiser comment une intelligence artificielle pourrait s'ennuyer mais ce concept est à recouper avec un aspect de l'immortalité que j'abordais précédemment. Des clones numériques et leurs sentiments sont également présentés dans l'épisode S04e01 "USS Callister".
Le paradoxe du bateau de Thésée s'invite dans le débat pour savoir si une création de nous-mêmes, même parfaite, est nous-mêmes. Là où le bateau de Thésée a une continuité dans l'histoire, l'immortalité numérique voudrait dire qu'on bascule d'un état vers l'autre. Dans ce cas, il est difficile de concevoir qu'il s'agit du même être. Si le bateau de Thésée par la force de Zeus avait été démonté et que l'ensemble de ses planches avaient servies à reconstruire le bateau à l'identique, s'agirait-il toujours du bateau de Thésée ? D'un autre côté, un double immortel qu'on créerait dans un paradis artificiel tout au long de notre vie serait-il pour autant une continuité de nous-mêmes ?
Les limites techniques peuvent être surpassées, les questionnements demeureront
Pour moi, la question principale est : qui veut vraiment vivre pour toujours ? Toutes les autres sont seulement d'ordre technique.Toutes les bonnes choses ont une fin, la vie et cet article en font partie...