Le film de science-fiction le plus sombre d'Amazon Prime révèle un débat controversé sur les robots

L’Internet est en effervescence avec des discussions sur la question de savoir si l’intelligence artificielle peut devenir vraiment sensible après qu’un chatbot de Google se soit déclaré être exactement cela.

Mais alors qu’Internet peut paniquer à propos de la sensibilité de l’IA en ce moment, Hollywood est obsédé par le sujet depuis des décennies, explorant spécifiquement l’idée à travers des affrontements entre robots et humains dans des films comme Je robot et Le Terminateur la franchise.

L’itération la plus récente de ce débat controversé sur l’IA apparaît peut-être dans Archive, un film de science-fiction de 2020 en streaming sur Amazon Prime. Le film se penche sur une gamme de sujets de science-fiction, y compris le téléchargement de votre conscience dans un au-delà numérique, mais sa prémisse centrale taquine une question particulière : pouvons-nous créer des robots qui sont vraiment “équivalents” aux êtres humains ?

Inverse s’est entretenu avec deux experts dans le domaine de la robotique et de l’intelligence artificielle pour déballer la science lourde au cœur de ce film de science-fiction incroyablement sombre et demander s’il dénature l’IA dans sa quête d’équivalence humaine.

“Il existe de nombreuses définitions différentes de l’IA au niveau humain”, a déclaré Baobao Zhang, un professeur adjoint de sciences politiques à l’Université de Syracuse qui étudie la gouvernance de l’IA, raconte Inverse.

Science de la bobine est un Inverse série qui révèle la vraie (et la fausse) science derrière vos films et séries préférés.

L’IA deviendra-t-elle “l’équivalent” de l’humain ?

Les experts disent que l’IA peut être équivalente aux humains dans un ensemble très limité de situations – comme jouer à un jeu – mais certainement pas dans la plupart des scénarios de la vie réelle. Shutterstock

ArchiveLe protagoniste de , un scientifique isolé du nom de George Almore, a construit trois prototypes d’androïdes différents – chacun plus avancé que le précédent – dans le but de créer une IA véritablement “équivalente à un être humain”. Un androïde est un robot qui ressemble à un être humain. Il teste la capacité de ses prototypes à afficher des qualités intrinsèquement humaines, telles que l’empathie, à travers un jeu vidéo consistant à jouer avec un chiot.

« Vous êtes tous une tentative de la même chose. Apprentissage à plusieurs niveaux. Intelligence artificielle. L’équivalent humain du Saint Graal », raconte George à son troisième et plus avancé prototype, J3.

Mais si vous demandez à un chercheur en intelligence artificielle si les humains peuvent construire un robot “équivalent” – ou peut-être un qui surpasse les humains – ils vous donneront une réponse plus compliquée que celle proposée par le film.

“Je pense qu’il est important de décomposer ce que l’IA surpasse les humains signifie. Nous devrions faire la distinction entre l’IA surpassant les humains dans des tâches spécifiques et l’IA surpassant les humains dans toutes ou presque toutes les tâches », explique Zhang.

Par exemple, les recherches de Zhang se concentrent davantage sur la définition de ce qu’elle appelle l’IA « au niveau humain » en relation avec le travail.

La bande-annonce du film de science-fiction 2020, Archive.

“Dans notre étude, nous avons défini ‘l’intelligence machine au niveau humain’ comme lorsque les machines peuvent effectuer 90 % ou plus de tâches mieux que le travailleur humain médian payé pour effectuer cette tâche”, explique Zhang.

Sven Nyholm, professeur adjoint de philosophie à l’Université d’Utrecht et auteur du livre Humains et robots : éthique, agentivité et anthropomorphisme, ressent la même chose que Zhang.

“Eh bien, ce serait bien de connaître la réponse à cette question : équivalent en quoi ?” demande Nyholm.

Nyholm dit qu’il est plausible que les humains puissent développer une IA qui se comporte de manière similaire – en d’autres termes, imite – le comportement humain dans un “ensemble restreint de situations”. Mais un robot qui fonctionne à un niveau équivalent aux humains dans toutes les situations semble beaucoup moins réaliste.

De plus, si nous parlons d’une IA qui correspond non seulement à l’intelligence cognitive des humains, mais aussi à toute notre gamme émotionnelle et à notre capacité d’empathie, c’est probablement plus improbable, malgré ce que Archive suggère.

“Si nous avons une technologie d’IA dépourvue d’un cerveau ou d’un système nerveux de type animal ou humain, il est difficile de voir comment elle pourrait ressentir des sentiments ou avoir des états affectifs similaires aux nôtres ou à ceux des animaux”, déclare Nyholm.

Mais il existe une autre définition, moins évidente, de « l’équivalence » : une définition morale. Nyholm décrit les recherches de John Danaher, qui soutient que si un robot se comporte d’une manière équivalente à un être humain, il devrait avoir le même statut moral que les êtres humains. Nyholm est un peu moins certain.

“Mais c’est, bien sûr, un grand” si “, car créer des robots qui se comportent de manière équivalente à la façon dont les humains se comportent est très difficile à faire”, déclare Nyholm.

Peut-on vraiment comparer l’IA aux humains ?

La comparaison d’Archive entre l’IA et le développement humain est erronée, disent les experts. Divertissement vertical

Dans Archive, George utilise beaucoup de charabia vaguement scientifique pour expliquer comment il a construit ses prototypes, jetant des termes réels comme “apprentissage en profondeur” – une méthode de formation à l’IA qui est calquée sur la façon dont les humains apprennent – ​​mais qui fait partie de sa science cinématographique enraciné dans la recherche réelle sur l’IA ? Pas vraiment.

Recherche en apprentissage profond en situation réelle Est-ce que modéliser les métriques de l’IA par rapport aux performances humaines, selon Zhang, mais c’est à peu près la seule chose que le film réussit. C’est dans les détails du film où Archive quitte le domaine de la véritable recherche sur l’IA et entre dans la science-fiction.

Le scientifique du film, George, a développé trois versions différentes d’androïdes, chacune plus avancée sur le plan du développement que la suivante. Le premier prototype a cessé de se développer mentalement à l’âge de cinq ans et est émotionnellement monotone. Le deuxième prototype est mentalement plus développé que le premier et exprime des émotions de base comme la jalousie. Le troisième et dernier prototype est censé être “équivalent” à un humain, contenant toutes les complexités de l’être humain. Il utilise des scanners cérébraux équivalents d’humains à différents âges pour montrer à quel point chaque prototype a progressé.

Mais les experts de la vie réelle disent que c’est une comparaison trop simpliste entre l’IA et le développement humain.

“L’idée que nous pourrions mapper le développement de l’IA sur le développement humain – comme dans, par exemple, un certain système d’IA équivalant à un enfant de cinq ans – est assez irréaliste”, déclare Nyholm.

La raison pour laquelle c’est irréaliste est liée au fait que les systèmes d’IA fonctionnent d’une manière très différente des corps humains. Par exemple, alors que l’IA peut devenir très bonne dans des tâches spécifiques, comme jouer au jeu Aller, il est souvent très mauvais pour d’autres tâches en dehors de son champ d’expertise.

Zhang est d’accord. “Je pense qu’il est difficile de faire correspondre le développement de l’IA au développement humain”, dit-elle.

Les chercheurs en intelligence artificielle se soucient-ils autant de l'”équivalence” qu’Hollywood ?

Le scientifique du film, George Almore, a des objectifs différents de ceux de la plupart des chercheurs en IA réels. Divertissement vertical

Malgré toute l’attention qu’Hollywood a consacrée aux films examinant des robots qui ont égalé ou surpassé les humains, ce n’est pas vraiment une préoccupation aussi importante pour les chercheurs travaillant dans ce domaine.

“Je ne dirais pas que c’est une grande préoccupation de discussion parmi les chercheurs en IA. La majorité des chercheurs en IA travaillent sur des sujets beaucoup plus étroits », dit Nyholm, mais il ajoute que les chercheurs envisagent parfois des scénarios de science-fiction pour inspirer leur travail.

Des chercheurs sommes intéressés à s’assurer que l’IA ne nuit pas aux gens, mais pas parce qu’ils craignent que les robots ne deviennent trop intelligents, comme Hollywood aime le suggérer. Un exemple pourrait inclure les préjugés raciaux dans la technologie de reconnaissance faciale, qui repose sur des algorithmes générés par ordinateur.

“Je pense qu’il est vraiment important que les systèmes d’IA” étroits “déployés aujourd’hui soient sûrs, équitables et robustes”, déclare Zhang.

Zhang ajoute que les films hollywoodiens comme Archive ont tendance à se concentrer sur des intrigues qui anthropomorphisent – attribuent des qualités humaines – aux robots, ce qui peut amener le grand public à mal comprendre comment l’IA fonctionne réellement dans notre vie quotidienne dans des applications logicielles comme les chatbots ou les moteurs de recherche.

« La plupart des systèmes d’IA d’aujourd’hui ne sont pas des androïdes ou des robots ; au lieu de cela, ils sont intégrés dans des applications logicielles sans représentation physique », explique Zhang.

“Je pense que cela ne correspond probablement pas vraiment à de nombreuses recherches sur l’IA dans le monde réel. Cependant, cela fait un bon récit engageant dans une histoire de science-fiction », ajoute Nyholm.

Archive est en streaming maintenant sur Amazon Prime.