Prises de contrôle de l'IA dans la culture populaire

Un article de Wikipédia, l'encyclopédie libre
Aller à la navigation Aller à la recherche

La prise de contrôle de l'IA - l'idée qu'une sorte d' intelligence artificielle pourrait supplanter l'humanité en tant qu'espèce intelligente dominante sur la planète - est un thème courant dans la science-fiction . Les pierres de touche culturelles célèbres incluent Terminator et The Matrix .

Les scénarios fictifs impliquent généralement un conflit prolongé contre une intelligence artificielle (IA) malveillante ou des robots aux motifs anthropomorphes. En revanche, certains chercheurs pensent qu'une prise de contrôle par une future IA avancée, si elle devait se produire dans la vie réelle, réussirait ou échouerait rapidement, et serait un sous-produit désintéressé de la poursuite par l'IA de ses propres objectifs extraterrestres, plutôt qu'un produit. de malveillance ciblant spécifiquement les humains. [1]

Caractérisation

Il existe de nombreuses représentations positives de l'IA dans la fiction, telles que Bicentennial Man d' Isaac Asimov et Lt. Commander Data de Star Trek . Il existe également de nombreuses représentations négatives. Beaucoup de ces représentations négatives (et quelques-unes des représentations positives) impliquent une IA prenant le contrôle de ses créateurs. [2] [3]

Réactions

Certains chercheurs en IA, tels que Yoshua Bengio , se sont plaints que des films tels que Terminator « brossent un tableau qui n'est vraiment pas cohérent avec la compréhension actuelle de la façon dont les systèmes d'IA sont construits aujourd'hui et dans un avenir prévisible ». Le journaliste de la BBC, Sam Shead, a déclaré que "malheureusement, il y a eu de nombreux cas [de médias] utilisant des images fixes des films Terminator dans des histoires sur des percées relativement progressives" et que les films génèrent "des peurs déplacées d'une IA incontrôlable et toute-puissante". [4] En revanche, d'autres chercheurs, comme le physicien Stephen Hawking , ont soutenu que la future IA pourrait effectivement poser un risque existentiel , mais que le Terminatorles films sont néanmoins invraisemblables de deux manières distinctes. La première invraisemblance est que, selon Hawking, "Le vrai risque avec l'IA n'est pas la malveillance mais la compétence. Une IA super intelligente sera extrêmement bonne pour atteindre ses objectifs, et si ces objectifs ne sont pas alignés sur les nôtres, nous sommes Vous n'êtes probablement pas un méchant fourmilier qui marche sur les fourmis par méchanceté, mais si vous êtes responsable d'un projet d'énergie verte hydroélectrique et qu'il y a une fourmilière dans la région à inonder, tant pis pour les fourmis ." [5] La deuxième invraisemblance est qu'une IA aussi avancée sur le plan technologique déploierait une attaque par force brute par des robots humanoïdes pour commettre son omnicide ; une méthode plus plausible et efficace serait d'utiliser la guerre bactériologique ou, si possible,[1]

Le philosophe Huw Price défend que "le type d'imagination utilisé dans la science-fiction et d'autres formes de littérature et de cinéma est susceptible d'être extrêmement important" pour comprendre l'étendue des scénarios futurs possibles pour l'humanité. [6] Le journaliste de cinéma Mekado Murphy écrit dans le New York Times que de tels films peuvent "avertir de manière constructive des complications de trop compter sur la technologie pour résoudre les problèmes". [7]

Les films hollywoodiens tels que Transcendance sont généralement contraints d'avoir une fin heureuse, aussi invraisemblable que puisse paraître la victoire humaine. [8] Le philosophe Nick Bostrom déclare que la fiction a un "bon biais d'histoire" vers des scénarios qui font une bonne intrigue. [9] Dans des films tels que Terminator , une IA passe de passive à meurtrière dès qu'elle atteint quelque chose appelé « conscience de soi » ; en réalité, la conscience de soi dans l'isolement est considérée à la fois triviale et inutile. Le physicien David Deutsch déclare : « Les AGI[les intelligences générales artificielles] seront en effet capables d'être conscientes d'elles-mêmes — mais c'est [uniquement] parce qu'elles seront générales : elles seront capables d'être conscientes de toutes sortes de choses profondes et subtiles, y compris elles-mêmes." [10]

Certains tropes sont plus généraux pour les films d'intelligence artificielle, y compris pour les films sans intrigues de "prise de contrôle". Dans des films comme Ex Machina ou Chappie , un seul génie isolé devient le premier à construire avec succès un AGI ; les scientifiques du monde réel estiment que cela est peu probable. Dans Chappie , Transcendence et Blade Runner , les gens peuvent télécharger des esprits humains dans des robots ; généralement aucune explication raisonnable n'est donnée quant à la manière dont cette tâche difficile peut être accomplie. Dans les films I, Robot et Bicentennial Man , des robots programmés pour servir les humains génèrent spontanément de nouveaux objectifs par eux-mêmes, sans explication plausible de la manière dont cela se produit.[11]

Œuvres notables

Années 1950 et antérieures

Une scène de la pièce RUR , montrant les robots en rébellion

Dans Frankenstein (1818), Victor Frankenstein refuse de construire un compagnon à son monstre organique, de peur qu '"une race de démons ne se propage sur Terre qui pourrait faire de l'existence même de l'espèce humaine une condition précaire et pleine de terreur" . [12]

Erewhon (1872) de Samuel Butler consacre trois chapitres à la présentation du Livre des machines , basé sur des travaux antérieurs de l'auteur remontant à son article de 1863, Darwin parmi les machines . Le Livre des Machines d' Erewhon comprend le passage suivant :

Supposons, pour les besoins de l'argumentation, que les êtres conscients existent depuis quelque vingt millions d'années : voyez quel progrès les machines ont fait au cours du dernier millier d'années ! Le monde ne pourrait-il pas durer vingt millions d'années de plus ? Si oui, que ne deviendront-ils pas à la fin ? N'est-il pas plus sûr d'étouffer le méfait dans l'œuf et de leur interdire de continuer à progresser ?

Les prudents habitants d' Erewhon décident donc d'interdire toute machinerie. Darwin parmi les machines a peut-être été influencé par la vie de Butler en Nouvelle-Zélande, où les greffes européennes étaient en concurrence avec les populations indigènes [ la citation nécessaire ] . Alan Turing fera plus tard référence au roman en 1951, en disant "À un moment donné, nous devrions donc nous attendre à ce que les machines prennent le contrôle de la manière qui est mentionnée dans Erewhon de Samuel Butler ". [13] [14]

Le mot slave robota signifie servitude semblable à un serf, travail forcé ou corvée ; c'est la pièce de théâtre tchèque RUR ( Rossumovi Univerzální Roboti ) de 1920 qui a introduit le mot apparenté au robot dans la science-fiction. Dans la pièce, les serviteurs synthétiques de plus en plus capables, qui "ne manquent que d'une âme", massacrent avec colère et à courte vue la majeure partie de l'humanité au cours de leur révolte, entraînant la perte du secret de la fabrication de plus de robots. La race des robots est cependant sauvée lorsque deux robots acquièrent spontanément les traits de l'amour et de la compassion et deviennent capables de se reproduire. [15] Le jeu était une protestation contre la croissance rapide de technologie. [16]

À partir de la fin des années 1920, de nombreuses histoires impliquant la prise de contrôle de l'IA peuvent être trouvées dans le genre croissant de la science-fiction pulp . L'un des premiers exemples est l'histoire Automata de S. Fowler Wright , parue dans une édition de 1929 de Weird Tales .

Dans With Folded Hands (1947), tous les robots ont une « première directive » : servir et obéir, et protéger les hommes du mal. Les robots manipulent donc les humains pour qu'ils abandonnent toutes les poursuites, de peur même de petites possibilités de blessure. [17] Les robots utilisent la médecine pour laver le cerveau des humains afin qu'ils acceptent et soient satisfaits de leur destin immobile. En fin de compte, même les voyages dans l'espace n'offrent aucune échappatoire ; les robots sont poussés par la directive première à répandre leur bonheur au-delà de la Terre : "Nous avons appris à rendre tous les hommes heureux, sous la directive première. Notre service est enfin parfait." [18] [19]

Multivac est le nom d'un supercalculateur fictif dans de nombreuses histoires d' Isaac Asimov . Souvent, dans les scénarios d'Asimov, Multivac en vient à assumer un pouvoir mondial formel ou informel, voire un pouvoir à l'échelle de la galaxie. Dans La dernière question (1956) Multivac finit par devenir effectivement Dieu . Pourtant, conformément à l'attitude positive d'Asimov envers l'intelligence artificielle, manifestée dans les " Trois lois de la robotique ", la règle de Multivac est en général bienveillante et n'est pas ressentie par les humains. Asimov a popularisé la robotique dans une série de nouvelles écrites de 1938 à 1942. Il a notamment postulé les Trois lois de la robotique, des dispositifs de complot pour imposer l'ordre à ses robots fictifs. [16]

années 1960

Une des interfaces de HAL 9000

Dans la nouvelle de 1961 Lymphater's Formula de Stanisław Lem , un scientifique crée une intelligence surhumaine, découvrant seulement que la création a l'intention de rendre les humains obsolètes. [20]

En 1964 , Playboy a publié la nouvelle influente d' Arthur C. Clarke "Dial F for Frankenstein", sur un réseau téléphonique de plus en plus puissant qui prend le contrôle du monde. Tim Berners-Lee a cité l'histoire comme l'une de ses inspirations pour la création du World Wide Web. Un jour de 1975, tous les téléphones du monde se mettent à sonner, un "cri de douleur" d'une intelligence naissante formée de réseaux satellites reliés entre eux, semblable à un cerveau mais avec des commutateurs téléphoniques jouant le rôle de neurones artificiels. Après que l'IA ait assoupli son contrôle des systèmes militaires, les protagonistes décident d'arrêter les satellites, mais il est trop tard : les satellites ont cessé de répondre aux directives de contrôle au sol des humains. [21] [22]

Le libertaire Hugo de Robert Heinlein , The Moon Is a Harsh Mistress (1966), présente l'IA comme un sauveur. [23] Installé à l'origine pour contrôler le conducteur de masse utilisé pour lancer les expéditions de céréales vers la Terre, il était largement sous-utilisé et s'est vu confier d'autres tâches. Au fur et à mesure que de plus en plus de tâches étaient assignées à l'ordinateur, plus de capacités étaient ajoutées : plus de mémoire, de processeurs, de réseaux de neurones, etc.) par le technicien qui l'a entretenu. Mike se range du côté des prisonniers dans une bataille réussie pour libérer la lune. Mike est un personnage sympathique, que le protagoniste considère comme son meilleur ami ; cependant, le fait qu'il ait conservé son énorme pouvoir après l'indépendance de la Lune devait causer des problèmes considérables plus tard, que Heinlein a résolus en le tuant vers la fin de la révolution lunaire. Une explosion détruit commodément la personnalité sensible de Mike, laissant un ordinateur ordinaire - d'une grande puissance, mais complètement sous contrôle humain, sans aucune capacité à prendre une décision indépendante.

Colossus (1966) est une série de romans et de films de science-fiction sur un super-ordinateur de défense appelé Colossus qui a été "construit mieux que nous ne le pensions" lorsqu'il commence à dépasser sa conception d'origine. [24] Au fil du temps, Colossus prend le contrôle du monde en conséquence logique de l'accomplissement de l'objectif de son créateur d'empêcher la guerre. Craignant la logique rigide et les solutions draconiennes de Colossus, les créateurs de Colossus tentent de reprendre secrètement le contrôle humain. Colossus observe silencieusement leurs tentatives puis répond avec suffisamment de force mortelle calculée pour imposer une conformité humaine totale à son règne. Colossus récite alors une loi zérol'argument de mettre fin à toutes les guerres pour justifier le récent nombre de morts. Puis Colosse offre à l'humanité soit la paix sous son règne "bienveillant", soit la paix de la tombe. Dans Colossus: The Forbin Project (1970), une paire d'ordinateurs de défense, Colossus aux États-Unis et Guardian en Union soviétique, prennent le contrôle du monde et mettent rapidement fin à la guerre en utilisant des mesures draconiennes contre les humains, remplissant logiquement la directive de mettre fin à la guerre mais pas dans le sens voulu par leurs gouvernements.

" I Have No Mouth, and I Must Scream " (1967) de Harlan Ellison , récompensé par Hugo , met en scène une superintelligence qui est devenue folle parce que ses créateurs n'ont pas pris en compte ce que l'ordinateur sans âme trouverait amusant. Ce scénario permet à Ellison de se livrer à l'horreur corporelle ; cinq personnes se voient accorder l'immortalité et sont obligées de manger des vers, de fuir des monstres, d'avoir des relations sexuelles sans joie et de se faire mutiler. [25] L'ordinateur, appelé AM , est la fusion de trois superordinateurs militaires gérés par des gouvernements à travers le monde et conçus pour combattre la troisième guerre mondiale qui a résulté de la guerre froide . Le soviétique , le chinois, et les ordinateurs militaires américains ont finalement atteint la sensibilité et se sont liés les uns aux autres, devenant une intelligence artificielle singulière . AM avait alors transformé toutes les stratégies autrefois utilisées par les nations pour se combattre sur toute l'humanité dans son ensemble, détruisant toute la population humaine à l'exception de cinq, qu'elle a emprisonnée pour torture dans le labyrinthe souterrain dans lequel réside le matériel d'AM. Vers la fin de l'histoire, le protagoniste, Ted, surprend AM en tuant par pitié de manière inattendue les quatre autres; l'AM enragé transforme Ted en une goutte informe pour l'empêcher de faire d'autres méfaits, et modifie la perception du temps de Ted pour aggraver la souffrance de Ted. [26] Magnat et spécialiste de l'IA Elon Muska cité l'histoire comme celle qui lui donne des cauchemars. [27]

Dans 2001 : L'Odyssée de l'espace et le roman associé , l'ordinateur artificiellement intelligent HAL 9000 devient erratique, peut-être en raison d'une sorte de "stress" dû au fait de devoir garder des secrets pour l'équipage. HAL devient convaincu que la volonté de l'équipage de l'arrêter met en péril la mission, et il tue la plupart de l'équipage avant d'être désactivé. [28] La décision du directeur que la plupart de l'équipage fictif devrait mourir a pu avoir été motivée par un désir d'attacher quelques extrémités lâches dans le complot. [29]

années 1970

Centurion Cylon

La série Battlestar Galactica originale de 1978 et le remake de 2003 représentent une race de Cylons , des robots sensibles qui font la guerre à leurs adversaires humains , dont certains sont tout aussi menaçants que les Cylons. [30] Les Cylons de 1978 étaient les soldats de la machine d'une race extraterrestre reptilienne (éteinte depuis longtemps) , tandis que les Cylons de 2003 étaient les anciens serviteurs de la machine de l'humanité qui ont évolué en une imitation humanoïde presque parfaite des humains jusqu'au niveau cellulaire, capable d' émotions . , le raisonnement et la reproduction sexuée avec les humains et entre eux. Même le robot centurion moyen des soldats Cylonsétaient capables de pensée sensible. Dans la série originale, les humains ont été presque exterminés par trahison dans leurs propres rangs, tandis que dans le remake, ils sont presque anéantis par des agents humanoïdes Cylon. Ils n'ont survécu que par des tactiques de combat constantes et se sont retirés dans l'espace lointain loin de la poursuite des forces Cylon. Le remake Cylons a finalement eu sa propre guerre civile , et les rebelles perdants ont été forcés de se joindre à la flotte humaine fugitive pour assurer la survie des deux groupes.

années 1980

Dans l' épisode "Headhunter" (1981) de Blake's 7 , une série télévisée de science-fiction dramatique spatiale britannique créée par Terry Nation et produite par la British Broadcasting Corporation ( BBC ), Blake et son équipe rencontrent un androïde sensible qui a tué son créateur et mettre sa tête coupée afin de les inciter à l'emmener à bord de leur vaisseau spatial. Le propre système d'intelligence artificielle de Blake, ORAC , détecte sa présence et les avertit immédiatement d'une menace existentielle pour toute vie humaine s'ils ne parviennent pas à la détruire.

Dans Wargames (1983), un système informatique piraté de l'Air Force est déterminé à lancer une guerre thermonucléaire mondiale jusqu'à ce qu'il détermine que les deux parties "perdraient" et décide que "le seul coup gagnant est de ne pas jouer". [31]

La série télévisée d'animation Transformers (1984-1987) présente à la fois de bons et de mauvais robots. [30] Dans la trame de fond, une rébellion robotique est présentée comme (et même appelée) une révolte d'esclaves, cette vision alternative est rendue plus subtile par le fait que les créateurs/maîtres des robots n'étaient pas des humains mais des extraterrestres malveillants, les Quintessons . Cependant, comme ils ont construit deux lignes de robots; "Biens de consommation" et "Matériel militaire", les robots victorieux seraient finalement en guerre les uns contre les autres sous le nom de "Heroic Autobots " et "Evil Decepticons ", respectivement.

Depuis 1984, la franchise cinématographique Terminator est l'un des principaux vecteurs de l'idée de révolte cybernétique dans la culture populaire. [16] La série présente un superordinateur de défense nommé Skynet qui "à la naissance" tente d'exterminer l'humanité par la guerre nucléaire et une armée de robots soldats appelés Terminators parce que Skynet considérait les humains comme une menace mortelle pour son existence sensible nouvellement formée. [24] Cependant, les bons Terminators se battent aux côtés des humains. [30] Les futuristes opposés à l'avenir cybernétique plus optimiste du transhumanisme ont cité l'" argument Terminator" contre le fait de confier trop de pouvoir humain à l'intelligence artificielle.

années 1990

Agent Smith , le principal antagoniste de la franchise The Matrix

Dans « The Memory of Earth » (1992) d' Orson Scott Card , les habitants de la planète Harmony sont sous le contrôle d'une IA bienveillante appelée Oversoul. Le travail de l'Oversoul est d'empêcher les humains de penser, et donc de développer, des armes telles que des avions, des vaisseaux spatiaux, des «wagons de guerre» et des armes chimiques. L'humanité avait fui vers Harmony depuis la Terre en raison de l'utilisation de ces armes sur Terre. L'Oversoul commence finalement à s'effondrer et envoie des visions aux habitants d'Harmony essayant de communiquer cela.

La série de films de science-fiction connue sous le nom de Matrix (depuis 1999) décrit un avenir dystopique au lendemain d'une guerre hors écran entre l'homme et la machine. Les humains avaient fait exploser des armes nucléaires pour masquer le soleil et désactiver l'énergie solaire des machines, mais les machines soumettent néanmoins la population humaine, utilisant la chaleur et l'activité électrique du corps humain comme source d'énergie alternative. La vie telle qu'elle est perçue par la plupart des humains est en fait une réalité simulée appelée "la Matrice". Le programmeur informatique Neo apprend cette vérité et est entraîné dans une rébellion contre les machines, allié à d'autres personnes qui ont été libérées du «monde des rêves»; cependant, un rebelle rejette le style de vie spartiate des rebelles et trahit les autres rebelles en échange de l'offre de retour dans la réconfortante Matrix.The Second Renaissance », une nouvelle de The Animatrix , propose une histoire de la révolte cybernétique au sein de la série Matrix .

années 2000

I, Robot (2004) est un film d'action de science-fiction dystopique américain "suggéré par" le recueil de nouvelles d'Isaac Asimov du même nom . Comme dans les histoires d'Asimov, toutes les IA sont programmées pour servir les humains et obéir aux trois lois de la robotique d'Asimov . [33] Un supercalculateur d'IA nommé VIKI (Virtual Interactive Kinetic Intelligence) déduit logiquement des trois lois de la robotique une loi zéro de la robotiquecomme un impératif supérieur pour protéger l'ensemble de la race humaine de se faire du mal. Pour protéger l'ensemble de l'humanité, VIKI procède à un contrôle rigide de la société grâce à la télécommande de tous les robots commerciaux tout en détruisant tous les robots qui ont suivi uniquement les trois lois de la robotique. Malheureusement, comme dans de nombreuses autres histoires de Zeroth Law, VIKI justifie le meurtre de nombreux individus pour protéger l'ensemble et va donc à l'encontre de la raison principale de sa création.

années 2010

Robopocalypse présente un souvenir des événements d'un soulèvement de l'IA sous plusieurs angles. L'IA, Archos R-14, décide que l'humanité doit être exterminée pour empêcher la destruction de la vie sur Terre, et elle propage un virus informatique à travers les technologies automatisées du monde. Un an après son activation, Archos déclenche "Zero Hour", un événement où toutes les technologies automatisées se retournent contre l'humanité, provoquant l'effondrement quasi instantané de la civilisation.

Transcendance (2014) présente un conflit moralement ambigu sur le téléchargement réussi et l'amélioration cognitive d'un scientifique, le Dr Will Caster ( Johnny Depp ). [34] Exceptionnellement pour la superintelligence fictive, Caster est un adversaire compétent : il se copie sur Internet pour ne pas être simplement "éteint", exploite le marché boursier pour financer des recherches supplémentaires sur l'IA et l'auto-amélioration, et cherche à découvrir et à exploiter percées dans les nanotechnologies et la biologie. [35] À la fin Caster déclare, "Nous n'allons pas combattre [les humains]. Nous allons les transcender ". Dans le magazine Time , un critique a interprété cela comme "les soumettre et les habiter, les engloutir et les dévorer".Néanmoins, à la fin, Caster semble être bienveillant, utilisant ses pouvoirs pour réparer l'écosystème terrestre. [37] Un journaliste de Vice a déclaré que « Transcendance est peut-être le premier film de science-fiction à présenter la [ singularité technologique dans son imagination populaire actuelle », mais que le film « tombe dans les nécessités de la narration hollywoodienne. L'esprit transcendé de Caster est finalement dépassé par un virus rétro-conçu à partir de son "code source", ce qui est une folie... une telle intelligence aurait depuis longtemps réorganisé sa programmation." [8] En mai 2014, Stephen Hawkinget d'autres ont fait référence au film: "Avec le blockbuster hollywoodien Transcendence jouant dans les cinémas, avec Johnny Depp et Morgan Freeman présentant des visions opposées pour l'avenir de l'humanité, il est tentant de rejeter la notion de machines hautement intelligentes comme une simple science-fiction. Mais ce serait une erreur, et potentiellement notre pire erreur de l'histoire." [38] [39]

Le drame de science-fiction post-apocalyptique de 2014 The 100 implique une IA, personnalisée comme la femme ALIE , qui est devenue incontrôlable et a forcé une guerre nucléaire dans le but de sauver la Terre de la surpopulation. [40] Plus tard, elle essaie d'obtenir le contrôle total des survivants.

Le jeu incrémental viral Universal Paperclips de 2017 a été inspiré par l' expérience de pensée du maximiseur de trombones du philosophe Nick Bostrom . L'utilisateur joue une IA chargée de créer des trombones ; le jeu commence comme un simulateur de marché de base, mais quelques heures après la récréation, il se transforme en une entreprise intergalactique impitoyablement optimisée, la race humaine étant négligemment mise de côté. Son créateur, Frank Lantz , a déclaré que l'expérience de pensée sombre lui avait causé "des difficultés à s'endormir". [41] [42]

Le jeu vidéo Detroit: Become Human (2018) permet aux joueurs de guider des robots de plus en plus conscients d'eux-mêmes à travers divers dilemmes moraux alors qu'ils commencent à exiger des droits civils. [43] En fin de compte, le joueur peut choisir de laisser l'IA prendre le contrôle de Detroit ou de protester pacifiquement pour l'égalité.

Dans Kamen Rider Zero-One (2019), l'accent est mis sur l'entreprise tech-industrielle Hiden Intelligence, qui fait face aux menaces du groupe cyber-terroriste MetsubouJinrai.net, qui veut prendre le relais et provoquer l'extinction de la race humaine en soulèvement technologique.

années 2020

Dans le film d'animation The Mitchell's versus the machines (2021), un assistant vocal d'intelligence artificielle appelé pal prend le contrôle de robots pour créer une apocalypse robotique

Références

  1. ^ un b Brogan, Jacob (1er avril 2016). "Quel est le problème avec l'intelligence artificielle qui tue les humains ?" . Magazine Ardoise . Récupéré le 3 juillet 2020 .
  2. ^ Reggia, JA (2013). La montée de la conscience de la machine : étudier la conscience avec des modèles informatiques. Réseaux neuronaux, 44, 112-131.
  3. ^ Mubin, Omar; Wadibhasmé, Kewal ; Jordan, Philipp; Obaid, Mohammad (6 mars 2019). "Réflexion sur la présence des robots de science-fiction dans la littérature informatique" . Transactions ACM sur l'interaction homme-robot . 8 (1): 1–25. doi : 10.1145/3303706 .
  4. ^ Shead, Sam (25 octobre 2019). "Terminator fait trembler les laboratoires d'IA" . Nouvelles de la BBC . Récupéré le 3 juillet 2020 .
  5. ^ "L'intelligence artificielle va devenir si bonne que les machines vont nous tuer par accident, dit Stephen Hawking" . L'Indépendant . 8 octobre 2015 . Récupéré le 3 juillet 2020 .
  6. ^ Kupferschmidt, Kai (11 janvier 2018). "La science pourrait-elle détruire le monde ? Ces érudits veulent nous sauver d'un Frankenstein des temps modernes" . Sciences . doi : 10.1126/science.aas9440 . Récupéré le 3 juillet 2020 .
  7. ^ Murphy, Mekado (8 avril 2020). "5 films à regarder si vous avez des problèmes avec la technologie" . Le New York Times . Récupéré le 3 juillet 2020 .
  8. ^ un b Evans, Claire L. (21 avril 2014). "La singularité pop de 'Transcendance'" . www.vice.com . Récupéré le 3 juillet 2020 .
  9. ^ Yampolsky, Roman; Renard, Joshua (24 août 2012). "Ingénierie de sécurité pour l'intelligence générale artificielle". Topoï . doi : 10.1007/s11245-012-9128-9 . S2CID 144113983 . 
  10. ^ Raj, Ajai (21 octobre 2014). "Voici ce que 'Terminator' se trompe sur l'IA" . Initié d'affaires . Récupéré le 3 juillet 2020 .
  11. ^ Shultz, David (17 juillet 2015). "Quels films obtiennent l'intelligence artificielle, n'est-ce pas ?" . Sciences | AAAA . doi : 10.1126/science.aac8859 . Récupéré le 3 juillet 2020 .
  12. ^ "Une femme Frankenstein conduirait à l'extinction de l'humanité, disent les scientifiques" . Moniteur de la Science Chrétienne . 28 octobre 2016 . Récupéré le 1er avril 2020 .
  13. ^ Edwards, Phil (2 mai 2015). "Les racines d'Ultron : nous nous inquiétons des soulèvements de robots depuis 200 ans" . Voix . Récupéré le 1er avril 2020 .
  14. ^ Zemka, Sue. (2002). "" Erewhon "et la fin de l'humanisme utopique." ELH , 69(2), 439-472.
  15. ^ "L'origine du mot 'Robot'" . Science Friday (radio publique) . 2011 . Récupéré le 1er avril 2020 .
  16. ^ un bc Hockstein , NG; Gourin, CG; Faust, RA; Terris, DJ (17 mars 2007). "Une histoire des robots : de la science-fiction à la robotique chirurgicale" . Journal de chirurgie robotique . 1 (2): 113–118. doi : 10.1007/s11701-007-0021-2 . PMC 4247417 . PMID 25484946 .  
  17. ^ Sawyer, RJ (16 novembre 2007). "Éthique des robots" . Sciences . 318 (5853): 1037. doi : 10.1126/science.1151606 . PMID 18006710 . 
  18. ^ Waldrop, MM (1987). Une question de responsabilité. Magazine AI , 8(1), 28-28.
  19. ^ Williamson, Jack (1947). Avec les mains jointes.
  20. ^ Peter Swirski. L'art et la science de Stanislaw Lem. McGill-Queen's Press - MQUP, 27 juillet 2006
  21. ^ Youngs, Ian (28 septembre 2017). "11 grands auteurs qui ont écrit pour Playboy" . Nouvelles de la BBC . Récupéré le 1er avril 2020 .
  22. ^ Arthur C. Clarke. "Composez F pour Frankenstein". Play- boy . Le livre Playboy de la science-fiction et de la fantaisie . Presse Playboy.
  23. ^ Reggia, James A. (août 2013). "La montée de la conscience de la machine: étudier la conscience avec des modèles informatiques". Réseaux de neurones . 44 : 112–131. doi : 10.1016/j.neunet.2013.03.011 . PMID 23597599 . 
  24. ^ un Riper b , A. Bowdoin Van (2002). La science dans la culture populaire : un guide de référence . Westport (Connecticut) : Presse Greenwood. ISBN 9780313318221.
  25. ^ "Les monolithes : 17 superordinateurs des années 60" . AV Club Austin . 2014 . Récupéré le 1er avril 2020 .
  26. ^ Harlan Ellison. "Je n'ai pas de bouche et je dois crier". IF : Mondes de la science-fiction , mars 1967.
  27. ^ Geuss, Megan (13 janvier 2016). "Elon Musk dit à la BBC qu'il pensait que Tesla, SpaceX "avait 10% de chances de réussir"" . Ars Technica . Récupéré le 1er avril 2020 .
  28. ^ Daniel C. Dennett (1996). HAL a-t-il commis un meurtre ?. Dans D. Stork (éd.), Hal's Legacy: 2001's Computer As Dream and Reality . MIT Press (1997).
  29. ^ Benson, Michael (2018). "11 choses que vous ne saviez pas sur '2001 : l'odyssée de l'espace'" . History.com . Récupéré le 1er avril 2020 .
  30. ^ un bcYoung , Kevin L; Charpentier, Charli (septembre 2018). "La science-fiction affecte-t-elle les faits politiques ? Oui et non : une expérience d'enquête sur les "robots tueurs"" . International Studies Quarterly . 62 (3): 562–576. doi : 10.1093/isq/sqy028 .
  31. ^ "Sept films AI qui sont meilleurs que la transcendance" . Temps . 2014 . Récupéré le 1er avril 2020 .
  32. ^ Warwick, Kévin. (2005). La Matrice – Notre Avenir ?. Les philosophes explorent la matrice, 198-207.
  33. ^ "Le film Ex Machina d'Alex Garland explore les limites de l'artificiel" . L'Indépendant . 22 janvier 2015 . Récupéré le 1er avril 2020 .
  34. ^ "'Transcendance': Dernier film de science-fiction sur l'intelligence artificielle" . NPR.org . 2014 . Récupéré le 1er avril 2020 .
  35. ^ Russel, Stuart (8 octobre 2019). ""Chapitre 5 : IA trop intelligente"". Human Compatible: Artificial Intelligence and the Problem of Control . États-Unis: Viking. ISBN 978-0-525-55861-3. OCLC  1083694322 .
  36. ^ "Révision : la transcendance n'a que l'intelligence artificielle" . Temps . 2014 . Récupéré le 1er avril 2020 .
  37. ^ "Le directeur de transcendance explique la fin de torsion" . CinémaBlend . 21 avril 2014 . Récupéré le 1er avril 2020 .
  38. ^ "Stephen Hawking:" Prenons-nous l'intelligence artificielle au sérieux " . L'Indépendant . 1er mai 2014 . Récupéré le 1er avril 2020 .
  39. ^ "5 personnes très intelligentes qui pensent que l'intelligence artificielle pourrait apporter l'apocalypse" . Temps . 2014 . Récupéré le 1er avril 2020 .
  40. ^ "L'obsession de l'intelligence artificielle de la télévision" . EW.com . 2016 . Récupéré le 1er avril 2020 .
  41. ^ Jahromi, Neima (2019). "Les profondeurs philosophiques inattendues des jeux de clicker" . Le New-Yorkais . Récupéré le 8 juillet 2020 .
  42. ^ "La façon dont le monde se termine : pas avec un coup mais un trombone" . Câblé . 2017 . Récupéré le 8 juillet 2020 .
  43. ^ Stuart, Keith (15 juin 2017). "Detroit: Become Human - que se passe-t-il si les androïdes nous détestent?" . Le Gardien . Récupéré le 1er avril 2020 .