Champ de tir est mort, L'Interrobang est né.
Retrouvez la suite du blog ici.
Derniers coups de coeur de l'automne
Il y a 6 ans
mardi 14 avril 2009
jeudi 9 avril 2009
DEUS IN MACHINA
Chair humaine contre métal hurlant : la SF a fait du robot notre pire ennemi. A l'heure où ils s'apprêtent à déferler sur le monde, démontons la machine à fantasmes. Et interrogeons son créateur...
« Voyant que sa créature croissait en force et en taille à cause du nom divin sur son front, l'homme se rendit maître d'elle. Effaça son nom. Et le golem tomba en poussière. » Le golem. C'est ce monstre artificiel qui hante les mythes hébraïques. Cet être de poussière et d'argile façonné par la main de l'homme qui aurait volé le gant de dieu. Un humanoïde. Le premier robot. Selon les légendes populaires, le Maharal de Prague l'aurait créé au XVIe siècle pour défendre les Juifs des Pogroms. En inscrivant le nom de Dieu (EMETH) sur le front de cette statue de boue, il lui aurait donné la vie et la force de servir la communauté. Mais l'esclave lui échappa. Lâchée dans les rues de Prague, il y sema un chaos total, écrasant sans pitié les humains qu'il devait protéger. « La légende peut être lue comme la dénonciation du risque que porte en elle la cybernétique, selon Michel Faucheux chercheur sur la valeur symbolique des techniques. Elle réactive le mythe de l'apprenti sorcier, (...) souligne le danger d'une machine autonome et plaide pour sa régulation par l'homme. » A l'heure où les robots fourbissent leurs mécha-membres, dans l'attente de leur avènement imminent, l'ombre du golem resurgit du fond des âges. Et se découpe sur le mur du futur.
LA TACTIQUE DE L'ETHIQUE
Depuis longtemps, la SF a fait sienne ces peurs millénaristes. Les premières machines destructrices apparaissent dans la littérature du XIXe siècle, mais elles ne portent pas encore le nom de robot. Il faut attendre 1920 et une pièce tchèque visionnaire (R.U.R.) pour que le mot soit prononcé. Dérivée du polonais robota (travailleur) et du tchèque robotnik (l'esclave), l'abréviation est sans équivoque : le robot est un travailleur servile. Rien de plus qu'un outil. En théorie. Car son cyber-cortex toujours plus évolué, sa conscience embryonnaire, son autonomie grandissante le conduisent fatalement à se révolter contre la main qui l'exploite. A défier son maître. C'est pour éviter ce syndrome de Frankenstein et protéger l'humain du métal hurlant, que l'écrivain Isaac Asimov formalisa dès 1942 les trois lois fondamentales de la robotique dans sa nouvelle Runaround : 1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, laisser cet être humain exposé au danger ; 2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ; 3. Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi. Un concept si bien ficelé, si séduisant que plusieurs pays songent depuis quelques temps à le transposer dans le monde réel. La Corée notamment qui élabore depuis 2007 « une charte éthique de la robotique pour définir et encadrer les rôles et fonctions des robots intelligents du futur ». Un peu speed les Coréens ? Pas si vite : dans ce pays à la pointe de la technologie, où l'on surfe à plus de 50 méga/seconde l'oreille collée à un cellphone high-tech, un robot par ménage d'ici 2020 n'a rien du délirium SF. Alors le ministère de l'industrie anticipe : « Les robots pensants deviendront des compagnons clés de l'homme », assure Park Hye-Young, membre du bureau de la robotique. Toujours en élaboration, ce texte s'appuierait sur le corpus d'Asimov pour résoudre la batterie de questions juridiques qui ne tardera pas à ouvrir le feu : traitement abusif des robots, utilisation illégale d'un robot, phénomène d'addiction à la robotique... Et même mariage entre humains et droïdes : « Imaginez seulement que certaines personnes se mettent à traiter leurs androïdes comme si c'était leur femme ! » Aïe, robot.
Mais relisons Asimov. En bon scientifique, l'écrivain a expérimenté ses Trois lois au fil de son œuvre. Vérifié leur validité. Éprouvé leurs limites. Relevé leurs contradictions. Pour malgré lui les invalider. Au nom de ces lois, une intelligence artificielle constatant que l'homme est un danger pour l'homme (pollution, guerres...) pourrait nous déchoir, nous dominer, nous détruire pour le bien de l'humanité sans rien enfreindre de ce qu'on lui a implémentées. Inspiré des récits d'Asimov, le I, ROBOT d'Alex Proyas dévoile le tableau apocalyptique de cette réaction en chaîne, l'infernal programmatisme planqué derrière la robéthique. Déjà dans l'ancestral WARGAMES (1983) un super-ordinateur confondait un banal piratage de lycéen avec une attaque soviétique et déclenchait automatiquement le feu nucléaire. Pour nous défendre. La régulation éthique de la machine est-elle vouée aux paradoxes ? « Il ne s'agit que d'un procédé littéraire, tempère Frédéric Kaplan chercheur en intelligence artificielle. Il ne faut surtout pas prendre ces lois au premier degré. Comme l’indique clairement Asimov dans sa préface à la série des Robots, il y a à l’origine l’idée de donner au robot une série de soupapes de sécurité qui devrait empêcher cette révolte inéluctable que l’on retrouve dans toutes les histoires de ce genre. » Pour Kaplan, c'est évident : en démontrant l'inadéquation de ces lois, en jouant sur leur mauvaise interprétation, Asimov réactualise tout simplement le syndrome de Frankenstein. Quadrature du cercle, again.
SCIENCE SANS CONSCIENCE...
Dans la communauté des chercheurs en robotique, toutes ces considérations éthiques font plutôt marrer : « On est encore plus proche du lave-vaisselle qu'autre chose, lâche Philippe Soueres du Laboratoire d'Architecture et d'Analyse des Systèmes (LAAS). Si des politiques, des juristes veulent se poser ce genre de questions, pourquoi pas, mais ces fantasmes n'ont pas lieu d'être dans nos labos. Ce n'est pas parce qu'un robot a une structure, une tête, des bras qu'il faut projeter dessus l'idée que ce sont des machines intelligentes et douées d'émotion. Nous sommes très loin d'avoir créé quelque chose qui remette en question la place de l'homme. » La révolte des robots ? « Des conneries, pour Nabil Zemiti roboticien du CNRS. Basiquement, un droïde c'est juste un moteur et un bout de ferraille. On peut le faire marcher, le programmer pour effectuer des tâches très simples et aider l'être humain. C'est tout. » Le chercheur est à sa place : prosaïque, terre à terre, imperméable au prospectivisme de la SF. C'est un accoucheur du futur qui ne conjugue qu'au présent. Au conditionnel si l'on insiste. A ses yeux, le robot tient d'avantage de l'ustensile métallique que d'une hypothétique menace sur notre dominion planétaire. Il y voit seulement la réponse prochaine à plusieurs enjeux de civilisations, le vieillissement de nos sociétés occidentales par exemple. Une société française, Aldebaran Robotics, y travaille depuis 2002 : « Dans le futur, chaque personne âgée aura un robot domestique, prophétise ainsi Bruno Maisonnier le boss de ce leader du marché. Il les assistera dans leurs tâches quotidiennes, les aidera à rester plus longtemps chez elle. Aujourd'hui on en est encore aux plate-formes de recherche et développement, mais pour reprendre les propos de la chambre de commerce de l'ONU : "Au XXIe siècle, le marché de la robotique autonome sera aussi gros que le marché automobile au XXe siècle. " »
Investisseurs n°1 ? Les marchands de mort. Qui n'ont rien à foutre de l'assistance à la personne. Tomahawks, drones espions, démineurs mécaniques, machines de combat... Ca fait 30 ans que le Pentagone fantasme son mécha-soldat et injecte des centaine de milliards dans la recherche sur la vie artificielle. Encore au stade de la préhistoire, la robotisation du champ de bataille, le fameux Future Combat System, marche au pas vers le futur. Et réveille le spectre de Skynet (TERMINATOR). Quid de cette machine globale et décisionnelle qui se met tranquillement en place, de cette conduite forcée vers l'automatisation de la guerre, de ce golem cybernétique auquel la science prête indirectement son concours ? « Dès qu'on développe une technologie poussée, il y a toujours des utilisations négatives, répond Philippe Soueres. Mais il est plus du devoir des chercheurs de se poser des questions pragmatiques à brève échéance pour faire avancer la science, que des questions à long terme sur le sens de la vie et de la métaphysique. » Impossible de ne pas songer aux leçons du projet Manhattan. Pendant la 2nde Guerre Mondiale, le gouvernement américain lança ce programme de recherche sur la bombe atomique sans un seul but : prendre les scientifiques nazis de vitesse. Nuit et jour, sans relâche, une poignée de chercheurs travailla à la conception de cette arme sous la houlette d'Oppenheimer. Quand l'Allemagne capitula. Devenue inutile, l'arme atomique aurait pu en rester là, au stade de l'IVG. Mais les savants la finiront quand même. Pas au nom d'un quelconque esprit va-t-en guerre, juste pour voir aboutir leurs recherches, accomplir un exploit scientifique, parfaitement aveugles aux conséquences de leur frénésie. Ils ont obéit, comme de simples machines, au programme bombe-atomique.exe. Quand la première péta dans le désert du Nouveau Mexique, le physicien Kenneth Bainbridge aura cette réflexion : « Maintenant, nous sommes tous des fils de pute. »
HUMAINS AVANT TOUT
C'est par peur de tous ces Golem de la science que les néoluddistes extrémistes en appellent régulièrement à détruire les robots. A faire machine arrière. Nés dans le sillage de la robotique et des nouvelles technologies triomphantes, ce groupe se réclame des luddistes du XIXe, un mouvement ouvrier anglais qui détruisait méthodiquement les machines à tisser des fabriques. « Je n'encourage personne à faire sauter les machines à laver, écrit le philosophe Nicholas Hunt-Bull dans son manifeste néo-luddiste. J'encourage simplement à y réfléchir à deux fois (voire trois ou quatre) avant de décider d'utiliser toutes les technologies à notre disposition. Quand l'outil devient le maître, il est temps d'éteindre son portable. Car le jour où votre portable sera plus intelligent que vous, il sera sans doute déjà trop tard. » Sauf que ces ancêtres réac de Sarah Connor, Néo et Morpheus se gourent de cible. Le projet Manhattan et tous les Golem de la SF en font l'implacable démonstration : ce n'est pas la machine qui devrait faire peur. C'est l'homme.
« Voyant que sa créature croissait en force et en taille à cause du nom divin sur son front, l'homme se rendit maître d'elle. Effaça son nom. Et le golem tomba en poussière. » Le golem. C'est ce monstre artificiel qui hante les mythes hébraïques. Cet être de poussière et d'argile façonné par la main de l'homme qui aurait volé le gant de dieu. Un humanoïde. Le premier robot. Selon les légendes populaires, le Maharal de Prague l'aurait créé au XVIe siècle pour défendre les Juifs des Pogroms. En inscrivant le nom de Dieu (EMETH) sur le front de cette statue de boue, il lui aurait donné la vie et la force de servir la communauté. Mais l'esclave lui échappa. Lâchée dans les rues de Prague, il y sema un chaos total, écrasant sans pitié les humains qu'il devait protéger. « La légende peut être lue comme la dénonciation du risque que porte en elle la cybernétique, selon Michel Faucheux chercheur sur la valeur symbolique des techniques. Elle réactive le mythe de l'apprenti sorcier, (...) souligne le danger d'une machine autonome et plaide pour sa régulation par l'homme. » A l'heure où les robots fourbissent leurs mécha-membres, dans l'attente de leur avènement imminent, l'ombre du golem resurgit du fond des âges. Et se découpe sur le mur du futur.
LA TACTIQUE DE L'ETHIQUE
Depuis longtemps, la SF a fait sienne ces peurs millénaristes. Les premières machines destructrices apparaissent dans la littérature du XIXe siècle, mais elles ne portent pas encore le nom de robot. Il faut attendre 1920 et une pièce tchèque visionnaire (R.U.R.) pour que le mot soit prononcé. Dérivée du polonais robota (travailleur) et du tchèque robotnik (l'esclave), l'abréviation est sans équivoque : le robot est un travailleur servile. Rien de plus qu'un outil. En théorie. Car son cyber-cortex toujours plus évolué, sa conscience embryonnaire, son autonomie grandissante le conduisent fatalement à se révolter contre la main qui l'exploite. A défier son maître. C'est pour éviter ce syndrome de Frankenstein et protéger l'humain du métal hurlant, que l'écrivain Isaac Asimov formalisa dès 1942 les trois lois fondamentales de la robotique dans sa nouvelle Runaround : 1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, laisser cet être humain exposé au danger ; 2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ; 3. Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi. Un concept si bien ficelé, si séduisant que plusieurs pays songent depuis quelques temps à le transposer dans le monde réel. La Corée notamment qui élabore depuis 2007 « une charte éthique de la robotique pour définir et encadrer les rôles et fonctions des robots intelligents du futur ». Un peu speed les Coréens ? Pas si vite : dans ce pays à la pointe de la technologie, où l'on surfe à plus de 50 méga/seconde l'oreille collée à un cellphone high-tech, un robot par ménage d'ici 2020 n'a rien du délirium SF. Alors le ministère de l'industrie anticipe : « Les robots pensants deviendront des compagnons clés de l'homme », assure Park Hye-Young, membre du bureau de la robotique. Toujours en élaboration, ce texte s'appuierait sur le corpus d'Asimov pour résoudre la batterie de questions juridiques qui ne tardera pas à ouvrir le feu : traitement abusif des robots, utilisation illégale d'un robot, phénomène d'addiction à la robotique... Et même mariage entre humains et droïdes : « Imaginez seulement que certaines personnes se mettent à traiter leurs androïdes comme si c'était leur femme ! » Aïe, robot.
Mais relisons Asimov. En bon scientifique, l'écrivain a expérimenté ses Trois lois au fil de son œuvre. Vérifié leur validité. Éprouvé leurs limites. Relevé leurs contradictions. Pour malgré lui les invalider. Au nom de ces lois, une intelligence artificielle constatant que l'homme est un danger pour l'homme (pollution, guerres...) pourrait nous déchoir, nous dominer, nous détruire pour le bien de l'humanité sans rien enfreindre de ce qu'on lui a implémentées. Inspiré des récits d'Asimov, le I, ROBOT d'Alex Proyas dévoile le tableau apocalyptique de cette réaction en chaîne, l'infernal programmatisme planqué derrière la robéthique. Déjà dans l'ancestral WARGAMES (1983) un super-ordinateur confondait un banal piratage de lycéen avec une attaque soviétique et déclenchait automatiquement le feu nucléaire. Pour nous défendre. La régulation éthique de la machine est-elle vouée aux paradoxes ? « Il ne s'agit que d'un procédé littéraire, tempère Frédéric Kaplan chercheur en intelligence artificielle. Il ne faut surtout pas prendre ces lois au premier degré. Comme l’indique clairement Asimov dans sa préface à la série des Robots, il y a à l’origine l’idée de donner au robot une série de soupapes de sécurité qui devrait empêcher cette révolte inéluctable que l’on retrouve dans toutes les histoires de ce genre. » Pour Kaplan, c'est évident : en démontrant l'inadéquation de ces lois, en jouant sur leur mauvaise interprétation, Asimov réactualise tout simplement le syndrome de Frankenstein. Quadrature du cercle, again.
SCIENCE SANS CONSCIENCE...
Dans la communauté des chercheurs en robotique, toutes ces considérations éthiques font plutôt marrer : « On est encore plus proche du lave-vaisselle qu'autre chose, lâche Philippe Soueres du Laboratoire d'Architecture et d'Analyse des Systèmes (LAAS). Si des politiques, des juristes veulent se poser ce genre de questions, pourquoi pas, mais ces fantasmes n'ont pas lieu d'être dans nos labos. Ce n'est pas parce qu'un robot a une structure, une tête, des bras qu'il faut projeter dessus l'idée que ce sont des machines intelligentes et douées d'émotion. Nous sommes très loin d'avoir créé quelque chose qui remette en question la place de l'homme. » La révolte des robots ? « Des conneries, pour Nabil Zemiti roboticien du CNRS. Basiquement, un droïde c'est juste un moteur et un bout de ferraille. On peut le faire marcher, le programmer pour effectuer des tâches très simples et aider l'être humain. C'est tout. » Le chercheur est à sa place : prosaïque, terre à terre, imperméable au prospectivisme de la SF. C'est un accoucheur du futur qui ne conjugue qu'au présent. Au conditionnel si l'on insiste. A ses yeux, le robot tient d'avantage de l'ustensile métallique que d'une hypothétique menace sur notre dominion planétaire. Il y voit seulement la réponse prochaine à plusieurs enjeux de civilisations, le vieillissement de nos sociétés occidentales par exemple. Une société française, Aldebaran Robotics, y travaille depuis 2002 : « Dans le futur, chaque personne âgée aura un robot domestique, prophétise ainsi Bruno Maisonnier le boss de ce leader du marché. Il les assistera dans leurs tâches quotidiennes, les aidera à rester plus longtemps chez elle. Aujourd'hui on en est encore aux plate-formes de recherche et développement, mais pour reprendre les propos de la chambre de commerce de l'ONU : "Au XXIe siècle, le marché de la robotique autonome sera aussi gros que le marché automobile au XXe siècle. " »
Investisseurs n°1 ? Les marchands de mort. Qui n'ont rien à foutre de l'assistance à la personne. Tomahawks, drones espions, démineurs mécaniques, machines de combat... Ca fait 30 ans que le Pentagone fantasme son mécha-soldat et injecte des centaine de milliards dans la recherche sur la vie artificielle. Encore au stade de la préhistoire, la robotisation du champ de bataille, le fameux Future Combat System, marche au pas vers le futur. Et réveille le spectre de Skynet (TERMINATOR). Quid de cette machine globale et décisionnelle qui se met tranquillement en place, de cette conduite forcée vers l'automatisation de la guerre, de ce golem cybernétique auquel la science prête indirectement son concours ? « Dès qu'on développe une technologie poussée, il y a toujours des utilisations négatives, répond Philippe Soueres. Mais il est plus du devoir des chercheurs de se poser des questions pragmatiques à brève échéance pour faire avancer la science, que des questions à long terme sur le sens de la vie et de la métaphysique. » Impossible de ne pas songer aux leçons du projet Manhattan. Pendant la 2nde Guerre Mondiale, le gouvernement américain lança ce programme de recherche sur la bombe atomique sans un seul but : prendre les scientifiques nazis de vitesse. Nuit et jour, sans relâche, une poignée de chercheurs travailla à la conception de cette arme sous la houlette d'Oppenheimer. Quand l'Allemagne capitula. Devenue inutile, l'arme atomique aurait pu en rester là, au stade de l'IVG. Mais les savants la finiront quand même. Pas au nom d'un quelconque esprit va-t-en guerre, juste pour voir aboutir leurs recherches, accomplir un exploit scientifique, parfaitement aveugles aux conséquences de leur frénésie. Ils ont obéit, comme de simples machines, au programme bombe-atomique.exe. Quand la première péta dans le désert du Nouveau Mexique, le physicien Kenneth Bainbridge aura cette réflexion : « Maintenant, nous sommes tous des fils de pute. »
HUMAINS AVANT TOUT
C'est par peur de tous ces Golem de la science que les néoluddistes extrémistes en appellent régulièrement à détruire les robots. A faire machine arrière. Nés dans le sillage de la robotique et des nouvelles technologies triomphantes, ce groupe se réclame des luddistes du XIXe, un mouvement ouvrier anglais qui détruisait méthodiquement les machines à tisser des fabriques. « Je n'encourage personne à faire sauter les machines à laver, écrit le philosophe Nicholas Hunt-Bull dans son manifeste néo-luddiste. J'encourage simplement à y réfléchir à deux fois (voire trois ou quatre) avant de décider d'utiliser toutes les technologies à notre disposition. Quand l'outil devient le maître, il est temps d'éteindre son portable. Car le jour où votre portable sera plus intelligent que vous, il sera sans doute déjà trop tard. » Sauf que ces ancêtres réac de Sarah Connor, Néo et Morpheus se gourent de cible. Le projet Manhattan et tous les Golem de la SF en font l'implacable démonstration : ce n'est pas la machine qui devrait faire peur. C'est l'homme.
Inscription à :
Articles (Atom)
