mardi 3 février 2015

Quand la magie s'empare du magicien


Première publication le 23/09/2012

Cela a commencé durant l’été 2007 lorsque la volatilité des marchés américains de la bourse a soudainement été multipliée par quatre, première étape vers le Krach. On sait maintenant que cette étrange volatilité n’était pas le résultat d’individus ayant suffisamment de recul pour s’arracher à l’illusion du gain rapide, ceux-ci étant alors fort peu nombreux. Elle était le résultat de l’introduction d’une nouvelle race de prédateurs : les robots-traders capables de brasser des masses d’information considérables et de lancer en quelques secondes des ordres de sondage, amplifiant par effet de boucle toutes les tendances jusqu’à faire éclater d’abord quelques bulles de rapacité avant de frapper l’économie toute entière.

A cette époque seulement 10 % des transactions boursières échappaient à l’homme. On est désormais à presque la moitié, les grandes banques ayant compris tout l’intérêt qu’elles avaient à utiliser des calculateurs automatiques pour battre et spolier les petits boursicouteurs tout en réduisant le risque Kerviel. Grâce à cette armée de robots, les grandes banques ont renoué ainsi avec les bénéfices à court terme. Ce faisant, elles n’ont fait que déplacer le risque humain des traders vers les concepteurs de logiciels. La puissance de calcul des ordinateurs continuant à évoluer au rythme de la loi de Moore, c’est-à-dire par un doublement tous les dix-huit mois, on attend avec impatience le logiciel, baptisons-le « jeudi noir », qui, à lui seul, déclenchera une catastrophe. On ose à peine imaginer ce que les banques feront des ordinateurs quantiques, qu’elles seront les premières à pouvoir se payer, avec des puissances de calcul plusieurs milliards de fois supérieures à celle de tous les cerveaux humains réunis. IBM est fière d’annoncer un prototype pour les années 2020.

En attendant ces lendemains radieux, une nouvelle voie a commencé à être explorée lorsqu’on a remarqué que ces robots calculateurs pouvaient aussi être utilisés pour livrer des analyses. Le magazine financier Forbes a ainsi fait appel à la société Narrative Science pour lui fournir des articles automatiques analysant les résultats financiers des entreprises. On se trouvait ainsi avec des robots analysant des données pour des sociétés gagnant de l’argent avec d’autres robots. Très vite cependant, on s’est aperçu que ces nouveaux journalistes pouvaient aussi explorer d’autres champs. Narrative Science propose aussi des articles politiques sur les élections américaines à partir de l’analyse statistique des médias sociaux. L’article de 500 mots est écrit en deux minutes et coûte 10 dollars, battant ainsi à plate couture le pigiste habituel, dont on devine le sort. Certains journalistes robots ont même des noms et des styles (en imitant ceux des meilleurs humains) comme  Stats Monkey, capable de faire des comptes-rendus de matchs de base-ball ou de basket. Mieux, il peut faire cela à la demande et c’est-là que l’on effectue un nouveau saut.

Certaines puissances du net, comme Google ou Amazon captent un certain nombre de données sur nous qui sont réutilisées dans notre navigateur pour mieux satisfaire nos demandes dans le genre : « vous avez aimé ceci…vous aimerez sans doute cela ». On devine ce que la conjonction de cet auto-profiling peut donner si on le croise avec le journalisme automatique : une information personnalisée collant parfaitement à nos goûts et nos attentes. Une sorte d’information de confort fonctionnant comme un piège. Pour peu que l’on ait déjà écrit, un robot-reporter pourra même utiliser notre propre style et nos idées pour nous séduire en flattant notre narcissisme (avant d’être embauché comme nègre par ceux qui pourront se le payer). Le test de Turing pourra ainsi se transformer de : « Est-ce que je parle à un robot ? » à « Est-ce que je me parle à moi-même ? ». Comme dans le dernier épisode du Prisonnier, le héros sera face au gardien n°1 : son Moi.

Nous sommes désormais à l’aube d’un phénomène annoncé déjà depuis longtemps par certains auteurs de science-fiction avec plusieurs bifurcations possibles. La première concerne la puissance des machines. Au-delà d’un certain seuil de puissance, cette singularité que Vernor Vinge situait en 2023, la machine peut, peut-être, devenir pensante et donc puissante. La magie s’emparera alors probablement du magicien et il suffira peut-être de quelques heures, pour peu que cette machine puisse se répliquer et s’augmenter, pour succéder à l’homme au sommet de l’évolution. En deçà de ce seuil, ce sera certainement le coût de développement de ces robots-intellectuels qui comptera. Important, ils serviront surtout à renforcer la puissance des déjà puissants, tout en ravageant la classe intermédiaire de ceux à qui on demandait jusque-là de réfléchir. Les ordinateurs ont ainsi désertifié la maîtrise industrielle, condamnant ainsi ouvriers et employés à la captivité sociale puisque les postes plus élevés étaient remplacés par des machines. Les journalistes, pigistes, chercheurs, analystes seront de la même façon victimes de cette concurrence. Si les coûts en sont faibles, l’intelligence artificielle peut au contraire être un artifice de l’intelligence et augmenter ainsi le pouvoir intellectuel et l’influence des petits, avec le risque, cette fois, non pas de la raréfaction mais du trop-plein.

Une nouvelle vague d’émigrants est aux portes de nos sociétés. Elle ne vient pas par bateaux depuis des pays de misère mais débarque sur nos ordinateurs depuis des sphères de richesse. 

A lire :
Evgeny Morozov, Un robot m’a volé mon Pulitzer, Le Monde diplomatique, septembre 2012.
Thierry berthier, Les algorithmes vont-ils nous tuer ? http://www.margincall.fr/2012/09/les-algorithmes-vont-ils-vous-tuer-episode-i-13.html
Charles Bwele, Les traders virtuels préfèrent la microseconde

24 commentaires:

  1. Les traders virtuels préfèrent la microseconde: http://electrosphere.blogspot.com/2010/02/les-traders-virtuels-preferent-la.html

    RépondreSupprimer
  2. La course de transmission des ordres à la microseconde, soit 0,000001 seconde, se mène effectivement depuis plusieurs années sur les marchés financiers dits organisés. Ces marchés organisés sont pourtant habituellement présentés comme les plus transparents, versus les marchés dits OTC (Over The Counter)ou de gré à gré.
    Ceci-dit, la transmission est une chose, l'intention une autre.
    Depuis plusieurs années également sont pratiquées des opérations de déception sur ces marchés.
    L'intervenant A envoie un ordre sur une action, le titre 1 disons. Cet ordre est bien "aperçu" par l'intervenant B, toujours au travers de robots utilisant des algorythmes sophistiqués. A "rappelle" alors son ordre sur 1. Trop tard, B lui a réellement traité sur 1. Et au même moment, A, connaissant la transaction qui allait se dérouler sur 1, est intervenu sur le titre 2, dans de meilleures conditions de prix, relativement. Car 1 et 2 ont une caractéristique commune, un lien. Ils appartiennent par exemple au même indice boursier.
    Pour modérer la dialectique des volontés qui s'affrontent ici, des possibilités techniques existent. Parmi celles-ci, conditionner la validité d'une instruction au fait que cette dernière demeure 0,1 seconde minimum au sein du carnet d'ordre de la place de cotation.
    Mais cette décision nécessite l'existence d'une autre volonté: celle du régulateur.

    RépondreSupprimer
  3. Passons sur la profonde stupidité d’un système financier hors sol qui détruit l’économie réelle et in fine, le contrat social lui-même, en accumulant d’immenses richesses entre quelques mains au détriment du plus grand nombre.
    Puisque nous sommes sur un blog militaire, mes interrogations porteront sur la « singularité » et son rapport à la violence armée.
    Partons du principe que l’apparition de cette « singularité » est inévitable dans, disons les cinquante prochaines années. Observons que la robotisation des forces est en cours, que la robotique est par essence une science duale civile et militaire, qu’elle ne demande pas de gigantesques installations, à la manière d’un programme nucléaire par exemple et qu’elle peut se contenter d’unités de recherche extrêmement modestes, tant par leurs dimensions physiques que financières.
    Dans ces conditions, il y a fort à parier que cette robotique militaire ne sera pas l’apanage exclusif des états-nations et de leurs garde-fous juridiques. Que des sociétés privées, des guérillas, des sectes, des mouvements terroristes ou autres groupes infra-étatiques y auront accès.
    Mes interrogations sont donc simples :
    1- Comment éviter l’apparition de robots-tueurs totalement autonomes (avec l’homme hors de la boucle) ?
    2- Comment réagira la « singularité », qui avant même d’accéder à la conscience, aura appris à tuer des hommes ?

    RépondreSupprimer
    Réponses
    1. Stupide, mais pas hors sol.
      Car,ici, pour obtenir l'effet recherché, les données sont 1 milliseconde*distance à parcourir.
      Comme pour les fermes de stockage de données, les câbles sous-marins, les serveurs, relais satellitaires..., le territoire est très prégnant, pour les flux comme pour les stocks.

      Supprimer
    2. L’expression « hors sol » faisait référence dans mon esprit à la déconnexion existant entre la spéculation et l’économie réelle. L’exemple des robots traders est en effet symptomatique de la transformation d’un simple outil économique, la finance, en un monstre vampirisant l’ensemble de la sphère économique. En effet, l’objectif de ces robots est de faire varier artificiellement les cours de bourse à la hausse ou à la baisse, à seule fin de « création financière » ex-nihilo (à moins que quelqu’un nous prouve que la valeur d’une entreprise peut varier en une femtoseconde…).
      Mais vous avez raison, l’expression « hors sol » étant sujette à malentendu, mieux vaut la remplacer par un mot qui ne souffrira d’aucune ambiguïté. Je suggère donc, « parasitisme ».

      Supprimer
    3. Amusante sensation que celle d’avoir l’impression de répondre en direct, à un autre soi-même resté dans le passé (hélas quelques rides en plus et quelques cheveux en moins sont là pour me rappeler l’absence de tout paradoxe temporel…).
      Où en sont les progrès de l’IA depuis septembre 2012 ? Et bien derrière les avancées de systèmes comme VIV, WATSON ou ELLIE, il me semble que deux informations marquent l’état de l’art :
      - Juin 2014, un programme se faisant passer pour un enfant ukrainien de 13 ans (simulation de l’intellect d’un adulte et de sa maitrise de la langue, encore hors de portée), a réussi à convaincre lors d’un test de Turing, un tiers de son auditoire qu’il était humain.
      - Mai 2014, une équipe du Laboratoire de photonique et de nanostructures du CNRS publie dans la physical review letters, le résultat de ses recherches : la création, non pas d’un réseau de neurones virtuels, mais d’un neurone-laser (micropilier-laser), simulant le fonctionnement physiologique d’un véritable neurone. Ce traitement de l’information par la lumière, permet pour la première fois de créer artificiellement un ‘seuil d’excitabilité’ qui empêche les neurones de s’épuiser, en leur permettant de rediriger le signal vers d’autres neurones non encore sollicités par le traitement d’une information. L’objectif à terme étant de pouvoir dupliquer ces neurones-laser sur une puce informatique (vous savez la fameuse UPC des Terminators. Non, je plaisante, tout cela n’est pas sérieux… Si ?).

      Supprimer
  4. Et tout ceci finirait par une Révolte Mondiale contre les machines pensantes où l'on finirait par remplacer ces dernières, mises à l'index, par des ordinateurs humains...

    RépondreSupprimer
    Réponses
    1. Jolie référence

      "Tu ne feras point de machine à l’esprit de l’Homme semblable" :)

      Supprimer
  5. L'intelligence artificielle ne détruira pas le travail humain, ce dernier sera simplement déplacé vers d'autres domaines de l'économie. Ce type d'évènement n'a rien de nouveau: la chute libre des emplois dans le secteur primaire au XXème n'a pas fait disparaitre le travail, celui ci s'est simplement déplacé vers l'industrie puis les services.

    Le meilleur billet d'anticipation que je connaisse à ce sujet est celui de paul krugman (nobel d'économie): http://mit.edu/krugman/www/BACKWRD2.html

    RépondreSupprimer
    Réponses
    1. A lire aussi Les trois leçons sur la société post-industrielle de Daniel Cohen et le phénomène de captation sociale provoqué par l'introduction de l'informatique dans les entreprises. Le travail peut aussi rester bloqué.

      Supprimer
    2. La question à terme est beaucoup plus large que celles des "emplois" ou de leur nature. C'est la capacité d'un monde fermé aux ressources limitées, aux espaces (presque) entièrement appropriés et à la philosophie intrinsèquement concurrentielle à pouvoir offrir à chacun la possibilité de subvenir à ses propres besoins. La grande mystique de la technologie émancipatrice à décidément du plomb dans l'aile lorsqu'elle n'est qu'un outil supplémentaire de captation de la rareté creusant les (dé)équilibres antérieurs.

      Supprimer
  6. Merci, article passionnant, comme toujours. La relation que vous évoquez entre machine pensante et machine puissante est particulièrement intéressante. Cependant, on peut imaginer justement que, sans un ensemble "d'instincts primitifs" façonnés par la sélection naturelle, une machine soit privée de passions, et donc de désir de pouvoir (ou volonté de puissance...). Rien a priori n'empêcherait de programmer des fonctions de ce type sur une machine, mais, au moins, on peut postuler/espérer, pour le bien de l'humanité, qu'elles n'apparaissent pas spontanément.

    RépondreSupprimer
  7. Volonté politique?
    http://www.boursorama.com/actualites/marches-boursiers-berlin-s-attaque-au-trading-a-haute-frequence-b22c89eef745c99172e34caafe316a5d

    RépondreSupprimer
  8. Pour compléter la bibliographie proposée, on peut rajouter Dark pools de Scott Patterson sur la création du HFT
    http://www.amazon.com/Dark-Pools-High-Speed-Traders-Financial/dp/0307887170

    RépondreSupprimer
  9. Bonjour

    Je suis un lecteur régulier de votre blog. J'interviens aujourd'hui sur ce billet car je ne pense pas qu'il apporte une vision réaliste de l'informatique dans nos sociétés.
    Un système informatique (ordinateur ou autre)est un calculateur, il ne pense pas, il calcule. Un système informatique n'est pas intelligent, il applique "à la lettre" un programme et il faut prendre le "à la lettre" au sens littéral. Un caractère de trop ou de moins et votre programme provoque un bug. les logiciels de traduction ou de correction grammaticales illustrent bien ses limites.
    Il y a quelques mois, je discutais avec un programmateur des processeurs multi-coeur dont on était incapable d'utiliser la puissance de calcul car nous humains nous ne menons pas plusieurs réflexions simultanément. En conséquence, aujourd'hui, nous ne sommes pas capables de concevoir des programmes capables d'exploiter toutes les capacités qu'un processeur multi-coeur.
    L'intelligence artificielle est un bobard et je doute qu'elle soit un jour réelle car l'imaginaire et l'inconnu sont inaccessible à des calculateurs, quelque soit leur puissance.

    La véritable question est que nous humains sommes devant une inconnue avec l'émergence des réseaux informatiques où beaucoup de choses nous échappent pas défaut de compréhension. Beaucoup d'erreurs seront faites avant que n'émerge une compréhension suffisante pour dominer cette question. Alors cessons d'avoir peur de ce que l'on ne comprends pas.
    Je crois pas que nous aurons besoin d'un "Jihad Butlérien".

    RépondreSupprimer
    Réponses
    1. Je ne suis pas d'accord avec votre affirmation de départ :
      "car nous humains nous ne menons pas plusieurs réflexions simultanément"

      Nous menons tous les jours des réflexions simultanées à des niveaux différents se déroulant dans des temps/durées différents, certaines avec peu de données variables, d'autres avec des ajustements rapides et permanents.
      Nous avons aussi des réflexions très très lentes en tâche de fond, que nous percevons comme immobiles, et qui pourtant moulinent en permanence -même pendant notre sommeil- et qui aboutissent tout d'un coup, un jour.

      Il me semble que la pensée n'est ni linéaire ni plane, qu'elle combine des espaces-temps et se déploie dans toutes les dimensions à la fois, y compris celles du temps.
      Et que la pensée n'est pas que rationnelle, ni continue.

      Du coup j'ai du mal à admettre votre conclusion : "En conséquence, aujourd'hui, nous ne sommes pas capables de concevoir des programmes capables d'exploiter toutes les capacités qu'un processeur multi-coeur."

      Mais je le reconnais bien volontiers : je ne connais rien à la programmation, ni aux processeurs multi-coeurs…


      Supprimer
    2. Vous pourriez peut-être trouver des idées/analogies transposables dans ce livre passionnant :

      Études sur le temps humain, Volume 3, Le point de départ
      Georges Poulet
      http://www.laprocure.com/etudes-temps-humain-georges-poulet/9782266161428.html

      Quelle est notre perception et notre philosophie du temps, donc notre compréhension du monde, des autres, de l'histoire, de l'avenir ?
      Étudiée et expliquée à travers l'analyse de la perception du temps chez différents écrivains, avec comme point de départ ce bouleversement de la notion du temps au début du XXe siècle.

      Étonnant. Ce serait certainement utile de refaire une telle étude aujourd'hui.

      Supprimer
    3. Concernant la mise au point d’un robot-tueur autonome, un programme informatique « stupide » est parfaitement suffisant. La machine n’aura certes pas accès à la conscience et peu importe, seuls lui suffisent une plate-forme pour se déplacer, des capteurs pour se situer et un enregistrement précis du terrain à parcourir.
      C’est j’en conviens nettement insuffisant dans un cadre militaire et de manière générale, pour tous les milieux striés. Mais quid dans le cadre d’une action terroriste ?
      Cauchemardons un peu, en n’utilisant que la technologie disponible en vente libre et robotisons l’attaque au sarin de la secte Aum dans le métro de Tokyo en mars 95 (13 morts et 6.000 intoxiqués pour mémoire). On peut aujourd’hui imaginer une machine capable d’emporter une arme chimique de quelques dizaines de kilos et se déplaçant de manière totalement autonome dans des couloirs dépourvus d’escaliers. Qui prêterait attention dans la cohue du soir, à un robot-nettoyeur badgé RATP ? On voit bien dans ce cas que le véritable problème est dans l’acquisition de l’arme et non dans celui d’un robot stupide… mais efficace et déjà disponible sur le marché.

      Supprimer
    4. Bonjour,
      Une petite digression sur les robots "visibles". Vous connaissez sans doute ces images , mais on ne se lasse pas d'être déconcerté. A noter la façon quasi "réflexe" avec laquelle il se rétablit en cas de déséquilibre.
      Voici donc la plate-forme quadrupède. Mais sur le site de Boston Dynamics on peut voir également que le niveau de développement des bipèdes n'est pas mauvais.
      Je me rappelle que les frères Bogdanov relataient dans les années quatre-vingt la certitude du monde scientifique de l'époque, estimant qu'on arriverait jamais à réaliser un robot "humanoïde".
      C'est (presque) fait.
      Il me semble qu'en termes de systèmes d'acquisition de cible et d'arme asservie, il existe déjà tout ce qu'il faut. Il ne reste plus qu'à intégrer le tout. Pas forcément évident, mais je gage que c'est à l'étude.
      A voir ici les images du big dog : http://www.youtube.com/watch?v=mpBG-nSRcrQ

      Je serais curieux de voir ce qui se fait en termes de robots invisibles : les nano...

      Merci pour ce article passionnant.
      OT.

      Supprimer
    5. Hiiiiiiiii!

      Big Dog est assez impressionnant côté jeu de jambes, c'est vrai (Fred Astaire s'en retournerait dans sa tombe).

      Mais il est assez vieux (de mémoire, 2005)

      Et puis il y a ce petit bruit que la vidéo que vous avez mise en lien permet de bien capter.

      Vous vous demandez ce que c'est, ce bruit? Un moteur de tondeuse à gazon.

      Du coup, pour la furtivité, c'est râpé. Or, la furtivité ne concerne pas que les engins principaux de combat (frégate, char, avion). C'est aussi quelque chose qui intéresse la chaine logistique, surtout lorsque vous demandez à Big Dog de porter la dotation d'une colonne d'infanterie en infiltration en territoire ennemi.

      Imaginez un troupeau de tondeuses à gazon dans la montagne afghane et le sentiment de délectation des Talibans lorsqu'ils organiseront l'embuscade.

      Tout ça pour porter quoi? La charge d'un mulet. A tout prendre, un mulet, c'est aussi bien et ça fait moins de bruit.

      Mais le jeu de jambes est, c'est vrai, impressionnant. J'attends, serein, la version porn.

      Supprimer
  10. Bonjour,
    Entièrement d'accord, Big dog est un peu daté et le reproche principal porte sur le bruit.
    Toutefois, ce qui est intéressant est le potentiel d'avenir de ce robots et les résultats très concrets aujourd'hui.
    Pour conclure (avec humour) ou pour le "jeu de jambes", voici la version bipède, sur le lien suivant:
    http://www.youtube.com/watch?v=8dmR8G6ZLKc
    Amitiés.
    OT

    RépondreSupprimer
  11. Une analyse du phénomène, celle de Barbara Ehrenreich, dans l'édition de 2011 de son ouvrage Blood rites : le "brouillard de guerre" d'aujourd'hui est constitué par la saturation en informations. Seul un ordinateur est capable de lire et d'analyser en temps voulu la masse d'informations. La guerre pourrait progressivement se détacher de l'homme et vivre une vie autonome.

    Deux visions : l'américaine et la japonaise.
    Dans la vision américaine, le robot est une menace (Skynet & ses terminators, I,Robot).
    Dans la vision japonaise, le robot s'intègre dans la société et finit par fusionner avec l'homme (Ghost in the Shell). Le Transhumanisme comme réponse à ce futur robotisé.

    RépondreSupprimer
  12. Bonjour

    Peut-on savoir pourquoi vous avez remis ce billet à l'ordre du jour?

    Cordialement

    RépondreSupprimer