Pendant que tous les regards sont tournés, qui vers le Projet de loi sur le renseignement, qui vers les îles des Caraïbes, qui vers le Népal, le grexit re-pointe le bout de son nez. Même si la Grèce a annoncé avoir décidé de lancer la procédure de remboursement de 750 millions au FMI, il semble bien qu’elle ait choisi une voie un peu limite. Les sujets du grexit et du défaut refont surface. Certains banquiers le voient même arriver en mai ou juin. Ce qui serait très bon pour la reprise économique de l’Europe… Dans le même temps, nos amis d’Outre-Manche, les Britanniques, tout affairés qu’ils sont avec le royal baby, semblent très peu affectés par les projets de celui qu’ils viennent de reconduire au pouvoir et dont toute la classe politique française a salué la réélection : il prévoit d’organiser un référendum sur la sortie de son pays de l’Union. En cas de sortie de la Grande-Bretagne et de la Grèce, on peut imaginer que les conséquences seraient… Comment dire ? Imprévisibles ?

Il faut le lire pour le croire… Un article de Nicolas Rauline Journaliste au service High-tech & Médias des Echos (à lire en entier) nous apprend que les parlementaires souhaitent encadrer les algorithmes. Non, non, pas ceux du gouvernement (Projet de loi sur le renseignement) qui vont plonger dans nos vies privées, ceux des méchantes grosses entreprises qui règnent en maîtres sur le Web, comme Google, Netflix et consorts.

« Les pouvoirs publics vont-ils bientôt mettre le nez dans les algorithmes ? Devant l’importance croissante des formules mathématiques et de l’automatisation dans nos vies, certains le réclament, en tout cas. C’est le sens d’un amendement de la loi Macron, adopté par le Sénat il y a quelques jours. Déposé par plusieurs sénateurs de l’opposition, celui-ci impose notamment à Google de mieux informer les internautes sur les critères de son algorithme et lui interdit toute discrimination, sous peine de se voir infliger une amende allant jusqu’à 10 % de son chiffre d’affaires mondial (soit environ 6,6 milliards de dollars). Les sénateurs se sont largement inspirés d’un rapport du Conseil d’Etat, rendu en septembre dernier, sur le numérique et les droits fondamentaux. L’une des propositions fortes de ce rapport était la création d’un droit des algorithmes, visant à réguler ces formules, omniprésentes dans les nouvelles technologies. »

— Bonjour on aimerait acheter ce poste de télévision Ultra HD de 4 mètres de large à 4500 € qu’est sur le stand là, vous faites des facilités ?

— Mais bien sûr chers messieurs-dames, suivez-moi donc dans ce bureau, je vais de ce pas vous donner notre carte hyper gold de crédit permanent à cumul de points, qui exceptionnellement, parce que vous êtes venus pile au bon moment, est GRATUITE !

— Whaaaa, c’est génial, hein chérie ? Et pour les papiers à remplir ?

— Rien à faire du tout, je vous fais ça en direct. Vous me dites combien vous gagnez, vos crédits en cours, et hop on rentre ça dans l’ordinateur, et c’est bon !

— On gagne… heu, toi t’es à mi-temps à IntermSupershop, et moi par contre j’suis à plein temps à Barto-Carto, et on gagne…heu… 1850, en gros…

— Oui, bon, on ne va pas embêter les gens de Crédit-conso-gogo avec des détails sur le mi-temps de madame, et puis leurs ordinateurs peuvent bloquer, donc, on met deux salaires de 1500, ça fait un 3000 € à deux, ça va ?

— Heu, oui…

— Les crédits en cours ?

— On a la maison, la voiture, et puis les cartes de…

— Je vous arrête. Vous le voulez ce poste, hein ?

— Oui, oui.

— Vos crédits, ça ne va pas aider. Donc, on peut mettre une petite traite de voiture, du 250€, c’est à peu près ça, non ?

— Heu…non, c’est un peu plus, on a une familiale avec les options, et puis…c’est plutôt cinq…

— Bon, on met 300€, ça va passer.

— …

— Alors, vous remplissez ça, vous signez, et je valide…on attend que ça réponde, attendez, attendez…voilà… c’est presque bon… oui… allez… OK !

— C’est quoi, ok ?

— C’est bon, vous êtes passés, vous avez la carte, l’écran est à vous, le premier paiement n’est que dans un mois, et bien entendu, vous pouvez tirer du liquide, payer avec votre carte, comme n’importe quelle carte de crédit, elle sera dans votre boite dans 3 jours ! Félicitations !

— Bon, ben, merci !

— Mais c’est moi. Amusez-vous bien, et au plaisir messieurs-dames !

Sondages, djihadistes barbus… et écrans plats

Une part non-négligeable de la population française ne voit pas de problème à laisser les services de renseignement surveiller le réseau Internet pour lutter contre le terrorisme. Demandé comme ça, effectivement, on peut comprendre que ceux qui utilisent leur accès internet de la même manière que leur abonnement à Canal+ ne voient pas où est le problème de traquer des vilains terroristes sur  Internet le réseau pédophile mondial avec lequel ils effectuent 90% de leurs actions quotidiennes. Traquer des terroristes forcément barbus — les mêmes qui ont massacré 17 personnes entre le 7 et le 9 janvier dernier, où est le problème ? Se met alors en place  un nouveau système de surveillance étatique partiellement automatisé des « communications électroniques » de la population, pour parler bien la France.

Tout ça est hallucinant, pour qui a encore un cerveau en état de fonctionnement — c’est-à-dire qui n’absorbe pas 3h45 de bullshit télévisuelles par jour. Pas pour les autres qui boycottent la propagande, ou encore ceux qui tentent de se désintoxiquer, en venant lire Reflets, par exemple. Mais le fond de cette affaire est plus vaste qu’une simple loi qui installera des boites noires de surveillance administrative à base d’algorithmes secrets et nous priverait, au moins partiellement, de notre vie privée. La démocratie telle que nous la connaissons ne changera pas du tout. Le monde de « 1984 » ne surviendra pas. Tout ira pour le mieux, dans le « meilleur des mondes, » celui du… totalitarisme doux. Celui qui est déjà en place et qui croît années après années. Amélioré [pour la continuation du bien-être de la caste en place] par ces outils.

Le royaume républicain de la tyrannie normative

Le but de l’existence d’un consommateur citoyen Français standard, celui que l’on retrouve à peu près partout et correspond à 90% de la population, est assez simple à résumer. Il veut acheter. Dépenser. Consommer. Se gaver. S’il est fatigué, le Français veut se divertir, se vider la tête, et pour ça il se colle le plus souvent devant un écran, et regarde un monde fabriqué par des spécialistes du marketing. Cette norme est devenue tyrannique, puisque ne pas la suivre représente presque une forme de dissidence.

La marge se situe désormais à la limite de ce fonctionnement basé sur l’absorption d’images débilitantes, l’échange égotique sur Facebook, et l’achat compulsif de gadgets à la pointe d’une modernité pensée dans des bureaux luxueux remplis de spécialistes en design et réflexes d’achat. Ce totalitarisme doux des esprits se développe dans un royaume maintenu par une bourgeoisie qui pilote l’ensemble grâce à l’appel désormais bien connu des urnes. Le royaume de la République française, avec ses ors, ne peut pas proposer autre chose que ce totalitarisme doux, basé sur une soumission à l’argent, à des valeurs largement abandonnées dans la réalité quotidienne citoyenne ou politique, mais revendiquées en permanence.

Boites noires : contrôle oligarchique préventif ?

Toute cette affaire de boites noires au sein du projet de loi renseignement est intéressante, surtout quand on regarde de plus près les objectifs de la loi. Loi, qui, rappelons-le, est avant tout là pour rendre légales des pratiques déjà en cours, mais totalement illégales. Ces objectifs touchent à peu près à tout : l’économie, la techno, la délinquance, les manifestations, c’est tout juste si on n’y trouve pas la protection de la recette de la tartiflette. Que le gouvernement veuille donner des garanties en expliquant que les boites noires ne surveilleront « que » les comportements supposément terroristes n’a aucun sens : personne ne pourra vérifier cet état de fait, et si des intérêts en jeu dans le cadre général de la loi peuvent être traités par ces algorithmes, il semble difficile de croire que le pouvoir en place pourra se retenir de les utiliser.

L’affaire des fadettes des journalistes du Monde est un exemple très parlant de ce type de dérives dont l’Etat a le secret. Le principe de la déstabilisation des institutions de la République inscrit dans la loi ne peut pas laisser penser que les boites noires ne serviraient pas à contrer toute velléité allant dans ce sens.

On peut donc penser, sans trop délirer ou fantasmer — comme dirait Manuel — que ces outils excessivement puissants et modernes, vont pouvoir permettre d’autres choses que simplement surveiller des potentiels terroristes. L’idée de « prendre la température d’un pays » au delà de sondages plus ou moins bien réalisés, par le biais de « photographies » des comportements en réseau via les big data collectionnées par les boiboites, n’est pas à placer obligatoirement dans la théorie du complot. Savoir quels courants de contestations se créent, où et qui est en train de vouloir créer une alternative politique, s’opposer à des décisions gouvernementales est absolument vital pour un pouvoir politique. Enfin, s’il veut vraiment que le système tel qu’il est… perdure. Un système oligarchique dans notre cas. Des castes, formées d’une élite. Qui n’a aucun intérêt que les ors de la République disparaissent. Avec tous les privilèges tirés de la monarchie qui vont avec.

Au final, le bordel arrive (on the net), et c’est tant mieux

Oui, bon, allez, finissons cet article sur une note positive, parce que sinon la toile va finir encombrée d’alcooliques plus vraiment anonymes, et ce serait dommage. L’obligation de réagir, au moins techniquement à cette vaste fumisterie autoritaire et scandaleuse des boites noire est déjà entamée. Vous pouvez récupérer ce script sur https://boitenoirekiller.com/. Et comme le disent les ouaibemasters du site de « boites noires killer » :

Après, tout est dans nos mains, comme dirait l’autre. Y’a plus qu’à. Voire…pire…

Si l’on en croit 24hinfo, un journal marocain, le ministère de l’Intérieur de ce pays aurait porté plainte contre des personnes l’ayant accusé d’avoir acheté des outils de surveillance. Un rapport de Privacy International (organisateur par ailleurs des Big Brother Awards) accuse le Maroc d’avoir acquis des outils de piratage (Hacking Team et Amesys/Bull). Si l’information de 24hinfo est juste, le ministère de l’Intérieur va avoir du mal à expliquer ce qui va suivre.

Notez qu’à ce jour, Philippe Vannier, ancien patron d’Amesys, puis de Bull et d’Amesys, et enfin, aujourd’hui, responsable chez Atos, n’a jamais été inquiété pour la vente d’un Eagle à la Libye, au Qatar, à l’Arabie Saoudite, au Gabon, aux  Emirats arabes unis, on en passe. Pas plus que Stéphane Salies, désormais patron de Advanced Systems, l’entité qui a servi à mettre à l’abri à l’étranger l’activité Eagle de Bull/Amesys. Pas plus que les développeurs qui ont mis au point Eagle : Nicolas Deckmyn, Amadou Barry, Talai Diab, Lionel Flandin, Hugo Giguelay, Philippe Job, Fabien Lahoudère, Pierre Langlais, Vincent Le Ligeour, Emmanuel Peroumalnaik, Thomas Franciszkowski, Vincent Grimaldi et Renaud Roques, bien évidemment, dont le nom et le numéro de téléphone étaient affichés dans le centre d’écoute installé à Tripoli et découvert par Margaret Coker du Wall Street Journal. Pas plus que les gouvernements français. Non, pour eux, tout va bien. Ce qui n’est probablement pas le cas des opposants surveillés dans ces pays par les outils d’Amesys.

Mais revenons au Maroc et au rapport de Privacy International.

le rapport suspecte – « mais on ne dispose pas de preuve directe », tempère Hisham Almiraat – le Maroc d’avoir acheté le logiciel Popcorn à l’entreprise française Amesys (entre temps rebaptisée Advanced Midddle East Systems, soit A.M.E.Sys). Ce logiciel, « qui coûte tout de même 2 millions de dollars », précise Almiraat, inclut un système dit de DPI (Deep Packet Inspection) qui « permet l’interception en masse d’appels téléphoniques à l’échelle d’un pays, l’interception des métadonnées des emails (expéditeur, destinataire, objet, heure de l’email…) ».

Cette partie de l’article de Telquel.ma appelle quelques commentaires.

Les preuves directes de l’achat d’un #Eagle par le Maroc ont été apportées par Reflets qui a écrit à ce sujet à plusieurs reprises ainsi que par le Canard Enchaîné (via Reflets). Ni Reflets, ni le Canard n’ont été poursuivis par Bull, Amesys ou le Maroc. Ni par les gouvernements Français que nous avons mis en causes à de nombreuses reprises à ce sujet.

Le Eagle vendu au Maroc ne coûte pas 2 millions de dollars. Ce qui coûte 2 millions de dollars, et c’est ce que nous avons écrit sur Reflets et dans le Canard Enchaîné, ce sont les disques durs qui permettent de stocker les données recueillies par le Eagle. Ces disques durs IBM ont été achetés par Amesys à ServiWare, une filiale de Bull.

Puisque Privacy International semble manquer de preuves, nous allons (une fois n’est pas coutume, nous détestons publier des fac-similés des documents en notre possession) lui en fournir quelques unes.

Premier point, la page de garde de la facture ServiWare dans laquelle on voit le nom du projet, en haut à gauche : PopCorn.

Bien entendu, le nom « PopCorn » ne désigne pas en tant que tel le Maroc comme client. Pas plus que le numéro de client défini par Amesys (C4554500).

Il nous faut donc nous replier sur la désignation interne des contrats Amesys pour les Eagle. Ils commencent tous par « 3EAG » (pour EAGLE), et se poursuivent avec le nom du projet (POP pour PopCorn, QAT pour le Qatar, etc.)

Un récapitulatif des frais des développeurs envoyés sur le terrain nous donne une précision géographique pour 3EAGPOP, le contrat PopCorn.

Cela commence à se préciser… Non ?

Maintenant, on peut aussi aller rechercher l’implication d’Alten, une SSII française dans la mise en place de ce Eagle puisque Amesys lui a acheté des prestations dans le cadre du projet PopCorn et dans le cadre du projet au Qatar.

Difficile, donc, pour le ministère de l’Intérieur marocain de nier que Amesys a installé un Eagle dans le pays…

Mais a ce stade de la réflexion, il n’est pas illogique de se pencher sur la complicité de l’Etat français dans cette opération, comme dans les autres contrats d’Amesys.

L’équipe rapprochée de Nicolas Sarkozy a grandement facilité le contrat Libyen qui a financé les développements d’Eagle. Il est fort probable que cela ait également été le cas dans les autres pays équipés par la suite. Mais il y a en France une forme de « continuité de l’Etat » qui vaut aussi pour les contrats d’armement et la vente d’outils de surveillance à l’échelle d’un pays, comme les produits Amesys/Bull.

Le premier chef de l’Etat reçu par François Hollande durant les 100 premiers jours de son quinquennat, n’est autre que le Roi du Maroc. Mais François Hollande ne s’est pas limité au fils de « Notre ami le roi », durant les 100 premiers jours de sa présidence, il avait en effet reçu le roi de Bahreïn (Najib Rajab appréciera), le premier ministre du Qatar, le fils du roi d’Arabie saoudite, le roi de Jordanie et le prince héritier d’Abu Dhabi. Tous pays connus pour leur souci du respect des Droits de l’Homme. Et pour leur goût prononcé pour les technologies de surveillance globale.

A chaque fois que nous avons interpellé un responsable politique français sur les ventes d’Eagle, nous nous sommes heurtés à un silence de plomb. Aziz Ridouan, conseiller communication de Fleur Pellerin (à l’époque) nous avait même traités de trolls. Aujourd’hui, Aziz Ridouan est chargé du numérique à Matignon dans l’équipe de communication du Premier ministre. Encore une continuité de l’Etat…

Dans un premier article d’une série de trois (lire le deuxième ici), Reflets.info émettait l’idée qu’il était un peu enfantin d’imaginer la NSA mettant en place une telle infrastructure d’écoute planétaire sans avoir prévu les moyens pour traiter, analyser et exploiter les données collectées. Le deuxième volet de cette série évoquait le « système », cette entité qui développe de manière plus ou moins coordonnée la mise en place de ces outils de surveillance massive. Le dernier volet de ces articles nous amène assez logiquement à creuser les répercussions de l’avènement du monstre, c’est à dire les outils permettant au système de tirer partie d’un volume insoupçonnable de données collectées dans l’ombre.

Les algorithmes ont fait l’objet de nombreux articles, y compris dans la presse généraliste. Certains s’émeuvent de la montée en puissance d’algorithmes suggérant aux utilisateurs les films, les livres, qu’ils devraient lire, en fonction de ce qu’ils ont déjà acheté ou consulté. Google, Apple, Amazon, Netflix, la Fnac et quelques autres seraient ainsi en train de créer la culture de demain, basée sur les best-sellers, eux-même poussés par les algos. Irait-on vers une culture uniformisée ?

La technique a toujours fait rêver les investisseurs, les politiques, les rois du marketing. Le big data et son corolaire, le data mining sont vus comme une nouvelle mine d’or. Alors, si ça marche pour des films, des livres, des produits de consommation, pourquoi ne pas appliquer tout cela à un sujet qui est devenu une véritable fixette : la lutte contre les terroristes ?

Le 11 septembre 2001 marque bien entendu le point de départ du délire paranoïaque mondial. Il faut pouvoir éviter un nouvel acte de ce genre. Mais le choix qui est fait est inverse de celui que la logique aurait dû amener à faire. Les informations étaient disponibles pour tenter de contrer ce projet. Des agences américaines avaient connaissance de la présence sur le territoire américain de membres d’Al-Qaïda, de leur inscription à des cours de pilotage d’avions de ligne… Mais l’information a mal circulé. Les décideurs ont donc choisi de privilégier le tout informatique plutôt que le renseignement humain. Avec dans l’idée, sans doute, que de bons gros serveurs informatiques surpuissants pouvaient traiter plus efficacement que de petits cerveaux humains des montagnes d’information, faire ressortir des données inquiétantes, des alertes cette fois efficaces.

A l’inverse, il aurait fallu privilégier le renseignement humain. Celui-ci devant être appuyé par la technique. Car ce sont bien des humains qui ont signalé la présence des terroristes du 11 septembre sur le territoire américain avant les attentats.

Placer une foi aveugle dans des ordinateurs et des programmes informatiques est un véritable danger. Cette foi se transforme peu à peu en vérité scientifique avec tous les implications que cela comporte. Au même titre qu’il est très inquiétant de définir comme un suspect incontournable quelqu’un dont l’ADN a été retrouvé sur une scène de crime au prétexte que c’est une « vérité scientifique », il est monstrueux de laisser des algorithmes définir qui est suspect ou pas.

Syntax error, goto 110

Ces programmes informatiques sont le produit de cerveaux humains et sont donc tout aussi faillibles que les bulbes de leurs créateurs. Ils le sont même peut être plus.

Le secteur de la finance est le principal promoteur et utilisateur de ces algorithmes. Le high frequency trading est l’exemple le plus parlant de l’industrialisation de ces programmes informatiques. Reflets consacre un rubrique à ce sujet. On y découvre que dans les institutions financières, les personnes les mieux payées et les plus choyées sont justement les concepteur de ces algos. Ils sont informaticiens, physiciens, statisticiens… Ils inventent des programmes capables d’être autonomes et de gagner sans relâche. Au détriment des investisseurs individuels, mais c’est une autre histoire.

Mettre au point des programmes qui traitent des données objectives (des chiffres) dans le secteur de la finance ou par exemple pour la production d’articles reposant sur des données financières ou des résultats sportifs est une chose qui peut s’envisager sans trop de risques d’erreurs. Si celles-ci intervenaient, les répercussions seraient d’ailleurs somme toute peu importantes.

En revanche, mettre en place des algos qui définissent la culpabilité ou l’implication éventuelle d’un être humain dans un complot terroriste, c’est une autre dimension.

Si « intelligents » soient-ils, des algorithmes ne peuvent traiter sans risques d’erreurs certains paramètres.

L’homonymie, le deuxième degré, l’humour, la causticité d’un propos…, on en passe.

Doit-on forcément entrer dans une base regroupant des terroristes potentiels parce que l’on écrit « il serait temps de poser des bombes » en réaction à un article sur les inégalités dans le monde ? S’agit-il d’une déclaration à l’emporte-pièce et ne préjugeant en rien d’un passage à l’acte ou d’une profession de foi qui devrait être prise au premier degré ?

La tentation de laisser chaque jour un peu plus la main aux algos est grande. Cela s’est confirmé dans le domaine du high frequency trading. Dans le secteur de la finance, ce sont ceux qui sont aveuglés pas l’antienne « business first » qui se laissent duper. Dans le secteur de la lutte contre le terrorisme, ce seront probablement en partie les politiques qui se laisseront abuser, sur recommandation de militaires dont le métier est, somme toute, de tuer. Mais dans le secteur informatique, il y a des gens qui savent que les ordinateurs se trompent. Que leur laisser la main est dangereux. Les documentaires comme Terminator ou 2001 l’odyssée de l’Espace l’ont bien montré.

Cet article est le dernier d’une trilogie:

La NSA peut-elle tirer du sens d’une surveillance globale planétaire et en temps réel ?

Surveillance globale : le système

Algorithmes : l’avènement du monstre