Plusieurs événements provoqués par l’usage d’algorithmes puissants sont à la source d’un malaise planétaire. Que ce soient les pratiques de «data mining» de la NSA, des différents «flash krachs» de Wall Street ou encore de la Google Car entièrement conduite par des algorithmes! L’avenir tout programmé fait peur. Petit tour d’horizon.
Le 6 mai 2010 à 14 h 40, le marché boursier de Wall Street a soudainement piqué du nez de manière vertigineuse. Des titres comme Accenture ou Boston Beer se sont retrouvés avec une cote de 0,01 $. Du jamais vu! Aujourd’hui, on sait que des algorithmes de trading aussi appelés «robots» par les financiers sont à l’origine de ce «flash krach». Seule une interruption de Wall Street a permis aux ordinateurs de retrouver un peu de calme.
Cet événement n’a toutefois pas changé le cours de l’histoire, les algorithmes sont toujours aux commandes à New York et représentent aujourd’hui entre 60 et 70% du volume des transactions.
Le 11 mars 2014, un article entièrement produit par des algorithmes sort des murs du Los Angeles Times. Il parle d’un tremblement de terre de magnitude 4,7 survenu au large de Santa Monica, seulement quelques instants auparavant. La dépêche est reprise par une grande majorité de la presse américaine, notamment celle du online. Une semaine plus tard, la nouvelle sur le mode de fabrication se répand dans les milieux des médias. Stupéfaction! On n’avait pas été averti du caractère automatique de l’écriture. La fin du métier de journaliste s’approcherait-elle?
Le 18 juin 2018, il est 19 h 30. Ma cuisinière parle à mon frigo et lui demande de ne pas tirer sur le courant électrique pendant une heure. C’est à son tour de prendre le relais car il ne faut pas surcharger le réseau. Comme toutes les cuisinières agissent ainsi ensemble, un «pic» électrique est réduit. La consommation globale s’en trouve améliorée.
Ces algorithmes dictent de nouvelles règles du jeu sans vraiment faire appel à l’humain. C’est en cela que notre ère est vraiment nouvelle: «Les objets, les systèmes se passent de nous. Trop lents, trop chers, trop encombrants.»
L’internet avec son immense écosystème d’informations interconnectées est le champ d’action privilégié des algorithmes, car ces données sont les seules à parvenir à traiter, à manipuler et à produire dans ce dédale immense du réseau mondial des «big data». Au final, les données résultant de ces processus deviennent à leur tour de nouvelles données et des sources d’informations.
Ainsi, lorsque je fais une recherche sur Google, l’algorithme qui me prend en charge va offrir plusieurs solutions à ma requête présentée comme une liste de liens et, dans le même temps, va retenir ma requête comme une information qui va être intégrée comme une donnée pour ses propres recherches futures.
Il en est de même par exemple sur Amazon ou Ebookers, chacune de mes recherches et chacun de mes achats seront intégrés à une base de données de «comportement clients» qui ira enrichir les recherches et offres futures non seulement me concernant, mais aussi ceux qui auront fait les mêmes choix.
C’est une nouvelle réalité: les algorithmes nous prennent en charge. Il ne reste plus qu’à franchir un petit pas pour qu’ils nous gouvernent simplement. Un pas qui, comme on vient de le voir, a dans certains cas déjà été franchi.
Dans l’automobile, et au-delà de la Google Car, des centaines d’algorithmes ont été introduits dans la gestion de nos véhicules. Le plus visible et marquant est l’algorithme pour garer sa voiture.
La publicité maintes fois vue de la marque automobile Volkswagen est une nouvelle étape d’aide à la conduite dont l’algorithme utilisé introduit une véritable évolution, voire une rupture. Ainsi, à chaque visite chez votre garagiste, le diagnostic du véhicule s’opère grâce à un ordinateur pratiquement indépendant de l’humain. La facture souvent conséquente reste cependant aux frais du conducteur… Tout appareil électroménager, hi-fi, TV, radio, le téléphone et bien sûr votre ordinateur sont bourrés d’algorithmes. On s’en doutait un peu!
Qu’en est-il de l’État?
Si, aujourd’hui, de nombreuses procédures sont automatisées, il y a peu d’algorithmes qui utilisent l’interopérabilité des bases de données. C’est à la fois historique, à cause de l’étanchéité des départements (encore largement en silo), et aussi philosophique car les administrations ne cherchent pas à interpréter les comportements des citoyens, se contentant de plus ou moins les servir.
Sans doute, un jour, les Etats feront-ils leur (r)évolution vers l’anticipation des besoins, mais ce n’est pas le cas actuellement, à l’exception notoire des services secrets et notamment de la NSA américaine. Un citoyen reste un usager passif sauf si on le sollicite pour obtenir sa voix lors d’élections ou de votations. Cependant, on lui demande rarement de donner de la voix pour s’exprimer comme un citoyen «augmenté». La réalité du changement dans les administrations publiques est plus lente que l’on ne le pense généralement, mais ses conséquences à long terme sont certainement sous-estimées.
Et notre liberté de décider?
Les algorithmes sont entrés par petites vagues successives dans notre vie en fonction des progrès accomplis dans la programmation des logiciels d’intelligence artificielle (de type systèmes experts ou aides à la décision). D’abord sous forme d’aide à notre prise de décisions, par exemple pour manipuler une borne bancaire ou d’enregistrement à l’aéroport; puis sous la forme de suggestions à nos décisions comme le font si bien Amazon ou Google. Ce dernier vient par exemple d’étendre son offre avec un système qui anticipe vos désirs de destinations touristiques!
Enfin, et cela devient vraiment plus que troublant, des systèmes qui décident à votre place. On trouve de tels systèmes dans le pilotage automatique des avions mais aussi plus communément dans la gestion de freinage de certaines voitures ou encore dans les smartphones et autres appareils photo pour gérer la netteté ou les différents coloris. Bref, il n’existe plus aucun objet électronique sans éléments algorithmiques autonomes, c’est-à-dire dans le sens où vous ne pouvez pas intervenir sur eux.
Et demain?
A vrai dire, il n’y aura pas de marche en arrière possible car on a déjà commencé à donner partiellement la gouvernance aux algorithmes. Et l’arrivée de l’internet des objets va amplifier ce phénomène de manière exponentielle à un point aujourd’hui encore inimaginable. Songez seulement que, depuis juin 2013, le protocole Internet V6 des adresses IP comporte 667 millions de milliards d’adresses nouvelles. Cela représente autant de composantes électroniques qui seront dirigées par des algorithmes qui vont sans aucun doute être destinés à décider!
Désormais, la seule interrogation est de savoir comment, dans ce monde ultrabranché, nous allons pouvoir évoluer vers plus de liberté. Cela paraît antinomique. Et, pourtant, il faudra bien donner une nouvelle définition au mot liberté si l’on veut garder une envie d’être et un espace de faire, de création!
Xavier Comtesse
Ancien directeur romand d’Avenir Suisse, né à Saint-Imier en 1949, il est licencié en mathématiques et docteur en informatique de l’Université de Genève. Il a œuvré dans le milieu académique, dans celui des start-up et à l’administration fédérale.
