Oui, les ordinateurs font mieux que les humains, mais sans comprendre ce qu’il font.
Voici quelques semaines, je me suis rendu à l’Imperial War Museum de Londres pour assister à une démonstration : un programme d’intelligence artificielle devait tenter de décrypter “Enigma”, le système de cryptage follement complexe utilisé par les Allemands durant la Seconde guerre mondiale.
Il l’a fait, en 12 minutes et 50 secondes.
Le programme, qui s’était entraîné en ingérant des textes tirés des Contes de fées de Grimm, a dévoré les milliards de permutations générées par la machine Enigma à quatre rotors en filtrant les combinaisons de lettres en fonction de leur “germanitude”.
Le challenge qui avait absorbé les plus brillants cerveaux mathématiques de Grande-Bretagne pendant de long mois à Bletchley Park, à des coûts exorbitants, a été résolu par un programme d’intelligence artificielle pour seulement 10 livres.
Ce programme d’intelligence artificielle, créé par la société d’analyses de données Enigma Pattern et propulsé par 2 000 serveurs virtuels, a examiné un chiffre stupéfiant de 41 millions de combinaisons possibles par seconde.
“Ce programme, propulsé par 2 000 serveurs virtuels, a examiné un chiffre stupéfiant de 41 millions de combinaisons possibles
par seconde”
Simon Singh, journaliste scientifique et auteur de ‘L’histoire des codes’, reconnaît que le code Enigma était considéré comme à peu près inviolable à son époque. “C’est un code difficile, très difficile à casser. On a longtemps pensé que c’était impossible” a-t-il rappelé lors de l’événement.
La démonstration est un joli coup publicitaire pour démontrer les prouesses croissantes de l’intelligence artificielle couplée à de colossales puissances de calcul. Mais elle a aussi confirmé, une fois de plus, l’intuition précoce d’Alan Turing, le génial casseur de codes de Bletchley Park : les ordinateurs font la preuve de leurs compétences mais pas de la compréhension.
Ce programme d’intelligence artificielle n’avait aucune compréhension du fait qu’il était en train d’essayer de venir à bout d’une machine à crypter allemande, ou même du sens des mots allemands. Il associait la technologie de reconnaissance des “patterns”, ou modèles récurrents, et la puissance informatique à l’état brut pour fournir une solution à base de probabilité. L’intelligence des machines peut donner la bonne réponse sans comprendre entièrement la question.
Ce phénomène touche un nombre toujours croissant d’activités humaines, depuis les jeux comme les échecs et le jeu de Go, à la lecture de documents juridiques, à l’interprétation des résultats de scanners médicaux et à la conduite automobile autonome. Les ordinateurs ne comprennent pas quelles tâches ils accomplissent, même s’ils s’en acquittent avec plus d’efficacité que les humains.
La “compétence” grandissante de l’intelligence informatique soulève de nombreuses questions troublantes sur ce qui se passera quand les machines pourront à peu près tout faire. Ce dilemme a déjà produit une étagère entière de livres sur la place de l’humain dans l’ère de l’intelligence artificielle.
Un aspect moins connu de l’histoire de la machine à crypter Enigma souligne une différence importante entre l’humain et la machine, même si cet épisode ne met pas particulièrement en valeur les humains.
Selon M. Singh, même après la guerre, les autorités britanniques ont gardé le secret et n’ont pas révélé qu’ils avaient élucidé le code Enigma, laissant croire qu’il était toujours inviolable. Ce mensonge leur a permis de vendre certaines des machines Enigma qu’ils avaient saisies à des gouvernements amis. Ce qui a permis aux Britanniques d’espionner leurs communications les plus sensibles.
Il est difficile d’imaginer un ordinateur mettre un jour au point une stratégie aussi tortueuse. Mentir est une affaire compliquée, qui nécessite de masquer une intention, de comprendre la psychologie humaine et la coexistence de deux versions de la réalité, l’une vraie, l’autre fausse.
Le perfide esprit britannique est de toute évidence une forme d’intelligence extrêmement rare.
“Le perfide esprit britannique est de toute évidence une forme d’intelligence extrêmement rare”
Comme l’a un jour écrit le poète russe Joseph Brodsky, la véritable histoire de la conscience commence avec notre premier mensonge. Une question intéressante demeure : un ordinateur parviendra-t-il jamais à sciemment tromper les humains ? Si (et quand) cela se produit, nous, stupides humains, pourrions nous retrouver dans de beaux draps. Les conséquences effrayantes ont déjà été exposées dans un film de 2015, ‘Ex Machina’ : un robot humanoïde y est soumis au test de Turing.
Dans son livre, Max Tegmark rappelle la distinction que les philosophes établissent entre les concepts latins de “sapience” (la capacité de penser de façon intelligente) et “sentience” (la capacité d’apprécier des expériences subjectives).
Selon ce professeur de physique qui enseigne au MIT, à un moment donné de ce siècle, l’intelligence électronique pourrait bien supplanter l’intelligence humaine et démolir notre prétention d’‘Homo sapiens’, l’entité la plus intelligente de la planète.
Mais l’acquisition de la conscience électronique, qui produit le sens, sera un événement encore plus déterminant, si elle se produit un jour. Pour Max Tegmark, si nous, les humains, souhaitons étendre notre “exceptionnalisme”, alors peut-être le moment est-il venu de nous réinventer en tant que ‘Homo sentiens’.
“L’acquisition de la conscience électronique, qui produit le sens, sera un événement encore plus déterminant, si elle se produit un jour”
Les ordinateurs auront beaucoup plus de mal à cracker le code de la conscience.
