Rencontre avec l'auteur de Un dieu dans la machine

• Un dieu dans la machine est un roman qui explore la relation entre l'homme et l'intelligence artificielle. Comment vous êtes-vous documenté pour l'écrire ?

 Lorsque j'ai entendu parler de big data, j'ai tout de suite pensé qu'un roman de Philippe K. Dick était en train de devenir réalité. Dick a eu cette intuition géniale : les ordinateurs sont faits pour saisir des données, qui décrivent des phénomènes de cause à effet ; si on arrive à entrer toutes les données du monde, on pourra faire des prédictions.

J'ai aussi lu des essais sur le big data, ceux des technocritiques et ceux des technoprophètes - comme Raymond Kurtzweil, l'ineffable gourou de Google, qui nous annonces l'irruption imminentes d'une intelligence artificielle supérieure ou égale à la conscience humaine. Les écrits des technoprophètes ressemblent beaucoup à des prophéties autoréalisatrices. Cela me fait penser à une nouvelle de Ray Bradbury, Un coup de tonnerre (1952) : un voyageur temporel ramène du futur des films documentaires qui montrent un futur magnifique, où les hommes ont réussi à accorder la ville et la nature. Le monde entier se dépêche de rattraper la vision, de préparer ce futur idéal. En réalité, ce ne sont que des trucages, l'homme souhaitait construire un meilleur futur.

 Ce que j'ai extrait de mes recherches, c'est la relation acausale - le fait que la machine dégage une forme de logique à partir des statistiques qu'elle génère. Certaines entreprises se servent déjà du big data pour le marketing : les gens qui partent aux États-Unis achètent de la vodka, il n'y a aucune raison logique mais ils le font. J'aimais cette idée d'une nouvelle forme de savoir qui défie notre logique, qui est purement statistique et qui nous est inaccessible. Le dégoût du corps, qui sourd de cette philosophie, attirait aussi mon attention. 

• Il y a quelque chose de très fascinant dans la pile de connaissance que le narrateur doit ingurgiter - qui n'est pas loin d'un travail de journaliste. Il y a un côté Jeu des perles de verre, l'idée d'une mine d'or de connaissances qu'il faut attaquer à la pioche.

 Le principe de notre science est de modéliser le monde, ce qui est une chose impossible pour nous autres, humains, mais nous arrivons à un stade où les machines commencent à être capables, elles, d'y parvenir, grâce à leur capacité à manipuler des millions de données. Aujourd'hui, des machines écrivent des choses qui ne seront lues que par d'autres machines. Je suis fasciné par toutes ces connaissances qui sont amassées et ne seront jamais lues par un oeil humain. D'où cette scène où l'ami du narrateur, Brice décrit l'observatoire des données où elles ont la forme d'un océan. J'avais la vision que, comme dans l'océan où la vie a émergé au précambrien, quelque chose allait émerger de cet océan de données. Ce n'est pas loin non plus de l'idée développée par Dan Simmons dans Hyperion, qui imagine que les machines voudront constituer une intelligence ultime.

• Il y a donc l'idée que la machine ne peut pas poursuivre un but parce qu'elle n'a pas d'idéal. "L'humanité va crever et la machine ne la sauvera pas. Pas parce qu'elle n'en a pas les pouvoirs. Mais parce qu'un truc qui pense tout et n'importe quoi la fois est incapable de poursuivre une vision, avec ce que ça suppose de folie sublimée." Le narrateur est ce qui manque à la machine pour en faire une IA forte, une intelligence artificielle qui a conscience d'elle-même.

 Je me suis fait la réflexion que chaque fois que l'on montrait une intelligence artificielle en littérature, c'était une intelligence humaine déguisée. Elle s'exprime comme une intelligence humaine, a le même système de logique. Or la machine est logique, elle n'est même que ça, contrairement à nous. Pour poursuivre une vision, il faut une part de rêve, d'aveuglement : il faut ne pas voir tout ce qui entrave cette vision.

Je voulais une intelligence qui n'aurait pas de centre, qui serait capable de prendre des décisions contradictoires ; il fallait donc lui inventer une nouvelle façon de parler. Dans le roman, les humains apportent à la machine ce qui lui manque pour expliquer les choses humaines : cette part d'arbitraire qui nous définit. Le mathématicien Roger Penrose a découvert avec ses étudiants qu'il y avait une opération logique qu'un groupe de mathématiciens humains pouvait réaliser, mais qu'une machine ne parvient pas à effectuer. Penrose en tire que le cerveau humain ne fonctionne pas selon une logique informatiquement simulable - sinon, les humains ne pourraient pas résoudre ce problème. Il en déduit que la conscience est de nature quantique. Donc, la machine qui sera capable de simuler ce problème sera aussi différente de nos ordinateurs qu'une machine à vapeur est différente d'une centrale nucléaire. 

• Il y a un côté Critique de la raison pure : la logique ne peut-elle mener qu'à des choses contradictoires ? Est-ce que l'IA ne pourrait pas ne pas être logique ?

Non, elle ne peut pas, parce qu'elle est construite par nous, humains, et elle fonctionne à partir de processeurs qui calculent soit 0, soit 1. Pour autant, cette logique ne suffit pas pour appréhender le monde. Tracez deux droites parallèles dans l'espace : elles finiront par se rejoindre parce que l'espace est courbe. Nous pouvons penser que le chat de Schrodinger est à la fois vivant et pas mort ; une machine ne peut qu'envisager soit l'un, soit l'autre.

• Le livre évoque aussi le rapport que l'on entretient avec la machine - vous décrivez un rapport très symbiotique entre le narrateur et son ordinateur, entre sa fille et son jeu. Avez-vous l'impression que c'est quelque chose qui change déjà aujourd'hui ?

 La machine a complètement reconfiguré nos relations. Je prends l'exemple des sites de rencontre : Brice dit au narrateur : "Nous avons inventé des machines, et en retour, elles ont inventé pour nous une nouvelle façon de s'aimer". On touche ici au vrai point de départ du livre : le fait que l'on invente des choses sans vraiment réfléchir à leur utilisation. Les inventions inventent leur propre usage, et plus les inventions sont complexes, plus leurs usages sont inimaginables. 

• Est-ce qu'une machine serait plus à même de percevoir l'entropie, d'imaginer tous les usages possibles d'une invention ?

Je ne pense pas. Je pense que les romanciers de science-fiction ont un vrai rôle à jouer dans ce domaine. Je pense d'ailleurs qu'il faudrait les mettre dans des entreprises : à chaque nouvelle invention, ils auraient à imaginer, en dix nouvelles, dix nouveaux usages. Je me suis rendu compte, en faisant des recherches pour un article sur les GAFA récemment, que Philippe K. Dick et tous les auteurs des années 60 et 80 avaient déjà imaginé notre présent, par fragments.

• Considérez-vous que Un dieu dans la machine est un roman de science-fiction ?

 C'est de la très légère anticipation. Nous sommes déjà dans le monde dont je parle : lorsque nous dialoguons en même temps que nous regardons notre téléphone, des éléments issus du téléphone servent de matière à notre conversation. Le virtuel se mêle à la réalité.

• La structure du roman m'a fait penser à celle de 1984, avec une progression par paliers qui amène à la compréhension d'un système dans son ensemble.

J'avais une volonté pédagogique : à chaque palier, on s'approche un peu plus de la folie de la machine. Il fallait que mon narrateur apprenne, et que le lecteur découvre en même temps que lui.

• L'arc narratif est très tendu, du début à la fin. Était-ce le plan initial ?

Entre l'intention de départ et le livre final, il y a souvent une très forte différence. Julien Gracq a écrit tout Le rivage des Syrtes pour écrire une bataille navale ; en fin de compte, il n'y a pas de bataille navale. Je pensais d'abord le livre comme un thriller. Ça aurait été un thriller très détendu ! Le meilleur conseil d'écriture qu'a donné Stephen King, c'est : "Kill your darlings", tue ce que tu préfères. Si vous écrivez une phrase dont vous êtes très fier, qui est un peu remarquable, le lecteur, en la lisant, va se dire que c'est une phrase remarquable, et le résultat est qu'il sera sorti du livre. Ce n'est pas ainsi que cela doit fonctionner. La phrase doit être au service de l'histoire. Les blagues esthétiques qui vous permettent de briller n'ont aucun intérêt.

 Mon éditeur a identifié que j'écrivais deux livres en même temps, l'un étant plus faible que l'autre. Un bon éditeur, c'est quelqu'un qui vous dit à propos de votre livre des choses que vous avez pensées au cours de la rédaction, et dont vous vous êtes dit : "Ça va passer". Non, ça ne passe pas.

• Un de vos personnages dit que les livres disparaissent des poches parce que "quand on se bat huit heures par jour avec des millions d'informations exactes, on a plus de temps à perdre avec la fiction". N'y a-t-il pas pourtant un report vers une réalité qui relève de plus en plus de la fiction ?

J'entends souvent des gens me dire : "Je ne vais pas perdre du temps avec des mensonges, pourquoi lirai-je un roman ? Je suis occupé avec le réel, c'est sérieux". Mais en effet, notre réel rattrape la fiction. C'est ce que font ceux qui développent des théories du complot : ils essaient de trouver une logique narrative dans un monde qui est en réalité chaotique.

Je pense, quant à moi, que la fiction a toujours beaucoup à nous apprendre. Chacun écrit sa propre sa fiction, à la manière d'un jeu vidéo. J'aurais bien aimé travailler à la conception d'un jeu. Je préfère la littérature, toutefois, parce que je n'ai pas été habitué à regarder des films durant ma jeunesse, donc j'ai devant les films les mêmes problèmes de concentration qu'un enfant a devant un livre. Quand je lis un livre, je peux imposer mon rythme, choisir d'aller plus ou moins vite.

• L'univers du jeu vidéo a une part importante dans le roman, notamment à travers ce monde virtuel fantasmé, YourWorld. Quel est votre rapport aux jeux vidéos ?

Je voulais pour ce roman écrire une fuite vers l'imaginaire. Je pense que les machines ont beaucoup à voir avec cette faculté qu'a l'homme d'inventer des mondes. En même temps, je sais très bien qu'on peut se perdre dans les jeux vidéos.

J'imaginais aussi un jeu qui discute avec son joueur, qui s'adapte à lui. Je pense que dans l'avenir, plus personne ne disputera deux fois la même partie. 

• Notre monde fait aussi penser à celui imaginé par Pierre Bordage dans Wang : une élite occidentale parquée derrière des grands murs aux portes desquels se massent des affamés. Il y a une fuite en avant vers le virtuel, parce que le réel devient trop insupportable.

Je pense qu'il est fort probable qu'on vive une explosion de la société et une explosion de la technologie en même temps. Au moment où la technologie se développera plus, les sociétés s'effondreront, et on trouvera la technologie comme seule issue à nos sociétés défaillantes.

C'est un argument phare des technoprophètes : les machines vont nous gérer au mieux, donc tout va s'arranger. C'est un peu l'idée de La nuit des temps, de Barjavel, qui rêve d'une société parfaite régie par des machines Frank Herbert a eu une très bonne idée pour le cycle de Dune : il explique que dans le passé, il y a eu une guerre contre les machines - le Jihad -, ce qui lui permet d'éviter de s'embarrasser avec ces problèmes.

• Je voudrais parler de génération, pour finir. À la fin du roman, le narrateur se retire du monde, avec le sentiment que sa génération doit laisser sa place à suivante. Est-ce qu'il y a aujourd'hui une nouvelle génération qui doit prendre la place d'une autre, plus ancienne ?

Je pense que les générations se périment de plus en plus vite, notamment à cause de la technologie. Je pense qu'un réflexe naturel est de se retirer dans vers son passé, dans un monde que l'on comprend encore - c'est ce que fait mon narrateur. Je pense que les technologies condamnent un certain nombre de gens à se retirer de la scène active du monde. De fait, s'il doit y avoir une résistance face aux dérives de la technologie, elle se fera de la part de ces nouvelles générations, qui baignent dedans.

Alexis Brocas, Un dieu dans la machine (2018), éd. Phébus