Anna Klarsfeld En janvier dernier, un rabbin américain a fait parler de lui en prononçant devant sa communauté un sermon entièrement écrit par ChatGPT. Il avait prévenu le public présent que le texte n’était pas de lui, mais quand il leur a demandé quelle en était, d’après eux, l’origine, tous ont pensé à un autre rabbin célèbre pour ses sermons, l’ancien Grand rabbin de Grande-Bretagne Jonathan Sacks z’’l. Un algorithme serait donc aujourd’hui capable de produire du discours religieux ressemblant à s’y méprendre à un discours proprement humain. Qu’est-ce que cette perspective vous inspire ?

Delphine Horvilleur Cela me fait penser à une anecdote qui s’est déroulée dans ma synagogue il y a quelques mois. Une membre de ma communauté [Judaïsme En Mouvement, Paris] avait souhaité adresser un mot à sa petite-fille à l’occasion de sa bat mitsva. Au cours de la cérémonie, elle a pris la parole et lui a dédié un discours vraiment émouvant. À la fin, nous étions tous très touchés… jusqu’à ce qu’elle nous révèle que ce n’était pas elle qui avait écrit les mots qu’elle venait de prononcer, mais ChatGPT ! Certaines personnes présentes étaient un peu choquées, mais je pense que c’était là un vrai shiur, une vraie leçon. En nous piégeant de la sorte, elle nous a obligés à réfléchir à ce que ces nouveaux outils changent dans nos vies. C’est une réflexion absolument nécessaire pour faire en sorte que ces outils restent vraiment des outils, et ne deviennent pas des golems qui prennent le contrôle.

AK Et vous, avez-vous déjà utilisé ces outils, ou avez-vous été tentée de le faire ?

DH Au début de l’été, je devais écrire la préface d’un livre, et j’avais un peu de mal à m’y mettre. Mon fils de 17 ans m’a suggéré d’utiliser ChatGPT en lui soumettant la requête suivante : « Écris la préface de ce livre dans le style de Delphine Horvilleur ». Le résultat était bluffant : la machine avait très bien réussi à intégrer mes tournures de phrases habituelles, voire mes tics de langage. Du point de vue du style, on aurait vraiment pu croire le texte écrit par moi !

AK Alors, vous êtes-vous appuyée dessus pour écrire votre préface ?

DH Non, parce que le fond du propos n’était pas très intéressant – pas très intelligent, finalement. La machine ne faisait que recracher des choses déjà écrites, déjà pensées, sans rien créer de neuf. Or, la définition rabbinique de l’intelligence, c’est précisément le hidoush, c’est-à-dire la capacité à s’appuyer sur la tradition pour faire émerger des idées nouvelles, pour produire de l’inouï – au sens littéral, c’est-à-dire du jamais entendu. C’est exactement ce qu’un algorithme, par définition, ne peut pas faire : il ne fait que de l’ouï. Il dit oui à l’ouï ! Par ailleurs, il ne cite généralement pas ses sources, ce qui est contraire à un principe fondamental de la pensée juive. Dans le Talmud, les Sages citent en permanence leurs sources. On retrouve un nombre incalculable de fois cette formule : « Rabbi X a dit au nom de Rabbi Y… » Avec ce paradoxe que Rabbi X ne rapporte généralement pas le propos de Rabbi Y de façon inchangée, mais en y ajoutant sa propre interprétation, en apportant du hidoush, justement. Dans la tradition juive, on dit des choses neuves en suggérant qu’elles ont déjà été dites… tout en sachant pertinemment qu’en réalité, elles ne l’ont pas été !

Cette façon de penser s’illustre parfaitement dans un célèbre midrash [un récit rabbinique] qui met en scène un Moïse catapulté dans le temps et envoyé dans la maison d’études de rabbi Akiva, l’un des plus grands Sages du Talmud. Moïse a alors la surprise d’entendre Rabbi Akiva enseigner à ses étudiants des lois dont il n’a jamais entendu parler… tout en affirmant qu’elles viennent de lui ! C’est sur cette forme de « fiction de la continuité » que repose toute la pensée rabbinique.

AK Finalement, ce que vous dites, c’est que l’intelligence artificielle, c’est l’exact opposé de l’intelligence rabbinique. Elle prétend faire du neuf en recrachant des choses déjà pensées sans citer ses sources, quand, dans le Talmud, les rabbins prétendent répéter des choses déjà dites en citant ceux qui les précèdent, alors qu’ils innovent en permanence… Ceci étant posé, est-il, d’après vous, moralement problématique d’utiliser l’I.A. dans son travail ?

DH Pas forcément, si on dit qu’on l’a utilisée. Le problème moral, ça peut être le mensonge. Mais pour moi, ces outils posent surtout la question du rapport à l’effort. Quand on s’en remet aux machines, on ne fait plus l’effort de la pensée. Par exemple, au volant, on suit bien souvent notre GPS sans réfléchir, au lieu de faire l’effort de regarder le décor – ce qui peut nous conduire à emprunter des chemins pas si intelligents que ça ! Le risque d’utiliser ainsi les algorithmes de façon aveugle, c’est de perdre notre esprit critique. Cela me rappelle l’histoire du Golem [lire l’article de Pierre Bentata, page 20]. Dans la mythologie juive, le Golem a, au départ, été créé par un rabbin pour protéger les Juifs des pogroms. Il est donc initialement conçu comme un outil au service des hommes. Mais il finit par devenir fou et faire de la vie des hommes un enfer. Or, qu’est-ce qui est à l’origine de ce basculement ? Une faute de son créateur, qui aurait oublié de le « débrancher » avant shabbat, comme il le faisait habituellement. Cette légende nous invite à une pensée de la déconnexion. Pour éviter que les outils qui sont censés être à notre service ne deviennent des golems sources de destruction, nous devons apprendre à nous en déconnecter.

AK Une dernière question : des chercheurs de l’université de Chicago ont récemment montré que les leaders religieux étaient peu susceptibles d’être un jour remplacés par des robots car leur leadership repose sur une crédibilité fondée sur des capacités spécifiquement humaines, comme la capacité à s’engager au service des autres de façon altruiste [lire l’entretien avec Joshua Conrad Jackson, page 45]. Pensez-vous qu’un robot pourrait un jour atteindre ce niveau de crédibilité ?

DH Pour moi, la crédibilité d’un leader religieux réside avant tout dans sa capacité à embrasser ses failles. D’ailleurs, les blagues juives – par lesquelles j’aime commencer mes sermons – ont souvent ce rôle de révéler nos cassures, tout en les mettant à distance par l’humour. Raconter ces blagues est une façon de dire « je suis fêlé », dans tous les sens du terme. Or, précisément, l’algorithme n’a pas de fêlures, pas de failles. Il est infaillible. À mon sens, c’est cela qui lui enlève sa crédibilité. Un humain qui sait admettre sa fragilité sera toujours beaucoup plus crédible que tous ceux qui promettent des réponses solides, dogmatisme ou robotisme à l’appui.