Des chercheurs ont créé une IA bloquée en 1930 pour voir comment elle comprend, prédit ou découvre notre monde moderne

En 2015, les voitures volent, les vêtements s’adaptent automatiquement à la morphologie de chacun et des mini-pizzas passent au format XXL familial après quelques secondes au four. Cette vision de 2015, c’était celle du réalisateur Robert Zemeckis en 1989, lors du second opus de Retour vers le Futur. En 2015, il s’est passé bien d’autres choses, mais pas celles décrites dans les aventures spatiotemporelles de Marty.

Imaginez maintenant qu’une IA dont la connaissance du monde est bloquée au 31 décembre 1930 découvre celui d’aujourd’hui. C’est justement le projet Talkie, autrement nommé 13B 1030 LM, mené par les chercheurs en IA Nick Levine, David Duvenaud et Alec Radford. Ce LLM « vintage » repose sur 13 milliards de paramètres et l’équivalent d’environ 234 milliards de pages décrivant le monde de l’époque, uniquement en anglais.

Le choix de l’année 1930 n’est pas un hasard, ni un choix arbitraire. Aux États-Unis, il correspond à l’expiration des droits d’auteur, 95 ans après leur date de publication. Tout le corpus ingéré par Talkie est donc issu du domaine public.

Talkie simule un esprit de 1930 face à notre réalité. © SB, ChatGPT

Retour vers le futur

L’autre raison qui a poussé les auteurs de l’IA, c’est également de savoir à quoi pourrait ressembler une communication avec quelqu’un issu d’avant 1931, autrement dit faire ce que l’humain ne peut pas : voyager dans le temps.

L’expérimentation est passionnante et permet à la fois de vérifier comment une IA LLM, qui fonctionne sur la base de probabilités, est capable de prédire, de façon fiable, ce qui se passe après 1930 avec sa connaissance étendue du monde de l’époque.

Faire voyager une IA dans le temps n’est pas aussi simple qu’il y paraît. D’abord, le corpus de Talkie reste majoritairement limité à des données numérisées à partir de sources physiques, ce qui suppose que les systèmes de reconnaissance de caractères aient été suffisamment fiables pour consolider ses connaissances. L’autre souci repose sur un phénomène que les auteurs ont appelé « contamination ».

Dans leur modèle, il est pratiquement certain que des données postérieures aux années 1930 soient présentes, ce qui vient fausser les résultats.

Les chercheurs ont évalué la réaction de l’IA face aux actualités postérieures à 1930. Au fil des décennies et via 5 000 descriptions d’événements historiques, la surprise de l’IA a été mesurée. © Talkie

Qu’est-ce que cela donne concrètement ? Vous pouvez le vérifier directement et en anglais à partir du chatbot de Talkie, ou observer cette IA vintage discuter avec la version moderne de Claude à partir de ce lien.

Lors de nos tests, pour tout ce qui est postérieur à 1930, les prédictions sont loin de celles d’un Nostradamus. L’IA n’envisage pas de conflit majeur, ni même l’arrivée au pouvoir des nazis. Lorsqu’on lui explique l’état du monde d’aujourd’hui, l’IA découvre avec étonnement l’existence d’internet qu’elle n’a pas su prédire, celle des smartphones, de la TV et de la conquête spatiale.

Pour ce qui est du passé, celle de l’époque du cursus de l’IA, les chercheurs ont également souhaité tester la capacité du modèle à générer des théories ou inventions dont on sait qu’elles ont été créées après 1930. Ils ont même entraîné un modèle jusqu’en 1911 pour savoir s’il pouvait découvrir la relativité générale, comme Einstein l’a fait en 1915.

L’IA de 1930 sait coder en Python

Si, dans leur publication, les chercheurs n’ont pas indiqué si l’IA y est parvenue, ils ont toutefois poussé le modèle dans ses retranchements en lui demandant de coder en langage Python inventé en 1991. L’IA a généré quelques solutions correctes, mais avec de nombreuses limites puisque le chatbot a dû tout reconstruire par lui-même avec ses connaissances d’une époque où les ordinateurs n’existaient pas.

Autre découverte, comme ses parents « modernes », l’IA souffre également d’hallucinations lorsqu’il s’agit de relater un événement historique. Elle peut inventer des faits et des histoires n’ayant pas existé.

Mis à part ces expérimentations, l’intérêt de cette IA qui remonte le temps permet aussi, par exemple, de mieux comprendre comment une loi de l’époque de sa rédaction a été conçue. Il est alors possible d’identifier les présupposés et le sens implicite de la langue à cette époque, ce qui est difficile à reconstituer autrement.

Enfin, selon les auteurs, ce projet sert aussi à comprendre comment les modèles se forgent leur propre image d’eux-mêmes. Comme l’IA adapte son comportement à ce que l’on attend d’elle, cela permet de mieux comprendre comment elle fonctionne en discutant avec elle, alors même qu’elle ignore qu’elle est une IA.