show index hide index
Imaginez une époque où la technology n’était pas encore dominée par des serveurs puissants et des centaines de gigaoctets de RAM, mais par un simple Pentium II fonctionnant sous Windows 98. C’est dans ce contexte que l’improbable se produit : un groupe de chercheurs parvient à ressusciter cet ancien matériel en y intégrant un modèle de langage inspiré de LLaMA 2. Grâce à l’architecture innovante de BitNet, ils font tourner un modèle imposant tout en contournant les limitations d’une ère passée, ouvrant la voie à une IA plus accessible pour tous.
Un groupe de chercheurs a récemment accompli l’exploit improbable de faire tourner un modèle de langage avancé inspiré de LLaMA 2 sur un ordinateur vieux de 25 ans. Cet ordinateur, équipé d’un processeur Pentium II à 350 MHz et de 128 Mo de RAM, utilise encore Windows 98. Grâce à l’architecture ingénieuse de BitNet et des ajustements informatiques minutieux, ce projet rétro-tech démontre qu’il est possible de rendre l’artificial intelligence accessible sur des machines anciennes et grand public.
Ressusciter un Classique de l’Informatique
Comment faire tourner un modèle de langage moderne sur une machine presque obsolète ? C’est l’interrogation qui a poussé les chercheurs à se pencher sur un PC équipé du processeur Pentium II. Ce qui n’était qu’ébauche d’idée s’est transformé en un défi technique, visant à exploiter un système d’exploitation tel que Windows 98 pour accueillir une intelligence artificielle pourtant conçue pour l’ère moderne.
Le Secret de l’Architecture BitNet
L’architecture BitNet est la clé du succès de ce projet. Contrairement aux modèles conventionnels, souvent gourmands en mémoire et puissance, BitNet repose sur des poids ternaires (0, -1, 1). Cette stratégie permet de réduire significativement la taille du modèle, un nécessaire ajustement pour s’adapter au matériel désuet. Ainsi, un modèle de 7 milliards de paramètres est compressé dans un volume de 1,38 Go de stockage.
Surpasser les Limitations Techniques
Le retour au matériel ancien n’a pas été sans obstacle. Avec les interfaces USB modernes mises de côté, l’équipe en est revenue aux traditionnels périphériques PS/2 et aux transferts via FTP. Pour compiler le code, c’est le compilateur Borland C++ 5.02 de 1998 qui a permis d’adapter le fichier llama2.c. Une tâche complexe, nécessitant des ajustements comme la manipulation manuelle des horloges système et la substitution de types modernes par leurs prédécesseurs.
Un Pas Vers une IA Accessible
Si l’application sur un PC de 1998 est évidemment impressionnante, ce projet porte une ambition plus large. La volonté est de rendre l’artificial intelligence accessible, au-delà des serveurs distants et des solutions coûteuses en ressources. Avec BitNet, cela signifie la possibilité de faire fonctionner des modèles localement sur des machines plus modestes.
Perspectives Futuristes pour l’IA
De nouvelles perspectives voient le jour grâce à cette approche. Elle ouvre des horizons pour intégrer l’IA dans des téléphones anciens et des ordinateurs oubliés, permettant aussi des applications dans des appareils embarqués sans connexion cloud. EXO projette de fournir des outils open source pour encourager l’expérience sur des matériels anciens et s’attaque à des champs spécialisés tels que la modélisation des protéines.
