kkuetteBonjour, je suis Tony Denion.
En ligne, kkuette.
Ingénieur logiciel indépendant et chercheur autodidacte en machine learning, en France, en télétravail.
J'ai bidouillé pendant des années, puis appris à programmer pour de vrai en C, à la piscine de l'École 42 en 2015. Python est arrivé vers 2017. Depuis peu : des modèles de langage qui prennent leurs propres notes.
Lisez-le à voix haute : cacahuète. Oui, vraiment. Le nom est resté.
Aujourd'hui
Une personne, un GPU, un modèle qui écrit sa propre mémoire
Je dirige Fractale, un labo de recherche d'une seule personne sur des modèles de langage dont la mémoire à long terme est écrite par le modèle lui-même. Plutôt qu'une fenêtre de contexte plus longue, le modèle lit un document page par page et garde une poignée de notes dans sa propre sténographie apprise. Ces notes tiennent en quelques kilo-octets : on les sauvegarde, on les recharge le lendemain, on les transporte dans une autre session.
Tout est ouvert sous licence MIT : les poids, le code d'entraînement, un journal de recherche avec les commandes exactes de reproduction, et un papier sur le mécanisme. Le pré-entraînement complet du premier checkpoint a coûté environ 320 $ de GPU loué.
Au quotidien, le labo tourne sur une seule RTX 3090, un petit rig de RTX 3070 Ti pour les ablations, et une poignée de serveurs domestiques pour le stockage, la CI et les files de jobs. Au-delà, la campagne de passage à l'échelle est soutenue par une allocation de calcul EuroHPC JU (accès AI and Data-Intensive Applications) sur MareNostrum 5, hébergé par le BSC. Pour un labo d'une personne, cette allocation change ce qui est possible.
C'est un binôme de recherche humain/IA, et je le dis partout. La direction de recherche, l'architecture et le jugement expérimental sont les miens. L'implémentation, l'exécution des expériences et la rédaction sont produites en collaboration avec Claude (Anthropic). Cette page comprise.
Travaux antérieurs
Surtout du Python, surtout ouvert
- TradzQAIEnvironnement d'apprentissage par renforcement pour le trading : backtesting et sessions live, huit agents (DQN, PPO, DDPG, TRPO…), TensorFlow / TensorForce.
- coinbaseadv-pythonClient Python non officiel pour l'API Coinbase Advanced Trade.
- coinbasewebsocket-scraperCollecteur de données de marché sur le flux websocket Coinbase.
- AutoPICPetit outil d'automatisation en JavaScript.
- Projets École 42 en Clibft, printf, get_next_line, fillit, lem-in, filler. C'est de là que vient la discipline.
Parcours
- École 42, piscine de 2015De la bidouille avant ; la vraie programmation commence ici, en C. Les algorithmes et la pédagogie par les pairs : pas de professeurs, des projets corrigés par d'autres étudiants, et beaucoup de nuits sur un segfault.
- Python, vers 2017De petits outils d'abord, puis des données et des modèles. Appris en livrant et en lisant le code des autres.
- Apprentissage par renforcement et bots de tradingTradzQAI : des agents qui apprennent à trader sur un marché simulé, puis réel. Premier contact avec des boucles d'entraînement qui ne convergent jamais tout à fait.
- FractaleDes modèles de langage à mémoire auto-écrite. Expériences préenregistrées, journal de recherche public, et un premier checkpoint ouvert en 2026. Phase 2 : apprendre au modèle à utiliser sa mémoire délibérément.