ONDE est un banc d’essai que j’ai mis en ligne pour voir, plutôt que lire, ce que change un réseau à ondelettes. On y compare un réseau de neurones classique (MLP) et un Wav-KAN, dont les fonctions d’activation sont des ondelettes. Tout se passe dans le navigateur, sans rien installer.
Pourquoi ce banc
En 1987, je préparais à l’Université Paris-Dauphine un DEA « Automatique et IA ». Au programme : réseaux de neurones, logique floue, commande, systèmes experts, machine de Turing, sans oublier le traitement du signal, porté par les Mines de Paris… et déjà les ondelettes, côté mathématiques de l’automatique. Le diplôme, lui, a pris un sérieux coup de vieux.
La question, en revanche, n’a pas bougé : comment appréhender le monde, le modéliser, et s’en souvenir. Les systèmes gagnent de la mémoire chaque année ; la mienne diminue, malgré une gourmandise qui, elle, ne cesse d’augmenter. Voir revenir, près de quarante ans plus tard, des ondelettes au cœur d’un réseau de neurones, c’était trop tentant : il fallait que je le teste moi-même.
Une courbe, un pic, deux réseaux
Un réseau classique apprend d’abord ce qui varie lentement, et il gomme le reste : c’est le biais spectral. Sur la recette « Pic local », on le voit tout de suite. Après 32 pas, le MLP n’a dessiné qu’une bosse molle, tandis que le Wav-KAN a déjà posé une ondelette au bon endroit, à la bonne échelle.
Si on laisse tourner plus longtemps, le MLP finira par rattraper une partie du retard. Mais il aura dépensé ses paramètres là où l’ondelette n’en avait besoin que de quelques-uns. Sur une courbe presque droite, en revanche, les deux feraient jeu égal : le banc le montre aussi.
Une photo traitée comme un signal
Deuxième terrain : une image. On dépose une photo (JPEG, PNG ou WebP), ou l’on garde la plaque d’inspection fournie. Les deux réseaux apprennent une grille de 80×60 en niveaux de gris, puis on compare ce qu’ils ont retrouvé du trait, de la rayure et de l’éclat.
Les réglages
Type d’ondelette (chapeau mexicain ou Morlet), nombre d’ondelettes, largeur, une ou deux couches, pas d’apprentissage, graine aléatoire. Les autres onglets (Ondelettes, En clair, Filtre, Couche, KANsformer, Harnais) prolongent l’exploration, jusqu’au banc d’évaluation. En toile de fond : la base orthonormée d’ondelettes de Lemarié et Meyer, publiée en 1985.
Si vous testez vos propres photos, dites-moi en commentaire où le Wav-KAN vous a surpris, et où il a échoué.
Cet article t'a été utile ? Le site, ONDE et Risky restent gratuits et sans pub grâce aux lecteurs. Un café ou un partage : les deux comptent.
