Yves Meyer. 14 decembre Je remercie Guy Wallet de m'avoir invite a faire cet expose.

Transkript

1 Images et vision Yves Meyer 14 decembre 2001 Je remercie Guy Wallet de m'avoir invite a faire cet expose. Nous allons d'abord etudier les relations entre le traitement de l'image et le fonctionnement du cerveau. Il s'agit de comprendre comment, sous quelle forme, gr^ace a quel codage, l'information visuelle recue par l'il est transmise au cortex visuel primaire. Nous relierons cette question a l'analyse en composantes independantes ou ICA. Cette information de \bas-niveau", acquise par le cortex visuel primaire, est ensuite reprise en compte et traitee par le cerveau an de construire les \images mentales" qui nous donnent la sensation de voir. La seconde partie de mon intervention concerne le nouveau standard de compression des images xes. Ce nouveau standard, destine a remplacer l'ancien JPEG, n'est pas encore completement acheve, bien que l'essentiel ait ete fait. Il est deja experimente sur le web. Le lecteur interesse se reportera a l'excellent site: (l'absence de www n'est pas une erreur). Nous verrons enn avec surprise que l'analyse par ondelettes, prise dans un sens tres large, permet de faire le pont entre ces deux enjeux. Dans les dernieres sections de l'expose ecrit, nous presenterons quelques applications medicales des algorithmes de compression des images xes, puis nous replacerons les dierents programmes scientiques que nous avons evoques dans une perspective historique. 1 Le cortex visuel primaire Commencons par evoquer les travaux sur le cortex visuel primaire qui ont valu a David Hubel le prix Nobel de medecine en En juin 1997, a l'universite Autonoma de Madrid, David Hubel nous expliqua qu'un but de ses recherches etait de comprendre comment l'information visuelle, captee par l'il, est ensuite traitee par le cortex visuel primaire. Il s'agit ici d'un pre-traitement qui ne met pas encore en jeu les fonctions cognitives du cerveau. Ce faisant, Hubel a decouvert qu'il y avait des neurones aectes a des 1

2 t^aches speciques, agissant comme des microprocesseurs. D'autres chercheurs avaient aussi contribue a l'elucidation des fonctions des cellules du cortex visuel primaire. Citons H.B.Barlow qui a etudie le systeme visuel de la grenouille et du lapin, ainsi que les travaux de S.W.Kuer sur la retine des mammiferes. Ces chercheurs demontrerent que certaines cellules speciques du cortex visuel primaire sont aectees a diverses fonctions tres precises dans l'analyse de l'image, bien qu'aucune ne fournisse la comprehension de l'ensemble. Cette comprehension fera appel a des processus cognitifs mettant en jeu des populations de neurones. Nous y reviendrons. Les cellules du cortex visuel primaire etudiees par Hubel et ses collaborateurs sont aectees a des t^aches inniment plus modestes, parcellaires, repetitives, un peu comme un travail a la cha^ne. Ces neurones ne procedent pas a un decoupage de l'image en blocs 8x8, comme le ferait JPEG, mais detectent des patterns, des structures universelles et rudimentaires qui se retrouvent dans toutes les images. Ces patterns ne se reduisent pas a des petits morceaux de l'image. Par exemple, certaines cellules sont responsables de la detection des contours et il est tout a fait etonnant que les dierentes orientations soient prises en charge par dierentes cellules, chacune etant specialisee dans une orientation particuliere. D'autres neurones sont aectes a la detection de motifs periodiques etc. Tous ces neurones font partie des aires primaires du cerveau. L'information \pretraitee" qu'ils fournissent est ensuite envoyee vers les aires secondaires ou associatives, responsables des processus cognitifs. \Les fonctions cognitives sont basees sur la mise en jeu d'un reseau distribue d'aires corticales possedant une dynamique temporelle" (Bernard Mazoyer). Les reseaux de neurones formels utilises dans les algorithmes d'apprentissage essayent d'imiter les performances des ces reseaux distribues d'aires corticales. Hubel s'est alors demande si le cortex visuel primaire etait deja c^able a la naissance ou si le c^ablage se faisait dans les premiers mois suivant la naissance, gr^ace aux stimuli visuels que recoit le bebe. Il a commence par travailler sur des chats et des singes et, en etudiant cette periode critique d'elaboration du fonctionnement de la vision, il a decouvert un moyen de guerison d'une forme de cecite tres courante qui s'appelle l'amblyopie. Cette forme de cecite vient du fait qu'une partie du cortex visuel primaire n'est pas stimulee, car elle ne recoit pas l'information de l'il (a cause d'un fort strabisme. par ailleurs temporaire, qui aecte certains bebes). Les neurones degenerent alors de maniere irrecuperable, et le bebe devient aveugle. La conclusion du travail de David Hubel est tres interessante, specialement pour les jeunes chercheurs, parce qu'elle illustre le lien entre recherche pure et recherche appliquee: Hubel dit en eet qu'il n'a pas cherche a guerir une forme de cecite et que sa decouverte sur la facon de traiter l'amblyopie est un produit inattendu de son etude du fonctionnement du cerveau. 2

3 Il ajoute de facon tres ironique que si son programme de recherche avait porte sur l'etude de cette forme de cecite, il n'aurait jamais obtenu la moindre subvention. On lui aurait enjoint de travailler, comme cela semblait evident, sur l'il et cela n'aurait conduit a rien puisque le probleme se situe au niveau du cerveau! Citons Hubel: \During the past forty years, in collaboration with Torsten Wiesel and later with Margaret Livingstone, I have attempted to build upon the work of Ramon y Cajal in an attempt to obtain a detailed understanding of the physiology of one small part of the cerebral cortex -the striate cortex, or primary visual cortex. Since our work has focused on understanding the human brain, we have conned our studies to higher mammals, especially macaque monkeys. Our experiments have aimed at understanding brain function in normal adult cats and monkeys, and in newborn animals. In adult cats and monkeys, our main eort has been to determine how the visual information coming from the eye is handled and transformed by the brain. In 1950, Stephen Kuer established that nerve bers from the eye, the optic nerve bers, respond maximally to a circular spot of light on the retina or in the outside world. For maximum impulse discharge rates the position of the spot and its size must be precisely specied. A typicall retina cell responds best to a region in the visual eld that subtends much less than one degree (termed the receptive eld center), and, as Kuer discovered, a spot larger than optimal produces much weaker responses because of inhibition coming from from the area surrounding the eld center. Cells in the primary visual cortex, to which the optic nerve projects (with one intermediate nucleus interposed) are far more exacting in their stimulus requirements. The commonest type of cell res most vigorously not to a circular spot, but to a short line segment -toa dark line, a bright line, or to an edge boundary between dark and light. Furthermore each cell is inuenced in its ring only by are- stricted range of line orientations: a line more than about 15 to 30 degrees from the optimum generally evokes no response. Dierent cells prefer dierent orientations, and no one orientation, vertical, horizontal or oblique, is represented more than any other. These observations made in 1958, had not been predicted and came as a complete surprise. Evidentlty cells in this part of the cortex are determining whether there are contours (light-dark or color) in the visual scene, and collectively registrating their orientations. 3

4 We went on to show that cells could be subdivided into classes according to a hierarchy of increasing complexity, and could be further categorized in terms of specic responses to movement or to color. For example, a cell in the left hemisphrere might respond to a bright red line oriented at 45 degrees to the horizontal, in a small region of the right visual eld, but fail to repond to vertical lines, horizontal lines, or white or black lines. One of the most striking examples of cortical specicity is observed in the visual failure of these cells to respond to marked changes in diuse light intensity, as for example when a bright ashlight is directed into the eyes of the animal. This failure of cells to respond to changes in diuse light was one reason why investigators in the early 1950s thought that cortical cells were unresponsive to visual stimuli. It soon became apparent that cells were grouped in the cortex according to orientation preference, in parallel column-like aggregations extending through the full 2mm thickness of cortex. We term these groupings \orientation columns". The arrangement is one of extreme order: a movement parallel to the cortical surface of a distance of 1/20 mm corresponds to a change in orientation preference of cells by about 10 degrees, so that a one-millimeter traverse along the cortex corresponds to a full 180 degrees rotation. In monkey cortex a typical cell responds to the two eyes, though usually better to one eye than to the other. Cells preferring a given eye, left or right, tend also to be grouped together, in alternating left-eye, right-eye slabs 1/2 mm thick, lying perpendicular to the surface. These eye-dominant columns have little or no relationship to the orientation columns. They have been clearly shown to exist in human primary visual cortex. We indeed surmise that most of our ndings apply to humans, since visual cortex of cat and monkey (and all higher mammals so far studied) are anatomically and physiologically similar except for minor details. These columnar formations are closely analogous to the columns that had perviously been demonstrated by Vernon Mountcastle in somatosensory cortex. Columns may indeed be a universal property of cerebral cortex. They have now been demonstrated in dozen of other cortical areas. At an early stage of our research Torsten Wiesel and I began to ask whether the visual cortex was fully connected at birth, or whether the organization we had seen in adult animals required postnatal experience for its development. It is fair to say that the prevailing opinion of psychologists in the fties and sixties was that the wiring 4

5 of the brain and certainly of the cerebral cortex, was largely a product of post-natal experience. We began by showing that a newborn animal that had one eye covered for a period as short as a few weeks became blind in that eye. We could show that the blindness was not the result of some abnormality in the eye, but of miswiring in the cortex, since the responses from the retina were normal, whereas stimulating the eye that had been covered evoked no reponse from the cortex. These eects of eye occlusion could be produced only during a critical period of several months subsequent to birth. The period of plasticity in this system was therefore strictly limited. Clinical experience, for example with congenital cataracts, suggests that in humans the critical period extends for several years from birth. Surprisingly, blindfolding both eyes in young monkeys produced far less severe eects, even though the animals became blind in both eyes. Presumably the blindness is due in part at least to eects on higher visual areas. This dierence in the eects of monocular and binocular occlusion must have been produced by competition, rather than by simple disuse. Perhaps the most surprising result of these studies was the demonstration that at birth, this region of cortex responds very much like adult cortex. Orientation selectivity, for example, is present toa striking degree, and the orientation columns have begun to develop. We conclude that the deprivation eects that we had seen were the result of deterioration of connections present in large part at birth, rather than simply a failure to adquire connections as a result of lack of a learning experience. Specic cortical connections, at least for this region of cortex, are thus partly innate and partly the result of experience, and not, as the previous generation of psychologists had thought, exclusively the result of experience. This work in young cats and monkeys, especially the concept of the critical period, led to a means of prevention of one of the commonest forms of blindness, the monocular blindness (amblyopia) that results from strabismus (\cross eye" or \wall eye"). By operating surgically at an early age to correct the condition it is possible to preserve vision in the two eyes, and even prevent the loss of binocular depth perception that almost always results from strabismus. As often happens in science, this benecial result of our research was quite unforseen. We did not set out to prevent a specic form of blindness the discoveries came as a by-product of studying the normal brain. Ironically, had we set at the very beginning to understand amblyopia, we would have begun by working on the eye, not he brain, and would not have gotten anywhere. I suspect no fund- 5

6 ing agency would have supported a proposal to study amblyopia by making microlectrode recordings from the cortex. The deprivation studies began as a side project and did not require any additional resources. Understanding the human brain is one of the greatest challenges that scientists face. It is surely the most complex machine in the known universe. It has commonly been thought that understanding the brain is a hopeless quest, since the main tool we have towork with is our own brain. I have never seen any merit in this logic, and the work I have described here, together with research in hundred of laboratories, has surely already led to remarkable progress in understanding the brain, even though it is just a beginning. La recherche doit donc avant tout faire progresser l'ensemble des connaissances et non s'attacher a resoudre directement un probleme particulier! Nous allons voir maintenant pourquoi ces problemes sur le fonctionnement du cerveau sont relies au traitement de l'image. Ce dont je vais parler est inspire par les travaux d'un groupe autour de D.J. Field, B.A. Olshausen et de Naoki Saito (University of California, Davis, CA). 2 La decomposition en composantes independantes ou ICA Les neurophysiologistes se sont interesses aux representations ecaces des images et en particulier des images de scenes naturelles. Leur theorie est la suivante: si, aujourd'hui, les cellules du cerveau du cortex visuel primaire sont aectees a dest^aches speciques de reconnaissance de certaines structures geometriques, c'est peut-^etre parce que cette solution biologique au probleme de la lecture d'une image est optimale en terme de d'analyse et de compression des donnees. On peut penser qu'a la suite d'un lent processus d'evolution, la selection naturelle ait conduit a cette specialisation croissante des cellules retiniennes. Peut-on etablir scientiquement qu'en optimisant l'analyse des images des scenes naturelles, on retrouve precisement les images elementaires qui correspondent aux diverses specialisations des cellules du cerveau? Les chercheurs etudient aujourd'hui ces questions fondamentales en faisant appel a l'analyse en composantes independantes. Cette technique d'analyse est basee sur le concept intuitif de \contraste". Pour acceder ecacement a l'information pertinente, il faut optimiser le contraste, c'est a dire disposer de dierents points de vue, a partir de directions les plus eloignees les unes des autres. Cela an d'obtenir les informations les plus contrastees possibles les 6

7 unes par rapport aux autres. Par exemple, pour examiner un objet tridimensionnel, il serait maladroit de prendre trois vues trop voisines, en ne se deplacant que legerement. Il vaut mieux tourner carrement autour de l'objet et choisir des angles de vue les plus dierents possible. Un niveau plus profond de comprehension des images pourrait-il ^etre obtenu en suivant cette metaphore? Dans cette seconde partie de mon intervention, je me propose donc de relier, en suivant les travaux de D.J. Field, B.A. Olshausen et de Naoki Saito, l'analyse des images eectuee par le cortex visuel primaire a l'ica (analyse en composantes independantes). Avant de traiter l'analyse en composantes independantes, commencons par rappeler ce que sont l'analyse et la synthese. La complexite du monde qui nous entoure n'est peut-^etre qu'une illusion. Cet acte de foi est le point de depart de la science moderne. L'outil permettant de decomposer, de dissoudre cette complexite est l'analyse. L'analyse a pour but la recherche d'elements simples. Mais a-t-on trouve susammentd'elements simples pour rendre compte de la complexite? Pour repondre a cette question, l'analyse d'une structure complexe doit evidemment ^etre validee par une synthese. On doit pouvoir reconstruire la structure complexe a l'aide des elements simples fournis par l'analyse. Par exemple la decomposition d'une fraction rationnelle en elements simples est, peut-^etre, la forme la mieux connue d'analyse. L'ecriture d'une fonction 2-periodique en serie de Fourier est un autre exemple. On pense enn a l'analyse d'un compose organique, analyse qui conduira a sa synthese industrielle. L'analyse en composantes independantes est un programme scientique excitant pour les uns, decevant pour les autres. J'y reviendrai en presentant un exemple et un contre-exemple. Voici le point de depart: un signal observe nous semble inintelligible, mais, en fait, cette complexite provient de ce que ce signal est un melange, une combinaison lineaire entre plusieurs signaux \sources". Ce melange a cree la complexite apparente et a brouille la simplicite des sources. On suppose donc ici que l'on ait observe N combinaisons lineaires f j (!) = NX 1 j k s k (!) (1 j N) de N sources independantes, notees s 1 (!) ::: s N (!)! 2 ou designe, comme d'habitude, l'ensembles de tous les signaux sources (notes!) est muni d'une loi de probalite dp (!) quimodelise l'ensemble des connaissances a priori que l'on possede sur les signaux etudies. L'independance des signaux 7

8 sources se refere a l'espace de probabilite muni de la loi de probabilite dp (!): Sous une forme matricielle condensee, on ecrit F = AS ou F est donne, enregistre, mais ou ni la matrice A ni les sources S ne sont connues. Le but du jeu est d'estimer des valeurs probables de S et A a partir de la donnee de F: Cette recherche est basee sur l'hypothese tres forte de l'independance statistique des sources. On veut donc construire une matrice inversible B qui minimise la dependance statistique entre les coordonnees de BF: Dans le cas gaussien, l'independance entre les sources s k (!) 1 k N R et la decorrelation sont lam^eme propriete. La decorrelation signie que s k(!)s l (!)dp (!) =0 k 6= l (en supposant que les sources sont centrees, c'est a direont une esperance nulle). Dans le cas gaussien, la decomposition en composantes independantes coincide avec la decomposition en composantes principales ou decomposition de Karhunen-Loeve (KL). En toute generalite ladecomposition de Karhunen-Loeve s'obtient delafacon suivante. On part d'un nuage de points f(!) 2 R n et l'on suppose que les coordonnees f k (!) 1 k N soient centrees. On calcule alors les covariances k l = Z f k (!)f l (!)dp (!) (1 k l N) ; puis la matrice des covariances ; = k l : Les vecteurs propres orthogonaux de cette matrice denie positive sont les composantes principales 1k ln cherchees. En termes plus geometriques, l'analyse en composantes principales revient adeterminer l'axe d'inertie du \nuage de points" f(!)! 2 c'est a dire la droite ane D telle que la somme des carres des distances a D soit minimale. Une fois D determinee, on cherche le second axe d'inertie etc. Cette decomposition n'est alors pas unique, car une transformation unitaire U appliquee a des sources independantes, identiquement distribuees et gaussiennes (centrees et d'ecart type egal a 1) conserve ces trois proprietes. Dans le cas general de processus non gaussiens, la propriete d'independance est beaucoup plus forte que la decorrelation et la decomposition en composantes independantes est unique, a une permutation pres des indices (a condition qu'au plus une des composantes de s soit gaussienne). La dependance statistique entre les coordonnees y 1 ::: y n d'un vecteur aleatoire ~y(!) est mesuree a l'aide de la \distance de Kullback". Soient f et g les densites de repartition de deux vecteurs aleatoires y et ~y. Ces densites sont denies sur R n : La \distance de Kullback" entre ces densites est K(f g) = f(x) log ZR f(x) n g(x) dx Cette distance (appelee divergence) est positive ounulle et n'est nulle que si f = g: Le minimum des divergences de Kullback entre la distribution d'un 8

9 vecteur aleatoire donne y(!) et des vecteurs (arbitraires) ~y(!) dont les composantes sont independantes s'appelle l'information mutuelle entre les composantes de y: Cette information mutuelle est nulle si et seulement si les coordonnees de y(!) sont elles-m^emes independantes. L'algorithme utilise pour retrouver A et S a partir de F consiste, dans un premier temps, a\blanchir" les donnees F en appliquant, par exemple, l'algorithme de Karhunen-Loeve, puis a transformer ces donnees blanchies ~ F par une nouvelle matrice orthogonale U de facon a minimiser l'information mutuelle entre les composantes du vecteur transfome U ~ F: Lorsque les donnees ont ete blanchies, minimiser l'information mutuelle revient a minimiser la somme des entropies (au sens de Shannon) des composantes du vecteur transforme. Citons Jean-Francois Cardoso: Mixing the entries of s `tends' to increase their entropies it seems natural to nd separated source signals as those with minimum marginal entropies. It is also interesting to notice that (up to a negative constant) the entropy ofeach component y k is the Kullback divergence between the distribution of y k and the zero mean unit-variance normal distribution. Therefore, minimizing the sum of the marginal entropies is also equivalent to driving the marginal distributions of y as far away as possible from normality. Again, the interpretation is that mixing tends to gaussianize the marginal distributions so that a separating technique should go in the opposite direction. Cette derniere formulation conduit a maximiser les kurtosis des coordonnees du vecteur U ~ F et une approximation de la solution s'obtient alors a l'aide des cumulants d'ordre superieur chers a Jean-Louis Lacoume. La decomposition de Karhunen-Loeve fournit une vision en moyenne du processus. En revanche l'algorithme ICA a tendance, gr^ace a son caractere nonlineaire, a detecter des evenements transitoires. Voici un exemple geometrique tres simple. On part du cube unite R n : Ce cube est deni par! =! 1 e1+:::+! n en ou les coordonnees! 1 :::! n sont regardees comme des variables aleatoires independantes sur l'espace de probabilite =[0 1] n : En d'autres termes, nous sommes ici partis de la decomposition triviale du cube (vu comme un nuage de points) en composantes independantes. Si maintenant on examinait ce cube en vision cavaliere, c'est a dire dans la direction d'une diagonale, il ne ressemblerait plus a un cube en dimension 3, on obtiendrait un hexagone. Si l'on dispose de n telles vues cavalieres prises a partir de points de vue independants, on retombe exactement sur la problematique de l'analyse en composantes independantes. L'analyse en composantes independantes a pour but de retrouver le cube d'origine a partir de ces prises de 9

10 vues deformees par la perspective et de calculer la rotation qui a ete eectuee. On observera que ceci ne serait pas possible si le cube etait remplace par une sphere. Cette sphere a la m^eme forme quelque soit le point de vue envisage. On peut eectivement reconna^tre un cube a partir de vues cavalieres et m^eme deviner la rotation eectuee (ce qui modelise le cas non gaussien dans le probleme de separation de sources) tandis que l'on ne peut detecter la rotation dans le cas de la sphere (qui modelise le cas gaussien). Une derniere remarque sur cet exemple est que la decomposition de Karhunen-Loeve du nuage de points est decevante, car la matrice de covariance est l'identite et l'on ne peut alors distinguer le cube de la sphere! La meilleure reference que je connaisse sur l'ica est le site web de Jean- Francois Cardoso qui est et une premiere initiation a ces methodes m'a ete donnee par Jean-Louis Lacoume. Nous nous proposons maintenant, en suivant D.J. Field, B.A. Olshausen et Naoki Saito, d'utiliser ce concept pour mieux comprendre la facon dont fonctionne la vision humaine. Ces chercheurs ont applique un algorithme d'analyse en composantes independantes a une base de donnees d'images naturelles. A la plus grande surprise des chercheurs, les fonctions de base obtenues sont des ondelettes! Nous ne faisons pas ici de distinction entre ondelettes de Gabor (des gaussiennes d'ecart type translatees en position, puis modulees arbitrairement en frequence) et ondelettes de Grossmann-Morlet (une fonction (x) reguliere et localisee, d'integrale nulle et ayant une certain nombre de moments nuls, que l'on dilate arbitrairement, puis translate arbitrairement). Dans le premier cas, les ondelettes sont exp(i! x)g (x ; x 0 )! 2 R 2 x 0 2 R 2 ou g (x) est une gaussienne d'ecart-type et, dans le second cas, ce sont a ;1 ( x ; x 0 ) a 2 (0 1) x 0 2 R 2 a Or ces \ondelettes" sont precisement les motifs (ou \primitives" selon la terminologie de David Marr) qui sont detectes de facon privilegiee par les cellules retiniennes. L'analyse en composantes independantes modeliserait donc le travail eectue par les cellules retiniennes. Rappelons les titres \Emergence of simple-cell receptive eld properties by learning a sparse code for natural images" ou bien \Sparse coding: A strategy employed by V1?" des travaux de D.J. Field et B.A. Olshausen. Ces titres sont eneux-m^emes des programmes scientiques. Il importe de preciser que l'analyse de Karhunen-Loeve appliquee a cette m^eme base de donnees fournirait la base de Fourier. Mais les cellules du cortex 10

11 visuel primaire ne calculent evidemment pas les coecients de Fourier (cette evidence intellectuelle est conrmee par l'experimentation). Deux exemples nous permettront de mieux comprendre les forces et les faiblesses de l'analyse en composantes independantes appliquee a des signaux non-stationnaires et non-gaussiens, ou apparaissent des evenements transitoires brutaux. Le premier exemple est celui de la rampe. Le second sera celui des processus de Levy. La rampe est l'exemple le plus simple, en une dimension, d'une fonction reguliere par morceaux et ayant des discontinuites de saut (jump discontinuities). En deux dimensions, on considerera des fonctions qui sont regulieres a l'interieur de domaines ayant eux-m^emes des bords reguliers, mais qui presentent des discontinuites de saut a travers les bords de ces domaines. De telles fonctions modelisent grossierement des images geometriques. Mais revenons a la rampe. Il s'agit d'un processus X(t!) indexe par! 2 [0 1] et deni par X(t!) = t si 0 t <! et X(t!) = t ; 1 si! t 1: L'analyse en composantes principales de ce processus est decevante, car elle revient a decomposer la rampe dans le systeme trigonometrique. La convergence, mesuree en ecart quadratique moyen, est tres lente. En outre, l'analyse en composantes principales ne fournit aucun renseignement direct sur la particularite la plus importante de ce signal: la discontinuite ent =!: Du point de vue de l'ica, l'exemple de la rampe semble un contre-exemple. En eet on ne peut, stricto sensu, decomposer ce processus en composantes independantes. Plus precisement, il n'est pas possible d'ecrire X(t!) = 1X 0 k (t) k (!) ou les k (!) constituent unesuitedevariables aleatoires independantes. On peut seulement appliquer a ce processus l'algorithme qui fournirait les composantes independantes si elles existaient. Alors la surprise est que \l'algorithme ICA" fournit approximativement la decomposition de la rampe dans une base d'ondelettes \temps-echelle". La convergence de chaque realisation a acquis une vitesse exponentielle! Mais l'ordre des termes de la serie depend de la realisation. Ceci nous amene a penser que l'ica est adaptee a des classes de signaux presentant de fortes transitoires, comme c'est le cas pour les images. Un exemple qui est plus satisfaisant pour le mathematicien est celui \vols de Levy" decrits par Beno^t Mandelbrot dans \Les objets fractals" (Champs, Flammarion). Voici leur construction. On part d'un exposant D 2 (0 2) et d'une suite X k k 2 Z de variables aleatoires independantes, centrees et identiquement distribuees. La loi de repartition de X k est donnee par ProbfXk 2 [;1 1]g =0 ProbfX k >g = ProbfX k < ;g =(1=2) ;D (>1) 11

12 Alors on considere P P n la marche aleatoire Y n = 0 X k que l'on peut encore ecrire Y (t!) = 1 0 X k(!)h(t ; k) t 2 N ou H(t) est la fonction indicatrice de [0 1] (fonction de Heaviside). Nous avons bien ici une decomposition en composantes independantes du processus Y (t!): Pour relier cette marche aleatoire aux processus de Levy, on commence par lisser H(t) en la remplacant par ~H(x) =0six0 H(x) ~ =x si x 2 [0 1] et H(x) ~ =1six 1: Ensuite on progresse en utilisant le pas de temps h>0aulieudeh = 1, ce qui conduit a choisir l'echantillonnage t = kh k 2 Z: Finalement onchange d'echelle dans les deplacements et l'on obtient Y h (t!) =h 1=D +1X 0 X k (!) ~ H( t h ; k) On verie alors que, si h tend vers 0, Y h converge en loi vers un processus de Levy stable. Les processus de Levy ont des sauts, presentent des transitoires brutales et constituent, a ce titre, une version stochastique et autosimilaire de la rampe. L'analyse en composantes independantes est adaptee a ce type de comportement. Voici une alternative interessante a l'analyse en composantes independantes. La version \analyse fonctionnelle" de cet algorithme est la recherche de bases inconditionnelles dans un espace de Banach. On part d'un espace fonctionnel E modelisant la classe des signaux ou des images C que l'on etudie. Cela signie que les proprietes ou la connaissance a priori dont on dispose sur C peuvent ^etre decrites a l'aide d'une norme, dans un espace fonctionnel E adapte. Par exemple les images geometriques sont souvent modelisees par des fonctions a variations bornees. Cela se traduit par CB pour un certaine constante positive notee : Ensuite on applique une variante de l'analyse en composantes independantes a la boule unite B de E: Cela signie que l'on cherche une suite e n de vecteurs de E telle que les fonctions (ou signaux ) f 2 B s'ecrivent, de facon unique, f = 1X 0 n e n ou les coecients n sont independants les uns des autres c'est a dire que l'on peut arbitrairement les modier en les rempacant par d'autres coecients n dont les modules sont dum^eme ordre de grandeur (j n jj n j) sans changer l'appartenance de f a B: Acceptons le postulat que les cellules du cortex visuel primaire eectuent une analyse en composantes independantes. Supposons ensuite que les lecons tirees de l'analyse de la rampe s'appliquent aux images naturelles. Alors il en decoule que ces cellules sont egalement aptes a detecter les contours des images. C'est eectivement le cas,comme le montrent les experiences de neurophysiologie. 12

13 3 Le standard JPEG 2000 et la compression des images xes Venons en a la technologie et, dans le cadre de la revolution numerique, au probleme de compression images xes. On se propose de representer une image par une suite nie de zeros et de uns et cela pose des problemes qui touchent a un ensemble de disciplines incluant les mathematiques, mais aussi la physique statistique ou les sciences cognitives. La cha^ne de transmission des images se compose de trois troncons. Le premier est le codage de l'image: on vous donne un ensemble d'images et vous devez les representer par des suites nies de zeros et de uns, ce qui vous oblige a negliger une partie importante de l'information contenue dans les images en question. Vous voulez les transmettre et apparaissent alors tous les problemes de codage en ligne qui font appel a latheorie des nombres, aux codes correcteurs d'erreurs, etc. Enn vous devez decoder la suite de zeros ou de uns recue an de reconstruire une image qui soit percue comme la plus proche possible de l'image de depart. On touche, a nouveau, un point qui a rapport avec les neurosciences: \percue comme la plus proche possible" signie que c'est l'il qui decide si l'image recue est de bonne qualite, si elle lui pla^t ou ne lui pla^t pas. On prote alors des capacites de masquage liees a la vision humaine, c'est-a-dire du fait que l'il est plus sensible a certains defauts qu'a d'autres. L'algorithme doit ^etre concu en tenant compte de la sensibilite de l'il et, dans la litterature portant sur le traitement d'images et les problemes de compression, vous avez toujours le jugement de l'expert qui vous dit si l'erreur est admissible ou pas! Le jugement se fait donc toujours par un groupe d'experts : JPEG signie d'ailleurs Joint Photographic Expert Group, groupe d'experts commun a l'iso (organisation internationale de normalisation) et a la CEI (commission electronique internationale) charge d'etablir les normes de codage numerique de compression pour les images xes. L'algorithme de compression des images xes qui etait utilise jusqu'aujour d'hui est le celebre JPEG. L'algorithme JPEG consiste a decouper l'image en blocs 8x8 et a utiliser une analyse de Fourier discrete sur chaque bloc. JPEG fournit une bonne qualite pour des taux de compression de l'ordre de 10. L'objectif de JPEG 2000 est de passer de 10 a 100! Le point de depart de JPEG 2000 a ete le \codage en sous-bandes" ou \subband coding", decouvert a la n des annees 70 par D.Esteban et C. Galand, au centre de recherche IBM de La Gaude (pres de Nice). Ce travail etait motive par le telephone digital et joue un r^ole crucial dans la construction des ondelettes a support compact d'ingrid Daubechies. Le codage en sous bande va remplacer, 13

14 dans JPEG 2000, la DCT qui etait utilisee dans JPEG. J'ai relu les travaux de C.Galand et il est clair qu'il ne s'est pas apercu que les algorithmes qu'il decouvrait convenaient plus a l'image qu'au telephone. Il presentait une technique de traitement du signal ou on descendait (ou montait) a travers les echelles et ou l'aspect dynamique du suivi temporel paraissait mal pris en compte. Pour le signal de parole c'etait peut-^etre inadequat, mais sa decouverte, le \codage en sous bande", allait avoir un avenir prodigieux. On retrouve ici ce que Francois Jacob appelle le bricolage biologique: un petit mecanisme utilise par une bacterie pour une certaine fonction est employe par l'homme pour une fonction completement dierente. Faire une decouverte sans s'en apercevoir est un phenomene assez courant! A l'epoque ou D.Esteban et C. Galand ont decouvert le subband coding, IBM ne s'interessait pas a l'image mais au telephone numerique. Les programmes lances par Esteban et Galand ont ete abandonnes! L'erreur d'ibm a ete de ne pas comprendre la potentialite du codage en sous bande pour l'image et de laisser Microsoft s'en emparer: ces methodes, inspirees par le codage en sous-bandes, equipent beaucoup de logiciels developpes pour la transmission des images! Je voudrais encore insister sur cette liaison profonde, organique, entre le traitement d'images du point de vue de l'informaticien et les problemes qui touchent la neurobiologie et les neurosciences en vous citant (en traduction) un texte ecrit par Peter Burt et son equipe. Il s'agit de scientiques americains qui furent des pionniers de ce domaine. Ils decrivent l'analyse de l'image dans une base orthonormee d'ondelettes. Je traduis: Pour comprimer les images, on va utiliser des transformations pyramidales. On decompose donc l'image en un ensemble de fonctions de base qui correspondent a une orientation en frequences spatiales et en orientations localisees et auto-similaires. Pour des raisons de facilite de calcul, on veut aussi que cet ensemble soit orthogonal et soit fourni par un algorithme rapide... De telles transformations sont tres utiles pour de nombreux aspects des images, car elles donnent des informations sur les changements d'intensite lumineuse a dierentes echelles et les endroits ou ces changements sont en train d'appara^tre. Il y a aussi de fortes presomptions pour que le systeme visuel opere une decomposition de l'image similaire a celui-ci dans son traitement de bas niveau, c'est a dire avant que les fonctions cognitives n'entrent en jeu. Les personnes qui travaillent sur le traitement d'images ont toujours a l'esprit l'idee d'ameliorer les realisations informatiques a l'aide des decouvertes des neurosciences. La raison profonde de ce point de vue, c'est que nalement nous 14

15 sommes les juges de la qualite de l'image et que, si elle ne nous pla^t pas, elle sera rejetee quel que soit le rapport signal sur bruit (c'est a direlamesure\objective" de la qualite de l'algorithme utilise). 4 La radiologie numerique Je vais maintenant dire un mot sur quelques applications medicales des algorithmes de traitement de l'image. Ces progres techniques peuvent \alleger la sourance des hommes". La radiologie numerique a ete plebiscitee lors des \Journees francaises de la radiologie" qui se sont tenues a Paris du 23 au 27 octobre Mon information provient du compte-rendu fait par Michel Alberganti dans \Le Monde", date du 27 octobre Une des raisons de ce succes de la radiologie numerique vient de ce que ces images numeriques peuvent ^etre teledechargees. Ainsi, s'il vous arrive quelque chose, peut-^etre un accident, a Nice alors que vous vivez normalement en region parisienne, on peut avoir acces en temps reel a votre dossier medical ainsi qu'a toutes vos radios qui sont stockees dans l'ordinateur de votre h^opital de reference. Toute la tele-medecine, tres importante en particulier pour les zones rurales, va ^etre basee sur l'imagerie numerique. La France s'est mise avec un certain retard a cette technique et, selon M. Alberganti, a l'h^opital de Villejuif, par exemple, les images ne seraient toujours pas acquises numeriquement et il faudrait eectuer une conversion analogique-numerique, alors qu'aux Etats-Unis ou en Allemagne les images medicales sont acquises directement en numerique ce qui rend plus souple et commode leur manipulation. Le systeme de numerisation et transmission des images medicales s'appelle PACS et donne entierement satisfaction aux praticiens. Un des avantages de l'image numerique est, pour ne retenir qu'un exemple, l'aide a la detection precoce de cancers. Il existe un algorithme de detection automatique des microcalcications qui peuvent ^etre le signe d'un cancer du sein. Le medecin peut ainsi ^etre aide, accompagne, par un algorithme qui detecte les endroits ou il y a une micro-calcication et donc un cancer potentiel. Dans le cadre de la medecine du travail, des tests ont ete eectues sur les medecins qui ont la responsabilite d'examiner des mammographies et on s'est apercu que dans de nombreux cas, le medecin, a cause de la fatigue, laissait passer un cancer potentiel! En imagerie medicale numerique d'autres fonctionnalites de post-traitement et d'aides a la decision extr^emement importantes peuvent ^etre incorporees. A mon avis la tele-medecine est vraiment un enjeu capital et elle ne peut exister 15

16 sans la tele-radiologie et sans le pouvoir de transmettre des images de haute qualite sur des lignes telephoniques ordinaires, aussi bien a l'interieur de l'h^opital qu'a l'exterieur. JPEG-2000 est le seul algorithme de compression des images medicales qui ait ete approuve par la Food and Drug Administration et il a ete developpe par une corporation dont le nom est\pegasus Imaging". Le site web de l'organisme ociel qui developpe JPEG-2000 est et celui de Pegasus, qui est tres bien fait, tres amusant et d'ou vous pouvez teledecharger des algorithmes est Que peuvent faire ces nouvelles methodes de traitement d'images que ne faisaient pas les anciennes? Tout d'abord, elles sont plus performantes, mais encore elles orent la capacite de zoomer sur un detail, c'est-a-dire de repartir comme vous le souhaitez \votre budget bits". Au lieu de le repartir uniformement sur l'image : vous pouvez ignorer quatre-vingt-dix pour cent de l'image et zoomer sur un detail sur lequel vous concentrez votre allocation de bits. En terme de telechargement, cela signie que le medecin peut immediatement regarder la zone qui l'interesse et rendre ou tout le reste de l'image. Comme il est capital pour la medecine de respecter les budgets, vous donnez ainsi la possibilite, sur une ligne telephonique bas debit, d'avoir un contraste plus grand et une qualite plus grande a une partie de l'image. En transformant l'image en une suite de zeros et de uns, vous faites des sacrices et il convient de les faire le plus intelligemment possible. Ce qui est en train de se faire en France (plebiscite de la radiologie numerique) va dans la direction ou s'engage le departement STIC cree par le CNRS. Cette direction est extr^emement importante et l'exemple de l'imagerie medicale montre a quel point c'etait crucial. Au-dela de la transmission des images de radiologie, il y a le probleme du post-traitement et des tas de questions fantastiques a traiter! 5 Le programme de l'\institute for the Unity of Science" La revolution numerique qui nous semble aujourd'hui si revolutionnaire a ete, en fait, preparee par un demi-siecle d'eorts scientiques lucides et concertes. Le departement STIC du CNRS est le prolongement naturel de \l'institute for the Unity of Science" dont je vais maintenant parler. En 1944, avant m^eme que les ordinateurs n'existent, des mathematiciens comme John von Neumann, Claude Shannon, Norbert Wiener, des physiciens comme Leon Brillouin, Dennis Gabor, Eugene Wigner et d'autres chercheurs ont propose et declenche un programme scientique dont le but etait d'etendre 16

17 aux sciences cognitives (qui n'existaient pas encore sous ce nom) le formidable mouvement d'unication que les sciences physiques avaient opere a la n du dix-neuvieme siecle. Il s'agit de l'unication des problematiques de la mecanique statistique, de la thermodynamique et du calcul des probabilites. De cette unication est nee la notion d'entropie. Gr^ace au concept d'entropie, on put reformuler le second principe de la thermodynamique, a savoirladegradation irreversible de l'energie au cours des transformations d'un systeme suppose isole.il yadegra- dation parce que l'entropie, mesurant ledesordre, augmente ineluctablement. Des les annees 45, Claude Shannon eut l'idee d'appliquer ce concept d'entropie a la theorie des communications, en identiant l'ordre mesure par l'entropie (en fait, l'ordre est l'entropie aectee d'un signe moins) a la quantite d'information contenue dans un message. Une seconde decouverte majeure de Shannon dans le domaine des telecommunications concerne le debit d'un canal de transmission. Un tel canal, qui pregure les autoroutes de l'information, est deni par ce que l'on appelle une frequence de coupure. L'existence de la frequence de coupure vient des limitations de la technologie. La frequence de coupure du canal auditif humain est hertz. Shannon calcule le volume maximum d'information que l'on peut transmettre par seconde, a l'aide d'un canal dont la frequence de coupure est xee, en presence d'un leger bruit. Le probleme de l'encombrement des autoroutes de l'information etait ainsi pose. La question suivante est l'utilisation optimale du canal. Comment faire circuler harmonieusement, sans heurt, cette information? Les peres fondateurs (Shannon, Gabor, von Neumann, Brillouin) aborderent ce probleme et les solutions qu'ils decouvrirent sont appelees les \ondelettes de Sannon" et les \ondelettes de Gabor". L'utilisation de ces ondelettes etait limitee au traitement de la parole. C'est pourquoi ces ondelettes ontete appelees par Gabor des \logons" ou elements de discours. Ces premieres solutions ont ete ameliorees, ce qui a conduit aux bases orthonormees d'ondelettes \temps-frequence". Ces recherches etaient motivees par les problemes poses par les communications telephoniques. Le traitement de l'image n'etait pas au programme de l'\institute for the Unity of Science". A partir de la l'elan etait donne et le programme de l'institute for the Unity of Science consistait a relier les avancees les plus recentes eectuees dans le domaine des \sciences dures" aux progres de l'etude de l'organisation structurale des langues naturelles et du vivant. Les sciences dures incluaient toute la physique, la mecanique statistique, l'electronique, la logique mathematique, les premiers balbutiements de la robotique et les premiers essais de comprehension de ce qui allait devenir l'etude de la complexite. 17

18 Norbert Wiener publiait, en 1950, un essai intitule \Speech, language and learning" ou il utilisait ses decouvertes sur les retro-actions ou \feedbacks". Le 19 janvier 1951, Wiener et Rosenblith lancaient le programme \Cybernique et Communications" dans le cadre de l\institute for the Unity of Science". Il s'agissait, en particulier, d'interpreter les modes de fonctionnement du langage et m^eme du cerveau et de la pensee humaine a partir de modeles issus de la logique ou de l'intelligence articielle. Il s'agissait de comprendre les mecanismes regulateurs de la biologie a l'aide des retroactions (ou \feedbacks") decouvertes et etudiees par N. Wiener. L'Institut etait une structure souple, un institut sans mur, permettant de nancer et de federer les travaux des scientiques qui travaillaient sur ces programmes. Les ordinateurs n'existaient pas encore et leur conception, puis leur realisation seront directement issues des reexions de John von Neumann et de Norbert Wiener. Par exemple, Wiener t le 14 fevrier 1945 une conference sur \le cerveau et les machines a calculer". L'\Institute for the Unity of Science" est cree en 1946 et cette date n'est pas innocente. Tout d'abord Gabor, von Neumann et Wigner sont tous les trois nes a Budapest. Tous trois ont d^u fuir la barbarie nazie. En outre, le programme de travail de l'institute for the Unity of Science doit beaucoup aux decouvertes sur le management scientique, issues de l'eort de guerre. Par exemple, Wiener fut conduit a l'etude des retro-actions et de la prediction statistique dans le cadre de l'aide a la decision des servants des batteries anti-aeriennes. Il s'agissait de pointer la piece d'artillerie sur la position anticipee du bombardier nazi. Ces travaux ont aide a gagner la bataille de Londres. Une autre consequence de l'eort de guerre a ete la recherche sur les problemes poses par la communication et le bruit, a bord des bombardiers allies. L'Institut pour l'unite de la Science allait naturellement continuer cet eort et son programme de recherche dans le domaine de la communication portera sur les themes suivants: \message, signal, information, canal de transmission, circuit, reseau, reconnaissance, bruit". Cette liste est aussi celle des problemes ou les ondelettes ont joue un r^ole essentiel. 6 La decouverte, par Jean Morlet, des ondelettes temps-echelle Les ondelettes \temps-echelle" ont vu le jour gr^ace a un objet et un organisme qui ont joue un r^ole federateur semblable a celui de l'\institute for the Unity 18

19 of Science" decrit ci-dessus. L'objet est une photocopieuse et l'organisme est un laboratoire propre du CNRS, le Centre de Physique Theorique de Marseille- Luminy, admirablement situe pres des calanques. Cette photocopieuse, qui aurait d^u recevoir une medaille du CNRS, etait utilisee a la fois par les chercheurs du departement de mathematiques et par ceux du departement de physique theorique de l'ecole Polytechnique. Jean Lascoux, un physicien d'une culture universelle, photocopiait tout ce qui lui paraissait digne d'^etre diuse. Au lieu de manifester de l'impatience pour son usage un peu personnel et excessif de cet instrument de travail collectif, j'aimais attendre qu'il ait ni en discutant avec lui. En septembre 1984, il me demanda ce que j'avais fait pendant les vacances et, apres ma reponse, il comprit aussit^ot que le travail qu'il etait en train de photocopier pouvait m'interesser. Il s'agissait d'un document de quelques pages ecrit par un physicien, specialiste de la mecanique quantique, Alex Grossmann, et par un ingenieur visionnaire, Jean Morlet, travaillant pour Elf-Aquitaine. Comprenant le lien que ce travail presentait avec mes recherches, je pris le premier train pour Marseille an de rencontrer Grossmann, au centre de physique theorique de Luminy. C'est ainsi que tout a commence et que les ondelettes furent creees. Les programmes scientiques des premiers congres sur les ondelettes qui se tenaient a Luminy, pres des calanques, etaient aussi ambitieux que celui de l'institute for the Unity of Science. Nous disposions d'un nouvel instrument d'analyse, capable de plonger au coeur m^eme des signaux transitoires et d'en explorer la complexite: on pense ici a l'attaque d'une note, aux quelques millisecondes ou le son se cherche, c'est-a-dire a tout ce qui echappe a l'analyse de Fourier (et aussi aux \ondelettes temps-frequence"). Cet instrument, nous l'utilisions pour analyser des electro-encephalogrammes, des electrocardiogrammes, des signaux acoustiques, etc. et nous esperions y decouvrir ce que personne n'avait su voir. Lors de ces premiers congres, nous discutions avec des medecins, des musiciens, des physiciens, des ingenieurs et arrivions a recreer l'atmosphere des annees 40, sans m^eme avoir conscience d'imiter l'institute for the Unity of Science (dont nous ignorions l'existence). Nous pensions faire des progres scientiques decisifs en etablissant une atmosphere propice a l'interaction pluridisciplinaire et a la fertilisation croisee. Cette fertilisation croisee n'etait pas, a nos yeux, la recherche d'un niveau pauvre, vague et imprecis de communication entre les sciences. Bien au contraire, il s'agissait, pour nous, d'une sorte de mouvement intellectuel ou les dierentes thematiques scientiques puissent s'enrichir mutuellement. En relisant les actes de ces congres, on mesure a quel point nous etions nafs. Nous etions nafs, car nous pensions que le nouveau jouet dont nous disposions pouvait resoudre de nombreux problemes. Aujourd'hui la liste des problemes resolus par cet outil est un peu plus courte. Un des succes concerne le traitement de l'image et, plus precisement, le nouveau standard de compression des images xes (JPEG-2000). Le succes des 19