Opérateur monotone
En mathématiques, un opérateur monotone est une multifonction définie entre espaces préhilbertiens, ou plus généralement d'un espace de Banach dans son dual topologique, qui possède une propriété de monotonie que nous précisons dans les définitions ci-dessous. Lorsque cet opérateur est une « simple » fonction réelle d'une variable réelle, cette propriété de monotonie revient à supposer la croissance (non nécessairement stricte) de cette fonction. Lorsque cet opérateur est une application linéaire (non nécessairement autoadjointe), cette propriété de monotonie revient à supposer la semi-définie positivité de l'application.

Parmi les opérateurs monotones, il faut distinguer ceux que l'on qualifie de monotones maximaux. Ils possèdent une propriété de maximalité qui s'exprime en termes d'inclusion de graphe et qui leur donne des propriétés remarquables. Ainsi, pour un opérateur monotone , l'inclusion fonctionnelle

dans laquelle  est un ensemble, a au plus une solution , alors que si  monotone maximal, cette inclusion a une et une seule solution.

Exemples.
 Soient  un espace de Banach,  l'ensemble de ses parties et  une fonction convexe propre. Alors l'application sous-différentiel de , , est un opérateur monotone (on dit qu'il « dérive du potentiel  ») ; il est monotone maximal si  est fermée.
 Si  est un espace de Hilbert, la multifonction cône normal à un convexe  :  est un opérateur monotone. C'est un cas particulier du précédent, puisque le cône normal est le sous-différentiel de la fonction indicatrice de  (une fonction convexe lorsque  est convexe). Elle est monotone maximale si  est fermé.
 Le projecteur sur un convexe fermé non vide d'un espace de Hilbert est monotone.

Multifonction 

Soient  et  deux ensembles. Une fonction multivaluée, ou multifonction  est une application de  dans l'ensemble  des parties de . Son graphe, son domaine, son image et sa réciproque sont notés respectivement , ,  et .

Si  est un espace vectoriel, l'ensemble de ses parties hérite naturellement d'une loi externe et d'une addition (la somme de Minkowski), dont hérite à son tour l'ensemble des multifonctions de  dans .

Opérateur monotone 
Soit  un espace préhilbertien dont le produit scalaire est noté  et la norme associée .

On peut exprimer la propriété de monotonie en utilisant uniquement la norme associée au produit scalaire de . Les opérateurs vérifiant cette propriété sur un espace normé sont dits accrétifs.

Par la propriété d'accrétivité, on voit que si  est monotone, l'inclusion

a au plus une solution . Pour les opérateurs monotones maximaux, cette inclusion aura une et une seule solution.

Opérateur monotone maximal

Définition 

Le résultat de cette implication est donc que , ce qui pourra parfois être interprété comme un résultat d'existence de solution d'inclusion ( est donné et il faut trouver ). Pour prolonger la remarque faite ci-dessus, si la monotonie de  implique l'unicité de la solution  de l'inclusion

la maximalité d'un opérateur monotone permet de montrer l'existence de solution de cette inclusion.

Pour la somme de deux opérateurs monotones maximaux, voir la section qui est consacrée à ce thème difficile.

Exemples 
 Soient  un espace de Hilbert et  une fonction convexe fermée propre. Alors l'application sous-différentiel  est monotone maximale. Le problème de trouver un  tel que  est équivalent à celui de trouver un point minimisant .
 Soient  un espace de Hilbert dont le produit scalaire est noté ,  un convexe fermé non vide de ,  est le cône normal à  en  et  un opérateur univoque monotone (non nécessairement maximal) hémicontinu contenant  dans son domaine. Alors  est monotone maximal. Le problème de trouver un  tel que  est équivalent à celui de trouver une solution  du problème de l'inéquation variationnelle suivante :

Caractérisations 
Voici des caractérisations bien utiles de la monotonie maximale d'un opérateur. On note  l'opérateur identité. 

On note qu'un opérateur non expansif est nécessairement univoque. La propriété  équivaut à dire que pour tout ,  (c'est un singleton) ou encore que l'inclusion

a une (et une seule) solution .

La résolvante d'un opérateur monotone maximal est l'application non expansive (donc univoque) suivante

La résolvante est définie sur  tout entier. De plus, si l'on introduit l'opérateur univoque , on a

propriété équivalente à la suivante

Cette propriété exprime la ferme non-expansivité de la résolvante .

Somme de deux opérateurs monotones maximaux 
Si la somme de deux opérateurs monotones est un opérateur monotone, la somme de deux opérateurs monotones maximaux n'est pas nécessairement un opérateur monotone maximal, ne fût ce que parce que l'intersection de leur domaine peut être vide (auquel cas le domaine de leur somme est vide). On a le résultat suivant, dans lequel  désigne l'intérieur d'une partie ,  désigne son adhérence forte et  est dit localement borné en  s'il existe un voisinage  de  dont l'image  est bornée.

Résolution d'inclusion monotone 
Soit  un opérateur monotone maximal. Cette section décrit quelques algorithmes de résolution de l'inclusion monotone

Il s'agit de trouver  tel que l'ensemble  de  contienne l'élément nul. Les descriptions sont brèves et renvoient aux articles dédiés aux algorithmes correspondants.

Algorithme proximal 
Voir
 l'article « Algorithme proximal » pour le cas où  est monotone maximal et
 l'article « Algorithme proximal (optimisation) » pour le cas particulier où  est le sous-différentiel d'une fonction convexe fermée propre.

Algorithme de Douglas-Rachford 
Il s'agit d'un algorithme adapté à la recherche d'un zéro de la somme  de deux opérateurs monotones maximaux  et . On cherche donc  tel que

L'algorithme est bien adapté au cas où les points proximaux  et  d'un point  donné peuvent se calculer aisément.

On montre que la suite  générée par cet algorithme converge faiblement vers un point , si  a un zéro et les amortisseurs  sont tels que

dans ce cas  est un zéro de .

Opérateur monotone d'un espace de Banach dans son dual topologique 

Soit  un espace de Banach et  son dual topologique. Pour  et , on pose : 
.

Un opérateur (non nécessairement linéaire)  de  dans   est dit  monotone si : 
.

Annexes

Notes et références

Articles connexes 
 Fonction convexe-concave
 Fonction monotone
 Théorème de Browder-Minty

Bibliographie 
  H. H. Bauschke et P. L. Combettes, Convex Analysis and Monotone Operator Theory in Hilbert Spaces, Springer, 2011
  J. M. Borwein et Q. J. Zhu, Techniques of Variational Analysis, Société mathématique du Canada, Springer Science+Business Media, Berlin, 2010

  J. Douglas et H. H. Rachford, « On the numerical solution of heat conduction problems in two and three space variables », Translations of the American Mathematical Society, vol. 82, 1956, p. 421-439
  G. J. Minty, « Monotone (nonlinear) operators in Hilbert space », Duke Math. J., vol. 29, 1962, p. 341-346
  G. J. Minty, « On the monotonicity of the gradient of a convex function », Pac. J. Math., vol. 14, 1964, p. 243-247
 J. J. Moreau, « Proximité et dualité dans un espace hilbertien », Bull. Soc. Math. Fr., vol. 93, 1965, p. 273-299
  R. R. Phelps, Convex Functions, Monotone Operators and Differentiability, coll. « Lecture Notes in Mathematics » (n° 1364), Springer-Verlag, Berlin, 1993
  R. T. Rockafellar, « Characterization of the subdifferentials of convex functions », Pac. J. Math., vol. 17, 1966, p. 497-510
  R. T. Rockafellar, « On the maximality of sums of nonlinear monotone operators », Translations of the American Mathematical Society, vol. 149, 1970, p. 75-88
  R. T. Rockafellar, « On the maximal monotonicity of subdifferential mappings », Pac. J. Math., vol. 33, 1970b, p. 209-216.
  R. T. Rockafellar et R. J.-B. Wets, Variational Analysis, coll. « Grundlehren der mathematischen Wissenschaften » (n° 317), Springer-Verlag, Berlin, 1998

Analyse fonctionnelle
Analyse convexe