THE DIRICHLET PROBLEM FOR

SUPERDEGENERATE DIFFERENTIAL OPERATORS

Denis R. Bell and Salah E.-A. Mohammed

Mathematical Sciences Research Institute 1000 Centennial Drive Berkeley California 94720-5070.

dbell@unf.edu salah@math.siu.edu

Abstract. Let L be an infinitely degenerate second-order linear operator defined on a bounded smooth Euclidean domain. Under weaker conditions than those of Hörmander, we show that the Dirichlet problem associated with L has a unique smooth classical solution. The proof uses the Malliavin calculus. At present, there appears to be no proof of this result using classical analytic techniques.

Le Probléme De Dirichlet Pour Des Operateurs Differentiels Superdégénérés

RÉ SUMÉ. Soit L un opérateur linéaire défini sur un domaine borné régulier de l’espace euclidien avec une dégénérescence infinie. Sous des conditions plus faibles que celles de Hörmander, on montre que le problème de Dirichlet associé à L a une solution régulière classique unique. La démonstration utilise le calcul de Malliavin. Il semble qu’il n’y ait à cette date aucune démonstration de ce résultat par des techniques analytiques classiques.

Version française abrégée.

Soit D un domaine borné régulière de R^{d} dont la frontière ∂D est régulière. Soient X_{0}, …, X_{n} des champs de vecteurs et c une fonction à valeurs réelles, tous définis et réguliers dans un voisinage ouvert de D̄. Notons L l’opérateur différentiel de second ordre

L = ∑_{i=1}^{n} X_{i}^{2} + X_{0} + c.

Dans un article antérieur [4] (voir aussi [3]) les auteurs ont donné des conditions suffisantes pour que L soit hypoelliptique qui autorisent la violation sur une hypersurface de D des conditions de Hörmander sur l’algèbre de Lie. Le type de dégénérescence autorisé dans [4] est caractérisé comme suit.

2 D. R. Bell and S.-E. A. Mohammed

Définition.

Pour chaque k ≥ 0, soit X^{(k)} la matrice dont les colonnes sont X_{0}, …, X_{n}, et tous les champs de vecteurs obtenus à partir de X_{0}, …, X_{n} en formant les crochets de Lie itérés jusqu’ à l’ordre k. Soit

λ^{(k)} la plus petite valeur propre de X^{(k)}X^{(k)t}

où ^{t} désigne la transposition des matrices. On dit qu’une hypersurface S ⊂ R^{d} est souscritique (relativement à L) au point x ∈ S quand il existe un voisinage ouvert U de x, un entier k ≥ 0, et un p ∈ (−1, 0) tels que

λ^{(k)}(y) ≥ exp{−[ρ(y, S)]^{p}}, ∀y ∈ U,

où ρ(y, S) est la distance euclidienne de y à l’hypersurface S.

Soit K l’ensemble des points de D où L ne vérifie pas la condition de Hörmander. Dans [4], les auteurs ont montré que L est hypoelliptique à condition que K soit contenu dans une hypersurface S de R^{d} de classe C^{2} qui est sous-critique et non-caratéristique en tout point de K. En particulier, ce théorème donne l’hypoellipticité des opérateurs

\frac{∂^{2}}{∂x^{2}} + exp(−|x|^{p})\frac{∂^{2}}{∂y^{2}} + \frac{∂^{2}}{∂z^{2}} , p ∈ (−1, 0)

qui ont été etudiés par Kusuoka et Stroock dans [8]. Des opérateurs différentiels qui ont des dégénéréscences d’ordre infini seront appelés superdégénérés. Le but de cet article est d’annoncer des réultats qui donnent l’existence d’une solution régulière au problème de Dirichlet pour des opérateurs superdégénérés. Les résultats sont les suivants.

Théorème 1.

Supposons que l’ensemble K ∪∂D est contenu dans une hypersurface S de classe C^{2} qui est sous-critique et non-charactéristique en chaque point de K∪∂D. Soient f ∈ C^{∞}(D̄) et g ∈ C^{∞}(∂D) et soit u une solution faible (au sense des distributions) du problème de Dirichlet sur D

{Lu = f dans D \atop γ_{0}u = g sur ∂D} \}  (1)

où γ_{0} représente la trace sectionnelle sur ∂D. Alors u ∈ C^{∞}(D̄).

The Dirichlet problem for superdegenerate operators 3

Théorème 2.

Supposons que les hypothèses du Théorème 1 sont satisfaites et que de plus

(a) c ≤ 0 sur D̄

(b) Il existe 1 ≤ k ≤ d et a > 0 tels que ∑_{i=1}^{n} < X_{i}(x), e_{k} >^{2}≥ a pour tout x ∈ D̄, où e_{k} est le k^{ième} vecteur de la base standard de R^{d}. Alors le problème de Dirichlet (1) admet une solution C^{∞} unique u sur D̄.

Le Problème de Dirichlet pour des opérateurs dégénérés L a été étudié par divers auteurs (voir Bony [1], Derridj [6], Jerison [7], et Cattiaux [5]) sous l’hypothèse que L satisfasse à la condition de Hörmander en tout point. A la connaissance des auteurs, les résultats ci-dessus sont les premiers à établir l’existence d’une solution régulière au problème de Dirichlet sous des hypothèses qui permettent des dégénéréscences d’ordre infini. En particulier, il semble que ces résultats ne peuvent être obtenus à partir des techniques classiques.

Schéma de démonstration de théorème 2.

On considère le processus de diffusion d-dimensionel donné par l’équation différentielle stochastique de Stratonovich

\begin{matrix}dξ^{x}(t) & = X_{0}(ξ^{x}(t)) dt + ∑_{i=1}^{n} X_{i}(ξ^{x}(t)) ∘ dW_{i}(t) \\ ξ^{x}(0) & = x ∈ D \end{matrix}\}  (2)

associé à l’opérateur L. Alors sous les conditions de Théorème 2, une solution faible du problème de Dirichlet (1) est donnée par

u(x) = E[g(ξ^{x}(τ(x))) exp{∫_{0}^{τ(x)} c(ξ^{x}(s) ds} dt]
−E[ ∫_{0}^{τ(x)} f(ξ^{x}(t)) exp{∫_{0}^{t} c(ξ^{x}(s) ds} dt]  (3)

où τ = τ(x) est le premier temps de sortie de D de la diffusion ξ^{x}. Sans perdre de généralité on peut supposer que g ≡ 0 sur ∂D, et pour simplifier prenons aussi c ≡ 0 ([5]). Donc il est suffisant de montrer que la fonction

u(x) = −E[ ∫_{0}^{τ(x)} f(ξ^{x}(t)) dt]  (4)

est régulière sur D̄. Maintenant L est hypoelliptique sur D par [4] et u est une solution faible de l’équation Lu = 0 dans D ([10]). Pour prouver la régularité de u jusque ∂D, il faut démontrer des estimations uniformes sur les dérivées D^{k}u(x), k ≥ 1, quand x tend vers ∂D en restant dans D. Ceci est fait combinant les techniques de [2], [5], et [4]. Le résultat suivant joue un role essentiel Lemme.

Supposons que les hyothèses du théorème 1 sont satisfaites. Alors pour tout point x_{0} ∈ ∂D, on peut trouver un voisinage U de x_{0} dans D̄ et un difféomorphisme F : Ū → F (Ū) ⊂ [0, ∞) × R^{d−1} ayant les propriétés suivantes:

(i) F (Ū ∩ ∂D) = F (Ū) ∩ ({0} × R^{d−1}) et F (Ū ∩ D) = F (Ū) ∩ R^{d+}, où R^{d+} := {x := (x_{1}, x_{2}, ⋯, x_{d}) : x_{1} > 0}.

(ii) Il existe 1 ≤ i ≤ n tels que F^{∗}(X_{i}) = (1, 0, …, 0)^{t}, où

F^{∗}(X_{i})(x) := DF (F^{−1}(x))X_{i}(F^{−1}(x)).

(iii) Les champs de vecteurs F^{∗}(X_{j}), j ≠ i, 0 ≤ j ≤ n, sont de la forme (0, Y)^{t} où Y est

une fonction régulière de R^{d} dans R^{d−1}. (iv) L’ensemble F (Ū ∩ ∂D) est sous-critique relativement à opérateur transformé

F^{∗}(L) = ∑_{i=1}^{n} F^{∗}(X_{i})^{2} + F^{∗}(X_{0}) + c ∘ F^{−1}.

Le lemme ci-dessus permet de réduire le problème au case où D est le demi-espace R^{d+}. En utilisant la représentation stochastique (4), on applique ensuite les estimations de [4] au processus de diffusion F (ξ) pour obtenir les estimations désirées sur les dérivées D^{k}u(x), k ≥ 1, pour x proche de ∂D. L’idée est la suivante. Comme dans [2] et [5], on conditionne la diffusion par rapport à son temps de sortie de R^{d+}. Ceci est nécessaire parce que le temps de sortie est p.p. une fonction irrégulière de x. Les estimations de D^{k}u(x), k ≥ 1, dont on a besoin sont ensuite obtenues par intégration par parties partielle sur l’espace de Wiener conditionné, comme dans le calcul de Malliavin [9]. Les estimations obtenues par les auteurs dans [4] sont suffisament robustes pour être applicables dans le contexte présent, et jouent un role crucial dans l’analyse qui suit. □

Le théorème 1 se démontre comme ci-dessus.

Remarque.

Le referee a observé que l’on pouvait remplacer la condition b) dans le théorème 2 par l’hypothèse suivante:

Ṕour tout x ∈ D̄, il existe un chemin γ : [0, ∞) ↦ R^{d} tel que γ(0) = x, γ quitte D̄, et γ′(t) − X_{0}(γ(t)) ∈ Lie(X_{1}, …, X_{n})(γ(t)) pour tout temps t avant que γ quitte D̄.

Suppose that D is a bounded regular domain in R^{d} with a smooth boundary ∂D. Assume that X_{0}, …, X_{n} are vector fields and c is a real-valued function, defined and smooth in an open neighborhood of D̄. Let L denote the second order differential operator

L = ∑_{i=1}^{n} X_{i}^{2} + X_{0} + c.

In an earlier article [4] (see also [3]) the authors gave a sufficient condition for the hypoellipticity of L under hypotheses that allow Hörmander’s Lie algebra condition to fail on a hypersurface in D. The type of degeneracy allowed in [4] is characterized in terms of the following

Definition.

For each k ≥ 0, define X^{(k)} to be a matrix with columns X_{0}, …, X_{n}, and all vector fields obtained from X_{0}, …, X_{n} by forming iterated Lie brackets up to order k. Define

λ^{(k)} := smallest eigenvalue of X^{(k)}X^{(k)t}

where ^{t} denotes matrix transpose. We say that a hypersurface S ⊂ R^{d} is subcritical (with respect to L) at x ∈ S if there exists an open neighborhood U of x, an integer k ≥ 0, and p ∈ (−1, 0) such that

λ^{(k)}(y) ≥ exp{−[ρ(y, S)]^{p}}, ∀y ∈ U,

where ρ denotes the Euclidean distance between y and the hypersurface S.

Let K denote the set of points in D where L fails to satisfy Hörmander’s condition. A (C^{1}) hypersurface S is said to be non-characteristic (with respect to L) at x ∈ K if at least one of the vector fields X_{1}, …, X_{n} is transversal to S at x. In [4], the authors showed that L is hypoelliptic provided K is contained in a C^{2} hypersurface S of R^{d}, such that S is subcritical and non-characteristic at all points of K. In particular, this theorem asserts the hypoellipticity of the class of operators

\frac{∂^{2}}{∂x^{2}} + exp(−|x|^{p})\frac{∂^{2}}{∂y^{2}} + \frac{∂^{2}}{∂z^{2}} , p ∈ (−1, 0)

that were studied by Kusuoka and Stroock in [8].

Differential operators that exhibit infinite-order degeneracy will be termed superdegenerate. In this article we announce results that ensure the existence of a smooth solution to the Dirichlet problem for a large class of superdegenerate operators. Our results are as follows Theorem 1.

Suppose that the set K ∪ ∂D is contained in a C^{2} hypersurface S and that S is subcritical and non-characteristic at all points of K ∪ ∂D. Let f ∈ C^{∞}(D̄), g ∈ C^{∞}(∂D) and u be a weak solution (in the sense of distributions) to the following Dirichlet problem on D̄

{Lu = f in D \atop γ_{0}u = g on ∂D} \}  (1)

where γ_{0} denotes the sectional trace of order 0 on ∂D. Then u ∈ C^{∞}(D̄).

Theorem 2.

Suppose the hypotheses of Theorem 1 hold and in addition

(a) c ≤ 0 on D̄.

(b) There exists 1 ≤ k ≤ d and a > 0 such that ∑_{i=1}^{n} < X_{i}(x), e_{k} >^{2} ≥ a, for all x ∈ D̄, where e_{k} denotes the kth standard unit vector in R^{d}. Then the Dirichlet problem (1) admits a unique smooth solution u on D̄.

The Dirichlet problem for degenerate operators L has been studied by several authors (cf. Bony [1], Derridj [6], Jerison [7], and Cattiaux [5]) under the assumption that L satisfies Hörmander’s condition at all points. As far as the authors are aware, the above results are the first to establish the existence of a smooth solution to the Dirichlet problem under hypotheses that allow degeneracy of infinite order. In particular, it appears that these results are at present unavailable using classical techniques.

Outline of Proof of Theorem 2.

Consider the d-dimensional diffusion process ξ given by the Stratonovich stochastic differential equation

\begin{matrix}dξ(t) & = X_{0}(ξ(t)) dt + ∑_{i=1}^{n} X_{i}(ξ(t)) ∘ dW_{i}(t) \\ ξ(0) & = x ∈ D \end{matrix}\}  (2)

associated with the operator L. Then by the conditions of Theorem 2, a weak solution of the Dirichlet problem (1) is given by

u(x) = E[g(ξ^{x}(τ(x))) exp{∫_{0}^{τ(x)} c(ξ^{x}(s) ds} dt]−E[∫_{0}^{τ(x)} f(ξ^{x}(t)) exp{∫_{0}^{t} c(ξ^{x}(s) ds} dt] where τ = τ(x) is the first exit time of the diffusion ξ^{x} from D. Without loss of generality, we may assume that g ≡ 0 on ∂D, and for simplicity we will also take c ≡ 0 ([5]). Therefore, it is sufficent to prove that the function

u(x) = −E[ ∫_{0}^{τ(x)} f(ξ^{x}(t)) dt]  (4)

is smooth on D̄. Now L is hypoelliptic on D by [4] and u is a weak solution of the equation Lu = 0 in D ([10]). Therefore u is C^{∞} on D. In order to prove smoothness of u up to ∂D, it is necessary to derive uniform bounds on the derivatives D^{(k)}u(x), k ≥ 1, as x approaches ∂D through points of D. This is achieved by combining the techniques in [2], [5], and [4]. The following result plays a key role

Lemma.

Suppose the hypotheses of Theorem 1 hold. Then for each point x_{0} ∈ ∂D, there exists a neighborhood U of x_{0} in D̄ and a diffeomorphism F : Ū → F (Ū) ⊂ [0, ∞) × R^{d−1} with the following properties

(i) F (Ū ∩ ∂D) = F (Ū) ∩ ({0} × R^{d−1}) and F (Ū ∩ D) = F (Ū) ∩ R^{d+}, where R^{d+} := {x := (x_{1}, x_{2}, ⋯, x_{d}) : x_{1} > 0}.

(ii) There exists 1 ≤ i ≤ n such that F^{∗}(X_{i}) = (1, 0, …, 0)^{t}, where

F^{∗}(X_{i})(x) := DF (F^{−1}(x))X_{i}(F^{−1}(x)).

(iii) The vector fields F^{∗}(X_{j}), j ≠ i, 0 ≤ j ≤ n, have the form (0, Y)^{t} where Y is a

smooth function from R^{d} to R^{d−1}. (iv) The set F (Ū ∩ ∂D) is subcritical with respect to the transformed operator

F^{∗}(L) = ∑_{i=1}^{n} F^{∗}(X_{i})^{2} + F^{∗}(X_{0}) + c ∘ F^{−1}.

The above lemma reduces the problem to the case when D is the half-space R^{d+}. Using the stochastic representation (4), the estimates in [4] are then applied to the diffusion process F (ξ) in order to obtain the desired estimates on D^{(k)}u(x), k ≥ 1, at points close to ∂D. The idea is as follows. Following [2] and [5], we condition the diffusion F (ξ) up to its exit time from R^{d+}. This is necessary because the exit time is a.s. irregular as a function of x. The required estimates on D^{(k)}u(x), k ≥ 1, are then obtained through a process of partial integration by parts on the conditioned Wiener space, in the manner of the Malliavin calculus [9]. The estimates obtained by the authors in [4] are sufficiently robust to be applied in the present context, and play a crucial role in the subsequent analysis. □

Theorem 1 is proved by an argument similar to the above.

Remark.

The referee has observed that condition (b) in Theorem 2 may be replaced by the following hypothesis:

For each x ∈ D̄, there is a C^{1} path γ : [0, ∞) → R^{d} such that γ(0) = x, γ leaves D̄, and γ′(t) − X_{0}(γ(t)) ∈ Lie(X_{1}, ⋯, X_{n})(γ(t)) for all times t before γ exits D̄.

Acknowledgement.

The authors are grateful to Guy David for the translation into French, and to the referee for helpful suggestions. The research of Denis Bell is supported in part by NSF grant DMS-9703852 and by MSRI, Berkeley, California. The research of Salah Mohammed is supported in part by NSF grants DMS-9503702, DMS-9703596, and by MSRI, Berkeley, California.

References

[1] Bony J. M., Principe du maximum, inégalité de Harnack et unicité du problème de Cauchy pour les opérateurs elliptiques dégénérés, Ann. Inst. Fourier, Grenoble, t. 19 (1969) 277-304.

[2] Ben-Arous G., Kusuoka S., Stroock D. W., The Poisson kernel for certain degenerate elliptic operators, J. Funct. Anal. 56, no. 2 (1984) 171–209.

[3] Bell D. R., Mohammed S.-E. A., Hypoelliptic parabolic operators with exponential degeneracies, C. R. Acad. Sci. Paris, t. 317, Série I (1993) 1059-1064.

[4] Bell D. R., Mohammed S.-E. A., An extension of Hörmander’s theorem for infinitely degenerate second-order operators, Duke Math J., 78, no. 3 (1995) 453-475.

[5] Cattiaux P., Calcul stochastique et opérateurs dégénerés du second ordre II. Problem de Dirichlet, Bull. Sc. math., 2^{e} série 115 (1991) 81-122.

[6] Derridj M., Un problème aux limites pour une classe d’opérateurs du second ordre hypoelliptiques Ann. Inst. Fourier, Grenoble, t. 21 (1971) 99-148.

[7] Jerison D., The Dirichlet problem for the Kohn Laplacian on the Heisenberg group I, J. Funct. Anal. 43, no. 1 (1981) 97-142.

[8] Kusuoka S., Stroock D. W., Applications of the Malliavin calculus, Part II, Journal of Faculty of Science, University of Tokyo, Sec. 1A, 32 (1985) 1-76.

[9] Malliavin P., Stochastic calculus of variations and hypoelliptic operators, Proceedings of the International Conference on Stochastic Differential Equations, Kyoto, Kinokuniya (1976) 195-263.

[10] Stroock D. W., Varadhan S. R. S., On degenerate elliptic-parabolic operators of second order and their associated diffusions, Comm. Pure. Appl. Math. 25 (1972) 651–713.