Soit f(x,y)=x−ysinx−siny sur R2∖Δ.
1. Sur R2∖Δ, x=y, donc f est un quotient de fonctions C∞, avec dénominateur non nul. Donc f est C∞ sur R2∖Δ.
2. On écrit f(x,y)=∫01cos(y+t(x−y))dt (formule des accroissements finis intégrale). Cette représentation est valable pour x=y, et la formule s'étend par continuité en x=y : la limite vaut cos(y)=f~(x,x). Donc on pose f~(x,y)=∫01cos(y+t(x−y))dt, qui est continue sur R2.
3. On a f~(x,y)=∫01cos(y+t(x−y))dt.
∂x∂f~(x,y)=∫01(−sin(y+t(x−y)))⋅tdt.
Cette intégrale est bien définie pour tout (x,y), donc f~ admet des dérivées partielles sur R2.
4. Les fonctions (x,y,t)↦−tsin(y+t(x−y)) et t↦−sin(y+t(x−y)) sont continues, donc les dérivées partielles sont continues (différentiation sous le signe intégrale). Donc f~ est C1.
5. De même, toutes les dérivées partielles d'ordre k s'obtiennent par dérivation sous le signe intégrale, et sont continues. Donc f~ est C∞.
6. On a f~(x,y)=∫01cos(y+t(x−y))dt. Comme ∣cos∣≤1, on a ∣f~(x,y)∣≤1. Donc f~ est bornée. Par contre, f~ n'est pas à support compact, donc on ne peut pas directement invoquer le théorème des extrema.
Cependant, ∣f~(x,y)∣≤1, donc f~ est bornée et son supremum et infimum sont atteints (la fonction prend les valeurs ±1 : f~(x,x)=cos(x) atteint 1 en x=0 et −1 en x=π). Donc le maximum de f~ sur R2 est 1 (atteint en (x,y) tels que cos(y+t(x−y))=1 pour tout t∈[0,1], i.e. y=x=2kπ), et le minimum est −1 (atteint en x=y=(2k+1)π).