Démonstration
On fixe n≥1. Pour n=1, S1={Id} et il n'existe aucun morphisme non trivial sur {−1,1} ; l'énoncé concerne donc le cas n≥2, que l'on suppose désormais. Rappelons qu'un morphisme de groupes φ:(Sn,∘)→({−1,1},×) est une application vérifiant φ(σ∘σ′)=φ(σ)φ(σ′) pour tous σ,σ′∈Sn, et l'on cherche un tel morphisme qui soit non constant.
1. Existence.
On construit explicitement un morphisme non trivial à l'aide du nombre d'inversions. Pour σ∈Sn, on appelle inversion de σ toute paire {i,j} d'éléments distincts de [[1,n]] telle que i−j et σ(i)−σ(j) soient de signes opposés. On note I(σ) le nombre d'inversions de σ et l'on poseε(σ)=(−1)I(σ).Cette quantité s'exprime commodément à l'aide d'un produit. Pour σ∈Sn, considéronsP(σ)=1≤i<j≤n∏j−iσ(j)−σ(i).Ce produit porte sur toutes les paires {i,j} avec i<j. Comme σ est une bijection de [[1,n]], l'application {i,j}↦{σ(i),σ(j)} est une bijection de l'ensemble des paires d'éléments distincts de [[1,n]] sur lui-même. Par conséquent, l'ensemble des facteurs ∣σ(j)−σ(i)∣ (pour i<j) est, à l'ordre près, exactement l'ensemble des j−i (pour i<j) : les valeurs absolues du numérateur et du dénominateur de P(σ) sont les mêmes à permutation près, donc ∣P(σ)∣=1. Le signe de P(σ) est, lui, (−1) élevé au nombre de facteurs négatifs, c'est-à-dire au nombre de paires {i,j} telles que σ(j)−σ(i) et j−i soient de signes opposés. Ce nombre est précisément I(σ). On a donc l'égalitéP(σ)=(−1)I(σ)=ε(σ)∈{−1,1}.Montrons maintenant que ε est un morphisme. Soient σ,σ′∈Sn. Calculons P(σ∘σ′) :P(σ∘σ′)=i<j∏j−iσ(σ′(j))−σ(σ′(i))=i<j∏σ′(j)−σ′(i)σ(σ′(j))−σ(σ′(i))×i<j∏j−iσ′(j)−σ′(i).Le second produit vaut P(σ′)=ε(σ′). Dans le premier produit, lorsque {i,j} décrit l'ensemble des paires d'éléments distincts (avec i<j), la paire {σ′(i),σ′(j)} décrit, par bijectivité de σ′, le même ensemble de paires. Or chaque facteurσ′(j)−σ′(i)σ(σ′(j))−σ(σ′(i))est invariant si l'on échange i et j (numérateur et dénominateur changent simultanément de signe). Ce facteur ne dépend donc que de la paire {σ′(i),σ′(j)}, et le premier produit est égal à1≤k<l≤n∏l−kσ(l)−σ(k)=P(σ)=ε(σ).On obtient ainsiε(σ∘σ′)=P(σ∘σ′)=P(σ)P(σ′)=ε(σ)ε(σ′).Comme de plus ε(σ)∈{−1,1} pour tout σ, l'application ε est bien un morphisme de (Sn,∘) dans ({−1,1},×).
Il reste à vérifier que ε est non trivial. Comme n≥2, considérons la transposition τ=(1,2). Elle échange 1 et 2 et fixe tous les autres entiers. La seule paire {i,j} pour laquelle τ(i)−τ(j) et i−j sont de signes opposés est {1,2} ; toutes les autres paires sont préservées dans leur ordre. Donc I(τ)=1 etε(τ)=(−1)1=−1=1.Ainsi ε n'est pas constant : c'est un morphisme non trivial. Ceci établit l'existence.
2. Unicité.
Soit φ:(Sn,∘)→({−1,1},×) un morphisme non trivial quelconque. Montrons que φ=ε.
Première étape : déterminons la valeur de φ sur les transpositions. Soit τ une transposition. D'après une remarque du paragraphe 1.2, on a τ2=Id[[1,n]]. Comme φ est un morphisme, φ(Id)=1 (l'image du neutre est le neutre), doncφ(τ)2=φ(τ∘τ)=φ(Id)=1.Comme φ(τ)∈{−1,1}, ceci ne fournit pas immédiatement sa valeur ; montrons que φ(τ)=−1. Supposons par l'absurde que φ prenne la valeur 1 sur au moins une transposition. Toutes les transpositions de Sn sont en réalité conjuguées entre elles : si τ=(a,b) et τ′=(c,d) sont deux transpositions, et si ρ∈Sn est une permutation telle que ρ(a)=c et ρ(b)=d (une telle ρ existe car il suffit d'envoyer a sur c et b sur d), alors un calcul direct donne ρ∘τ∘ρ−1=τ′. En effet, ρ∘τ∘ρ−1 échange ρ(a)=c et ρ(b)=d et fixe tous les autres éléments. En appliquant le morphisme φ et en utilisant φ(ρ−1)=φ(ρ)−1=φ(ρ) (car φ(ρ)∈{−1,1}), on obtientφ(τ′)=φ(ρ)φ(τ)φ(ρ)−1=φ(τ).Ainsi φ prend la même valeur sur toutes les transpositions. Si cette valeur commune était 1, alors, d'après le Théorème 1.2, toute permutation σ s'écrivant comme une composée de transpositions σ=τ1∘⋯∘τk, on auraitφ(σ)=φ(τ1)⋯φ(τk)=1,et φ serait le morphisme constant égal à 1, contredisant l'hypothèse que φ est non trivial. La valeur commune de φ sur les transpositions est donc −1 : pour toute transposition τ, φ(τ)=−1.
Seconde étape : on conclut grâce au Théorème 1.2. Soit σ∈Sn une permutation quelconque. D'après le Théorème 1.2, σ s'écrit comme une composée de transpositions :σ=τ1∘τ2∘⋯∘τk.En appliquant le morphisme φ et en utilisant φ(τi)=−1 pour chaque i, il vientφ(σ)=φ(τ1)φ(τ2)⋯φ(τk)=(−1)k.Le même raisonnement appliqué au morphisme ε construit ci-dessus, pour lequel on a aussi ε(τi)=−1 pour toute transposition (puisque toutes les transpositions sont conjuguées et que ε((1,2))=−1, ou directement car le calcul d'inversions ci-dessus s'adapte), donne ε(σ)=(−1)k pour la même décomposition. Par conséquent φ(σ)=ε(σ).
Comme ceci vaut pour toute permutation σ∈Sn, on conclut φ=ε. Le morphisme non trivial est donc unique.
Conclusion. Il existe un unique morphisme non trivial ε:(Sn,∘)→({−1,1},×), donné par ε(σ)=(−1)I(σ), ou encore par ε(σ)=(−1)k si σ se décompose en un produit de k transpositions (la parité de k ne dépendant que de σ). On l'appelle la signature.
Remarque. Cette démonstration montre au passage que, pour toute décomposition de σ en produit de transpositions σ=τ1∘⋯∘τk, la parité de l'entier k est indépendante de la décomposition choisie (elle vaut celle de I(σ)) : c'est ce qui donne un sens à la notion de permutation paire ou impaire, malgré la non-unicité de la décomposition en transpositions soulignée au paragraphe 1.2.