数学において、群 のユニタリ表現（ユニタリひょうげん、）とは、複素ヒルベルト空間 上の の線型表現 であって、 が任意の に対してユニタリ作用素となるようなものである。一般論は が局所コンパクト（ハウスドルフ）位相群であり表現がである場合にはよく発展している。
理論は1920年代から量子力学において広く応用されており、とくにヘルマン・ワイルの1928年の本 に影響を受けている。応用において有用な特定の群だけでなく任意の群 に対してユニタリ表現の一般論を構成したパイオニアの1人はであった。
調和解析における文脈
群のユニタリ表現の理論は調和解析と密接な関係にある。群がアーベル群 の場合には、 の表現論の完全な描像はポントリャーギン双対性によって与えられる。一般に、 の既約ユニタリ表現のユニタリ同値類（下記参照）はそのユニタリ双対 (unitary dual) をなす。この集合は群 環の構成によって と結びつけられた と同一視できる。これは位相空間である。
プランシュレルの定理の一般形はユニタリ双対上の測度によって 上の の正則表現を記述するものである。 が可換群の場合には、これはポントリャーギンの双対性の理論によって与えられる。 がコンパクト群の場合には、これはによってなされる。このときユニタリ双対は離散空間であり、測度は各点においてその次数である。
定義
を位相群とする。ヒルベルト空間 上の の強連続ユニタリ表現 (strongly continuous unitary representation) とは、 から のユニタリ群への群準同型
であって、 がすべての に対してノルム連続関数であるようなものである。
がリー群であれば、ヒルベルト空間もまた滑らかな構造や解析的な構造を持つことに注意しよう。ベクトル が滑らか (smooth) あるいは解析的 (analytic) であるとは、写像 が（ のノルムあるいは弱位相に関して）滑らかあるいは解析的であることをいうWarner (1972)。滑らかなベクトルは、 の古典的な議論によって において稠密である、なぜならばコンパクト台を持つ滑らかな関数による対合は滑らかなベクトルを生み出すからである。解析的なベクトルは、Roe Goodman によって拡張された の古典的な議論によって、稠密である、なぜならば、 の普遍包絡環における楕円型微分作用素 に対応する熱作用素 の像に入っているベクトルは解析的だからである。滑らかなあるいは解析的なベクトルは稠密な部分空間をなすだけではない。それらはスペクトル理論の意味でリー代数の元に対応する非有界歪随伴作用素に対して共通の核をなすReed and Simon (1975)。
2つのユニタリ表現 , がユニタリ同値であるとは、ユニタリ変換 が存在して、すべての に対して、 となることをいう。これが成り立つとき、 を表現 , に対するというSally, Paul J. Jr., Fundamentals of Mathematical Analysis. pg. 234.。
完全可約性
ユニタリ表現は完全可約である。つまり、任意の閉不変部分空間に対し、直交補空間は再び閉不変部分空間である。これは観察のレベルであるが、基本的な性質である。例えば、有限次元ユニタリ表現は代数的な意味で必ず既約表現の直和であることが従う。
ユニタリ表現は一般の場合よりも扱うのがはるかに容易なため、ユニタリ化可能な表現、つまり適切な複素ヒルベルト空間の構造の導入によってユニタリになる表現を考えることは自然である。これは、任意のエルミート構造に対し平均を取る議論によって、やより一般にコンパクト群に対して、非常にうまくいく。例えば、マシュケの定理の自然な証明はこの手法によってなされる。
ユニタリ化可能性とユニタリ双対問題
一般に、非コンパクト群に対して、どの表現がユニタリ化可能かを問う問題はより深刻である。数学における重要な未解決問題の1つはユニタリ双対の記述、すべての実簡約リー群の既約ユニタリ表現の有効な分類である。すべての既約ユニタリ表現（というよりもそれらの）はであり、許容表現はによって与えられ、それらの表現のうちどれが非自明な不変半双線型形式を持つかを知ることは容易である。問題は、いつ二次形式が正定値であるのかを知ることが一般には難しいことである。多くの簡約リー群に対してこの問題は解かれている。例えば やを参照。
脚注
参考文献
関連項目