層 (数学)

数学における層（そう、sheaf, faisceau）とは、位相空間上で連続的に変化する様々な数学的構造をとらえるための概念であり、大域的なデータを局所的に取り出すこと、および局所的なデータの張り合わせ可能性によって定式化される。より形式的に、大域から局所への移行のみを考える概念は前層（ぜんそう、presheaf）とよばれる。

定義

前層

(X, T) を位相空間とする。X の開集合 U ∈ T に対し集合 F(U) を対応付けるとき、開集合の包含関係 U ⊂ V に応じて制限写像（せいげんしゃぞう、restriction map）と呼ばれる写像

\rho _{U}^{V}\colon F(V)\to F(U)

（ρ_U^V を ρ_U,V のように記すこともある）が定まって、次の条件

$\rho _{U}^{U}=\mathrm {identity} ,$
$U\subset V\subset W\Rightarrow \rho _{U}^{W}=\rho _{U}^{V}\circ \rho _{V}^{W}$

が成立するとき、集合と写像の族 F = {(F(U))_U∈T, (ρ_U^V)_{U,V∈T;U ⊆ V}} を X を底空間とし集合に値を持つ前層（または簡単に X 上の集合の前層）と呼ぶ。各開集合 U に対応付けられる F(U) がどれも加群の構造を持ち、制限写像がどれも加群の準同型となっているならば X 上の加群の前層、同じく F(U) がどれも環であって制限写像がどれも環準同型ならば X 上の環の前層、といったように F(U) たちのもつ構造によって前層をクラスに分けることができる。

各開集合 U に対して F(U) の元を前層 F の U 上の切断（せつだん、section）と呼ぶ。開集合の包含関係 U ⊂ V と V 上の切断 s ∈ F(V) が与えられたとき、

s|_{U}:=\rho _{U}^{V}(s)

と記して、s|_U を切断 s の U への制限 (restriction) と呼ぶ。

圏論の言葉で言えば、X の開集合系（これは包含関係に関する順序集合となる） T を圏と見なすとき、X 上の前層とは T から集合の圏への反変関手のことであるということができる。また、可換群の（あるいは加群の）前層や環の前層は T から可換群の圏や環の圏への反変関手のことであり、同様にして T から適当な圏 C への反変関手として C に値を持つ前層が定義される。二つの前層を関手と見なして、その間の自然変換となるものを前層の射または前層の準同型とよぶ。

層

位相空間 X 上の前層はその切断が局所的な切断の張り合わせで定義できるとき層と呼ばれる。正確には X 上の層とは、前層 F = {F(U), ρ_U^V} であって、X の各開集合 U に対して開被覆

U=\bigcup _{\lambda \in \Lambda }U_{\lambda }

が任意に与えられたとき、F(U) の元 s, t が任意の λ に対して

s|_{U_{\lambda }}=t|_{U_{\lambda }}

を満たすならば常に s = t が成立（既約性条件）し、さらに切断の族 (s_λ ∈ U_λ)_λ∈Λ が常に

s_{\lambda }|_{V_{\lambda }\cap V_{\mu }}=s_{\mu }|_{V_{\lambda }\cap V_{\mu }}

を満たすものであるならば常に、F(U) の元 s で

s|_{U_{\lambda }}=s_{\lambda }

をすべての λ に対して満たすものが存在する（閉条件）ようなもののことをいう。

射

発見的な方法でいうと、層の射は層と層の間の函数に似ている。しかし、層は位相空間のすべての開集合と関連するデータを持っているので、層の射は函数の集まりとして定義され、各々の開集合に対し、整合性条件を満たす。

F と G は、値を圏 C に値をもつ X 上の 2つの層とする。A 射 φ : G → F は射 φ(U) : G(U) → F(U) より構成され、X の各々の開集合 U に対して制限写像と整合性を持つ社の条件を持つ。言い換えると、開集合 U のすべての開集合に対し、次の図形が可換となる。

例

層は完全に局所的状況と大域的状況の間を埋め合わせるデータを完全に持っているので、数学全体を通して多くの例がある。ここにいくつかの層の例を加える。

連続函数の層：X を位相空間とする。X の開集合 U に対して、その上の複素数値連続函数のなす空間を C(U) とかくことにする。開集合の包含関係 V ⊆ U に対して函数の定義域の制限 C(U) → C(V) を考えることで X 上の層が得られる。点 x におけるこの層の芽とは x のまわりでの函数の局所的な振る舞いを表していると考えることができる。同様に、複素多様体に対しその上の正則函数のなす層を考えることができる。

定数層：Mを集合とするとき、離散位相を考えて M を位相空間とみなす。このとき、直積空間 X × M から X への第一成分への射影写像は局所同相写像になっていて、X 上のエタールバンドルを与えている。これに対応する層は M が定める X 上の定数層と呼ぶ。

切断の層：位相空間の連続写像は集合の層を決定する。f : Y → X を連続写像とする。X 上の層 Γ(Y/X) を Γ(Y/X)(U) が切断 U → Y と設定すること、すなわち、Γ(Y/X)(U) をすべての連続函数 s : U → Y で f ∘ s = id_U となる函数とすることにより定義する。制限は函数の制限として与えられる。この層は f の切断の層と呼ばれ、f が基礎空間上へのファイバーバンドルの射影であるときに特に重要である。f の像が U を含まない場合には、Γ(Y/X)(U) が空集合であることに注意する。具体例として、 $X=\mathbb {C} \backslash \{0\},Y=\mathbb {C} ,f(z)=exp(z)$ とすると、Γ(Y/X)(U) は U 上の対数の分岐の集合となる。

摩天楼層(skyscraper sheaf)：X 上の点 x と圏 C の上の対象 S を固定する。x の上の茎 S をもつ摩天楼層(skyscraper sheaf)は、次のように定義される層 S_x である。U を x を含む開集合とすると、S_x(U) = S である。U が x を含まなければ、S_x(U) は C の終対象である。制限写像は、双方の集合が x を含んでいれば S 上の同一視であり、あるいは、S から C の終対象への一意な写像であるかのいづれかである。

多様体上の層

次に上げる例では、M は n-次元 C^k-多様体とする。この表は、M の開部分集合 U 上の層のとる値と制限写像を一覧とした。

層	開集合 U 上の切断	制限写像	注意
連続微分可能函数 ${\mathcal {O}}_{M}^{j}$ ,　j ≤ k の j 回の積の層	C^j-函数 U → R	函数の制限	環の層であり、加法と乗法は点に対しての加法と乗法として与えられている。j = k のとき、この層は構造層と呼ばれ、 ${\mathcal {O}}_{M}$ と書かれる。
非零である k-階連続微分可能函数 ${\mathcal {O}}_{X}^{\times }$	どこでも 0 とはならない C^k-写像 U → R	函数の制限	点としての乗法群の層
余接層 Ω^p_M	U 上の次数 p の微分形式	微分形式の制限	Ω¹_M と Ωⁿ_M はそれぞれ Ω_M と ω_M と表す。
シュワルツの超函数の層 ${\mathcal {DB}}$	U 上のシュワルツ超函数	0 により滑らかなコンパクトな台へ拡張する双対写像	M は滑らかと仮定
微分作用素の層 ${\mathcal {D}}_{M}$	U 上の有限階の微分作用素	微分作用素の制限	M は滑らかと仮定

層ではない前層

層ではない前層の例を 2つ上げる。

X を離散トポロジーを持つ 2点からなる位相空間（英語版）(two-point topological space) {x, y} とする。前層は次のように定義される。F(∅) = {∅} とすると、F({x}) = R, F({y}) = R, F({x, y}) = R × R × R である。制限写像 F({x, y}) → F({x}) を R × R × R からの第一座標への射影とし、制限写像 F({x, y}) → F({y}) は R × R × R から第二座標への射影とする。F は非分離的な前層である。大域切断は 3つの数により決定されるが、{x} と {y} 上での値はこれらの数値を決めるだけである。従って、{x} と {y} 上の 2つの切断を貼り合わせることはできるが、一意に貼り合せることはできない。
X を実線とし、F(U) を U で有界な連続函数の集合とする。この集合は、貼り合わせることがいつもできるとは限らないので、層ではない。たとえば、U_i を |x| < i であるようなすべての x の集合とする。同一視写像 f(x) = x は各々の U_i 上で有界である。結局、U_i 上の切断 s_i を得る。しかし、函数 f が実線の上で有界でないので、これらの切断は貼り合わさってはいない。結論として、F は前層であるが、層ではない。事実、F は連続函数の層の部分前層であるので、分離的である。

前層の層化

前層に含まれるデータを使い、層としてデータを表現することがよく利用される。この最良の方法が存在することが判明している。この方法とは、前層 F を取り、F の層化と呼ばれる^[1]新しい層 aF を構成する。自然な前層の射 i : F → aF が存在し、任意の層 G と任意の前層の射 f : F → G に対して、一意に層の射 ${\tilde {f}}:aF\rightarrow G$ が存在し、 $f={\tilde {f}}i$ となるような普遍的性質を持っている。実際、a は層のカテゴリから前層のカテゴリへの包含写像への随伴函手であり、i は随伴函手の単位元である。このようにして、層のカテゴリは、ジョルジュ・ジロー（英語版）(Georges Giraud)による前層の部分カテゴリとなる。

層の順像函手、逆像函手

詳細は「層の像函手（英語版）」を参照

層上の射の定義は、同じ空間 X の上の層についてのみ意味をもつ。この理由は、層に含まれるデータは、空間の開集合によりインデックス化されているからである。異なった空間の上の 2つの層であれば、それらのデータのインデックスが異なってしまい、この場合には、一方のデータの集合から他へ直接行く手段が存在しない。

しかし、連続函数を使い、一方の空間から他方へ層を移動させることが可能である。f : X → Y を位相空間 X から Y への連続写像とする。X 上の層に対し、この層を Y へ移動すること、逆に Y を X 上へ移動することができる。層を移動するには、4つの方法がある。

X 上の層 ${\mathcal {F}}$ は、順像函手 $f_{*}$ もしくは固有なサポートを持つ順像函手（英語版）(direct image with proper support functor) $f_{!}$ を使い、Y へ移動することができる。
Y 上の層 ${\mathcal {G}}$ は、逆像函手（英語版）(inverse image functor) $f^{-1}$ もしくはツイストした逆像函手（英語版）(twisted inverse image functor) $f^{!}$ を使い、X へ移動することができる。

一般に、ツイストした逆像函手 $f^{!}$ は、導来圏の間の函手として定義されているだけである。これらの函手は、互いに右随伴函手と左随伴函手であるペア $f^{-1}$ と $f_{*}$ 、また同様なペア $Rf_{!}$ と $f^{!}$ である。函手は、グロタンディ－ク双対（英語版）(Grothendieck duality)とヴェルディエール双対（英語版）(Verdier duality)により、互いに関係している。

環の層の上の加群の層には、異なる逆像函手がある。この函手は、通常は $f^{*}$ と書かれ、 $f^{-1}$ とは異なっている。逆像函手（英語版）(inverse image functor)を参照。

層の茎

詳細は「茎 (層) 」を参照

層 ${\mathcal {F}}$ の茎(stalk) ${\mathcal {F}}_{x}$ は、点 x ∈ X の「周囲」の層の性質を捕らえている。ここに、「周囲」の意味は、概念的に言うと、点の非常に小さな近傍としてみる。もちろん、ある種の極限をとらねばならないので、ひとつの近傍といっても充分に小さいとはいえない。

茎は、与えられた点 x を含む X のすべての開集合上での帰納極限である

{\mathcal {F}}_{x}=\varinjlim _{U\ni x}{\mathcal {F}}(U),

で定義される。言い換えると、茎の元は、x のある開近傍上の切断により与えられ、2つのそのような切断がある場合にはより小さな近傍でそれらの制限が一致する場合には、同値であるとみなす。

自然な射 F(U) → F_x が F(U) の切断 s の芽への写像である。これを一般化して、芽(germ)という。

茎の別の定義方法は、

{\mathcal {F}}_{x}:=i^{-1}{\mathcal {F}}(\{x\}),

であり、ここに i は一点の空間である {x} の X への制限とする。同値性は逆像（英語版）(inverse image)の定義にから導かれる。

多くの状況下で、層の茎を知ることは、層自身を知るに充分である。たとえば、射が単射準同型、全射準同型であるか、あるいは同型であるかは、茎の上で確認することにより知ることができる。ゴドメン分解（英語版）(Godement resolution)分解のような構成を使い、見つけ出すことができる。

環付き空間と局所環付き空間

詳細は「環付き空間」を参照

ペア $(X,{\mathcal {O}}_{X})$ は、位相空間 X とその上の環の層から構成され、環付き空間と呼ばれる。多くのタイプの空間が環付き空間のあるタイプとして定義される。層 ${\mathcal {O}}_{X}$ を空間の構造層と呼ぶ。構造層の茎が局所環であるような一般的な状況のとき、このペアを局所環付き空間と呼ぶ。ここにこのようにして作られた定義の例を挙げる。

n-次元 C^k 多様体 M は、構造層が ${\underline {\mathbf {R} }}$ -代数である局所環付き空間で、局所的 Rⁿ 上の C^k 実数に値を持つ層と同型である。
複素解析空間は、局所環付き空間で、構造層は ${\underline {\mathbf {C} }}$ -代数であり、ある n に対し Cⁿ 上の正則函数の層への制限と有限個の正則函数の集まりの零点と局所同型である。
スキームは、環のスペクトルと局所同型な局所環付き空間である。
半代数的空間（英語版）(semialgebraic space)は半代数的函数とユークリッド空間内の半代数的集合（英語版）(semialgebraic set)に局所同型な局所環付き空間である。

加群の層

詳細は「加群の層」を参照

$(X,{\mathcal {O}}_{X})$ を環付き空間とする。加群の層(sheaf of modules)とは、X のすべての開集合 U 上で、 ${\mathcal {M}}(U)$ が ${\mathcal {O}}_{X}(U)$ -加群であり、さらに、すべての開集合 V ⊆ U の包含関係に対し、 ${\mathcal {M}}(U)$ の ${\mathcal {M}}(V)$ への制限写像が ${\mathcal {O}}_{X}(U)$ -加群となるような層 ${\mathcal {M}}$ である。

最も重要な幾何学的対象は加群の層である。たとえば、ベクトル空間と ${\mathcal {O}}_{X}$ -加群の局所自由層の間には 1 対 1 対応がある。微分方程式の解の層は、D-加群、つまり、微分作用素の層の上の加群である。

特に重要な場合は、アーベル層（英語版）(abelian sheaves)であり、アーベル層は定数層 ${\underline {\mathbf {Z} }}$ 上の加群である。すべての加群の層は、アーベル層である。

加群の層の有限性条件

詳細は「連接層」を参照

加群が有限生成である、もしくは、有限表現可能である条件は、加群の層で定式化することができる。 ${\mathcal {M}}$ が有限生成(finitely generated)であるとは、X の任意の点 x に対し、x の開近傍 U、自然数 n （U に依存するかも知れない）と層の全射 ${\mathcal {O}}_{X}^{n}|_{U}\to {\mathcal {M}}|_{U}$ が存在することである。同様に、 ${\mathcal {M}}$ が有限表現可能(finitely presented)とは、さらに、自然数 m（再度 U に依存するかも知れない）と層の射 ${\mathcal {O}}_{X}^{m}|_{U}\to {\mathcal {O}}_{X}^{n}|_{U}$ が存在し、射の系列 ${\mathcal {O}}_{X}^{m}|_{U}\to {\mathcal {O}}_{X}^{n}|_{U}\to {\mathcal {M}}$ が完全となることである。同じことであるが、射 ${\mathcal {O}}_{X}^{n}|_{U}\to {\mathcal {M}}$ の核が有限生成層であることである。

しかし、これら以外にも、層の有限性条件がありうる。層の最も重要な有限性条件は、連接層であることである。 ${\mathcal {M}}$ が連接(coherent)とは、層が有限型であり、すべての開集合 U とすべての層の射 $\phi :{\mathcal {O}}_{X}^{n}\to {\mathcal {M}}$ （必ずしも全射である必要はない）に対し、φ の核が有限型であることである。 ${\mathcal {O}}_{X}$ が連接(coherent)とは、自分自身の上の加群として連接であることである。連接性は有限表現可能条件よりも厳密に強いことに注意する。 ${\mathcal {O}}_{X}$ は常に自分自身の上の加群として有限表現可能であるが、常に連接であるとは限らない。たとえば、X を点とし、 ${\mathcal {O}}_{X}$ を加算個の変数を持つ複素多項式の環 R = C[x₁, x₂, ...] とする。 n = 1 を選び、射 φ に対しすべての変数を 0 へ写像するような写像をとる。この写像の核は、有限生成ではなく、従って、 ${\mathcal {O}}_{X}$ は連接ではない。

層のエタール空間

上の例の中で注意したように、切断の層として自然に発生する層が存在する。事実、集合のすべての層は、フランス語の広げたという意味の étalé からくるエタール空間(étalé space)と呼ばれる移送空間の切断の層として、表現しなおすことができる。F を X 上の層とすると、F のエタール空間は位相空間 E と局所同相 π : E → X を考え合わせたものであり、π の切断の層は F となる。E は普通は奇妙な空間で、層 F が自然なトポロジカルな状況からくるときですら、E は明確なトポロジカルな解釈を持たないときもある。たとえば、F が連続函数 f : Y → X の切断の層とすると、E = Y であることと、f が局所同相であることとは同値である。

エタール空間 E は X 上の F の茎から構成される。集合として、直和であり、π は x を x ∈ X の上の F の茎の上の値に写す写像である。E のトポロジーは次ぎのように定義される。F(U) の各々の元 s と U の各々の元 x に対して、x での s の芽(germ)をとる。これらの芽は E の点を決定する。任意の U と s ∈ F(U) に対し、すべての x ∈ U である点の合併は、E で開集合である。各々の茎は部分トポロジーとして離散位相を持つことに注意すると、層の間の 2つの射は、（すべての芽が同じ点の上の芽に写像されるという意味で）対応するエタール空間の連続写像を決定する。これは、函手を構成することを意味する。

上記の構成は、X 上の集合の層の圏と X 上のエタール空間の圏の間の圏同値を決める。エタール空間の構成は、前層へ適用することができ、そこでは、エタール空間の切断の層が与えられた前層に付随する層を構成し直す。

この構成は、すべての層を位相空間上のあるカテゴリの表現函手（英語版）(representable functor)とする。上記のように、F を X 上の層とし、E をエタール空間とし、π : E → X を自然な射影とする。X 上の位相空間の圏 Top/X を考える、つまり、位相空間の圏と固定された X への連続写像をともに考える。この空間のすべての対象は、連続写像 f : Y → X であり、Y → X から Z → X への射は連続写像 Y → Z で X への 2つの写像と可換な連続写像である。対象 f : Y → X から (f⁻¹F)(Y) を取る集合の圏へのX からの函手 Γ が存在する。たとえば、i : U → X を開集合の包含写像とすると、Γ(i) = (i⁻¹F)(U) は普通の F(U) に一致し、i : {x} → X は点として内包されているならば、Γ({x}) = (i⁻¹F)({x}) は x での F の茎である。自然な同型

(f^{-1}F)(Y)\cong \operatorname {Hom} _{\mathbf {Top} /X}(f,\pi )

が存在し、E が函手 Γ を表わすととを示している。

E が射影写像 π が被覆写像であるように構成される。代数幾何学では、被覆写像の自然な類似はエタール射と呼ばれる。（「エタール」と同義語であるにもかかわらず、エタールという用語は、フランス語と数学の双方で差異がある。）特に、π が同じ普遍的な性質を保持するような方法で、E をスキーム、π をスキームの射とすることが可能であるが、しかし、π は準有限(quasi-finite)ではないので一般にはエタール射ではない。しかしながら、公式にエタールである。

エタール空間により層の定義は、一連の論文の早い段階での定義以上に古い歴史を持っている。解析学のような数学の分野ではすでに共通となっている。

大域切断

${\mathcal {F}}$ を ${\mathcal {C}}$ に値を持つ X の前層とし、U を X の開部分集合とすると、 $F(U)$ を U 上の ${\mathcal {F}}$ の切断という。X 上の切断 $F(U)$ を大域切断という。記法として、切断の制限 res V,U(s) を s|V で表わす。この記法と用語は、バンドルや層のエタール空間の切断の類似となっている。通常は、 $F(U)$ を $\Gamma (U,F)$ と書き、特に、層コホモロジーのような脈絡では U は固定され ${\mathcal {F}}$ を変化するものとして使うことが多い。

例

${\underline {\mathbb {Z} }}_{X}$ を局所定数層とすると、大域切断は $\Gamma (X,{\underline {\mathbb {Z} }}_{X})=\mathbb {Z} ^{\pi _{0}(X)}$ 、つまり、X の連結成分によりインデックス化された直和により与えられる。

${\mathcal {O}}_{X}$ をコンパクトで連結な複素多様体 X 上の正則函数の層とすると、最大値原理により大域切断は定数、つまり、 $\Gamma (X,{\mathcal {O}}_{X})=\mathbb {C}$ である。

${\mathcal {O}}(i),i\in \mathbb {Z}$ で射影空間（英語版）(projective space} $\mathbb {P} _{k}^{n}$ のセールのツイスト層（英語版）(twisting sheaves) とすると、 $d\geq 0$ に対して $\Gamma (X,{\mathcal {O}}(d))=k_{d}[X_{0},\ldots ,X_{n}]$ となり、 $d<0$ に対しては 0 となる。

$X=Spec\ A$ をアフィンスキームとする。準連接層 ${\mathcal {O}}_{X}$ -加群の層 ${\mathcal {F}}$ は、大域切断の元（つまり、 $\Gamma ({\mathcal {O}}_{X},{\mathcal {F}})$ ）により生成される。このことは、 ${\mathcal {O}}_{X}$ -加群の連接層の圏と有限生成 A-加群の層の圏が、圏として同値となる。

大域切断函手

大域切断は、函手と考えることができる。X を位相空間とし、 $\mathrm {Sh} (X,{\mathcal {C}})$ で ${\mathcal {C}}$ に値を持つ層のなす圏とすると、層 ${\mathcal {F}}$ へ大域切断 $\Gamma (X,{\mathcal {F}})$ を関連付ける写像は、 ${\mathcal {C}}$ への反変函手である。

${\mathcal {C}}$ をアーベル群の圏とすると、この函手は左完全函手である。このことは導来函手を通して層コホモロジーの概念が得られる。

層コホモロジー

詳細は「層コホモロジー」を参照

上で注意したように、函手 $\Gamma (U,-)$ は同型と単射準同型(monomorphism)は保存するが、全射準同型(epimorphism)は保存しない。F をアーベル群の層、あるいはより一般的にアーベル圏に値を持つ層とすると、実際、 $\Gamma (U,-)$ は左完全函手である。このことは、 $\Gamma (U,-)$ の導来函手を構成することができることを意味する。これらの導来函手は F のコホモロジー群（もしくは、加群)を導き、これを $H^{i}(U,-)$ と書く。グロタンディークは、東北論文 Grothendieck (1957) で、アーベル群の層のすべての圏は、十分に単射的対象(injective object)を持つので、これらの導来函手は常に存在することを示した。

しかしながら、単射分解を使った層コホモロジーの計算は不可能に近い。実際は、もっと広く共通に F の（単射分解とは）異なったより扱い易い分解方法を見つける方法がある。一般的な構成はゴドメン分解（英語版）(Godement resolution)により得ることができ、特別な分解は軟弱層(soft sheaves)、細層(fine sheaves)や脆弱層(flabby sheaves)（また、フランス語の flasque からの散布層(flasque sheaves)とも呼ばれる）を使い構成することができる。結局、層コホモロジーを他のコホモロジー論と比較することができる。たとえば、ド・ラームコホモロジーは、任意の滑らかな多様体の上の定数層 ${\underline {\mathbf {R} }}$ の分解であるので、 ${\underline {\mathbf {R} }}$ の層コホモロジーは、ド・ラームコホモロジーに等しい。実際、層コホモロジーをド・ラームコホモロジーや特異コホモロジーと比較すると、2つのコホモロジーが同型であるというド・ラームコホモロジーの定理を証明することができる。

別のアプローチもチェックコホモロジー（英語版）(Čech cohomology)により行われた。チェックコホモロジーは層のために開発された最初のコホモロジー論で、具体的な計算に適している。チェックコホモロジーは空間の開部分集合上の切断をコホモロジー類に関連付ける。ほとんどの場合、チェックコホモロジーは導来函手コホモロジーとして同じコホモロジー群を計算する。しかし、ある病的な空間の場合は、チェックコホモロジーは正しい $H^{1}$ を計算するが、高次のコホモロジー群は正しくない。これを回避するため、ジャン・ルイス・ヴェルディエール（英語版）(Jean-Louis Verdier)は超被覆（英語版）(hypercoverings)を開発した。超被覆は正しい高次コホモロジー群を与えるのみならず、上記の開部分集合をある他の空間の射と置き換えることも可能となる。この柔軟さが必要な応用があり、ピエール・ドリーニュ(Pierre Deligne）の混合ホッジ構造の構成へ応用された。

同じコホモロジー群の計算のため、さらに非常に明白なアプローチがボレル・ボット・ヴェイユの定理（英語版）(Borel–Bott–Weil theorem)であり、この定理は、旗多様体(flag manifold)上にあるラインバンドルのコホモロジー群をリー群の既約表現を同一視することができるという定理である。たとえば、この定理を使い、射影空間のすべてのラインバンドルのコホモロジー群を容易に計算することができる。

多くの場合、ポアンカレ双対を一般化した層の双対理論が存在する。グロタンディーク双対（英語版）(Grothendieck duality)やヴェルディエール双対（英語版）(Verdier duality)を参照。

サイトとトポス

詳細は「グロタンディーク位相」および「トポス (数学)」を参照

アンドレ・ヴェイユ(André Weil)のヴェイユ予想は、有限体上の代数多様体にはヴェイユコホモロジーが存在し、リーマン予想の類似を与えるはずであると言っている。しかし、そのような多様体の唯一の自然な位相（英語版）(natural topology)はザリスキー位相であるが、ザリスキー位相での層コホモロジーは開集合が少なすぎるのでうまく振舞ってはくれない。アレクサンドル・グロタンディーク(Alexandre Grothendieck)は、被覆の考えたを公理化するグロタンディーク位相を導入することで、この問題を解こうとした。グロタンディークは、層の定義が位相空間の開集合にのみ依存していて、個々の点には依存していないという見方をした。以前、彼は被覆の考え方を公理化したことがあり、開集合は他の対象へ置き換えていた。まさに今述べたように、前層はこれらの対象の各々をデータへ変え、層は被覆の新しい考え方に関して、張り合わせ公理を満たす前層である。これにより、グロタンディークは、エタール・コホモロジーやl-進コホモロジーを定義することができ、結局はこれらがヴェイユ予想を証明することに使われた。

グロタンディーク位相を持つ圏は、サイトと呼ばれる。サイト上の層の圏は、トポスとかグロタンディエクトポスと呼ばれる。トポスの考えたは、後日、ウィリアム・ラヴィエ（英語版）(William Lawvere)やマイルス・ティエルニー(Miles Tierney)により抽象化され、基本トポス(Elementary topoi)を定義した。基本トポスは数理論理学と関係している。

∞-トポス(∞-topos)も参照。

歴史

層の理論の起源をたどるのは容易ではない。はっきりと認識できる独立した層の理論がコホモロジーの基礎的な研究から生じるまでには約15年を要した。層の概念が最初にはっきりと現れたのは、第二次世界大戦中のジャン・ルレーによる偏微分方程式の研究だと言われている。その後、アンリ・カルタンのセミナーで形式的な整備が進められた。さらに任意の係数体 (coefficient field) 上の多様体にコホモロジー理論を構築することを目的の一つとして、1955年にジャン＝ピエール・セールによって代数幾何学に層の概念が持ち込まれた。ほかに層が決定的に用いられる理論として佐藤幹夫らに端を発する偏微分方程式系の解析（D-加群の理論）があげられる。

1936年 - エドゥアルド・チェック（英語版）(Eduard Čech)は開被覆と単体と結びつけて、脈体構成を導入した。
1938年 - ハスラー・ホイットニー(Hassler Whitney)はジェームズ・アレクサンダー（英語版）(James Waddell Alexander II)、アンドレイ・コルモゴロフが初めてコチェイン(cocheain)を定義して以来の研究を要約してコホモロジーの'現代的な'定義を与えた。
1943年 - ノーマン・スティーンロッド（英語版）(Norman Steenrod)による局所係数（英語版）(local coefficients)を持つホモロジーに関する発表。
1945年 - ジャン・ルレイ(Jean Leray)は偏微分方程式論への応用で不動点定理を証明するために戦争の捕虜時代に行った研究成果を発表した。これは層理論とスペクトル系列(spectral sequence)の出発点となった。
1947年 - アンリ・カルタンは、アンドレ・ヴェイユと連絡を取りながら、層の方法によってド・ラームの定理を改めて証明した（ド・ラーム＝ヴェイユの定理（英語版）(De Rham-Weil theorem)参照）。ルレイは彼の講義において閉集合を通じて層の定義を与えた（後のcarapaces）。
1948年 - カルタンのセミナーで層の理論が初めて記述された。
1950年 - "第二版"の層理論がカルタンのセミナーで作られた。茎のような (stalkwise) 構造を持つ層空間 (en, espace étalé) の定義が使われ、台 (en) と台を持つコホモロジーが導入された。また、連続写像はスペクトル系列を生じた。同時期に岡潔は多変数複素函数論においてイデアルの層のアイデア（に近いアイデア）を導入した。
1951年 - カルタンのセミナーでカルタンの定理AとBが岡潔の研究に基づいて証明された。
1953年 - 解析理論における連接層についての有限性定理がセールの双対定理と同様にカルタンおよびジャン＝ピエール・セールによって証明された。
1954年 - セールの論文Faisceaux algébriques cohérents（1955年掲載）は層を代数幾何学に導入した。これらのアイデアは直ちにフリードリヒ・ヒルツェブルッフ(Friedrich Hirzebruch)によって使われた。彼は1956年に位相幾何学の手法についての有名な本を記した。
1955年 - アレクサンドル・グロタンディークはカンサスのレクチャーにおいてアーベル圏および前層 (presheaf)を定義し、単射分解(injective resolution) を用いることで層コホモロジーを導来関手としてすべての位相空間に直接用いることを可能にした。
1956年 - オスカー・ザリスキがレポートAlgebraic sheaf theoryを発表。
1957年 - グロタンディークのTohoku論文はホモロジー代数を書き直した。彼はグロタンディーク双対 (en, 例えば場合によっては特異点代数多様体についてのセール双対）を証明した。
1957年 - 前進：グロタンディークは層理論を代数幾何学の必要性に応じて拡張した。これにはスキームとそれらの上の一般的な層、局所コホモロジー (en)、導来圏 (J.L. Verdierと共同研究)、およびグロタンディーク位相が含まれる。ホモロジー代数におけるグロタンディークによる影響力の大きい'six operations'も芽生えた。
1958年 - ロジェ・ゴドマン (en) の層理論に関する本が出版された。この頃、佐藤幹夫は佐藤の超函数を提唱した。これは層理論的な性質を持つことがわかった。

この時点で、層は代数的位相幾何学に制限されずに使われるようになり、数学の主流の分野となった。後に、層の圏における論理は直観論理であることが発見された（この観測は現在はクリプキ＝ジョイアル意味論 (en)としてよく言及されるが、おそらくは多くの著者の貢献による）。このことは、層理論の様相のいくつかはゴットフリート・ライプニッツにまでさかのぼることができることを示している。

参照項目

連接層
余層（英語版）(cosheaf)
ジャーブ（英語版）(Gerbe)
正則層（英語版）(Holomorphic sheaf)
スタック（英語版）(Stack)
スペクトルの層（英語版）(Sheaf of spectra)
空間の前層（英語版）(Presheaf of spaces)

参考文献

Bredon, Glen E. (1997), Sheaf theory, Graduate Texts in Mathematics, 170 (2nd ed.), Berlin, New York: Springer-Verlag, ISBN 978-0-387-94905-5, MR1481706 (oriented towards conventional topological applications)
Godement, Roger (1973), Topologie algébrique et théorie des faisceaux, Paris: Hermann, MR0345092
Grothendieck, Alexander (1957), “Sur quelques points d'algèbre homologique”, The Tohoku Mathematical Journal. Second Series 9: 119–221, doi:10.2748/tmj/1178244839, ISSN 0040-8735, MR0102537
Hirzebruch, Friedrich (1995), Topological methods in algebraic geometry, Classics in Mathematics, Berlin, New York: Springer-Verlag, ISBN 978-3-540-58663-0, MR1335917 (updated edition of a classic using enough sheaf theory to show its power)
Kashiwara, Masaki; Schapira, Pierre (1994), Sheaves on manifolds, Grundlehren der Mathematischen Wissenschaften [Fundamental Principles of Mathematical Sciences], 292, Berlin, New York: Springer-Verlag, ISBN 978-3-540-51861-7, MR1299726 (advanced techniques such as the derived category and vanishing cycles on the most reasonable spaces)
Mac Lane, Saunders; Moerdijk, Ieke (1994), Sheaves in Geometry and Logic: A First Introduction to Topos Theory, Universitext, Berlin, New York: Springer-Verlag, ISBN 978-0-387-97710-2, MR1300636 (category theory and toposes emphasised)
Martin, W. T.; Chern, S. S.; Zariski, Oscar (1956), “Scientific report on the Second Summer Institute, several complex variables”, Bulletin of the American Mathematical Society 62 (2): 79–141, doi:10.1090/S0002-9904-1956-10013-X, ISSN 0002-9904, MR0077995
Serre, Jean-Pierre (1955), “Faisceaux algébriques cohérents”, Annals of Mathematics. Second Series (The Annals of Mathematics, Vol. 61, No. 2) 61 (2): 197–278, doi:10.2307/1969915, ISSN 0003-486X, JSTOR 1969915, MR0068874 ^{Scholar search}
Swan, R. G. (1964), The Theory of Sheaves, University of Chicago Press (concise lecture notes)
Tennison, B. R. (1975), Sheaf theory, Cambridge University Press, MR0404390 (pedagogic treatment)

外部リンク

Sheaf - PlanetMath.org（英語）

^ sheaving, sheafification, あるいは, sheaf associated to the presheaf と呼ばれる。

[1] sheaving, sheafification, あるいは, sheaf associated to the presheaf と呼ばれる。

[1]