層Layer
同じ入力を受け取るニューロンをまとめた計算段階
- 層は同じ入力を受け取るニューロンをひとまとめにした計算の段階です。ニューラルネットワークはこの段階を何重にも積んで作られます。
- 一つの層の出力はそのまま次の層の入力になります。情報は前から後ろへ一方向に流れます。
- 層は大きく三つに分かれます。データが入ってくる入力層、答えが出る出力層、その間で実際の計算を担う隠れ層です。
- 手前の層は線や色のような単純なものを捉え、奥の層へ行くほどいくつもの単純なものを組み合わせた大きな特徴を捉えます。
- 層を深く重ねるほど複雑なものを扱えますが、計算が重くなり学習も難しくなります。 深さはただではありません。
目次
1たとえで理解する
会社で備品を買うには、稟議書一枚が何人もの手を通ります。担当者がまず見積もりと数量を整理し、課長がうちの課に本当に必要か確かめ、部長が他の課の予算と重ならないか確認し、最後に社長が会社全体の事情に照らして決定を下します。
段階ごとに見る目が違います。担当者は数字や項目のような目の前の細部を見て、後ろへ行くほどより広い絵を見ます。社長が部長を飛び越して見積書の項目を一つひとつ調べることはありません。前の段階が整理してくれた結果だけを受け取り、その上で判断します。
こうして並んだ決裁の段階の一つひとつが層です。一段階の中に何人もが一緒に確認するように、一つの層の中にもニューロンが何個も並んで立っています。段階を増やせばより念入りになりますが、決裁が終わるまでに時間がもっとかかるのも同じです。
2くわしく
一つの層はニューロンを並べた列です
一つの層の中のニューロンはみな同じ入力を受け取ります。ところがニューロンごとに付いている重みが違うので、同じ値を見ても、それぞれ違うものに反応します。あるニューロンは特定の向きの線に大きく反応し、隣のニューロンは明るさの変化に反応するといった具合です。
一つの層にニューロンがいくつ入っているかを、その層の幅と呼びます。幅が広ければ一段階で気にかけられる観点が増え、狭ければ情報をそれだけ絞って渡すことになります。奥へ行くほど幅を狭めて結論を集める構造がよく使われます。
情報は前から後ろへ一方向に流れます
層の間で値がやり取りされる方式は単純です。前の層のニューロンが出した出力値が一列にまとめられて次の層のニューロン全員に渡され、次の層はその値に自分の重みを掛けてまた計算します。この過程が最後の層まで続くと答えが一つ出ます。
途中の層を飛び越すことは基本の構造にはありません。前の層が見落とした情報は後ろの層も見ることができません。決裁の段階で担当者が見落とした項目を社長が知る術がないのと同じです。だから手前の層が何を捉えるかが全体の性能を大きく左右します。
層ごとに見るものが変わっていきます
画像を扱うモデルを見ると、層が何を捉えているかを目で確かめられます。最初の層は明るさが急に変わる場所に反応します。短い線分や輪郭がこれに当たります。次の層はその線分が集まってできた丸や格子模様に反応します。
さらに奥へ行くと車輪のような塊、窓のような塊に反応し、最後あたりでは「車らしさ」や「猫らしさ」に反応します。誰もこの役割を各層に指定していません。学習を重ねるうちに、単純なものから順に積み上げる方式が自然と定着したのです。
深く積むと得るものと代償
層を深く積むと単純な断片を何度も組み合わせられるので、はるかに複雑な規則も表現できます。ディープラーニングのディープが、まさにこの深さを指しています。
代償もはっきりしています。層が増えると計算量とメモリがその分増え、答えが出るまでの時間も長くなります。学習信号が後ろから前へ送り返される過程で信号がだんだん弱まり、手前の層がほとんど学べなくなることも起こります。だから前の層の値を後ろへそのままつなぐ近道を置いたり、層ごとに値の大きさをそろえる仕組みを一緒に使ったりします。
層の種類は一つではありません
ここまで説明したのは、すべてのニューロンが互いにつながった最も基本的な層です。実際のモデルには用途の違う層も一緒に入っています。画像の中の小さな断片を調べる層、値の大きさをそろえる層、わざと一部のつながりを休ませて過学習を防ぐ層などです。
種類が違っても規則は同じです。決まった入力を受け取り決まった出力を出す一段階だという点です。モデル構造を紹介する図で箱が上下に並んで描かれていたら、その箱の一つひとつが層だと見てよいでしょう。
3もう少し正確に
層は物理的な部品ではなく、計算をひとまとめにして呼ぶ名前です。一つの層の計算は入力値の束に重みの表を掛けバイアス項を足したあと活性化関数を適用するもので、全体が一回の行列の掛け算で処理されます。ニューロンを一つずつ順番に計算しないので、層単位でまとめるほうがグラフィックカードにずっと有利です。
決裁のたとえがずれる点もあります。人の決裁は前の段階の結果を差し戻すことができますが、基本のニューラルネットワークでは値は戻りません。戻るのは値ではなく、学習のときの誤差信号です。また決裁は人が段階を決めますが、層の中の各ニューロンが何を担当するかは誰も決めておらず、学習の過程で自然に分かれます。
層の数え方も文書によって違います。入力層を層数に入れない場合が多く、値の大きさをそろえる仕組みを別の層として数えるかどうかも慣習によって分かれます。層の数だけで二つのモデルをそのまま比べるのは難しいです。
4やってみる
5よくある誤解
層が深いほど常に性能が良くなると思われがちですが、実際にはある線を超えると学習が不安定になり、データが少ないときはかえって悪くなります。
層一つがニューロン一つだと思われがちですが、実際には一つの層の中に数百から数千のニューロンが並んで入っています。
各層の役割を人が決めていると思われがちですが、実際には層が何を捉えるかは学習の過程で自然に分かれます。
7ひとこと要約
つまり層は同じ入力を受け取るニューロンをまとめた計算の段階で、この段階を何重にも積むことで単純な特徴から複雑な判断までを順に作り出します。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新2026-09-02