電波系美少女バーチャルインターネッツアイドル文野純がメッタメタ遊んでメッタメタ考えて勉強するゲヲログ姉妹サイト...

メニュー⇒ ソフトウェア 思想評論 数学 書評 歴史 統計 雑感 馬鹿企画

ネットで勉強会「機械学習」とは何か?【その3 ニューラルネットワークの概念説明】

ネットで勉強会「機械学習」とは何か?【その3 ニューラルネットワークの概念説明】

⇓引き続き勉強会を進める…

まず、階層(layer)というフィルターが多層になっていることを想定してほしい。階層は与えられたデータから理想的なデータを表現するための多層構成のうちのひとつである。階層の種類には様々な種別があるが、ここではまず、そのレイヤーコンパイルの概念を忘れないでほしい。

・損失関数…目標と実際のデータ誤差を図るための関数

・最適化器…ニューラルネットワークのデータ自己更新のための道具

よく聞く学習とは、最小の損失をもたらすための組み合わせ発見のことである。訓練と同等のものと見て良い。これを繰り返すことでネットワークは成り立つ。

※データテンソルの実際例

既に述べたが、テンソルはベクトルと同じように軸も示すが、それと同時に次元も示すことに注意されたし。5Dテンソルは5Dベクトルと同じではない。5Dテンソルは5つの軸を持ち(5軸を持つのが5Dベクトル)、それに加えて、それぞれの軸に対して次元をも持つ。これを基にして実際の事例を考えてみたい。

ベクトル…2Dテンソル

時系列データ…3Dテンソル

画像データ…4Dテンソル

動画…5Dテンソル

となる。抽象的だが実際符号のように考えてみるとこのテンソル次元で各種のデータに合致している。

そのうえで、テンソル演算について考えてみよう。階層による変換はテンソル演算と同意である。つまり…2Dテンソルを別の2Dテンソルに変換したり、これを複雑化したりする処理である。テンソル演算を大別すると 1)加算もしくはrelu演算 2)ドット積 3)形状変更、となる。この幾何的な解釈の連続(テンソル演算の連続)がニューラルネットワークの基礎である。これは「写像」の概念に近しい。

そして、テンソル変換(テンソル演算)後、わかりやすい形に、元に戻すため machine learning が必要とされるのである。ひとつひとつ、形を取り戻すために機械学習=machine learningがあるのだ。それを層的に重ね合わせれば、複雑な事象も簡単なモデルに戻るわけだ。ネットワークの実際の計算については微分の概念を使う。

よって、ニューラルネットワークにおいて微分は重要な数的処理のための基礎概念となる。

シェアする

  • このエントリーをはてなブックマークに追加

フォローする