前提 入力するデータは同じだが、同時にいくつかの問題を解きたい(推論したい)場合がある これらを別の問題としてそれぞれのネットワークに分けるのではなく、1つのネットワークでやる方がむしろ効果が期待できる NNの途中の層までは共通である程度の層で分岐する...
正規化 一般に機械学習においては、前処理においてデータを扱いやすい(学習しやすい)形に整える事。 これをしないと、特徴ごとのスケールの差でレンジが大きいものがより影響を与えてしまうのでよくない。 0 ~ 1のスケールに全特徴量を揃えるのが一般的 標準化...
他の学習で使用したネットワークの上位の層(入力に近い層)を他の学習にも流用すること。 機械学習全体における概念だが、CNNにおいては特に有効である。 なぜCNNで有効か?...
SGD(確率的勾配降下法)の欠点を補う方法が色々と考案されている。 それらの内容を簡単にまとめるためのメモ。 SGD(確率的勾配降下法)とは ミニバッチごとにランダムな初期値をサンプリングし、勾配降下法を行う。...
ゼロから作るディープラーニングの中で、ニューラルネットワークをフレームワーク無しで実装し 根本的な理解を深めるというものがあります。 その内容を少しだけ改変し、自分なりに更に理解するために以下実装します。 参考 クラスで定義 Affine変換(入力X * 重みW +...
TerraformでECSサービスを作成し、 デプロイ方法にCodeDeployを用いたBlue/Greenデプロイメントを指定する場合、注意点がいくつかあるのでまとめます。 デプロイ方式をCodeDeployにするということ 1番の注意点です。...
What's ニューラルネットワークの各ニューロンには、重み(データの重要度的な)が伝達される。 その重みのパラメータを適切にしてやることで最終的な損失(損失関数によって求められる)を少なくすることができる。 勾配降下法はその適切なパラメータを探索するための方法の1つ...
ディープラーニングで用いられるニューラルネットワークという考え方、 アルゴリズムについての基礎知識をメモします。 What's ニューラルネットワーク ニューラルネットワークとは、人間の脳に模した人口ニューロンの集まり。...
今回は、AWSのECSをとりあえず使ってみたい!動かしてみたい!! という人に向けて「Hello World」する手順をまとめます。 なお、ECSには以下の2つのコンテナ起動パターンがあります。 EC2上でコンテナを立ち上げるパターン...
What's JupyterLabの自動補完のための拡張機能(jupyterlab-kite)が物凄く良いのでDockerで環境を作りました。 先に使用方法を記載しますので、良かったら使ってみてください。 // pull $ docker pull...