kleinblog

マルチタスク学習

前提 入力するデータは同じだが、同時にいくつかの問題を解きたい(推論したい)場合がある これらを別の問題としてそれぞれのネットワークに分けるのではなく、1つのネットワークでやる方がむしろ効果が期待できる NNの途中の層までは共通である程度の層で分岐する...

ディープラーニングの正規化と正則化

正規化 一般に機械学習においては、前処理においてデータを扱いやすい(学習しやすい)形に整える事。 これをしないと、特徴ごとのスケールの差でレンジが大きいものがより影響を与えてしまうのでよくない。 0 ~ 1のスケールに全特徴量を揃えるのが一般的 標準化...

転移学習とは

他の学習で使用したネットワークの上位の層(入力に近い層)を他の学習にも流用すること。 機械学習全体における概念だが、CNNにおいては特に有効である。 なぜCNNで有効か?...

SGD(確率的勾配降下法)の改善

SGD(確率的勾配降下法)の欠点を補う方法が色々と考案されている。 それらの内容を簡単にまとめるためのメモ。 SGD(確率的勾配降下法)とは ミニバッチごとにランダムな初期値をサンプリングし、勾配降下法を行う。...

ニューラルネットワークをフレームワーク無しで試す。

ゼロから作るディープラーニングの中で、ニューラルネットワークをフレームワーク無しで実装し 根本的な理解を深めるというものがあります。 その内容を少しだけ改変し、自分なりに更に理解するために以下実装します。 参考 クラスで定義 Affine変換(入力X * 重みW +...

TerraformでECSとCodeDeployのBlue/Greenデプロイメントを使用する時の注意点

TerraformでECSサービスを作成し、 デプロイ方法にCodeDeployを用いたBlue/Greenデプロイメントを指定する場合、注意点がいくつかあるのでまとめます。 デプロイ方式をCodeDeployにするということ 1番の注意点です。...

勾配降下法とは

What's ニューラルネットワークの各ニューロンには、重み(データの重要度的な)が伝達される。 その重みのパラメータを適切にしてやることで最終的な損失(損失関数によって求められる)を少なくすることができる。 勾配降下法はその適切なパラメータを探索するための方法の1つ...

ニューラルネットワークに関する基礎知識

ディープラーニングで用いられるニューラルネットワークという考え方、 アルゴリズムについての基礎知識をメモします。 What's ニューラルネットワーク ニューラルネットワークとは、人間の脳に模した人口ニューロンの集まり。...

【AWS】ECS(FARGATE) + ECRでNginxのコンテナからHello Worldする手順

今回は、AWSのECSをとりあえず使ってみたい!動かしてみたい!! という人に向けて「Hello World」する手順をまとめます。 なお、ECSには以下の2つのコンテナ起動パターンがあります。 EC2上でコンテナを立ち上げるパターン...

JupyterLabの自動補完(jupyterlab-kite)が最高なのでDockerで環境作った

What's JupyterLabの自動補完のための拡張機能(jupyterlab-kite)が物凄く良いのでDockerで環境を作りました。 先に使用方法を記載しますので、良かったら使ってみてください。 // pull $ docker pull...


Page 4 / 8