スポンサーリンク

「ゼロから作るDeepLearning」を写経してみる(2)「2章パーセプトロン」

Deep Learningを学んでみたいので、以下の本を写経している。


ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 単行本(ソフトカバー) – 2016/9/24
斎藤 康毅  (著)
3672円

前回は、1章を写経した。少し、Pythonについて分かったような気がした。

http://twosquirrel.mints.ne.jp/?p=17015

今回は、2章 パーセプトロン を写経してみる。

(環境)
Windows8.1
Python 3.5.2
Anaconda 4.1.1 (64-bit)
Jupyter Notebook (ipython) 4.2.0

(1)パーセプトロン(perceptron)という入出力を備えたアルゴリズムは、1957年に、ローゼンブラッド(アメリカ)によって考案された。

パーセプトロンの信号は、1か0の2値。

入力信号x1, x2
出力信号y
重みw1, w2
閾値θ

があったとき、

(2)単純な論理回路

ANDゲート

NANDゲート

上の方の式で、b = – θとすると、

bをバイアス、w1, w2を重みと呼ぶ。

重みとバイアスによる実装

AND, NAND, ORは同じ構造のパーセプトロンであり、違いは重みパラメータの値のみ。

●パーセプトロンの限界

XORゲート:排他的論理和

線形と非線形

●多層パーセプトロン

NANDゲートの組み合わせだけで、コンピュータが行う処理を再現することができるらしい。。。