#?1.?當為array的時候，默認d*f就是對應元素的乘積，multiply也是對應元素的乘積，dot（df）會轉化為矩陣的乘積，?dot點乘意味著相加，而multiply只是對應元素相乘，不相加
#?2.?當為mat的時候，默認d*f就是矩陣的乘積，multiply轉化為對應元素的乘積，dot（df）為矩陣的乘積

import?numpy?as?np

#?rule激活器
class?ReluActivator（object）:
????def?forward（self?weighted_input）:????#?前向計算，計算輸出
????????return?max（0?weighted_input.any（）/weighted_input.max（））

????def?backward（self?output）:??#?后向計算，計算導數
????????return?1?if?output?>?0?else?0

#?IdentityActivator激活器.f（x）=x
class?IdentityActivator（object）:
????def?forward（self?weighted_input）:???#?前向計算，計算輸出
????????return?weighted_input

????def?backward（self?output）:???#?后向計算，計算導數
????????return?1

#Sigmoid激活器
class?SigmoidActivator（object）:
????def?forward（self?weighted_input）:
????????return?1.0?/?（1.0?+?np.exp（-weighted_input））

????def?backward（self?output）:
????????#?return?output?*?（1?-?output）
????????return?np.multiply（output?（1?-?output））??#?對應元素相乘

#?tanh激活器
class?TanhActivator（object）:
????def?forward（self?weighted_input）:
????????return?2.0?/?（1.0?+?np.exp（-2?*?weighted_input））?-?1.0

????def?backward（self?output）:
????????return?1?-?output?*?output

#?#?softmax激活器
#?class?SoftmaxActivator（object）:
#?????def?forward（self?weighted_input）:??#?前向計算，計算輸出
#?????????return?max（0?weighted_input）
#
#?????def?backward（self?output）:??#?后向計算，計算導數
#?????????return?1?if?output?>?0?else?0

?屬性????????????大小?????日期????時間???名稱
-----------?---------??----------?-----??----
?????目錄???????????0??2019-12-02?13:09??CNN\
?????文件????????1736??2019-12-08?18:20??CNN\Activators.py
?????文件???????20563??2019-12-18?12:44??CNN\CNN.py
?????文件????????9998??2019-12-18?15:55??CNN\cnn_try.py
?????文件????????3478??2019-12-17?13:05??CNN\DNN.py
?????文件????????5383??2019-12-03?15:54??CNN\MNIST.py
?????文件?????7840016??2019-12-02?12:39??CNN\t10k-images.idx3-ubyte
?????文件???????10008??2019-12-02?12:48??CNN\t10k-labels.idx1-ubyte
?????文件????47040016??2019-12-02?12:54??CNN\train-images.idx3-ubyte
?????文件???????60008??2019-12-02?12:48??CNN\train-labels.idx1-ubyte
?????目錄???????????0??2019-12-18?12:44??CNN\__pycache__\
?????文件????????1938??2019-12-08?18:20??CNN\__pycache__\Activators.cpython-37.pyc
?????文件????????8286??2019-12-18?12:44??CNN\__pycache__\CNN.cpython-37.pyc
?????文件????????1507??2019-12-17?13:05??CNN\__pycache__\DNN.cpython-37.pyc
?????文件????????3157??2019-12-03?18:09??CNN\__pycache__\MNIST.cpython-37.pyc