1. 共軛梯度編程（matlab）
%-------共軛梯度法解線性方程組-----------
%---Conjugate Gradient method-------
%參考教材《數(shù)值分析》李乃成&梅立泉，科學(xué)出版社2011
clear;clc;
% A=[10,-1,-2;-1,10,-2;-1,-1,5];
% b=[72,83,42]';
A=[2 0 1;0 1 0;1 0 2];
b=[3 1 3]';
N=length(b); %解向量的維數(shù)
fprintf('庫(kù)函數(shù)計(jì)算結(jié)果：');
x=inv(A)*b %庫(kù)函數(shù)計(jì)算結(jié)果
x=zeros(N,1); %迭代近似向量
eps=0.0000001; %精度
r=b-A*x;d=r;
for k=0:N-1
fprintf('第%d次迭代：',k+1);
a=(norm(r)^2)/(d'*A*d)
x=x+a*d
rr=b-A*x; %rr=r(k+1)
if (norm(rr)<=eps)||(k==N-1)
break;
end
B=(norm(rr)^2)/(norm(r)^2);
d=rr+B*d;
r=rr;
end
2. CNN卷積神經(jīng)網(wǎng)絡(luò)
參考原文：https://cs231n.github.io/convolutional-networks/
原文翻譯：https://zhuanlan.zhihu.com/p/22038289?refer=intelligentunit
2.1 主要參數(shù)及含義
超參數(shù)
① 深度D（depth）：
它和使用的濾波器的數(shù)量一致，而每個(gè)濾波器在輸入數(shù)據(jù)中尋找一些不同的東西。也叫做通道。
② 步長(zhǎng)S（stride）：
在滑動(dòng)濾波器的時(shí)候，必須指定步長(zhǎng)。當(dāng)步長(zhǎng)為1，濾波器每次移動(dòng)1個(gè)像素。當(dāng)步長(zhǎng)為2（或者不常用的3，或者更多，這些在實(shí)際中很少使用），濾波器滑動(dòng)時(shí)每次移動(dòng)2個(gè)像素。這個(gè)操作會(huì)讓輸出數(shù)據(jù)體在空間上變小。
③ 零填充P（zero-padding）：
零填充有一個(gè)良好性質(zhì)，即可以控制輸出數(shù)據(jù)體的空間尺寸（最常用的是用來(lái)保持輸入數(shù)據(jù)體在空間上的尺寸，這樣輸入和輸出的寬高都相等）。
④ 濾波器的數(shù)量K
⑤ 濾波器的空間尺寸F
除了上面的超參數(shù)外還有：
輸入尺寸W；
輸入圖像高度H等；
計(jì)算添加了多少神經(jīng)元的公式為：
（You can convince yourself that the correct formula for calculating how many neurons “fit” is given by ）
(W?F+2P)/S+1
......
2.2 主要結(jié)構(gòu)
可參考https://blog.csdn.net/yjl9122/article/details/70198357
① 卷積層
卷積層是卷積網(wǎng)絡(luò)的核心組成部分，它完成大部分計(jì)算繁重的工作。
② 池化層
對(duì)輸入的特征圖進(jìn)行壓縮，一方面使特征圖變小，簡(jiǎn)化網(wǎng)絡(luò)計(jì)算復(fù)雜度；一方面進(jìn)行特征壓縮，提取主要特征
③ 全連接層（fully connected layers，F(xiàn)C）
在整個(gè)卷積神經(jīng)網(wǎng)絡(luò)中起到“分類(lèi)器”的作用。如果說(shuō)卷積層、池化層和激活函數(shù)層等操作是將原始數(shù)據(jù)映射到隱層特征空間的話，全連接層則起到將學(xué)到的“分布式特征表示”映射到樣本標(biāo)記空間的作用。
④ 激活函數(shù)
激活函數(shù)是用來(lái)加入非線性因素的，因?yàn)榫€性模型的表達(dá)力不夠。
⑤ 輸入層
3. tensorFlow架構(gòu)
參考：http://m.itdecent.cn/p/a5574ebcdeab
4. python解釋
（要仔細(xì)看文章）
參考翻譯文章：https://zhuanlan.zhihu.com/p/20878530?refer=intelligentunit
