PC网站开发的意义公关公司是干嘛的

多输入多输出通道

• 彩色图片可能有 RGB 三个通道
• 转换为灰度会丢失信息
• 每个通道都有一个卷积核，结果是所有通道卷积结果的和

多个输入通道

• 输入 $\mathbf{X}$ : $c_i\times n_h\times n_w$
• 核 $\mathbf{W}$ : $c_i\times k_h\times k_w$
• 输出 $\mathbf{Y}$ : $m_h\times m_w$

$$\mathbf{Y}=\sum _{i=0}^{c_i}{\mathbf{X}}_{i,:,:}\star mathbf{W}_{i,:,:}$$

多个输出通道

• 无论有多少输入通道，到目前为止我们只用到单输出通道

• 我们可以有多个三维卷积核，每个核生成一个输出通道

• 输入 $\mathbf{X}$: $c_i\times n_h\times n_w$

• 核 $\mathbf{W}$: $c_o\times c_i\times k_h\times k_w$

• 输出 $\mathbf{Y}$: $c_o\times m_h\times m_w$

$${\mathbf{Y}}_{i,:,:}=\mathbf{X}\star {\mathbf{W}}_{i,:,:,:}\text{for }i=1,\dots ,c_o$$

多个输入通道和输出通道

• 每个输出通道可以认为是在识别特定模式
  

• 输入通道核识别并组合输入中的模式

1×1 卷积层

$k_h=k_w=1$ 是一个受欢迎的选择。不识别空间模式，只是相当于输入形状为 $n_h{n}_w\times c_i$,权重为 $c_o\times c_i$ 的全连接层。

卷积层的计算

• 输入 $\mathbf{X}$: $c_i\times n_h\times n_w$
• 核 $\mathbf{W}$: $c_o\times c_i\times k_h\times k_w$
• 偏差 $\mathbf{B}$: $c_o\times 1$
• 输出 $\mathbf{Y}$: $c_o\times m_h\times m_w$

$$\mathbf{Y}=\mathbf{X}\star \mathbf{W}+\mathbf{B}$$

• 计算复杂度（浮点运算数 FLOP）$O(c_i{c}_o{k}_h{k}_w{m}_h{m}_w)$

  • $c_i=c_o=100$
  • $k_h=k_w=5\Rightarrow 1\text{GFLOP}$
  • $m_h=m_w=64$

• 10 层，1M 样本，10 PFlops

  • CPU: 0.15 TF = 18h
  • GPU: 12 TF = 14min

总结

• 输出通道数是卷积层的超参数
• 每个输入通道有独立的二维卷积核，所有通道结果相加得到一个输出通道结果
• 每个输出通道有独立的三维卷积核

代码实现

实现一下多输入通道互相关运算并验证互相关运算的输出

import torch
from d2l import torch as d2l
# 这个导入的配置我还是使用了很多的方法才解决的，但是还是有些版本不匹配的情况在这里面但是还是不影响我运行下面的代码def corr2d_multi_in(X, K):# 先遍历“X”和“K”的第0个维度（通道维度），再把它们加在一起return sum(d2l.corr2d(x, k) for x, k in zip(X, K))# zip将输入张量x与内核张量k的对应通道配对X = torch.tensor([[[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]],[[1.0, 2.0, 3.0], [4.0, 5.0, 6.0], [7.0, 8.0, 9.0]]])
# 表示X的形状为2*3*3
K = torch.tensor([[[0.0, 1.0], [2.0, 3.0]], [[1.0, 2.0], [3.0, 4.0]]])
# 表示内核K的形状为2*2*2corr2d_multi_in(X, K) # 输出的形状为2*2，上面有图形进行解释# output : 
tensor([[ 56.,  72.],[104., 120.]])

计算多个通道的输出的互相关函数

def corr2d_multi_in_out(X, K):# 迭代“K”的第0个维度，每次都对输入“X”执行互相关运算。# 最后将所有结果都叠加在一起return torch.stack([corr2d_multi_in(X, k) for k in K], 0)K = torch.stack((K, K + 1, K + 2), 0)
K.shapecorr2d_multi_in_out(X, K)

下面验证一下 1*1 卷积等价于一个全连接

def corr2d_multi_in_out_1x1(X, K):c_i, h, w = X.shapec_o = K.shape[0]X = X.reshape((c_i, h * w)) # 将X拍成一个二维的矩阵K = K.reshape((c_o, c_i))# 全连接层中的矩阵乘法Y = torch.matmul(K, X)return Y.reshape((c_o, h, w)) #重新变回去X = torch.normal(0, 1, (3, 3, 3))
K = torch.normal(0, 1, (2, 3, 1, 1))Y1 = corr2d_multi_in_out_1x1(X, K)
Y2 = corr2d_multi_in_out(X, K)
assert float(torch.abs(Y1 - Y2).sum()) < 1e-6

QA 思考

Q1：怎么理解不识别空间模式？
A1：对于 1*1 卷积核来说只看了一个像素点，并没有看这个像素和边上像素的关系是啥。

后记

自己写了一点代码，主要是为了理解上述的操作：

import torch
from torch import nndef corr2d(X, K):"""手动实现二维互相关操作。X: 输入张量，形状为 (H, W)K: 卷积核，形状为 (kH, kW)返回: 互相关结果，形状为 (out_H, out_W)"""H, W = X.shapekH, kW = K.shape# 输出的高度和宽度out_H = H - kH + 1out_W = W - kW + 1# 初始化输出张量Y = torch.zeros((out_H, out_W))# 计算互相关for i in range(out_H):for j in range(out_W):Y[i, j] = (X[i:i + kH, j:j + kW] * K).sum()return Ydef corr2d_multi_in(X, K):"""多通道输入的二维互相关操作。X: 输入张量，形状为 (C, H, W)，其中 C 是通道数K: 卷积核，形状为 (C, kH, kW)返回: 互相关结果，形状为 (out_H, out_W)"""# 对每个通道分别计算互相关，并将结果相加return sum(corr2d(x, k) for x, k in zip(X, K))# 输入张量 X，形状为 (2, 3, 3)
X = torch.tensor([[[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]],[[1.0, 2.0, 3.0], [4.0, 5.0, 6.0], [7.0, 8.0, 9.0]]])# 卷积核 K，形状为 (2, 2, 2)
K = torch.tensor([[[0.0, 1.0], [2.0, 3.0]], [[1.0, 2.0], [3.0, 4.0]]])# 测试多通道互相关
result = corr2d_multi_in(X, K)
print(result)
print("======================================================================")# 多输出通道的互相关函数
def corr2d_multi_in_out(X, K):# 迭代“K”的第0个维度，每次都对输入“X”执行互相关运算。# 最后将所有结果都叠加在一起return torch.stack([corr2d_multi_in(X, k) for k in K], 0)# 通过将核张量`K`与`K+1`（`K`中每个元素加 1）和`K+2`连接起来，构造了一个具有 3 个输出通道的卷积核。
K = torch.stack((K, K + 1, K + 2), 0)
print(K.shape)print(corr2d_multi_in_out(X, K))print("======================================================================")# define 1*1 Conv
def corr2d_multi_in_out_1x1(X, K):# X：输入张量，形状为 (C_in, H, W)# K：卷积核张量，形状为 (C_out, C_in, 1, 1)c_i, h, w = X.shapec_o = K.shape[0]# 输入张量展平X = X.reshape((c_i, h * w))  # 将X拍成一个二维的矩阵# 卷积核展平K = K.reshape((c_o, c_i))# 全连接层中的矩阵乘法Y = torch.matmul(K, X)return Y.reshape((c_o, h, w))  # 重新变回去# (3, 3, 3)，表示 3 个通道，每个通道是一个 3x3 的矩阵
X = torch.normal(0, 1, (3, 3, 3))
#  (2, 3, 1, 1)，表示 2 个输出通道，每个通道对应一个 3x1x1 的卷积核
K = torch.normal(0, 1, (2, 3, 1, 1))Y1 = corr2d_multi_in_out_1x1(X, K)
Y2 = corr2d_multi_in_out(X, K)# 打印 Y1 和 Y2
print("Y1:")
print(Y1)
print("Y2:")
print(Y2)# 计算差异
diff = torch.abs(Y1 - Y2).sum()
print("Difference between Y1 and Y2:", diff.item())# 断言
assert diff < 1e-6