第1畳み込み層、プーリング層

W_conv1 = weight_variable([5, 5, 1, 32])
b_conv1 = bias_variable([32])
h_conv1 = tf.nn.relu(conv2d(x_image, W_conv1) + b_conv1)

第1畳み込み層では、$5\times 5$サイズのフィルタを適用して畳み込み処理を行い、入力が1チャンネルだったものから、32チャンネルの特徴を抽出している。ここでReLU関数を適用することで、コンピュータに特徴として抽出されない部分、すなわち0及び負の値を全て0にして出力する。

h_pool1 = max_pool_2x2(h_conv1)

第1プーリング層では、第1畳み込み層から得られた出力に対し、5.3.4で定義した関数を用いてプーリングを行う。 ここでReLU関数によって0となった特徴として抽出されない部分が削減され、第1プーリングを行った時点では、$14\times 14$サイズ、32チャンネルのデータとなっている。