池化層定義在tensorflow/python/layers/pooling.py.

有最大值池化和均值池化。

1、tf.layers.max_pooling2d

max_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

1. inputs: 進(jìn)行池化的數(shù)據(jù)。
2. pool_size: 池化的核大小(pool_height, pool_width)，如[3，3]. 如果長(zhǎng)寬相等，也可以直接設(shè)置為一個(gè)數(shù)，如pool_size=3.
3. strides: 池化的滑動(dòng)步長(zhǎng)?？梢栽O(shè)置為[1,1]這樣的兩個(gè)整數(shù). 也可以直接設(shè)置為一個(gè)數(shù)，如strides=2
4. padding: 邊緣填充，'same' 和'valid‘選其一。默認(rèn)為valid
5. data_format: 輸入數(shù)據(jù)格式，默認(rèn)為channels_last ，即 (batch, height, width, channels),也可以設(shè)置為channels_first 對(duì)應(yīng) (batch, channels, height, width).
6. name: 層的名字。

例：

pool1=tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)

一般是放在卷積層之后，如：

conv=tf.layers.conv2d(
   inputs=x,
   filters=32,
   kernel_size=[5, 5],
   padding="same",
   activation=tf.nn.relu)
pool=tf.layers.max_pooling2d(inputs=conv, pool_size=[2, 2], strides=2)

2.tf.layers.average_pooling2d

average_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

參數(shù)和前面的最大值池化一樣。

全連接dense層定義在 tensorflow/python/layers/core.py.

3、tf.layers.dense

dense(
  inputs,
  units,
  activation=None,
  use_bias=True,
  kernel_initializer=None,
  bias_initializer=tf.zeros_initializer(),
  kernel_regularizer=None,
  bias_regularizer=None,
  activity_regularizer=None,
  trainable=True,
  name=None,
  reuse=None
)

1. inputs: 輸入數(shù)據(jù)，2維tensor.
2. units: 該層的神經(jīng)單元結(jié)點(diǎn)數(shù)。
3. activation: 激活函數(shù).
4. use_bias: Boolean型，是否使用偏置項(xiàng).
5. kernel_initializer: 卷積核的初始化器.
6. bias_initializer: 偏置項(xiàng)的初始化器，默認(rèn)初始化為0.
7. kernel_regularizer: 卷積核化的正則化，可選.
8. bias_regularizer: 偏置項(xiàng)的正則化，可選.
9. activity_regularizer: 輸出的正則化函數(shù).
10. trainable: Boolean型，表明該層的參數(shù)是否參與訓(xùn)練。如果為真則變量加入到圖集合中 GraphKeys.TRAINABLE_VARIABLES (see tf.Variable).
11. name: 層的名字.
12. reuse: Boolean型, 是否重復(fù)使用參數(shù).

全連接層執(zhí)行操作 outputs = activation(inputs.kernel + bias)

如果執(zhí)行結(jié)果不想進(jìn)行激活操作，則設(shè)置activation=None。

例：

#全連接層
dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu)
dense2= tf.layers.dense(inputs=dense1, units=512, activation=tf.nn.relu)
logits= tf.layers.dense(inputs=dense2, units=10, activation=None)

也可以對(duì)全連接層的參數(shù)進(jìn)行正則化約束：

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評(píng)論