首页 编写策略 数据平台 因子研究 我的交易 发现策略 量化学院 知识库 免费注册
历史文档

【历史文档】算子样例-全连接层(Dense)

由qxiao创建，最终由small_q 被浏览 198 用户

更新

本文内容对应旧版平台与旧版资源，其内容不再适合最新版平台，请查看新版平台的使用说明

新版量化开发IDE（AIStudio）：

https://bigquant.com/wiki/doc/aistudio-aiide-NzAjgKapzW

新版模版策略：

https://bigquant.com/wiki/doc/demos-ecdRvuM1TU

新版数据平台：

https://bigquant.com/wiki/doc/dai-PLSbc1SbZX

新版表达式算子：

https://bigquant.com/wiki/doc/dai-sql-Rceb2JQBdS

新版因子平台：

https://bigquant.com/wiki/doc/bigalpha-EOVmVtJMS5

\

使用场景

常用的深度学习模型层，在这一层中，所有的输入和输出都连接到所有神经元。

输入端

  • 输入：连接上一层的输出。必填。

输入参数

  • 输出空间维度：输出空间的维度，正整数。

  • 激活函数：使用的激活函数。

  • 自定义激活函数：自定义的激活函数，示例：

    def bigquant_run(x): 
    import tensorflow as tf 
    return tf.atan(x)

  • use_bias：是否使用偏置项。默认True。

  • 权值初始化方法：用于初始化权值。默认glorot_uniform。

  • 自定义权值初始化方法：自定义的权值初始化方法，示例：

    def bigquant_run(shape, dtype=None): 
    import tensorflow.keras.backend as K 
    return K.random_normal(shape, dtype=dtype)

  • 偏置向量初始化方法：偏置向量的初始化方法。默认Zeros。

  • 自定义偏置向量初始化方法：自定义的偏置向量初始化方法。示例：

    def bigquant_run(shape, dtype=None): 
    import tensorflow.keras.backend as K 
    return K.random_normal(shape, dtype=dtype)

  • 权值正则项：如果选择使用L1L2，下面可以配置L1，L2的参数。

  • 权值正则项L1：如果使用L1L2正则化，此参数有效。默认0。

  • 权值正则项L2：如果使用L1L2正则化，此参数有效。默认0。

  • 自定义权值正则项：自定义权值正则项，示例：

    def bigquant_run(weight_matrix): 
    import tensorflow.keras.backend as K 
    return 0.01 * K.sum(K.abs(weight_matrix))

  • 偏置向量正则项：如果使用L1L2，下面可以配置L1，L2的参数。

  • 偏置向量正则项L1：如果使用L1L2正则化，此参数有效。默认0。

  • 偏置向量正则项L2：如果使用L1L2正则化，此参数有效。默认0。

  • 自定义偏置向量正则项：自定义的偏置向量正则项，示例：

def bigquant_run(weight_matrix): 
    import tensorflow.keras.backend as K 
    return 0.01 * K.sum(K.abs(weight_matrix))
  • 输出正则项：如果使用L1L2，下面可以配置L1，L2的参数。
  • 输出正则项L1：如果使用L1L2正则化，此参数有效。默认0。
  • 输出正则项L2：如果使用L1L2正则化，此参数有效。默认0。
  • 自定义输出正则项：自定义的输出正则项，示例：
def bigquant_run(weight_matrix): 
    import tensorflow.keras.backend as K 
    return 0.01 * K.sum(K.abs(weight_matrix))
  • 权值约束项：kernel_constraint，在优化过程中为网络的参数施加约束。
  • 自定义权值约束项：对权值进行自定义约束，示例：
def bigquant_run(w): 
    from keras.constraints import max_norm 
    return max_norm(2.)(w)
  • 偏置向量约束项：bias_constraint，对偏置向量进行约束。
  • 自定义偏置向量约束项：对偏置向量进行自定义约束，示例：
def bigquant_run(w): 
    from keras.constraints import max_norm 
    return max_norm(2.)(w)
  • 名字：层的名字，在模型里不能有两个层同名。如果不指定，将自动分配名字。

输出端

  • 输出：输出给其他层或者训练模型。

运行结果

  • 通过模块id.data查看生成的全连接层。 \n {w:100}

使用样例

https://bigquant.com/experimentshare/e9c803cca8f744dca0606d1e4edd5850

\

{link}