(9)自研框架的Weight关系图
运行入口程序Create_AI_Framework_In5Classes(Class1)的Neuron_Network_Entry.py代码,运行结果如下:在hidden_layers= [4,2]时, 运行结果的第一行中的第一个“+1”表示输入层的Bias节点名字,V1表示输入层的第一个输入节点,V2表示输入层的第2个输入节点;第二行“Hiddenlayer creation”的1是第1层隐藏层Bias名字,之后是第一个隐藏层的4个神经元节点的名字。第三行“Hidden layer creation”的2是第2层隐藏层Bias名字,之后是第2个隐藏层的2个神经元节点的名字。第四行打印输出层Output layer的节点名字Output;第4行至第15行的记录打印了节点是否为Bias的节点;第16行至48行的记录打印了层次之间节点的权重信息。
+1 V1 V2
以上第16行至48行的记录打印的层次之间的权重连接关系如图所示,其中第0个节点、第3个节点、第8个节点都是Bias节点,也进行了Weight的计算,但参考TensorFlow的可视化图,Weight的连接不应包括Bias的节点,因此,接下来的工作需将Bias从Weight连接关系中去掉。
图 1- 23 weight图(Weight中需去除Bias)
NetworkConnection.py代码中构成Weight的前提条件是有前后相邻的Layer关系。 是不是就可以创建Weight了?不是的,因为我们创建的节点中还有Bias,这里要不要Bias?Weight是发生在神经元之间的,跟Bias没关系,比较的节点Node之间不能是Bias成员,所以要去掉Bias的节点。在NetworkConnection.py代码判断一下节点nodes[k]的get_is_bias_unit()如果等于True,去掉Bias节点,节点nodes[k]的get_is_bias_unit()如果等于False,说明是神经元节点;同样的,判断一下节点nodes[j]的get_is_bias_unit()如果等于True,去掉Bias节点,节点nodes[j]的get_is_bias_unit()如果等于False,说明是神经元节点。下一步才是创建Weight节点,从nodes[j]出发到nodes[k]之间创建Weight,相当于TensorFlow的可视化图中,从输入层的x1节点到第一个隐藏层的第一个节点的Weight。
因此,在Create_AI_Framework_In5Classes(Class1)版本的NetworkConnection.py 的基础上进行微调:
- 在NetworkConnection.py 的33行代码之后新增代码,判断nodes[k]、nodes[j]节点是否为Bias节点。
……
再次运行入口程序Create_AI_Framework_In5Classes(Class1)的Neuron_Network_Entry.py代码,运行结果如下:这里是hidden_layers = [4,2] 为两个Hidden layer,第一个Hidden Layer有4个Neuron,第二个Hidden Layer有2个Neuron。整个神经元网络有12个节点,其中ID为0、3、8的Node为Bias节点,ID为1,2的是输入层,分别关联到 4、5、6、7节点,然后4、5、6、7节点分别关联到下一个隐藏层的节点9,10节点;9,10节点最后输出到输出层节点ID 11 ,打印出各权重的结果。此时的第16行到第33行记录中权重连接已经不包括Bias节点的信息:
+1 V1 V2
代码调整以后,第16行到第33行记录的层次之间的权重连接关系如图所示,此时,我们自研的神经网络Weight关系图和TensorFlow的可视化图是类似的。
欢迎关注微信公众号:“从零起步学习人工智能”。
喜欢我们发布的信息,就在右下角点一下“在看”吧!欢迎转发分享!