推出 TensorFlow 图神经网络 (GNNs)
发布人：Sibon Li、Jan Pfeifer、Bryan Perozzi 和 Douglas Yarrington
日前，我们很高兴发布了 TensorFlow 图神经网络 (Graph Neural Networks, GNNs)，此库可以帮助开发者利用 TensorFlow 轻松处理图结构化数据。我们已在 Google 的多个生产环境中使用了该库的早期版本（例如，垃圾邮件和异常检测、数据流量估计、YouTube 内容标签），并作为可扩容的图挖掘管道的一个组成部分。特别是，鉴于 Google 的数据类型繁多，我们的库在设计时就考虑到了异构图。发布此库的初衷是为了鼓励与业界研究人员的合作。
TensorFlow 图神经网络
https://github.com/tensorflow/gnn
为何使用 GNNs？
在现实世界和我们的工程系统中，“图”无处不在。一组物体、地点或人以及它们之间的联系通常都可以用图来表述。通常情况下，我们在机器学习问题中看到的数据是结构化或关系化的，因此也可以用图来表述。虽然关于 GNNs 的基础研究可能只有几十年的历史，但当代 GNNs 最近取得的功能进展已经帮助推动了多个领域的进步，其中包括数据流量预测、谣言和假新闻检测、疾病传播建模、物理学模拟和理解分子有气味的原因等。
数据流量预测
https://deepmind.com/blog/article/traffic-prediction-with-advanced-graph-neural-networks
谣言和假新闻检测
https://arxiv.org/abs/2108.03548
疾病传播建模
https://arxiv.org/abs/2007.03113
物理学模拟
http://proceedings.mlr.press/v80/sanchez-gonzalez18a/sanchez-gonzalez18a.pdf
理解分子有气味的原因
https://arxiv.org/abs/1910.10685
图可以对多种不同类型数据之间的关系进行建模，
包括网页（左）、社交关系（中）或分子（右）等
图代表了一组实体（节点或顶点）之间的关系（边）。我们可以通过描述每个节点、边或整个图的特征，从而将信息存储在图的每一块中。此外，我们还可以赋予边方向性，来描述信息或数据流，等等。
若这些图有多个特征，则可以用 GNNs 来解决这类问题。通过图层级的研究，我们尝试预测整个图的特征。我们可以识别某些“形状”的存在，如图中的圆圈，可能代表亚分子，也可能代表密切的社会关系。GNNs 可以用于节点级的任务，对图的节点进行分类，并预测图中的分区和相似性，类似于图像分类或分割。最后，我们可以在边层级上使用 GNNs 来发现实体之间的联系，或许可以使用 GNNs 来“修剪”边，以确定场景中对象的状态。
结构
TF-GNN 提供了基本模块，以便在 TensorFlow 中实现 GNN 模型。除了建模 API，我们的库还针对处理图数据的困难任务提供了大量的工具：基于 Tensor 的图数据结构、数据处理管道，以及一些供用户快速上手的示例模型。
组成工作流的各种 TF-GNN 组件
TF-GNN库的初始版本包含一些实用程序和功能，初学者和有经验的用户都能使用，其中包括：
TF-GNN 库
https://github.com/tensorflow/gnn
高阶 Keras 式 API，用于创建 GNN 模型，可以轻松地与其他类型的模型组合。GNNs 经常与排名、深度检索（双编码器）结合使用或与其他类型的模型（图像、文本等）混合使用。
用于异构图的 GNN API。我们在 Google 和现实世界中处理的许多图问题都包含不同类型的节点和边。因此，我们选择提供一种简单的方法来对此建模。
定义明确的架构，用于声明图的拓扑，以及验证架构的工具。此架构描述了其训练数据的形状，并用于指导其他工具。
GraphTensor 复合张量类型，它持有图数据，可以分批处理，还有图操作例程可用。
关于 GraphTensor 结构的操作库：
对节点和边的各种有效的广播和池化运算，以及相关工具。
标准并入的卷积库，ML 工程师/研究人员可以轻松地对其进行扩展。
高阶 API，帮助产品工程师快速构建 GNN 模型，而不必担心其细节问题。
磁盘上的图形训练数据的编码，以及用来将该数据解析为数据结构的库，您的模型可以从该库中提取各种特征。
示例用法
在下面的例子中，我们使用 TF-GNN Keras API 构建一个模型，根据用户观看的内容和喜欢的类型向其推荐电影。
我们使用 ConvGNNBuilder 方法来指定边类型和节点配置，即对边使用 WeightedSumConvolution（定义如下）。每次通过 GNN 时，我们将通过 Dense 互连层来更新节点值：
import tensorflow as tf import tensorflow_gnn as tfgnn # Model hyper-parameters: h_dims = {'user': 256, 'movie': 64, 'genre': 128} # Model builder initialization: gnn = tfgnn.keras.ConvGNNBuilder( lambda edge_set_name: WeightedSumConvolution(), lambda node_set_name: tfgnn.keras.layers.NextStateFromConcat( tf.keras.layers.Dense(h_dims[node_set_name])) ) # Two rounds of message passing to target node sets: model = tf.keras.models.Sequential([ gnn.Convolve({'genre'}), # sends messages from movie to genre gnn.Convolve({'user'}), # sends messages from movie and genre to users tfgnn.keras.layers.Readout(node_set_name="user"), tf.keras.layers.Dense(1) ])以上代码很好用，但有时我们可能想要为 GNNs 使用更强大的自定义模型架构。例如，在之前的用例中，我们可能想指定某些电影或类型，让它们在我们进行推荐时拥有更多权重。在下列片段中，我们用自定义图卷积定义了一个更高级的 GNN，例子中使用的是加权边。我们定义了 WeightedSumConvolution 类来汇集边值，让其作为所有边的权重之和：
class WeightedSumConvolution(tf.keras.layers.Layer): """Weighted sum of source nodes states.""" def call(self, graph: tfgnn.GraphTensor, edge_set_name: tfgnn.EdgeSetName) -> tfgnn.Field: messages = tfgnn.broadcast_node_to_edges( graph, edge_set_name, tfgnn.SOURCE, feature_name=tfgnn.DEFAULT_STATE_NAME) weights = graph.edge_sets[edge_set_name]['weight'] weighted_messages = tf.expand_dims(weights, -1) * messages pooled_messages = tfgnn.pool_edges_to_node( graph, edge_set_name, tfgnn.TARGET, reduce_type='sum', feature_value=weighted_messages) return pooled_messages请注意，尽管卷积的编写只考虑了源节点和目标节点，但 TF-GNN 保障了其适用性，让其能够在异构图（有各种类型的节点和边）上无缝工作。
更多信息
您可以查看 TF-GNN GitHub repo，以获得更多信息。
GitHub repo
https://github.com/tensorflow/gnn
欢迎加入 TensorFlow 论坛，随时关注 TensorFlow 博客、Twitter 或 YouTube，获悉最新消息。
TensorFlow 论坛
https://discuss.tensorflow.google.cn/
博客
https://blog.tensorflow.google.cn/
Twitter
http://twitter.com/tensorflow
YouTube
http://youtube.com/tensorflow
您还可以通过 Community Spotlight 计划向我们提交作品，分享您的构建成果。如需提供反馈，您可以在 GitHub 上提交问题。我们欢迎您的贡献和参与，谢谢！
Community Spotlight 计划
http://goo.gle/TFCS
GitHub
https://github.com/tensorflow/gnn/issues
致谢
本文所介绍的研究来自以下各位的合作成果：来自 Google 的 Oleksandr Ferludin、Martin Blais、Jan Pfeifer、Arno Eigenwillig、Dustin Zelle、Bryan Perozzi 和 Da-Cheng Juan，以及来自 DeepMind 的 Sibon Li、Alvaro Sanchez-Gonzalez、Peter Battaglia、Kevin Villela、Jennifer She 和 David Wong。
点击屏末| 阅读原文 | 访问 TensorFlow 官网
