范叶亮写智能体、模型和数据系统时,习惯先把定义和边界钉死。把「图嵌入和图神经网络」整理成可落地的中文笔记:问题在哪、默认做法会踩什么坑、该怎么选。原站导航和广告已去掉。

图嵌入

图(Graph / Network)数据类型可以自然地表达物体和物体之间的联系,在我们的日常生活与工作中无处不在。例如:微信和新浪微博等构成了人与人之间的社交网络;互联网上成千上万个页面构成了网页链接网络;国家城市间的运输交通构成了物流网络。

通常定义一个图 $G = \left(V, E\right)$ ,其中 $V$ 为 顶点 (Vertices)集合, $E$ 为 边 (Edges)集合。对于一条边 $e = u, v$ 包含两个 端点 (Endpoints) $u$ 和 $v$ ,同时 $u$ 可以称为 $v$ 的 邻居 (Neighbor)。当所有的边为有向边时,图称之为 有向 (Directed)图,当所有边为无向边时,图称之为 无向 (Undirected)图。对于一个顶点 $v$ ,令 $d \left(v\right)$ 表示连接的边的数量,称之为 度 (Degree)。对于一个图 $G = \left(V, E\right)$ ,其 邻接矩阵 (Adjacency Matrix) $A \in \mathbb{A}^{|V| \times |V|}$ 定义为:

Random Walk

$$ A_{i j}=\left\{\begin{array}{ll} 1 & \text { if }\left\{v_{i}, v_{j}\right\} \in E \text { and } i \neq j \\ 0 & \text { otherwise } \end{array}\right. $$

作为一个典型的非欧式数据,对于图数据的分析主要集中在节点分类,链接预测和聚类等。对于图数据而言, 图嵌入 (Graph / Network Embedding)和 图神经网络 (Graph Neural Networks, GNN)是两个类似的研究领域。图嵌入旨在将图的节点表示成一个低维向量空间,同时保留网络的拓扑结构和节点信息,以便在后续的图分析任务中可以直接使用现有的机器学习算法。一些基于深度学习的图嵌入同时也属于图神经网络,例如一些基于图自编码器和利用无监督学习的图卷积神经网络等。下图描述了图嵌入和图神经网络之间的差异:

Matrix Fractorization

本节内容主要参考自: A Comprehensive Survey of Graph Embedding: Problems, Techniques and Applications 1 Graph Embedding Techniques, Applications, and Performance: A Survey 2 Representation Learning on Graphs: Methods and Applications 3

使用邻接矩阵的网络表示存在计算效率的问题,邻接矩阵 $A$ 使用 $|V| \times |V|$ 的存储空间表示一个图,随着节点个数的增长,这种表示所需的空间成指数增长。同时,在邻接矩阵中绝大多数是 0,数据的稀疏性使得快速有效的学习方式很难被应用。

Meta Paths

网路表示学习是指学习得到网络中节点的低维向量表示,形式化地,网络表示学习的目标是对每个节点 $v \in V$ 学习一个实值向量 $R_v \in \mathbb{R}^k$ ,其中 $k \ll |V|$ 表示向量的维度。经典的 Zachary’s karate club 网络的嵌入可视化如下图所示:

基于随机游走的图嵌入通过使得图上一个短距的随机游走中共现的节点具有更相似的表示的方式来优化节点的嵌入。

Deep Learning

DeepWalk 4 算法主要包含两个部分:一个随机游走序列生成器和一个更新过程。随机游走序列生成器首先在图 $G$ 中均匀地随机抽样一个随机游走 $\mathcal{W}_{v_i}$ 的根节点 $v_i$ ,接着从节点的邻居中均匀地随机抽样一个节点直到达到设定的最大长度 $t$ 。对于一个生成的以 $v_i$ 为中心左右窗口为 $w$ 的随机游走序列 $v_{i-w}, \dotsc, v_{i-1}, v_i, v_{i+1}, \dotsc, v_{i+m}$ ,DeepWalk 利用 SkipGram 算法通过最大化以 $v_i$ 为中心,左右 $w$ 为窗口的同其他节点共现概率来优化模型:

$$ \text{Pr} \left(\left\{v_{i-w}, \dotsc, v_{i+w}\right\} \setminus v_i \mid \Phi \left(v_i\right)\right) = \prod_{j=i-w, j \neq i}^{i+w} \text{Pr} \left(v_j \mid \Phi \left(v_i\right)\right) $$

Others

node2vec 5 通过改变随机游走序列生成的方式进一步扩展了 DeepWalk 算法。DeepWalk 选取随机游走序列中下一个节点的方式是均匀随机分布的,而 node2vec 通过引入两个参数 $p$ 和 $q$ ,将 宽度优先搜索 和 深度优先搜索 引入了随机游走序列的生成过程。 宽度优先搜索注重邻近的节点并刻画了相对局部的一种网络表示, 宽度优先中的节点一般会出现很多次,从而降低刻画中心节点的邻居节点的方差, 深度优先搜索反映了更高层面上的节点之间的同质性。

node2vec 中的两个参数 $p$ 和 $q$ 控制随机游走序列的跳转概率。假设上一步游走的边为 $\left(t, v\right)$ , 那么对于节点 $v$ 的不同邻居,node2vec 根据 $p$ 和 $q$ 定义了不同的邻居的跳转概率, $p$ 控制跳向上一个节点的邻居的概率, $q$ 控制跳向上一个节点的非邻居的概率,具体的未归一的跳转概率值 $\pi_{vx} = \alpha_{pq} \left(t, x\right)$ 如下所示:

值得单独记下的点

  • 异构网络 ((Heterogeneous information network,HIN)可以定义为一个有向图 $G = \left(V, E\right)$ ,一个节点类型映射 $\tau: V \to A$ 和一个边类型映射 $\phi: E \to R$ ,其中对于 $v \in V$ 有 $\tau \left(v\right) \in A$ , $e \in E$ 有 $\phi \left(e\right) \in R$ ,
  • 网络模式 (Network schema)定义为 $T_G = \left(A, R\right)$ ,为一个包含节点类型映射 $\tau \left(v\right) \in A$ 和边映射 $\phi \left(e\right) \in R$ 异构网络的 $G = \left(V, E\right)$ 的元模板。
  • 元路径 (Meta-path)定义为网络模式 $T_G = \left(A, R\right)$ 上的一条路径 $P$ ,形式为 $A_{1} \stackrel{R_{1}}{\longrightarrow} A_{2} \stackrel{R_{2}}{\longrightarrow} \cdots \stackrel{R_{l}}{\longrightarrow} A_{l+1}$ 。
  • 采样序列边缘的节点的上下文信息很难被捕捉。
  • 很难直接确定游走的长度和步数等超参数,尤其是对于大型网络来说。
  • 同时保留节点之间的一阶相似性(first-order proximity)和二阶相似性(second-order proximity)。
  • 可以处理大规模网络,例如:百万级别的顶点和十亿级别的边。
  • 可以处理有向,无向和带权的多种类型的图结构。

落地时建议先做的 5 件事

  1. 先写清任务能不能被自动验证:能验证的交给系统和评测,不能验证的留给人审。
  2. 本地部署先算显存、延迟和失败回滚,不要只看能跑通一次。
  3. 多智能体只在单智能体触到上下文或专业边界时再拆。
  4. Token、微调和压缩都要有对照数字,避免口号式优化。
  5. 结论写成可检查清单:接口、超时、评测集、回滚版本。

和智能体产品怎么接

龙虾PRO做 OpenClaw 落地时,最该拿走的是「单智能体先做好工具和提示,再谈编排」。数字员工、技能市场和网关应共用同一套评测与权限,而不是各写一套角色人设。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证,不要把示例阈值直接当生产策略。 相关:风控体检 · 方案资源

常见问题 FAQ

什么是AI智能系统?

「AI智能系统」可概括为:图(Graph / Network)数据类型可以自然地表达物体和物体之间的联系,在我们的日常生活与工作中无处不在。例如:微信和新浪微博等构成了人与人之间的社交网络;互联网上成千上万个页面构成了网页链接网络;国家城市间的运输交通构成了物流网络。 本文从定义、方法与实践要点展开说明。

为什么要关注AI智能系统?

关注AI智能系统,是因为它直接影响效率、风险与可复制性。文中指出:图(Graph / Network)数据类型可以自然地表达物体和物体之间的联系,在我们的日常生活与工作中无处不在。例如:微信和新浪微博等构成了人与人之间的社交网络;互联网上成千上万个页面构成了网页链接网络;国家城市间的运输交通构成了物流网络。

如何落地AI智能系统?有哪些关键步骤?

建议按以下路径推进AI智能系统:1) 网络模式 (Network schema)定义为 $T_G = \left(A, R\right)$ ,为一个包含节点类型映射 $\tau \left(v\r…;2) 采样序列边缘的节点的上下文信息很难被捕捉。;3) 很难直接确定游走的长度和步数等超参数,尤其是对于大型网络来说。;4) 同时保留节点之间的一阶相似性(first-order proximity)和二阶相似性(second-order proximity)。;5) 可以处理大规模网络,例如:百万级别的顶点和十亿级别的边。。细节见正文对应章节。

AI智能系统适合哪些人或团队?

AI智能系统更适合:产品/技术负责人、运营与增长团队、需要落地智能体或自动化的中小团队、关注「AI智能系统」方向的读者。若你只需要单次聊天式问答,可先读概念;若要上生产,请重点看步骤、权限与风控相关段落。

关于「图嵌入」,本文给出了什么结论?

在「图嵌入」部分,要点是:/ Network)数据类型可以自然地表达物体和物体之间的联系,在我们的日常生活与工作中无处不在。例如:微信和新浪微博等构成了人与人之间的社交网络;互联网上成千上万个页面构成了网页链接网络;国家城市间的运输交通构成了物流网络。 通常定义一个图 $G = \left(V, E\right)$ ,其中 $V$ 为 顶点 (Vertices)集合, $E$ 为 边 (Edges)集合。对于一条边 $e = u, v$ 包含两个 端点 (En

关于「Random Walk」,本文给出了什么结论?

在「Random Walk」部分,要点是:nd Applications 3 使用邻接矩阵的网络表示存在计算效率的问题,邻接矩阵 $A$ 使用 $|V| \times |V|$ 的存储空间表示一个图,随着节点个数的增长,这种表示所需的空间成指数增长。同时,在邻接矩阵中绝大多数是 0,数据的稀疏性使得快速有效的学习方式很难被应用。 Meta Paths 网路表示学习是指学习得到网络中节点的低维向量表示,形式化地,网络表示学习的目标是对每个节点 $v \in V$ 学习一个实值向量