范叶亮写智能体、模型和数据系统时,习惯先把定义和边界钉死。把「使用控制层和指示控制图片的生成」整理成可落地的中文笔记:问题在哪、默认做法会踩什么坑、该怎么选。原站导航和广告已去掉。
控制网络
控制层通常用作控制网络( ControlNet )在图片生成中以线或结构的形式来提供参考。在 SDXL 中,常用的预训练控制网络有 1 :
Scribble 模型可以根据输入的图片生成线条画,处理后的图片作为原始图片的简化版本可以精准的捕捉图片的轮廓。
Contour Detection (scribble)
Canny 边缘检测的原理是通过寻找强度突变来识别图片中的边缘。它能够准确的检测边缘并减少噪声和伪边缘,通过降低阈值可以识别更多的信息。采用 Canny 模型时,将会生成与检测到的边缘匹配的图片。
Softedge 模型与 Scribble 模型类似,处理后的图片作为原始图片的简化版本仅保留形状的柔和边缘和一些浅阴影。
Depth Map
Tile 模型可以作为增强图片质量和细节的工具。如果在图片中存在一些不足的地方,例如调整图片大小导致的模糊,Tile 模型可以有效的消除此类问题从而获得更加清晰锐利的图片。此外 Tile 模型还可以添加更多细节,从而提升图片的整体质量。
在图层中单击 + Control Layer 添加控制层,或者在图片库中将图片拖拽至画布上,选择 New Control Layer 。
Hard Edge Detection (canny)
futuristic terraced structure built into a mountain at dusk, twilight hues, lush greenery illuminated by soft glowing lights, multiple levels, pathways, vast mountain range, distant winding roads, glowing city lights below, towering otherworldly rock formations, dreamy sky with soft clouds 负向提示词 :
painting, digital art, sketch, blurry 控制层 本教程以 Hard Edge Detection (canny) 模型为例,单击 Filter 中的 Advanced 可以进行更多的调整:
Pose Detection (openpose)
控制图片提供的线条可以为图片生成提供参考。在画布中,可以使用 、 和 等工具对控制图片进行添加或删除等微调操作。接下来对控制层进行设置:
由于将结束百分比设置为了 70%,生成的图片也具有一定的灵活创意。单击 会将生成的图片添加到 Raster Layer 。单击 可以将画布保存到图片库中。新生成的图片和用于生成控制层的图片对比如下:
Soft Edge Detection (softedge)
接下来我们将添加一个参考图片,也称为 IP Adapter 。模型会根据参考图片的风格和结构来生成图片。首先将参考图片添加到图片库,本教程中使用的图片如下 3 :
在本教程中,将参考图片的 Weight 设置为 0.7,将结束百分比设置为 70%,从而给到模型更多的自由度。删除之前生成的 Raster Layer ,单击 Invoke 开始生成图片。应用参考图片生成的图片和之前生成的图片对比如下:
值得单独记下的点
- 当全局指令与图片的局部或特定部分存在差异时,可以忽略这些指令。在这种情况下,它可以使用局部上下文指示图片生成。
- Weight :用于设置控制图层在图片生成过程中的权重,值越大则图片生成时越会严格遵守控制线条。
- Begin/End % :用于设置在图片生成过程中在何时使用控制图层,将其设置为 0% 至 100% 表示从图片生成开始至结束一直使用控制图层。调整开始和结束的百分比可以给到模型更多的灵活性,从而获得更好的生成图片。
- Control Mode :包含多种控制模式用于调节控制层的相关性( CFG scale ): Balanced :提示词和控制层同等重要。
- 模型:在安装 SDXL 相关模型的情况下,选择 Standard Reference (IP Adapter ViT-H) 模型,这里可以选择 ViT-H 、 ViT-G 和 ViT-L 多种变种。
- Mode : Style and Composition 表示参考样式和结构, Style 表示仅参考样式, Composition 表示仅参考结构。
- https://support.invoke.ai/support/solutions/articles/151000105880-control-layers ↩︎
- https://github.com/Mikubill/sd-webui-controlnet ↩︎
落地时建议先做的 5 件事
- 先写清任务能不能被自动验证:能验证的交给系统和评测,不能验证的留给人审。
- 本地部署先算显存、延迟和失败回滚,不要只看能跑通一次。
- 多智能体只在单智能体触到上下文或专业边界时再拆。
- Token、微调和压缩都要有对照数字,避免口号式优化。
- 结论写成可检查清单:接口、超时、评测集、回滚版本。
和智能体产品怎么接
龙虾PRO做 OpenClaw 落地时,最该拿走的是「单智能体先做好工具和提示,再谈编排」。数字员工、技能市场和网关应共用同一套评测与权限,而不是各写一套角色人设。
本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证,不要把示例阈值直接当生产策略。 相关:风控体检 · 方案资源
常见问题 FAQ
什么是AI智能系统?
「AI智能系统」可概括为:控制层通常用作控制网络( ControlNet )在图片生成中以线或结构的形式来提供参考。在 SDXL 中,常用的预训练控制网络有 1 : 本文从定义、方法与实践要点展开说明。
为什么要关注AI智能系统?
关注AI智能系统,是因为它直接影响效率、风险与可复制性。文中指出:控制层通常用作控制网络( ControlNet )在图片生成中以线或结构的形式来提供参考。在 SDXL 中,常用的预训练控制网络有 1 :
如何落地AI智能系统?有哪些关键步骤?
建议按以下路径推进AI智能系统:1) 当全局指令与图片的局部或特定部分存在差异时,可以忽略这些指令。在这种情况下,它可以使用局部上下文指示图片生成。;2) Weight :用于设置控制图层在图片生成过程中的权重,值越大则图片生成时越会严格遵守控制线条。;3) Begin/End % :用于设置在图片生成过程中在何时使用控制图层,将其设置为 0% 至 100% 表示从图片生成开始至结束一直使用控制图层。调整开始和结束…;4) Control Mode :包含多种控制模式用于调节控制层的相关性( CFG scale ): Balanced :提示词和控制层同等重要。;5) 模型:在安装 SDXL 相关模型的情况下,选择 Standar…
AI智能系统适合哪些人或团队?
AI智能系统更适合:产品/技术负责人、运营与增长团队、需要落地智能体或自动化的中小团队、关注「AI智能系统」方向的读者。若你只需要单次聊天式问答,可先读概念;若要上生产,请重点看步骤、权限与风控相关段落。
关于「控制网络」,本文给出了什么结论?
在「控制网络」部分,要点是:识别图片中的边缘。它能够准确的检测边缘并减少噪声和伪边缘,通过降低阈值可以识别更多的信息。采用 Canny 模型时,将会生成与检测到的边缘匹配的图片。 Softedge 模型与 Scribble 模型类似,处理后的图片作为原始图片的简化版本仅保留形状的柔和边缘和一些浅阴影。 Depth Map Tile 模型可以作为增强图片质量和细节的工具。如果在图片中存在一些不足的地方,例如调整图片大小导致的模糊,Tile 模型可以有效的消除此类问题
关于「Contour Detection (scribble)」,本文给出了什么结论?
在「Contour Detection (scribble)」部分,要点是:n (canny) futuristic terraced structure built into a mountain at dusk, twilight hues, lush greenery illuminated by soft glowing lights, multiple levels, pathways, vast mountain range, distant winding roads, glowing city