AI接管Adobe Lightroom!厦大字节等推出JarvisArt,一句话“指挥”专业P图软件!
- 2025-06-28 10:36:30
🚀 你是否也曾有过这样的烦恼?想让自己的照片在社交媒体上惊艳全场,却被 Photoshop、Lightroom 等专业软件复杂的操作劝退;而市面上的一键美颜、滤镜应用,又总是千篇一律,无法满足个性化的创作需求。
现在,这一困境或许将被彻底改变!
来自厦门大学、香港科技大学(广州)、香港中文大学、字节跳动、新加坡国立大学和清华大学的研究者们,联合推出了一款名为 JarvisArt 的智能P图特工。它就像一位懂你心意、精通专业技巧的艺术家,能听懂你的自然语言指令,智能操控超过200种 Lightroom 专业工具,帮你实现精细、无损的照片编辑。
项目主页:https://jarvisart.vercel.app/
🔥 JarvisArt 是什么?
简单来说,JarvisArt 是一个由多模态大语言模型(MLLM)驱动的智能修图代理(Agent)。它不仅仅是一个简单的滤镜或编辑工具,而是一个能够理解、思考、并执行复杂修图任务的“数字艺术家”。
它的工作流程可以分为三个核心阶段:
- 多模态理解
:JarvisArt 能够精准解析你的指令,无论你是用文字描述(“让天空更蓝一点”)、画一个框(框选人物进行提亮),还是用笔刷涂抹(涂抹区域进行柔化),它都能心领神会。 - 策略推理
:接收到指令后,它会像专业修图师一样进行思考,基于摄影美学和专业知识,制定出一套完整的修图方案(Chain-of-Thought)。 - 工具编排与执行
:最后,它会自动选择并调用 Lightroom 中最合适的工具(如调整曝光、曲线、色彩平衡、局部蒙版等),并设定精确的参数,完成整个编辑过程。
图1: JarvisArt工作流程概览。它支持从宏观场景到局部细节的多粒度修图目标。用户可以通过文本、框选或笔刷等自然输入方式,对任意分辨率的图像进行直观编辑。整个过程透明可追溯,用户可以随时干预和调整。
🚀 背后强大的技术支撑
要将这个美好的愿景变为现实,研究团队克服了三大核心挑战:
1. 高质量训练数据的稀缺
为了教会 JarvisArt 专业的修图技能,研究团队首先构建了一个大规模、高质量的修图数据集 MMArt-55K。这个数据集通过一个精巧的自动化流程生成,包含了5.5万个样本,每个样本都涵盖了“原图-效果图-用户指令-修图师思考链-Lightroom参数配置”的完整信息。
图2: MMArt数据集生成管线。该流程通过模拟专家级编辑,自动生成包含图像对、用户指令和专业思考过程的高质量数据,为训练强大的AI修图代理奠定了基础。
2. 实现专家级的推理与决策能力
仅仅有数据还不够,如何让模型学会像人一样思考和决策是关键。为此,JarvisArt 采用了创新的两阶段训练法:
- 第一阶段:监督微调 (SFT)
:利用 MMArt 数据集中带有“思考链”(CoT)的样本进行初步训练,让模型学会“理解→思考→决策”的基本工作模式和工具使用方法。 - 第二阶段:强化学习 (GRPO-R)
:在SFT的基础上,采用一种名为“面向修图的组相对策略优化”(GRPO-R)的强化学习算法进行深度优化。研究团队设计了专门的奖励函数,从工具操作的准确性和最终图像的视觉美感两个维度对模型的决策进行打分和激励,从而让 JarvisArt 的技艺更加精湛,泛化能力更强。
图3: JarvisArt的两阶段训练框架。通过SFT和GRPO-R的结合,JarvisArt 不仅掌握了基础的修图逻辑,更在不断的“试错”与“激励”中提升了其艺术推理和工具运用能力。
3. 与专业软件的无缝集成
为了让 AI 的决策能真正落地到专业软件中,研究团队还专门设计了 Agent-to-Lightroom (A2L) 协议。这个协议就像一个高效的翻译和执行官,确保 JarvisArt 的指令能够被 Lightroom 准确无误地接收和执行,实现了全自动化的编辑工作流。
✨ 效果如何?吊打SOTA!
口说无凭,效果为王。研究团队在专门构建的评测基准 MMArt-Bench 上对 JarvisArt 进行了全面测试。
结果惊人:
- 内容保真度遥遥领先
:与顶级的 GPT-4o 相比,JarvisArt 在保持图像原始内容(像素级指标)方面平均提升了60%!这意味着它在修图时不会像很多生成式模型那样“画蛇添足”,能最大程度地保留原图的细节和真实感。 - 指令遵循能力旗鼓相当
:在理解和执行用户指令方面,JarvisArt 的表现与 GPT-4o 不相上下,展现了强大的多模态理解力。 - 局部编辑优势巨大
:在需要精细操作的局部编辑任务(如人像美化)中,JarvisArt 的优势尤为明显。它能避免其他模型常出现的“恐怖谷”效应和视觉伪影,产出高质量、无损的编辑结果。
图4: 不同方法在MMArt-Bench上的视觉效果对比。对于“让框内物体更突出,背景更明亮”的指令,JarvisArt 实现了精准、自然的调整,而其他方法或多或少出现了内容失真或不自然的伪影。
在用户研究中,参与者普遍认为 JarvisArt 比 Lightroom 更易于使用,并且其生成的修图结果在图像一致性和美学质量上都更受青睐。
总结
JarvisArt 的出现,为智能照片修饰领域开辟了一条全新的道路。它不再是简单的“一键美化”,而是通过模仿人类艺术家的思维方式,将强大的语言模型与专业的编辑工具相结合,真正实现了交互式、可解释、无损且支持任意分辨率的智能修图。
这项工作不仅解放了普通用户的艺术创造力,也为未来 AI 代理在更多专业领域的应用提供了宝贵的范例。或许在不远的将来,我们每个人都能拥有一个专属的“AI艺术家”,让创意不再受工具的束缚。🔥

- 点赞 0
-
分享
微信扫一扫
-
加入群聊
扫码加入群聊