近日,计算机科学与技术学院2022级硕士研究生贺蓉在导师焦铬教授指导下完成的研究成果《HairEdit: Hierarchical Latent Fusion Network for Text- and Image-Guided Hair Editing》在人工智能国际权威期刊《Engineering Applications of Artificial Intelligence》发表,该期刊为JCR/中科院双一区(Q1)Top期刊,最新影响因子8.0。
编辑保真度是发丝编辑任务中的一大难题,基于对比语言-图像预训练模型(CLIP)的现有方法虽在隐空间中引入解耦子网络,但受图像复杂程度限制,精细发型的迁移效果始终不理想。
为解决该问题,研究团队提出一种全新分层隐空间融合网络HairEdit。该网络融合图像嵌入与无输入、图像、文本三类条件嵌入,能够生成更真实、鲁棒性更强的发丝编辑结果。具体来说,首先设计一种解耦式图像嵌入算法,通过姿态对齐、图像融合以及发型与发色特征解耦操作生成与原图匹配的参考图像嵌入特征,以此强化发丝细节信息的迁移能力,其次为提升图像生成质量与编辑性能构建分层隐空间编辑子网络,对原图特征与各类条件嵌入做优化处理,实现不同细粒度特征间隙间的信息交互与融合,最后提出一种基于图像嵌入的跳跃层隐特征保留损失函数,融合余弦相似度损失与查伯尼尔损失,保障网络训练过程的稳定性与编辑导向性,进一步提升生成图像的真实感与编辑效果。
该框架为工程应用场景下的发丝编辑提供了全新人工智能实现方案,其跨模态融合思路也大幅推动了人工智能领域个性化图像生成技术的发展。