共计 1065 个字符,预计需要花费 3 分钟才能阅读完成。
中国知名动漫制作公司 Bilibili 近日发布了其开源的 AI 动画视频生成模型 AniSora,该模型承诺能够 ’ 一键生成跨多种动漫风格的视频片段 ’,涵盖系列剧集、中国原创动画、漫画改编、VTuber 内容、动漫 PV、鬼畜动画等多种类型。Bilibili 作为制作了数百部动画作品的行业巨头,其代表作包括正在热播的《阿波连同学不擅长》(独家制作)、《成为英雄 X》、《Your Forma》、《The Beginning After The End》等,以及《炎炎消防队》(第一季和第二季)、《时光代理人》、《平家物语》等经典系列。
AniSora 模型的训练数据来源于 100 万部原始动画视频中的超过 1000 万条 ’ 高质量片段 ’,每条片段都配有描述性文本以指导视频生成。Bilibili 通过展示受吉卜力工作室电影、《天使之卵》、《她和她的猫》、《海底总动员》、《海绵宝宝》、《神偷奶爸》、《魔发奇缘》、《大鱼海棠》、《狮子王》等风格启发的输出来证明其模型的有效性。该开源模型允许用户从文本或参考图像生成多种艺术风格的动画,相关示例已在 Komiko 平台展示。
AniSora 的主要功能包括:,
- 通过单一参考图像生成视频
- 通过参考起始帧、结束帧或任意帧序列生成视频,提高视频一致性
- 允许用户指定动画发生的特定区域,其他区域保持不变
- 支持多任务学习,可特别关注特定区域(如嘴部)以提供更高一致性
Bilibili 表示,开发 AniSora 的动机是为了满足日益增长的动画需求以及 ’ 高效生产流程的需求 ’。公司指出:’ 传统动画制作需要大量手动工作,如创建故事板、生成关键帧和中间帧,过程费时费力。虽然之前将计算机视觉技术引入动画制作帮助生成了中间帧,但这些方法通常只适用于特定艺术风格,难以满足现代动画的多样化需求。’
AniSora 的发布在业内引发了不同反响。支持者赞赏其在减少生产时间和人力方面的潜力,而批评者则质疑其未经授权使用动画数据进行训练,认为其输出可能会与原创动画形成市场竞争。
值得一提的是,Bilibili 不仅是中国主要的动漫流媒体服务和动画制作公司,还与 Netflix 等国际平台合作资助 AI 动画研究。今年 1 月,Netflix 与其子公司 Eyeline Studios 以及石溪大学、马里兰大学和斯坦福大学合作发布了名为 Go-with-the-Flow 的模型,该模型也具备从单一帧生成视频等功能。不过,索尼旗下的 Crunchyroll 公司已明确表示不会在动画制作中使用 AI 技术。值得注意的是,索尼目前持有 Bilibili 4.98% 的股份。
(来源:AniSora via ArXiv)