作者:张倩

在今年的腾讯广告算法大赛中,腾讯广告给环球算法圈出了一道难题,冠军最高褒奖 10 万美元,赛题还入选了顶会寻衅赛。
什么赛题有如此含金量?谁拿走了冠军大奖?昨天,决赛结果已经出炉……

进入全民视频时期以来,广告行业的需求也在发生日月牙异的变革。

海内移动互联网大数据公司 QuestMobile 最近发布的《2020 年中国互联网广告市场洞察》报告显示,从广告形式上看,视频类信息流增速更快,趋向成为主流广告形式。

让AI读懂视频广告有多灾这道题4000多人寻衅冠军赢走10万美元

图源:https://mp.weixin.qq.com/s/ikrOOmOiKkxl6ZI1b9UHRQ

与此同时,用户对广告的创意哀求也越来越高:大批视频广告在播放的前 3 秒就会被 60% 的不雅观众划走,一个新广告面世不到一周就没有人再去看了。

为了迎合这莳花费习气的变革和创意需求的升级,视频广告创作者须要在短韶光内创作出大量有吸引力的广告。
这意味广告行业的生产模式须要经历一场变革。

和其他很多行业一样,这种变革可以通过解放人力来完成。

详细到视频广告,AI 算法可以做什么呢?

一方面,AI 可以承担一些重复性事情,比如批量生产各种素材。
另一方面,一些非重复性的创意事情也可以考试测验交给 AI,比如让它自行理解广告内容亮点,并以此为依据天生一个新广告。

但要把这些都做好,首先要让 AI 把视频广告吃透,也便是我们常说的视频深度理解。

而这件事情,腾讯广告实在早就在做了,而且深知个中的代价与寻衅。
腾讯广告多媒体 AI 中央总监刘威坦言,视频深度理解难到令人绝望,「如果说图像识别已经开拓到中年的水平,我以为视频还是婴儿水平。
视频的 knowledge domain 太大了,你在某个地方加一个鄙吝械,特色空间里看到的就已经差了很多,以是算法非常薄弱」。
类似的前沿算法研究,腾讯广告内部还有很多。

在向这些前沿算法发起寻衅的同时,腾讯广告还会通过各种形式将产、学、研各界聚拢到一起,共同推进行业技能的演进,始于 2017 年的「腾讯广告算法大赛」便是个中之一。

这一比赛一贯聚焦业务最关心的问题,今年的赛题更是直面令人头疼的视频广告深度理解,而且是高难度的「多模态视频广告秒级解析」。

由于赛题颇具寻衅,出题方将其分成了两个赛道:「视频广告秒级语义解析」(赛道一)和「多模态视频广告标签」(赛道二)。

这两个赛道难在哪儿呢?

先来说说没那么难的赛道二。
这个赛道以视频、音频、文本三个模态作为输入,哀求选手针对测试视频样本预测出视频在呈现形式、场景、风格等三个维度上的标签。

刚才说过,视频理解本身便是一个难题,而本次比赛不仅哀求理解视频,还要和音频、文本等模态的信息综合到一起来理解,实现多模态领悟。
这一考法令选手叫苦不迭。

然而,赛道一难度还要更高。
这一赛题同样以视频、音频、文本三个模态作为输入,但哀求选手将测试视频进行「幕」的分段,并且预测出每一段在呈现形式、场景、风格等三个维度上的标签。
「幕」即场景,可能包含多个镜头,因此也叫「语义超镜头」。
这些镜头在语义上干系,描述并传达一个高等观点。
比如下图中第一个场景(幕)就包含四个镜头,共同阐述「打电话」这一高等观点。
如何将这些镜头归入一个场景、概括出其高等语义信息显然是一个非常综合的问题。

此外,「多模态视频广告秒级解析」这个主题是腾讯广告从真实的业务需求中提炼出来的,在算法领域尚未被提出,也很少有人进行过深入研究,相应的数据、代码、可参考文献都比较少,这也增加了比赛的难度。
怪不得有不少选手反馈说,「跑 baseline 都费劲」。

与赛题难度相匹配的是高额奖金池:本届大赛冠军可以拿到 10 万美元的现金奖,总奖金池高达百万级。

为什么这个赛题如此主要?腾讯公司副总裁蒋杰在决赛致辞中提到,「随着5G 技能的逐渐遍及,以视频为载体的内容越来越受用户欢迎,如何深度理解视频广告内容,挖掘其潜在代价,无疑成了当下广告行业发展的重点。
而细粒度理解视频时序内容,对付广告业务具有积极意义,可以真正帮助广告主降本提效,让广告更有温度。

今年的比赛吸引了上千家高校和企奇迹单位的4300余名选手报名。
在昨天举行的决赛中,赛道一的冠军由「GZ」战队摘得,他们将视频广告秒级语义解析这个任务分成了 Temporal Segmentation 和 Proposal Tagging 两个子任务来完成,详细方案如下:

赛道一冠军办理方案概览。

赛道二的冠军则由「挥霍的人生」战队摘得,他们利用了基于 stacking 的方案,预测时可以并行提取每个独立部分的特色,模型迭代速率快。

除了现金褒奖,通过这次大赛,选手还有机会现场参与 2021 ACM MM Grand Challenge Session(以下简称 ACM 多媒体寻衅赛),同更多算法专家做进一步的现场互换。

参加腾讯广告算法大赛还有机会拿到顶会寻衅赛门票?没错,由于本届赛事与 ACM Multimedia 实现了强强联合,两道赛题都入选了 ACM 多媒体寻衅赛。

ACM Multimedia 是多媒体领域最主要的国际会议,也是中国打算机学会(CCF)认证以及多媒体研究领域评级中唯一的 A 类国际顶级会议。
为了促进工业界和学术界的互换,大会设置了 ACM 多媒体寻衅赛环节。
可以说,这是多媒体领域工业界和学术界互换活动中最有影响力的一个。

那么,这个寻衅赛关注什么样的议题呢?ACM 多媒体寻衅赛主席李锡荣给出的答案是:工业界未来 5 年到 10 年终怀的问题。

眼力放得长远,难度自然不会低,以是大赛也没指望选手通过一场比赛就把问题办理掉。

「(比赛)办理方案不见得在一两年内就能商业化或者产品化,它实际上是对付未来技能的一种探索。
」李锡荣补充说。

换句话说,ACM 多媒体寻衅赛磋商的问题必须要有前瞻性和实用性,这与腾讯广告算法大赛的两道赛题不谋而合。

同时,赛题入选顶会寻衅赛也意味着,今年腾讯广告算法大赛的国际影响力进一步扩大,比赛中出身的办理方案、代码、数据集等资源将为国际算法圈供应主要参考。

当然,这些资源也将为视频广告创意业务的发展带来新的助力。
腾讯广告内部与之干系的就有多尺寸智能裁剪、 模板视频自动剪辑、 视频创意智能混剪等多项视频广告业务。

多尺寸智能裁剪是指利用一种规格的视频天生多种规格的视频,比如输入 16:9,输出 9:16、4:3、1:1 等多种格式。
这里面涉及智能关键帧截取、焦点跟随、视频去添补、图像分割、背景领悟等多项视频理解任务。

举个例子,在把一个竖版视频切换成横版的时候,AI 要截取画面的一部分来保持满屏铺开,这就须要 AI 识别出画面的焦点是什么(如下图中的一家三口),然后进行焦点跟随。
这一功能有多实用?要知道,各个投放平台对视频广告的规格哀求是不一样的,一个广告视频可能须要 20 多种规格。
在没有 AI 参与的情形下,这无疑是一项低效的重复性事情。

模板视频自动剪辑是指复用之前积累的精良素材快速剪出新的创意。
此时,广告主可能只须要供应多少张商品图,而视频的「黄金前 3 秒」、转场、行动指引等片段都可以从素材库调取。
AI 算法可以为这个素材库供应更加精准的标签(比如一个精良的前 3 秒素材讲了什么内容),从而在再创作时更加精准地匹配新广告需求。
到目前为止,腾讯广告已经积累了 10000 多套这样的模板,复用模板每天生产的视频量在 10 万以上。

视频创意智能混剪是指根据输入的一段视频剪出不同时长的版本,同时还要保留视频广告的吸引力、信赖力、说服力和行动力。

举个例子,现在有一段 30 秒的产品先容广告,须要让 AI 把它剪成 15 秒的。
首先,AI 要把视频切成多少场景,然后从这些场景中找到那些可以吸引用户不雅观看、增加用户信赖、向用户展示产品优惠信息以及使令用户下单的片段并保留下来。
这一过程便是给各个场景进行秒级切分并打上各种标签的过程,也是赛道一稽核的紧张内容。

这些业务的顺利开展都离不开腾讯广告多年以来积累的多模态 AI 能力,包括文本、图像、语音、视频等多个领域。
同时,这些能力的组合也为腾讯广告打造智能审核、智能创作、内容理解等广告业务平台奠定了根本。
这些平台覆盖创意制作(投前)、广告推举(投中)、创意复盘(投后)全体链路,支持文本、图片、视频、落地页等各种广告类型,已经在在游戏、电商、金融、教诲、网服等多个行业的广告创作中得到运用。

可以预见的是,随着 AI 落地的深入,未来将有越来越多的 AI 技能运用到广告产品当中。
或许哪天吸引你看下去的一个广告便是 AI 天生的呢。