量子位 | "大众年夜众号 QbitAI

手机有了大模型,玩转vlog剪辑这么大略了?

只需给手机警能助手提要求,“帮我天生XXX的视频”。

然后它立马从相册里找到干系的素材。

首个AI内核操作系统断网寻衅花样弄法小我化属性拉满

点击天生视频,立马一个剪辑精美的视频就来了。

这个效果来自于光彩最新发布的MagicOS 8.0操作系统(中文名:邪术OS 8.0),如上对话成片的能力,源于光彩邪术大模型与MagicOS的深度结合。

这是一个以平台级AI为内核的新系统,并创新性地引入端侧大模型全面使能AI内核。

不但是会搞创作,它还能利用深度语义理解+意图识别,成为“个人智能助理”。

比如老师发来的家长会,长按就能一键创建日程。

也有多模态能力,长按约请函、一拖,就能识别详细韶光地点主题,然后一键加入日程。

如此看来,平台级AI+MagicOS,让手机越来越有智能私人助理那觉得了~

而且这种体验离普通人都很近,光彩在发布会上表示,11号开启MagicOS 8.0公测操持,新老机型都能陆续体验。

如果是最新机型Magic6的话,还能在骁龙8 Gen 3的支持下,把大模型带到端侧,乃至“断网都能用”,隐私数据留存在端侧无需上云。

而这些还不是MagicOS 8.0的全部能力。
详细还有啥?一起来看。

首发意图识别人机交互

以平台级AI为新内核的MagicOS 8.0,带来行业首个基于意图识别的人机交互。

从定义出发,意图识别交互是让设备可以主动理解意图完成任务。

这种新范式详细该怎么做?MagicOS 8.0上新的核心功能之一——“任意门”可以带来更直不雅观的理解。

“任意门”基于Magic Live平台级AI、多模态意图识别引擎、意图剖析决策平台实现。

带来的关键改变便是,APP之间的跨转可以一步直达了。

举个栗子。
往常我们从小红书上种草了一个物品,须要先在小红书上保存图片,然夹帐动切换到购物APP,选择识图搜索,末了才能开始浏览商品。
如果还想进行比价,还须要再切换另一个购物APP。

而“任意门”能将这个非常繁琐的流程,简化成两步:长按+一拖。

比价也更加大略,两个APP都能变成浮窗放在屏幕侧方,方便来回查看。

或者是在短信上收到地址,也能长按、一拖,通过“任意门”一步导航。

这种帮人省事的操作,对付不善于手机操作的人群来说,更加有必要。

比如对付老年人来说,输入法打字都存在门槛,更别提在各种APP上搜索了。

“任意门”基于多模态能力,可以长按识别照片中的笔墨,然后选中、复制粘贴,一拖直接搜索。

不但是任意门的“一按一拉”,还有三指下滑,可以收藏在手机上看到的各种信息。
把各个APP中的收藏,集中整合到一起,末了能在手机上形成一个个人知识中央。

除此之外,MagicOS 8.0还带来了系统级的主动做事。

比如收到出行短信,就可以自动创建日程。

截图谈天软件中的日程信息,点击“创建日程”,系统就能识别个中的韶光地点等信息,创建对应日程。

还有灵动胶囊,率先利用了眼动交互。
当运用以灵动胶囊卡片的形式放在桌面时,注目胶囊即可跳回到运用内。

值得一提的是,针对打车这种未便利操作手机的场景,MagicOS 8.0会根据实时追踪在耳机内播报信息。

考虑到现在大家日常常常是不同设备协同利用,MagicOS 8.0还构建了一个信赖环。

手机、电脑、平板、腕表、耳机、车机、打印机都能加入。

比如上班路上正在看的文档,可以从手机向上一拖,直接发送到电脑。

综上便是MagicOS 8.0意图识别交互的亮点功能。

智能化方面的升级,得益于光彩平台级AI以及端侧大模型的加持。

MagicOS 8.0因此平台级AI为内核、为底座。

它基于“Magic Live聪慧引擎”。
相较于传统的OS内核,它不是纯挚基于设备的资源进行打算,而是更加关注手机用户个人,比如位置、状态、个人习气、知识库等人因元素,就像是钢铁侠的贾维斯那样。

此外,为进一步增加平台级AI对人因元素的学习和理解,光彩正式发布了自研70亿参数大模型“邪术大模型”。
通过和高通联合开拓调试,邪术大模型经由量化压缩后可被支配在骁龙8 Gen3上,也便是能在“端侧、离线运行”。

由于没有上云,用户的个人数据可以被更好保护;同时,模型在端侧可以更好利用数据,对用户个人的习气、意图深入学习。

而在大模型的加持下,平台级AI具备了智能认知能力,可从场景感知进化到感知理解,能对内容进行推理学习,还可以对繁芜任务进行拆解。

由此可以把以往系统被动的相应、变成主动做事;让设备可以更理解人;让传统的触摸交互,升级为多模态交互。

也是基于这些改变,MagicOS 8.0才能带来基于意图的智能终端交互新范式,并且在新机Magic6上首发。

不过,想要让大模型能够系统级地融入得手机OS,并不是一件易事。
从性能与功耗的平衡,到能力与场景该如何结合,当下行业内还没有形成标准答案。

以是,明确提出意图识别人机交互的光彩,详细是怎么做的?

70亿参数大模型如何进手机

只管与千亿、万亿规模的云端大模型比较,70亿参数量看上去并不算大,但实际上,一个70亿参数的模型在网络上也要占到二十几个G。

对付手机这样的终端载体来说,能不能放得下、放进去后能不能正常运转,都仍是业界普遍关注的技能难题。

第一重直不雅观寻衅,便是如何把如此大的模型“装”进手机。

这里涉及到的关键技能,是AI量化、压缩技能。
光彩透露,光彩联合高通在大模型量化压缩方面进行了深度调优,“邪术大模型”被支配在骁龙8 Gen3上,能实现流畅的端侧运行。

举个详细的例子,光彩在内部打造了高性能加速平台,基于这一平台的量化压缩、算子加速和芯片智能开释能力,一个20G+的7B参数大模型,能被压缩至原来的1/6。

办理了大模型进手机的问题,还只是第一步。
大模型要成为操作系统内核的主要助力,真正去理解用户的意图,完成各种功能调度,还面临一重重大寻衅:算力。

在这个环节上,光彩同样和高通进行了深度互助:双方联合优化了端侧AI大模型的推理性能,以充分开释端侧NPU算力。

同时,光彩和高通还从系统调度层面,对大模型带来的功耗问题进行了深度优化。
在隐私安全方面,双方联合优化了端侧AI大模型运用的数据通道保护,以保障用户数据安全。

值得一提的是,光彩MagicOS 研发向我们透露,此番MagicOS 8.0展现出意图识别人机交互能力,可以理解为AI Agent能力的展现。

实际上,7B的邪术大模型是MagicOS 8.0大模型能力中最大的一个模块,详细任务调度中,大模型会调度更小的1B、3.5B模型来办理问题。

光彩CTO邓斌进一步阐明说:

大模型真正的核心能力是完成任务闭环。

光彩更专注在把一个通用模型分解成多个专用模型。
先对用户的意图进行对话理解,再用专用大模型去办理问题。

如此一来,就能进一步办理大模型进手机面临的内存、功耗问题。

端侧大模型在保护用户隐私、供应专属做事方面,有着不可替代的代价,是大模型在终端落地运用的关键所在。

但不可否认的是,参数量更大的云侧大模型,拥有更强大的智能呈现能力,同时,很多垂直领域大模型也是在云侧支配的。

此前,光彩CEO赵明就曾揭橥不雅观点,认为“未来端侧AI与云侧AI相结合,才能更好地知足用户需求”。

为了接入云侧大模型,同时又要担保隐私数据不脱手机,光彩还自研了大模型中控平台,实现端侧大模型、通用大模型以及垂域大模型的安全高效连接。

大略来说,便是在调用云侧大模型时,端侧大模型会帮你将隐私数据留存在本地,同时根据大略对话剖析理解用户的真实意图,天生更为详细的prompt来与云侧大模型交互。

这一方面保障了数据安全,另一方面也简化了用户与云侧大模型交互的过程。

以光彩与航旅纵横正在联合打造的聪慧出行为例,在光彩Magic6上奉告YOYO智能助手“下周一要到北京出差”,YOYO智能助手就会在本地根据对日程、用户个人习气的理解,get到用户详细何时要出发、从哪里出发,进而将需求分解到详细的航班韶光和航司哀求,脱敏后调用航旅纵横千穰大模型给出航班推举。

△该案例估量于今年上半年完成落地

发布会上,光彩还发布了百模生态操持,即以自研中控架构打造一个“大模型货架”,让通用模型、垂域模型都能加入到大模型移动运用生态当中。

值得关注的是,这样依托于大模型,打造个人化操作系统的技能能力,对付光彩而言并非一挥而就。

赵明在新光彩三周年之际提到:操作系统的个人化是光彩发展的方向。

从光彩独立的那天起,我们就重资投入AI领域。
AI大模型出来之前,光彩打造的是平台级AI的能力,是让手机越用越懂你,越用越好用。
平台级AI不仅仅是拍照,还有手机的流畅度,各种运用调度更加精准,用AI能力使能光彩手机的各个维度。

光彩认为端侧大模型是平台级AI演进和发展的升级。

目前,光彩AI研发用度已累计达100亿,AI专利成果达2100篇,AI意图识别达600类。

大模型时期,AI新生态已现雏形

大模型技能带来的变革,核心是人机交互办法的变革。
而大模型运用落地场景从云上向端侧的迁移,正在让这个趋势越来越明朗。

在此过程中,光彩这样的终端厂商,无疑正在扮演越来越主要的角色:

通过端侧大模型的能力,在担保数据安全的情形下,充分剖析、理解用户个人数据,让“贾维斯”这样的超级助手离现实更近一步。

进而,用户能够通过手机这一窗口,连通大模型重构的统统,在新的技能时期,将“提出问题”的难题交还给大模型,用更大略的办法实现更繁芜的目标。

站在开拓者的角度,新的运用生态、新的技能机遇也由此涌现:

大模型和手机终真个结合,已经率先由中国手机厂商卷起热浪。
在终端AI领域,中国手机厂商和中国开拓者强强结合的机会正在显现,有望在大模型环球竞速中,在运用领域建立起上风。

就在光彩MagicOS 8.0发布现场,光彩还官宣,2024年光彩远航操持扶持资源额度提升至20亿,聚合运用分发、做事分发、内容分发等全场景,供应2000+以上扶持名额,助力中国运用做事出海,加速勉励和扶持开拓者创新。

而在2023年底,光彩云业务已全面升级,面向中国市场推出全域自研产品矩阵,包括运用市场、游戏中央、主题中央、聪慧做事等,意在以新渠道、新流量为生态伙伴解锁新增长。

值得关注的是,光彩在2022年后外洋业务发展迅猛。
市场调研数据显示,2023年第三季度欧洲手机市场中,光彩是环球唯一正增长的手机品牌。

其余,光彩旗舰机Magic系列2023年前三季在外洋市场的销量同比增长超300%,不到10个月里,光彩在法国、意大利、西班牙和罗马尼亚等多地实现了3-7倍的增长。

这也是华为之后,中国手机厂商在欧洲市场的全新打破。

出海计策之下,正如赵明所说,“中国光彩远远不足,我们要打造天下光彩”。

或许这一次,将会改变每个当代人生活体验的外挂大脑,正在从中国出发,将风暴吹向天下,而中国AI也将成为天下光彩。

— 完 —

量子位 QbitAI · 头条号签

关注我们,第一韶光获知前沿科技动态约