首次揭秘AI PC如何颠覆个人智能终端。

作者 | 程茜

编辑 | 漠影

模型这把火,已经烧到了个人终端,尤其是与我们生活、事情干系的个人电脑。

分娩力对象革命爆发前夜小我若何拥抱AI

进入2024年,大模型家当的竞争焦点已经从卷参数、卷性能延伸到商业落地,各种AI运用、工具迸发,让用户对付大模型的感知更强。

大模型家傍边,对各种终端设备交互范式产生的颠覆性影响正在扩大,一方面,有企业连续在提高通用大模型能力之路上极速狂奔,另一方面,有企业开始探索大模型在终端设备上支配的可能性。
各路手机玩家布局大模型技能,智能助手体验被颠覆;车圈自研大模型批量上车,重新定义智能座舱体验;还有智能家居、机器人、芯片等赛道的厂商也正加速进场……

而PC作为医疗、教诲、制造等各行各业的超强生产力工具,插上大模型翅膀后,很可能将掀起一场生产力工具革命。

就在昨天,PC行业的领导者——遐想集团发布了2023/24财年第三季度财报。
财报显示,遐想集团第三财季营收1136亿公民币,同比增长3%,净利润近26亿公民币,盈利能力连续两个季度环比提升。
随之该公司同期发布了一支硬核科普视频,揭秘了遐想AI PC的独创性。

视频加载中...

视频通过炫酷的手腕,对AI PC进行了环环相扣的讲解,以三维动画、立体感分镜、平面分镜等手腕,对联想自研的AI OS生态和AI芯片TAC进行了真实呈现,并清晰地科普了大模型压缩、知识蒸馏、向量化等前沿技能。

2024年,生产力工具革命浪潮来袭,迎来AI for YOU的时期,遐想集团正在为AI PC家当探索一种全新的可能。

01.

大模型走向终端

AI PC天然适配

从最初以谈天机器人的形态涌现,到现在基于大模型能力打造的产品和工具已经逐渐向更实用的生产力工具转型。

个人用户将这些产品融入自己日常生活、事情的同时,其需求也更加深入且细分,须要更符合自己利用习气的个人大模型。

这些需求真个诸多变革趋势正在倒推大模型家当变革。
大模型不再唯超大规模参数论,通过压缩技能让大模型保持性能稳定的同时,减小模型的大小和打算繁芜度,使其更易支配。

昔时夜模型能够支配到端侧设备后,有一个疑问浮出水面,如何让大模型的能力与用户的个性化需求更加契合。

PC设备脱颖而出,在交互办法、终端算力、本地存储能力方面的上风,使得这一终端设备成为AI技能惠及每一个人的主要路子。

首先,大模型驱动人机交互办法变革,可以对语音、笔墨、图像、视频实现高质量的识别和理解,从而使得人机交互的办法更加自然、智能且高效。
与此同时,PC可连接更多外接终端,是多种交互办法的核心,未来体验会更加丰富。

其次,PC更适宜大模型相应创作能力的呈现,从最初的大措辞模型到多模态大模型,其天生的内容已经从纯挚的笔墨向图片、视频、音频乃至于3D动画延伸。

末了便是算力与数据。
PC是个人终端设备中最强的算力产品,也更适宜用户存储个人数据、文件,因此其可以支持大模型打算、保护用户数据安全。

综上可以看出,PC与大模型的特色有着天然适配性。

02.

生产力工具革命

AI PC五大核心特色

AI PC的涌现,正在进一步放大PC的生产力工具属性。

首先要回答一个最实质的问题:AI PC是什么?遐想集团董事长兼CEO杨元庆给出了AI PC的五大特色,比较于传统PC,AI PC拥有更强的运算能力、更大的存储空间、压缩了体积但不减性能的大模型、完全的AI运用生态、安全和隐私保护。

前三者关乎根本软硬件举动步伐,也便是PC上能够运行经由压缩和性能优化的个人大模型,包括CPU、GPU、NPU在内的异构打算,以及容纳用户个人数据并形成确当地知识库。

后两者则更磨练PC厂商的生态培植能力,让AI PC能够拥有更加丰富的自然措辞交互形式,不止于笔墨、语音、手势交互。
末了便是让AI PC更可靠,让用户的数据更安全。

基于此,未来PC既能承载通用大模型的能力,还可以独立运行专属于用户的个人大模型,成为更实用的工具。
而这背后,实在面临着诸多寻衅。

AI PC既要实现对超大规模参数模型压缩,还要担保PC可用、坚持性能稳定。

在压缩后的大模型之上,AI PC要为用户打造自己的个人大模型,保持对用户利用习气、数据等内容的持续学习与演习,还要有强大的算力以及存储空间去支持这些数据的演习与存储。

更为关键的是个人数据隐私和安全问题,PC与用户日常生活、事情连接十分紧密,因此对付用户数据安全保护的哀求也将实现超过式提升。

而现在,随着这些技能难点被占领,AI PC将为生产力工具带来革命性的改变。

03.

深度解析遐想AI PC独创性背后的黑科技

遐想集团展示的这台厚度仅有不到2cm的AI PC里,到底藏着多少黑科技?

视频利用三维动画,以建模殊效还原了AI PC独创性背后的技能点,这台AI PC被立体化地拆解,我们可以看到,AI PC的根基便是强大的异构打算能力,高性能CPU、GPU、NPU形成了运转大模型的初步硬件架构。

在硬件架构之上,如何实现PC可驾驭的大模型?实在,超大参数规模的模型装进PC很难,当用一组数字去量化时,我们创造,OpenAI此前发布的大模型GPT-3.5参数规模为1750亿,估量占用内存超过330GB。

办理这一难题的答案是知识蒸馏,视频中通过平面分镜的手腕,以拓扑图的形式对知识蒸馏的模型技能进行了可视化科普。

可以看到,知识蒸馏便是用大模型的监督信息,来演习轻量化小模型,从而让模型在参数规模较小的情形下得到更好的性能和精度。
这之中,成熟的大模型便是“西席”,PC中支配确当地大模型便是“学生”。

这样一来,大模型的参数规模能从1750亿压缩到70亿,个人大模型装在硬盘中只须要占用4到5GB的空间。

PC中的大模型已经就绪,下一步便是如何让其更好地为用户所用,为每个人量身定制超强性能的生产力工具。

视频中利用立体感分镜弘大词云演示了如何通过向量化技能打造本地知识库,当用户授权置入后,个人的文档、PPT、PDF、日程表等涉及个人习气的信息就会被存储到本地知识库中。

这些知识通过向量化被转变为可以被AI打算的形态,然后进行存储。
当用户提出需求后,个人大模型也会将相应需求进行向量化,并在本地知识库中查询、匹配相似度最高的片段。
个人大模型提取出干系文本块后,会根据用户的提示词,再结合大模型的天生、理解能力输出答案。

除了支配智能算力、个人大模型本地知识库这两个软硬件支撑外,遐想集团自主研发的AI OS,是整台电脑的生态入口,能调用本地文档,调控数百个隐蔽的系统、硬件设置等完成用户更个性化的需求。

遐想集团冲破了AI领域知识仅由模型主宰的格局,让AI在PC领域从“通用”回归“个人”,真正实现“千人千面”。

当用户与AI OS交互对话时,比如:“觉得电脑打游戏以为不足流畅不足快,怎么办?”,AI OS会识别这一需求中涉及的关键词,然后理解用户想要适配游戏场景的干系设置,弹出“开启野兽模式”的设置选项。

随着用户在PC上触发交互的次数不断增多,AI OS对付个人的理解更加深入,能针对性办理用户日常生活、事情中诸多痛点,如天生会议纪要、调取过往PPT等,使其为个人做事,把定制化的高效体验带到用户身边。

值得把稳的是,大模型的每一次相应需求、每一次学习都会霸占大量系统功率,这就须要AI PC智能化调度、分配系统功率让用户的利用体验更好。

对付这些难题,遐想集团的自研AI芯片TAC(Trusted AI Controller)便是关键,视频中通过绚丽流畅的三维动画,展现了TAC赞助调度算力分配并开释高性能的实力。

TAC与PC上的所有硬件相连接,并将这些硬件的状态传输给AI OS。
正如视频所展示的,这些状态经由AI OS的理解,就会对应识别到详细是会议、游戏、学习等某一种利用场景。

基于不同的场景和任务识别调配多种模型,在这之中,TAC会将能耗压力精准分流,让CPU、GPU、NPU等算力芯片实现合理运行,担保AI PC的可持续性高效运转。

这块芯片不仅是支撑效率、功耗性能发挥到最大化的根本,还会成为用户个人数据保护的强大守卫。

TAC会将用户个人文件中用户的文件、利用习气等信息通过密钥加密,并将密钥封存在芯片的ROM中独立供电,有效防止数据的外泄及被恶意攻击。

末了,遐想AI PC独创性地将软件、硬件和生态相结合,供应的落地方案使其首次在个人终端上实现,层层黑科技使得我们看到个人人工智能双胞胎(Personal AI Twin)即将成为现实。

04.

结语:AI PC颠覆个人智能终端

AI PC正在发达成长,即将迎来落地的时候。
AI对用户而言,将不再只是津津乐道的话题,而是切实可用的工具。

正如遐想集团科普视频中提到的,39年前PC走上历史舞台后,承载了险些每一次数字天下的技能变革,39年后的本日,AI PC也可能即将成为人类与数字天下交互的最佳方案之一。

这一次的AI PC,既是打破,也是回归。
面临生产力工具重大变革的时候,遐想集团作为PC行业的领航者,将人工智能的颠覆性力量带到了每个用户的终端,以AI PC,让每个人实现AI普惠。