此芯科技发布AI PC战略暨首款芯片 | 云九Portfolio
7月30日,以“从此芯出发”为主题,云九资本早期投资企业「此芯科技」AI PC战略暨首款芯片发布会在上海举行。
面对已到来的端侧生成式AI时代,以及第三次PC产业革命,此芯科技确立“一芯多用”的发展战略,率先聚焦AI PC领域,打造新一代AI PC算力底座,并发布首款异构高能效SoC此芯P1。
“此芯科技致力于以高能效算力解决方案,推动端侧AI生态发展,通过AI技术应用,让生活、学习、工作变得更智能、高效、人性化。”此芯科技创始人、CEO孙文剑在发布会上表示,希望以AI创造更美好的未来。
一芯多用
打造新一代AI PC算力底座
随着ChatGPT的发布,人工智能进入深度学习2.0时代,生成式AI成为发展的主旋律。随着生成式AI大模型在各行各业的深入部署与应用,用户在能效、数据隐私、个性化定制等方面的需求愈发强烈,云端公有大模型与端侧私有大模型混合部署已成为行业共识。作为端侧生成式AI最佳载体的PC产业,对硬件尤其是作为核心计算单元的SoC的AI算力提出了新的需求。
基于此,此芯科技确定了“一芯多用”的发展战略,面向全球与本土双市场,构建端侧AI生态,率先聚焦AI PC领域,打造新一代AI PC算力底座。
孙文剑表示:“此芯科技芯片的丰富功能,极大满足客户多场景的需求;另一方面通过多场景落地,产品的销量增加,摊薄产品研发费用,为客户带来高性价比产品体验。”
对于新一代AI PC算力底座,孙文剑介绍:“此芯科技AI PC算力底座具有异构、高能效、安全的特点。”其异构集成了CPU、GPU、NPU,并基于数据链路带宽优化,实现高效运行。能效方面,采用多核异构及专用NPU的设计和低功耗内存技术,通过软硬件协同优化,实现高能效。安全方面,此芯P1具备最新Arm®v9架构中的PACBTI、MTE、secure EL2等安全特性,支持通用商密和国密算法,同时满足TPM(可信平台模块)和TCM(可信密码模块)需求,提供系统级安全和隐私保障。
“此芯科技新一代的AI PC算力底座,面向生成式AI,支持混合人工智能部署”;孙文剑进一步指出,通过构建丰富的软硬件开放生态,为开发者赋能,持续探索端侧AI PC应用场景及优势。
首款异构AI PC芯片发布
发布会上,基于AI PC战略,此芯科技发布首款落地产品,专为AI PC打造的异构高能效SoC—此芯P1。孙文剑介绍:“经过严格的测试,此芯P1完全达到量产要求,将正式进入产品化阶段。”
此芯P1使用先进的6nm制造工艺,提供丰富的AI异构计算资源、全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性。强大的多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等;高性能的访存子系统配置128-bit LPDDR5低功耗内存,容量可达64GB,数据传输率可达6400Mbps、带宽可达100GB/s。同时,具备高效的功耗管理,提供精准的动态调频调压、多电源域和动态的电源门控、标准的PC电源工作模式。
核心CPU部分,以Arm大小核(big.LITTLE™)技术设计,8个性能核4个能效核,主频最高可达3.2GHz以及针对PC场景优化的多级缓存设计;同时,集成2个SVE2向量加速单元,实现机器学习指令增强。
集成GPU提供10核GPU处理器,满足极致桌面渲染和通用AI计算需求。新一代硬件光线追踪,媲美主机级别的游戏体验;新型几何图形处理流程(延迟顶点着色DVS),实现功耗节省40%以上,以及灵活的可变速度着色(VRS),实现性能提升50%以上。同时,面向多场景的桌面GPU软件栈,满足行业应用需求。
强大的异构AI引擎,提供45TOPS端侧AI异构算力,支持100亿参数以内端侧大模型部署,运行LLM可达30 tokens/s以上,面向计算机视觉、自然语言处理、生成式AI等多场景提供端侧AI支持。
Arm终端事业部产品管理副总裁James McNiven表示:“AI正改变消费者使用PC的方式。基于Arm技术开发的此芯P1,使基于Arm平台的PC生态系统优势惠及更广泛的受众,带来一个兼具高性能、高能效且经过AI优化的平台,重新定义各类工作负载和用例的用户体验。”
安谋科技销售及商务执行副总裁徐亚涛表示:“此芯科技是安谋科技的重要合作伙伴,近年来双方携手推动了Arm CPU技术的迭代升级,引领了先进的Armv9架构在PC应用生态中的拓展。未来,我们将继续在产品研发、技术生态等多个关键领域保持紧密协作,为产业提供更可靠、高效的算力解决方案,推动终端侧AI在各领域的广泛应用。”
完整解决方案支持
加速AI PC研发进程
“此芯科技作为PC芯片领域的新进者,有机会以全新视角来打造AI PC平台解决方案。”此芯科技联合创始人、系统工程副总裁褚染洲表示。此芯科技平台解决方案的“三融”策略也由此应运而生。
“三融”策略即融合X86、Arm两大架构优势,融入PC产业朋友圈,融通AI的世界。基于“三融”策略, 此芯科技推出P1芯片的AI PC平台解决方案,具备可扩展异构计算、支持多模态人机交互、高带宽存储、平台级安全盾等特点。
此外,此芯科技AI PC平台解决方案支持包括Video-In/out、GMAC/Ethernet、HDA/I2S等在内的丰富接口,为全域普惠AI提供了基础;同时,基于“一芯多用”的战略,此芯P1将推出多种规格,支持AI终端的多种产品形态落地。作为PC产品成本的要素之一,PCB的类型关系到SMT制程复杂度和良率。此芯P1平台解决方案能做到8-12层,通孔、高密度板PCB全类型的支持,免除客户做产品还要精选PCB供应商和SMT代工厂的烦恼。
褚染洲表示:“我们积极融入PC产业链条,能支持PC厂商从X86 CPU无缝切换到此芯P1芯片,并已与主流ODM厂商以及业内知名BIOS厂商展开意向合作。”
在客户项目支持方面,褚染洲介绍,此芯科技建立了“以市场、支持、研发各团队全面联动为基础,迅捷响应客户要求,落实应用场景,快速解决问题,缩短产品开发周期”的客户支持体系。
以软促硬
推动AI PC行业创新
面对端侧生成式AI带来PC产业的变革与机遇,此芯科技重点聚焦启动固件、内核、图形加速以及AI方案四大方向进行全栈软件创新。
在启动固件层,此芯科技实现了通过一套固件支持多个操作系统和一套Linux内核同时支持ACPI、Device Tree两个规范的重要突破。此芯P1成为全球为数不多的采用统一固件支持多桌面操作系统的产品。
为了能够让Arm GPU在PC端同样达到极致的使用体验,此芯科技自主设计了此芯GO图形引擎,通过引入应用兼容层并在核心驱动层实现原创优化,适配多种主流桌面环境、兼容传统应用、支持OpenGL标准以及和不同多媒体框架协同等,一站式解决行业痛点。
此外,面对生成式AI端侧部署存在的诸多问题与挑战,此芯科技未来将推出NeuralOne AI软件栈,提供异构AI加速器支持,以满足对于端侧推理需求的多样性和复杂性;同时,提供统一的NerualOne API来隐藏具体的硬件细节,降低应用程序编程难度。
对于模型与推理框架的碎片化,此芯NeuralOne提供统一的SDK满足多引擎需求以及广泛的模型格式支持。“Neural是神经网络的意思,One代表统一。合在一起,我们希望通过此芯NeuralOne AI软件栈充分发挥异构算力强大潜力,更好地帮助生态合作伙伴开发更强的AI应用。”刘刚表示。
软硬协同
繁荣AI PC生态
此芯科技深知,生态建设非一朝之功,通过布局异构AI端侧生态、打造Arm原生开发平台、积极参与上游开源建设,以及推动产业联盟和标准化,此芯科技希望能够赋能开发者,用适合PC的方式建设PC新生态,与开发者一起繁荣AI PC生态。
在圆桌论坛环节,此芯科技生态战略总经理周杰、安谋科技全球服务市场部总经理谢伟、联想集团首席研究员颜毅强、麒麟软件副总经理朱晨、阿里云通义端侧业务负责人梁业金、清昴智能联合创始人兼COO姚航等嘉宾围绕软硬协同,共论AI PC技术发展、应用场景以及产业发展的机会与挑战。
谢伟表示:“多年来Arm一直深耕生态,不仅是在手机端,在服务器端、PC端Arm架构CPU的性能已经和X86性能相当,完全可以承担在AI PC上的计算任务。希望看到有更多类似此芯的AI PC芯片厂商,设计更多的产品投入市场。”
对混合人工智能对于产业的影响,颜毅强表示:“混合人工智能所带来的产业价值非常大,相关的基础设施、设备,以及底层支撑的算力,都有很大的市场空间。”
针对AI PC对于国内PC产业链的影响,朱晨表示:“生成式AI给PC产业注入了新的活力,给这个上层的应用带来了新的想象空间。AI芯片第一次融入主板,搭配操作系统层面的AI子系统,让上层所有的应用都附带了AI能力,带来PC产业更高质量的发展。”
梁业金从推理引擎与硬件协同方面进行了讨论,其表示:“在大模型百花齐放的今天,端上的算力不应该被浪费,应该被充分地应用。此芯推出了P1芯片,有很好的算力,丰富的接口。能不能把算力用好,还需与上层推理引擎的设计协同,这需要业界的共同努力。”
对于大模型和硬件的匹配问题,姚航表示:“目前国内大模型数量众多,同时AI PC的硬件计算单元呈现多元化的趋势,如何解决大模型和硬件的匹配以及应用落地,离不开中间层伙伴的努力,需要所有的软件伙伴从模型侧、框架侧、推理引擎侧、硬件侧软硬协同做好模型和硬件的匹配。”
为了更好地进行AI PC产业链建设,此芯科技销售副总裁陈杰峰邀请来自联想集团、安谋科技、同方鼎欣、万莫斯、统信软件、麒麟软件、江波龙、百敖软件、无问芯穹等上下游产业链合作伙伴共同上台,完成此芯科技AI PC产业链战略合作启动仪式,拉开此芯科技产品与合作伙伴合作的序幕,加速国内AI PC创新产品的商业化落地,推动产业实现可持续发展,推动新质生产力的发展,共创AI PC行业的辉煌未来。