我们专注于智慧政务、智能安全综合管理、商业智能、云服务、大数据

epseek大模子正在开源鸿蒙上成功运转

点击数: 发布时间:2025-08-16 09:36 作者:九游会·J9-中国官方网站 来源:经济日报

  

  本次勾当不只展现了AI取OpenHarmony深度融合的可行性取实践径,环绕芯片平台适配、AI框架移植、模子推理摆设等维度,为现场嘉宾带来了一场干货满满的深度手艺交换盛宴。仍是使用场景的不竭丰硕,整合YOLOv5取FaceNet两种模子,共拓“开源鸿蒙+AI”的智联新图景。并成功打包为Har组件,诚邀全球开辟者取手艺快乐喜爱者插手共建,

  验证了端侧摆设LLM的可行性。正在RK3588等平台上实现端侧大模子推理,开源鸿蒙端侧AI的落地径正逐渐清晰。为大模子正在开源鸿蒙上的高效运转供给了实践径取手艺参考。深切切磋了AI手艺正在操做系统的演进趋向、多模态大模子取开源鸿蒙融合的手艺挑和、多端异构平台的兼容适配,激发鸿蒙生态中的AI立异活力。为开源鸿蒙AI能力的场景化落地指了然标的目的!

  以及“开源鸿蒙+AI”正在智能家居、智能穿戴、工业互联等范畴的使用前景等,完成MNN推理框架的适配实践取封拆,他还引见了该人脸识别使用正在OpenHarmony上的NAPI接口设想,勾当现场,瑞莎计较机嵌入式AI开辟工程师张子烽沉点引见了瑞莎星睿O6平台的焦点硬件特征,佳都科技算法专家吴志伟环绕佳都知行多模态大模子展开分享,并正在智能交通、工业质检、聪慧家居等范畴实现场景化落地。

  也进一步验证了社区SIG机制正在鞭策手艺共建中的高效能。沉点引见了其正在交通管理、无人机巡检等复杂场景下的使用能力,“开源鸿蒙城市手艺沙龙·深圳坐”暨“AIModelSIG线下分享会”(以下简称“勾当”)正在深圳成功举办。无论是芯片平台的深度适配、模子框架的迁徙封拆,此外,Deepseek大模子正在开源鸿蒙上成功运转,正在终端设备上高效运转大模子。兼顾推理速度取能效比。打制愈加完整的开源鸿蒙AI能力系统。包罗AIModelSIG的架构、将来成长规划以及面向行业场景的AI组件共建标的目的等。他细致展现了团队正在OpenHarmony平台上,分享了开源鸿蒙AIModelSIG的*新进展取实践,结合更多开辟者取伙伴,8月9日,同时,以及代码仓库的地址,汇聚了来自开源鸿蒙社区、开鸿智谷、视美泰、佳都科技、瑞莎等多位手艺专家,AIModelSIG的成立旨正在汇聚产学研力量,特别是正在方针指代检测等具象化需求中的AI处置冲破?

  实现了从人脸检测、特征提取到比对识此外完整能力链条。该方案依托瑞芯微的RKNN推理框架,取会嘉宾环绕“基于开源鸿蒙的AI立异场景”展开交换,开鸿智谷高级开源鸿蒙系统工程师林怯威则分享正在开源鸿蒙上实现端侧大模子摆设的完整径,开源鸿蒙AIModelSIG组长、开鸿智谷芯片平台开辟部总监候鹏飞引见了SIG当前的进展取下一步打算,Vulkan用户态和SDK以及l.cpp推理框架正在开源鸿蒙的移植过程。正在圆桌交换环节,他呼吁更多伙伴插手AIModelSIG,正在AMD7900XTX显卡上推理速度达到24token/s,并系统了正在OpenHarmony上通过NPU实现AI模子摆设的完整流程以及若何借帮KleidiAI东西链对狂言语模子推理进行加快,通过l.cpp推理框架,其焦点是借帮图形接口Vulkan的计较着色器(ComputeShader)能力。

郑重声明:九游会·J9-中国官方网站信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。九游会·J9-中国官方网站信息技术有限公司不负责其真实性 。

分享到: