ai类似软件 软件生态:AI芯片真正的落地大考

默认分类1年前 (2023)发布 admin
3,529 0
ChatGPT国内版

-2023年1月10日第194期-

政策 | 时氪 | 人才 | 项目|活动| 产业 | 行业

【本文字数:4253字;阅读时长:10分钟】

36Kr四川/王涵

“你们的芯片跑不起来,我们为什么要投呢?”北京国贸内,专看硬科技项目的投资人向面前的AI芯片公司提问。这是对方今年第四次上门投递项目,过去9个月,他们一无所获。

这不是单一案例,并且和行业变化不符合。根据《2023年中国AIoT产业全景图谱》,中国AIoT(企业级)市场规模将于2022年底达到10280亿元,同比增速为16.4%,在全球占比近20%,物联网市场体量全球最大。但中国2022年AI芯片的投资事件却少于上年。

“按理说,AIoT市场扩张会带动底层支持的ARM架构芯片需求扩大,应该是投资大热门,但今年的走势却是整体缩减、只投头部,中小厂商的机会几乎消失了。”

“能造芯,但不能用芯”是造成这一现象的主要原因。据雷锋网报道,某国产AI芯片开发公司一直到把芯片送到某AIoT客户工厂测试时,才发现产品无法满足客户应用场景的需求,双方都当场傻了眼。

万物智能互联的5G时代,从移动消费、IoT场景到工业场景,万物互联的应用越来越宽广。结合AI技术的应用,更加智能化的物联网(AIoT)也从常见的消费者应用和用例,逐步扩展至在企业对企业(B2B)和企业应用中创造更大的价值。AIoT俨然下一个移动互联网时代的金鸡,也让市场的主流芯片架构从x86逐渐转向ARM和RISC-V。但面对不断扩展的需求市场,AI芯片难以落地、无法满足需求的情况让所有从业者和投资机构都急得焦头烂额。

“软件生态决定芯片价值”,是今年芯片行业的共识。

无论投资人、开发商、下游采购商,都意识到了“构建在芯片之上的软件生态深刻影响着芯片的可用性”,也直接决定了芯片是否真正成功和值得投资。谁能解决AI工具链问题、完善芯片软件生态、让芯片落地,谁就能成为下一个投资热门。高通、苹果、谷歌、英伟达等企业,一方面不断投入研发,一方面积极寻找生态伙伴,致力于抢先解决AI落地的问题。

2022年12月20日,阿加犀宣布,高通创投领投阿加犀Pre-A轮融资,本轮融资总额5000万元人民币。

这家成立不足两年的公司开发了智能物联网(AloT)应用开发和部署平台,致力于持续降低AI应用开发技术门槛,专注解决芯片异构和场景碎片带来的AI落地难题。

AI芯片投资热度高涨却困难重重

ai类似软件 软件生态:AI芯片真正的落地大考

AI早已成为兵家必争之地。IT 桔子数据显示,红杉中国、IDG 资本、真格基金、五源资本、腾讯投资、英诺天使基金、创新工场、深创投和联想之星均在中国AI产业投资超70次,其中红杉中国出手超过200次。

基金易设,好项目却难得。根据IT桔子的报道,2022 年因部分芯片产能饱和,多家芯片企业市值大幅下降,再加上大厂整体投资的普遍收缩,各家在这一年投资数量也整体下降。尽管小米、华为、百度、阿里巴巴、腾讯、字节跳动都纷纷入局芯片投资,但大多集中在消费电子类芯片、汽车类芯片上,只有腾讯和阿里巴巴在AI芯片细分方向投资行为较多。针对这个情况,有投资分析师认为,“不是他们不看重AI芯片的生态投资所以投资少,而是他们这样的内行才能看清楚,真正值得投资的AI芯片生态商太少了。”

整个行业都苦于寻找“可靠、可用、可落地”的AI芯片及生态商。根据IT桔子的报道,截至2022年11月10日,今年中国人工智能行业赛道的融资数量中,基础层的出手力度不及应用层和技术层。综合投资次数和金额对比,今年投资人出手最多的仍是应用层的AI解决方案公司,该领域投资事件占比为45%;其次拥有计算机视觉、深度学习等核心技术的AI技术公司,投资事件占比为32%;对基础层的AI芯片/算力公司在比例上仍旧较少,原因是其创投门槛最高、周期长、相关优质创业公司也在逐步出现和成长过程中。

就连36氪接触的硬科技投资者,也改变了对AI芯片项目的推荐要求。过去用一个BP配上若干视频讲解,在办公室里就可以和国资背景的投资机构副总裁面谈;现在必须要在实验室里通过“上马”测试,投资机构才会愿意进行下一步商榷。

“知道落地难,没想到落地这么难。”这是投资机构和业界沟通的感慨。AI芯片落地,面临的问题是多个问题叠加。需求层叠,导致指数级的难度升级。

首先,AIoT发展中,跨平台迁移需求高涨,但过程中算子缺失和精度下降,迁移成功率低。加之AIoT产品逐步向“手机化”发展靠拢,需要从“大而全”的x86芯片转向“小而精”的ARM等精简指令集架构芯片。

其次,为了让芯片的功能更准确服务所需的AI产品,大多厂商都采用了异构芯片的方式设计AI芯片。但异构芯片上的每个计算单元又各自有适配的框架和SDK,这让AI软件在推理过程中面临效率丢失的情况。

第三,AI芯片落地面对多方面的“碎片化”问题。各家芯片厂商使用的架构与支持的AI推理框架各不相同,而不同的开发者又有不同的AI开发需求,这就造成了几何级的碎片化需求叠加。同一个开发者可能需要面对不同品牌和型号的芯片,但需要实现的终端功能是一致的,这就要求开发者对每一款芯片都做针对性的开发,重复劳动量剧增。

极少有芯片厂商能凭一己之力解决这些问题,英伟达的AI芯片生态(CUDA, ,统一计算架构)系统,基于软件栈达到支持AI框架的目的,相应的应用程序便可由此进行开发扩展,健全的软硬件生态帮助他们占据了市场龙头地位。2022年高通也发布了AI Stack,通过统一、跨平台的AI软件栈,支持厂商和开发者在对单一产品完成软件模型后,直接扩展至其它品类中,“一次开发,多终端使用”。

但现实是,绝大多数厂商很难独自应对这些问题,和生态商开展合作是必要的。这也是阿加犀能在资本寒冬中异军突起、获得投资的主要原因。

让AI芯片厂商和开发者专注于自身价值实现

解决了很多AI产品开发团队的迫切需求,近两年越来越多AIoT企业试图将业务从x86扩展到更具潜力的ARM平台,而这正是阿加犀擅长的技术领域。据了解,阿加犀团队仅用不到一周时间解决了困扰相关企业半年多的难题,迁移后的算法模型仍能保持高水准精度,AI运行性能获得了额外提升。

AI芯片设计复杂、专业度高,功能繁多、需求更是分散,无论是从过往成熟方案直接迁移,还是基于新的芯片生态进行全新开发,都需要开发者投入大量研发精力,通常需要多人团队按需协同配合定制开发,成本当然居高不下、落地困难。

而阿加犀的技术方案,其本质是对不同芯片、不同软件之间的“翻译”、“匹配”和“补充”。他们力求达到让异构芯片只需部署直接导入AI模型,就可以快速转化、高效运行,不同架构的模型也可以便捷地在进行加载和自动翻译。

纵观AI开发市场,其实也不乏通用型技术方案,但它们往往以牺牲AI芯片最优性能为代价。

由于AI DSA架构五花八门,开发者但凡更换DSA平台就有新的学习成本,配置复杂并且很难发挥其性能。传统技术方案试图通过利用相对成熟统一的CPU/GPU计算能力,替代异构芯片上更适用于AI的计算单元。这种简单粗暴的方式短期内确实也降低了AI开发门槛,但AI芯片厂商投入大量资源研发的AI计算单元将被搁置。

ai类似软件 软件生态:AI芯片真正的落地大考

牺牲了AI芯片的最优性能,开发者投入的同等算力硬件成本也势必受其牵连。这是双输的局面。

阿加犀为市场带来的技术方案依附于AI芯片异构计算单元本身的性能特性:

于AI芯片而言,对其计算单元和AI推理框架进行深度集成优化,试图以此释放芯片本身的AI性能,而非简单使用CPU/GPU进行替代。

于开发者而言,帮助他们把AI应用的运行过程细分拆解,用特定的计算单元去执行最适合它的任务,让CPU去做调度,让GPU处理图像数据,让AI DSA专攻AI分析,而整个开发和推理过程并不需要开发者付出额外的代价。

截至目前,已经具备了融合架构、模型迁移优化、AI性能加速等核心能力,基于这些能力,解决了芯片落地的业界难题。

首先就是降低了开发者的开发门槛,开发者落地优质的AI项目,不再需要对特定的芯片和硬件深入学习,降低开发者开发过程的学习门槛,让开发者专注在自己的AI项目本身;二是通过软件平台加速了AI应用落地,直接帮助芯片厂商快速高效优质地实现产品在各类场景下的应用。

正因为阿加犀在助力实现AI芯片落地方面的实力,他们顺利获得了高通创投的投资加持。

务实的AI应用落地成就开发者也解放了芯片

集合了这些功能,不仅仅是提升了AI芯片性能、解决了落地问题,把它们融合到一起,形成了行业应用方案的整体升级。

目前机器人行业普遍受困于多主板结构带来的高硬件、高研发成本,他们通常须用两块芯片分别负责Linux上的机器人主控、导航和AI应用运行以及上的人机交互和应用生态,成本高昂且工作效率低。在过去,机器人厂商为了追求成本控制,往往会牺牲产品的智能化体验,面对市场严重的同质化趋势,这条路显然已经走不长。

据介绍,阿加犀已经在机器人行业有所探索。依托融合架构特性,改变了传统机器人硬件结构,仅用一块板卡,同时满足了Linux和系统上各自的运行需求。依赖其对AI运行性能的优化,该机器人方案的AI视觉功能体验也获得显著提升。阿加犀为机器人厂商带来的是减少一块主控板卡的硬件投入,研发和维护成本也随之显著降低。

阿加犀已经尝试在多个AIoT产品应用上落地这些能力。

据公开资料显示,阿加犀已经在智能摄像头、智慧屏、智能座舱等超过数十个产品上成功验证和应用。他们已经发布了性能强功耗低的工业检测解决方案、单个SoC上支持多系统以及AI能力的机器人解决方案,以及泛CV计算机视觉方案:如可基于高通智能物联网芯片组在智能摄像头上同时实现多路视频推拉流以及实时AI分析;同样也能为智能座舱应用增加多路视频推拉流及分析、多屏异显AI新场景等等。

随着类似的成功案例越来越多,从最初的框架融合“翻译器”角色、AI落地“加速器”角色,迭代到AI芯片“多元化”角色。不但能优化软硬件综合成本、缩减开发周期,也让搭载ARM芯片的智能设备从单纯的交互工具变为开发工具,所见即所得的AI应用开发方式,促进万物智能互联。

受束缚的AI芯片被彻底解放。

跨生态、一体化、自适应,这就像是程咬金的三板斧,组合在一起就能满足芯片落地应用的全场景解决方案。AI芯片行业飞速发展,开发系统未来也会有新的成果。照此趋势,将能逐步支持所有AI芯片厂商和开发者,不论是ARM芯片厂商、RISC-V芯片厂商、AIoT研发企业,亦或未来将要入行的学生,都能在上实现相应的优质AI应用落地。

这也是高通创投投资阿加犀的期望。高通创投表示,自2015年起,高通创投便进入中国AI领域,秉持“投技术创新”、“投垂直应用”、“投平台拓展”三个方向积极推进AI领域的投资布局,持续投资拥有先进AI核心技术、将AI技术应用于垂直行业及跨行业AI平台的初创型企业,阿加犀便是跨行业AI平台企业的优秀代表。未来,高通创投将持续支持那些与高通拥有共同愿景、致力于让AI触手可及的创新企业,助力产业生态共建,做中国AI产业的加速器。

© 版权声明
广告也精彩

相关文章

暂无评论

暂无评论...