Chips&Media推出了用于缓解人工智能半导体内存瓶颈的“数据压缩知识产权核”。
据Chips&Media 7日消息,此次发布的数据压缩知识产权核,是该公司首款面向视频以外应用领域的多媒体知识产权核。该产品通过对人工智能运算过程中产生的特征图进行无损压缩,缓解神经网络处理器的内存瓶颈。
Chips&Media针对ResNet、MobileNet、You Only Look Once等主要视觉网络进行测试,结果显示,按数据格式划分,16位浮点格式的内存带宽节省率为35.2%,16位脑浮点格式为45.7%,8位整数格式为53.5%。该公司表示,这意味着在相同内存环境下,可以增加神经网络处理器实际可用的内存带宽,提高整个系统的处理效率。
该产品还兼顾了系统集成的便利性。数据压缩知识产权核采用“内联高级可扩展接口桥接”架构,部署在现有神经网络处理器与高级可扩展接口总线之间。其轻量化架构无需额外的内部静态随机存取存储器,即可利用现有高级可扩展接口时钟,从而尽量减少硬件面积的增加,并便于集成至现有系统。此外,该产品支持8位整数、16位浮点、16位脑浮点等多种数据格式,并支持线速处理,以适应高速数据流。
目前,Chips&Media已完成数据压缩知识产权核的核心——特征图压缩算法及C模型的开发,正以2027年第一季度完成硬件实现为目标推进研发。未来,公司计划根据客户需求及人工智能工作负载的特点,扩大数据压缩知识产权核的应用范围。其产品线扩展构想是,从目前的特征图压缩出发,进一步支持静态权重压缩,继而拓展至键值缓存压缩。键值缓存被认为是大型语言模型和视觉语言模型内存用量增加的主要因素之一。
Chips&Media相关负责人表示:“我们将依托20多年来积累的硬件知识产权核设计能力,以及功耗、面积和性能优化技术,在保持现有视频编解码器市场竞争力的同时,将业务拓展至快速增长的人工智能及高性能多媒体知识产权核市场。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。