关注延迟、性能、功耗并重应用，「龙加智」推出实时AI计算平台

近年来，人工智能在安防、物流、无人驾驶、医疗、教育等领域逐步深入落地，多样化的场景需求进一步推动算力需求的提升，同时也带动了AI芯片需求的快速增长。Gartner曾预测，全球人工智能芯片的销售额将在2023年达到343亿美元，而2018年这一数字为42.7亿美元，年增长率可达52%。

近日，36氪接触到了一家来自硅谷的AI芯片研发设计公司——「龙加智（Dinoplus ai）」。该公司关注当下市场的同时对AI芯片提出的更高要求：更快处理速度、更低功耗、更低延迟，以独特的芯片架构、高效率灵活的软件架构为核心，开发了包括FPGA（现场可编程门阵列）和ASIC（特定应用集成电路）产品以及相关的SDK（软件开发工具包）等软件产品在内实时AI计算平台。

该平台可广泛应用于私有云、5G、边缘云计算、工业自动化、无人商店等领域，能在提供与同类产品一致性能表现下，实现更低功耗、确定的更低延时。

龙加智CEO胡遇杰告诉36氪，目前市场上的AI芯片还存在以下痛点：

• 一是绝大部分的AI芯片解决方案没有针对延迟优化，难以满足低时延和低“时延抖动”（单次请求的时延波动值）场景的需求。比如在自动驾驶中，计算延时必须控制在毫秒级别，否则可能造成车毁人亡；而且延迟的确定性对整个系统稳定性至关重要。 在语音控制场景中，长时延造成的卡顿也会影响用户体验。

• 二是大部分AI芯片谈到低时延的时候仅仅针对图像和视频处理。 其实低时延对语音识别，搜索引擎，和自然语言处理等都有很大价值。

• 三是AI处理器使用门槛高，不易使用，难以将其性能发挥到最好；另外，AI算法进化速度很快，很多AI计算平台难以适应未来算法。

针对这些问题，龙加智都有相应的方案推出。龙加智在关注提升计算性能、降低功耗的同时，重视延时的缩短。“不仅仅是降低了延时，而且固定的、稳定的低延时，即计算平台在多次执行同一个任务时，反应时长是一个固定的数。”胡遇杰说，“市面上，许多AI处理器，每次执行同一任务时，反应时间都不一样，而用户在使用我们的计算平台时，是可以预计确切反应速度的，就可以增加整个系统的确定性和可靠性。”

龙加智的AI芯片的延迟对大部分的AI任务都做到了低延迟，包括图形图像，语音，搜索，自然语言处理等。

不仅仅延迟，在计算性能上也有优势。 根据测算，在具体的应用中，龙加智ASIC产品用于语音AI识别，处理能力约为Nvidia Tesla V100的13倍，功耗仅仅是前者的1/6；在图像AI识别中，龙加智能达到Nvidia Tesla V100相同的处理能力，而响应时间在0.12ms以下，是V100的1%左右。除了在语音和图像识别，龙加智联合运营商，能将5G边缘云计算的响应速度降低至0.12ms，将整个5G边缘云到终端的通讯计算速度的延时控制在10ms内。 

之所以能做到这样的性能，主要得益于龙加智独特的芯片架构。据介绍，该芯片采用了分布式存储架构、双片上网络结构、伪长指令集的处理器、控制回路和数据回路分割等技术、架构。这使得龙加智的AI芯片组可以特别高效率的利用计算单元，并能以很低且固定的延迟进行计算。“尤其在批处理数为1时（batchsize=1），芯片的浮点计算资源的典型利用效率接近77%。”胡遇杰说，“更高利用率意味着我们的芯片可以更小面积、更低成本。而且龙价值的芯片组不需要外存就可以工作，这样也可以节省一大块系统成本和功耗。”

在AI计算平台“好用”方面，龙加智在芯片组的基础之上开发了专有编译器和SDK，在兼容市面上的主流计算框架的同时，也支持用户自行开发芯片应用。此外，胡遇杰还透露，公司正在针对智慧城市等垂直应用场景开发应用模版，用户只需进行简单的功能需求勾选就能配置相应芯片应用，希望以此进一步降低AI计算平台的应用门槛。

商业模式上，龙加智主要通过IP授权和产品销售获得收益。目前， 龙加智针对图像和语音识别的FPGA产品已经形成销售，通用可编程的ASIC产品也已成型。 IP授权也已被电信运营商、汽车制造商等大公司采用。

龙加智认为，AI计算平台的打造必须能适应不断进化的AI算法，这就要做到强大性能和灵活性的统一。因而，龙加智AI计算平台下一步将继续融合专用ASIC的高性能和FPGA的灵活性。“决定计算平台或是芯片性能的关键除了计算单元之外，还有计算单元之间互联。”胡遇杰说，“龙加智的方案是将FPGA嵌入ASIC之中链接计算单元，利用FPGA的灵活性实现不同应用使用不同的连接，从而使高性能ASIC也能灵活适应算法的演进。”

团队方面，龙加智的核心团队在技术和商业两方面都有丰富的经验。公司创始人兼CEO胡遇杰曾先后在爱立信、博通、Cadence工作，有15年的低延时ASIC和DSP研发经验。公司董事并执行主席Sam Heidari，曾任Quantenna Communications公司董事会主席兼首席执行官（2019年OnSemi 以11亿美元收购 Quantenna）并在多家私有和上市公司担任技术高管，是全球半导体联盟董事会成员。业务开发高级副总裁Patrick Ang是半导体行业成功的连续创业者和经验丰富的上市公司高管，曾在多家上市公司担任高级管理职务，包括OPTi的EVP，Creative Technology的副总裁和ESS Technology的首席运营官，拥有超过30年的半导体行业经验。

据悉，龙加智曾于2017年完成天使轮融资，2020年初获得pre-A融资，目前A轮融资仍在进行中。

相关阅读：

龙加智科技与SiFive达成合作，共同开发人工智能处理器平台