在人工智能领域的发展中,大模型的应用面临着诸多挑战,尤其是在场景落地的最后一公里。然而,云天励飞的深目AI模盒的发布,为解决这一难题带来了新的突破。
30114218-2024-03-30T03:42:41.png
这款小小的盒子实现了“3个90%”的突破,即覆盖场景超过90%、算法精度超过90%、使用成本降低90%。这一突破得益于云天励飞在多模态大模型架构和自主研发的神经网络处理器及推理芯片设计方面的核心能力。

深目AI模盒的大模型能力来源于云天励飞自研的云天天书大模型。该模型不断迭代,最新的3.5V版本还新增了多模态支持。针对边缘计算,云天励飞通过分层解耦、量化优化等技术,成功将大模型塞进了这个小盒子。

在解决场景少、缺数据难题方面,深目AI模盒表现出色。它能够在数据少、无数据等极端情况下,快速完成算法训练。在算法使用初期,用户可以直接调用预训练算法,并通过标记结果进行微调和升级。即使面对零数据样本的极端场景,也可以利用大模型的泛化能力解决。

目前,市场上存在着模型计算产品的空白。常规推理盒子无法承载大模型,而百万级的训推一体机主要承担大规模任务。深目AI模盒的出现恰好填补了这一空白。它的售价只有千元级,轻到单手就能托起。

云天励飞通过深目AI模盒,为推动AI在更多场景、行业的落地提供了有力支持。这不仅是技术上的突破,更是对人工智能发展的积极探索和创新。

原文:https://mp.weixin.qq.com/s/Cjykj6ubju57oEvxSO9HMA