云创数据：AI大模型推理是公司向量计算一体机主要应用场景之一

2023/6/29 18:37:45 挖贝网周路遥

挖贝网6月29日消息，近日云创数据（835305）接待了上海龙猛私募基金管理有限公司的调研。云创数据重点介绍了公司“cVector向量计算一体机”的原理、应用、优势等情况。

云创数据表示，公司于3年前推出了“超大规模人脸向量比对一体机”。当时公司发现面向大规模人脸比对场景时（例如：在学校宿舍区，通过视频监控判断每一个进入区域的人员是否是校内人员，当发现校外人员进入时发出告警，提升校园安全等场景），如果采用业内常规的特征计算方法，需要大量的GPU支撑，费用十分高昂。公司通过自研算法和软件，将人脸数据转换成特征向量数据存放在一体机上，用优化后的CPU计算代替GPU进行高维向量计算比对，大幅提升搜索性能、降低成本，单台“超大规模人脸向量比对一体机”每秒可处理约7亿次人脸数据特征向量比对。

之后随着公司技术研发的推进，云创数据的向量计算的方法不仅可用于人脸数据，其他结构化和非结构化的数据都可以转化为向量数据。因此，公司经过技术升级与产品更新迭代，于2022 年6月推出了“cVector 向量计算一体机”，用以支撑大规模向量计算的应用场景。

云创数据强调，公司“cVector 向量计算一体机”是一款软硬件一体化的产品，具有类似向量数据库的功能。该产品主要应用于人工智能领域中的大规模图像检索和生成式AI大模型推理两大主要场景，目标定位是辅助解决仅依靠GPU不足以支撑所需算力的难题，具有更高的性价比优势。

云创数据