云创大数据cVector向量计算一体机开放测试

2023/9/21 17:32:52 挖贝网

挖贝网 9月21日消息，云创大数据cVector向量计算一体机自推出以来，收获行业好评不断，多家企事业单位向云创大数据表达了合作意向。为了让更多单位体验并感受cVector向量计算一体机的不俗实力和创新特性，现正式将cVector向量计算一体机进行开放。

在开放测试中，用户可选择“随机生成”和“随机选取”两种方式，基于5亿、1亿、5千万、1千万数据量，即可体验在极短的时间内，cVector向量计算一体机如何高效、快速完成比对。欢迎访问http://xl.cstor.cn体验！

cVector向量计算一体机是一种面向亿级以上向量计算场景的高性能向量存储、计算一体化平台，采用并行计算架构，融合高密度混合服务硬件，实现对大规模向量数据的计算和比对，相较于通过GPU、向量数据库进行向量计算，cVector向量计算一体机在入库效率、计算性能方面优势突出，可广泛应用于人工智能大模型、机器学习、计算机视觉、自然语言处理等领域。

cVector向量计算一体机通过发挥高性能硬件、向量加速算法和并行计算算法的合力，致力于满足亿级乃至百亿千亿向量规模的大模型推理应用向量计算需求。

cVector向量计算一体机

cVector向量计算一体机的使用方式与向量数据库基本一致，支持批量、追加入库，支持向量间欧式距离、余弦距离等向量计算，支持网页、命令调用、Python库等方法，但在向量的入库和比对计算上具有惊人的性能。

cVector向量计算一体机架构图

近期， cVector向量计算一体机接受了工信部直属的国家一级科研事业单位中国软件评测中心的鉴定测试。中国软件评测中心对比测试了cVector向量计算一体机与3款主流向量数据库在入库速度、查询速度、准确性等维度的性能对比。

在入库性能方面，同样入库3000万条256 维向量数据，在向量数据库中最快的是A，入库速度是4851.97s，cVector向量计算一体机是1202.91s，入库速度约是向量数据库A的4倍，向量数据库C的50倍，向量数据库B的113倍；当入库数据达到1亿条时，向量数据库A的入库速度是17295.49s，cVector向量计算一体机是4484.55s，入库速度约是前者的3.9倍。

入库性能比对

在查询性能方面，同样查询1亿条256 维向量数据，向量数据库A的查询速度是512.8s，cVector向量计算一体机是0.27s，查询速度是前者的1899倍，而其他两家测试向量数据库由于数据量太大无法入库比较。

查询性能对比

在准确性方面，cVector 向量计算一体机、向量数据库A、向量数据库B和向量数据库C的数据准确度一致，通过了中国软件评测中心（工业和信息化部软件与集成电路促进中心）单项性能测试。

cVector向量计算一体机在亿级乃至百亿千亿向量规模的的入库和查询等方面具有显著的性能优势，可帮助提高大模型推理的服务性能和服务质量，并能明显降低其基础设施建设成本，助力类ChatGPT等人工智能企业以更优的性价比解决算力不足的问题。

在具体应用方面，对于生成式AI相关企业，cVector向量计算一体机主要面向大模型推理应用，能够在下述大模型推理环节发挥显著作用：

①提高生成式AI的输出准确性。由于大模型的输出结果是根据概率推理而成，所以会出现“一本正经说胡话”的情形。可以将可信来源的数据转化成向量数据存储在向量计算一体机中，校准大模型推理输出的结果，从而使大模型输出的结果更加准确。

②提升大模型理解互联网实时数据的能力。大模型基于历史数据训练而成，所以“只知道过去，不知道现在”。如果使用向量计算一体机存储海量实时数据所转化成的向量数据，可以帮助大模型理解掌握实时情况。

③提升大模型对用户的服务质量。向量计算一体机可以允许用户上传更多的数据，让大模型掌握用户个性化的背景资料，更好地学习理解用户请求，更好地结合用户的实际情况回答问题。

④减轻大模型的访问压力。用户所提的大部分问题都是相似的常见问题，向量计算一体机可以缓存大量热点问题，不需要经过大模型推理即可返回结果，从而大幅减少算力成本。

⑤帮助生成式AI过滤敏感内容。怎么防止生成式AI说错话一直是一个挑战性问题，而向量计算一体机可以存放敏感内容所对应的向量数据，在用户提出请求时加以判断，尽可能防止AI对敏感问题做出不恰当的回应。

cVector向量计算一体机能够广泛应用于人工智能领域中生成式AI的推理应用场景，为各类生成式AI企业提供高性价比的产品和解决方案，大幅增加大模型平台的竞争力。

云创数据