PERFORMANCE

• 1: HugeGraph BenchMark Performance
• 2: HugeGraph-API Performance
  • 2.1: v0.5.6 Stand-alone(RocksDB)
  • 2.2: v0.5.6 Cluster(Cassandra)
• 3: HugeGraph-Loader Performance
• 4: HugeGraph 0.4.4 性能测试

1 - HugeGraph BenchMark Performance

1 测试环境

1.1 硬件信息

1.2 软件信息

1.2.1 测试用例

测试使用graphdb-benchmark，一个图数据库测试集。该测试集主要包含4类测试：

• Massive Insertion，批量插入顶点和边，一定数量的顶点或边一次性提交

• Single Insertion，单条插入，每个顶点或者每条边立即提交

• Query，主要是图数据库的基本查询操作：

  • Find Neighbors，查询所有顶点的邻居
  • Find Adjacent Nodes，查询所有边的邻接顶点
  • Find Shortest Path，查询第一个顶点到100个随机顶点的最短路径

• Clustering，基于Louvain Method的社区发现算法

1.2.2 测试数据集

测试使用人造数据和真实数据

• MIW、SIW和QW使用SNAP数据集

  • Enron Dataset

  • Amazon dataset

  • Youtube dataset

  • LiveJournal dataset

• CW使用LFR-Benchmark generator生成的人造数据

本测试用到的数据集规模

1.3 服务配置

• HugeGraph版本：0.5.6，RestServer和Gremlin Server和backends都在同一台服务器上

  • RocksDB版本：rocksdbjni-5.8.6

• Titan版本：0.5.4, 使用thrift+Cassandra模式

  • Cassandra版本：cassandra-3.10，commit-log 和 data 共用SSD

• Neo4j版本：2.0.1

graphdb-benchmark适配的Titan版本为0.5.4

2 测试结果

2.1 Batch插入性能

说明

• 表头"（）“中数据是数据规模，以边为单位
• 表中数据是批量插入的时间，单位是s
• 例如，HugeGraph使用RocksDB插入amazon0601数据集的300w条边，花费5.711s

结论

• 批量插入性能 HugeGraph(RocksDB) > Neo4j > Titan(thrift+Cassandra)

2.2 遍历性能

2.2.1 术语说明

• FN(Find Neighbor), 遍历所有vertex, 根据vertex查邻接edge, 通过edge和vertex查other vertex
• FA(Find Adjacent), 遍历所有edge，根据edge获得source vertex和target vertex

2.2.2 FN性能

说明

• 表头”（）“中数据是数据规模，以顶点为单位
• 表中数据是遍历顶点花费的时间，单位是s
• 例如，HugeGraph使用RocksDB后端遍历amazon0601的所有顶点，并查找邻接边和另一顶点，总共耗时45.118s

2.2.3 FA性能

说明

• 表头”（）“中数据是数据规模，以边为单位
• 表中数据是遍历边花费的时间，单位是s
• 例如，HugeGraph使用RocksDB后端遍历amazon0601的所有边，并查询每条边的两个顶点，总共耗时10.764s

结论

• 遍历性能 Neo4j > HugeGraph(RocksDB) > Titan(thrift+Cassandra)

2.3 HugeGraph-图常用分析方法性能

术语说明

• FS(Find Shortest Path), 寻找最短路径
• K-neighbor，从起始vertex出发，通过K跳边能够到达的所有顶点, 包括1, 2, 3…(K-1), K跳边可达vertex
• K-out, 从起始vertex出发，恰好经过K跳out边能够到达的顶点

FS性能

说明

• 表头”（）“中数据是数据规模，以边为单位
• 表中数据是找到从第一个顶点出发到达随机选择的100个顶点的最短路径的时间，单位是s
• 例如，HugeGraph使用RocksDB后端在图amazon0601中查找第一个顶点到100个随机顶点的最短路径，总共耗时0.103s

结论

• 在数据规模小或者顶点关联关系少的场景下，HugeGraph性能优于Neo4j和Titan
• 随着数据规模增大且顶点的关联度增高，HugeGraph与Neo4j性能趋近，都远高于Titan

K-neighbor性能

说明

• HugeGraph-Server的JVM内存设置为32GB，数据量过大时会出现OOM

K-out性能

说明

• HugeGraph-Server的JVM内存设置为32GB，数据量过大时会出现OOM

结论

• FS场景，HugeGraph性能优于Neo4j和Titan
• K-neighbor和K-out场景，HugeGraph能够实现在5度范围内秒级返回结果

2.4 图综合性能测试-CW

说明

• “规模"以顶点为单位
• 表中数据是社区发现完成需要的时间，单位是s，例如HugeGraph使用RocksDB后端在规模10000的数据集，社区聚合不再变化，需要耗时744.780s
• CW测试是CRUD的综合评估
• 该测试中HugeGraph跟Titan一样，没有通过client，直接对core操作

结论

• 社区聚类算法性能 Neo4j > HugeGraph > Titan

2 - HugeGraph-API Performance

HugeGraph API性能测试主要测试HugeGraph-Server对RESTful API请求的并发处理能力，包括：

• 顶点/边的单条插入
• 顶点/边的批量插入
• 顶点/边的查询

HugeGraph的每个发布版本的RESTful API的性能测试情况可以参考：

• v0.5.6 stand-alone
• v0.5.6 cluster

即将更新，敬请期待！

2.1 - v0.5.6 Stand-alone(RocksDB)

1 测试环境

被压机器信息

• 起压力机器信息：与被压机器同配置
• 测试工具：apache-Jmeter-2.5.1

注：起压机器和被压机器在同一机房

2 测试说明

2.1 名词定义（时间的单位均为ms）

• Samples – 本次场景中一共完成了多少个线程
• Average – 平均响应时间
• Median – 统计意义上面的响应时间的中值
• 90% Line – 所有线程中90%的线程的响应时间都小于xx
• Min – 最小响应时间
• Max – 最大响应时间
• Error – 出错率
• Throughput – 吞吐量
• KB/sec – 以流量做衡量的吞吐量

2.2 底层存储

后端存储使用RocksDB，HugeGraph与RocksDB都在同一机器上启动，server相关的配置文件除主机和端口有修改外，其余均保持默认。

3 性能结果总结

1. HugeGraph单条插入顶点和边的速度在每秒1w左右
2. 顶点和边的批量插入速度远大于单条插入速度
3. 按id查询顶点和边的并发度可达到13000以上，且请求的平均延时小于50ms

4 测试结果及分析

4.1 batch插入

4.1.1 压力上限测试

测试方法

不断提升并发量，测试server仍能正常提供服务的压力上限

压力参数

持续时间：5min

顶点的最大插入速度：

####### 结论：

• 并发2200，顶点的吞吐量是2026.8，每秒可处理的数据：2026.8*200=405360/s

边的最大插入速度

####### 结论：

• 并发900，边的吞吐量是776.9，每秒可处理的数据：776.9*500=388450/s

4.2 single插入

4.2.1 压力上限测试

测试方法

不断提升并发量，测试server仍能正常提供服务的压力上限

压力参数

• 持续时间：5min
• 服务异常标志：错误率大于0.00%

顶点的单条插入

####### 结论：

• 并发11500，吞吐量为10730，顶点的单条插入并发能力为11500

边的单条插入

####### 结论：

• 并发9000，吞吐量是8418，边的单条插入并发能力为9000

4.3 按id查询

4.3.1 压力上限测试

测试方法

不断提升并发量，测试server仍能正常提供服务的压力上限

压力参数

• 持续时间：5min
• 服务异常标志：错误率大于0.00%

顶点的按id查询

####### 结论：

• 并发14000，吞吐量是12663，顶点的按id查询的并发能力为14000，平均延时为44ms

边的按id查询

####### 结论：

• 并发13000，吞吐量是12225，边的按id查询的并发能力为13000，平均延时为12ms

2.2 - v0.5.6 Cluster(Cassandra)

1 测试环境

被压机器信息

• 起压力机器信息：与被压机器同配置
• 测试工具：apache-Jmeter-2.5.1

注：起压机器和被压机器在同一机房

2 测试说明

2.1 名词定义（时间的单位均为ms）

• Samples – 本次场景中一共完成了多少个线程
• Average – 平均响应时间
• Median – 统计意义上面的响应时间的中值
• 90% Line – 所有线程中90%的线程的响应时间都小于xx
• Min – 最小响应时间
• Max – 最大响应时间
• Error – 出错率
• Throughput – 吞吐量
• KB/sec – 以流量做衡量的吞吐量

2.2 底层存储

后端存储使用15节点Cassandra集群，HugeGraph与Cassandra集群位于不同的服务器，server相关的配置文件除主机和端口有修改外，其余均保持默认。

3 性能结果总结

1. HugeGraph单条插入顶点和边的速度分别为9000和4500
2. 顶点和边的批量插入速度分别为5w/s和15w/s，远大于单条插入速度
3. 按id查询顶点和边的并发度可达到12000以上，且请求的平均延时小于70ms

4 测试结果及分析

4.1 batch插入

4.1.1 压力上限测试

测试方法

不断提升并发量，测试server仍能正常提供服务的压力上限

压力参数

持续时间：5min

顶点的最大插入速度：

####### 结论：

• 并发3500，顶点的吞吐量是261，每秒可处理的数据：261*200=52200/s

边的最大插入速度

####### 结论：

• 并发1000，边的吞吐量是323，每秒可处理的数据：323*500=161500/s

4.2 single插入

4.2.1 压力上限测试

测试方法

不断提升并发量，测试server仍能正常提供服务的压力上限

压力参数

• 持续时间：5min
• 服务异常标志：错误率大于0.00%

顶点的单条插入

####### 结论：

• 并发9000，吞吐量为8400，顶点的单条插入并发能力为9000

边的单条插入

####### 结论：

• 并发4500，吞吐量是4160，边的单条插入并发能力为4500

4.3 按id查询

4.3.1 压力上限测试

测试方法

不断提升并发量，测试server仍能正常提供服务的压力上限

压力参数

• 持续时间：5min
• 服务异常标志：错误率大于0.00%

顶点的按id查询

####### 结论：

• 并发14500，吞吐量是13576，顶点的按id查询的并发能力为14500，平均延时为11ms

边的按id查询

####### 结论：

• 并发12000，吞吐量是10688，边的按id查询的并发能力为12000，平均延时为63ms

3 - HugeGraph-Loader Performance

使用场景

当要批量插入的图数据（包括顶点和边）条数为billion级别及以下，或者总数据量小于TB时，可以采用HugeGraph-Loader工具持续、高速导入图数据

性能

测试均采用网址数据的边数据

RocksDB单机性能

• 关闭label index，22.8w edges/s
• 开启label index，15.3w edges/s

Cassandra集群性能

• 默认开启label index，6.3w edges/s

4 - HugeGraph 0.4.4 性能测试

1 测试环境

1.1 硬件信息

1.2 软件信息

1.2.1 测试用例

测试使用graphdb-benchmark，一个图数据库测试集。该测试集主要包含4类测试：

• Massive Insertion，批量插入顶点和边，一定数量的顶点或边一次性提交

• Single Insertion，单条插入，每个顶点或者每条边立即提交

• Query，主要是图数据库的基本查询操作：

  • Find Neighbors，查询所有顶点的邻居
  • Find Adjacent Nodes，查询所有边的邻接顶点
  • Find Shortest Path，查询第一个顶点到100个随机顶点的最短路径

• Clustering，基于Louvain Method的社区发现算法

1.2.2 测试数据集

测试使用人造数据和真实数据

• MIW、SIW和QW使用SNAP数据集

  • Enron Dataset

  • Amazon dataset

  • Youtube dataset

  • LiveJournal dataset

• CW使用LFR-Benchmark generator生成的人造数据

本测试用到的数据集规模

1.3 服务配置

• HugeGraph版本：0.4.4，RestServer和Gremlin Server和backends都在同一台服务器上
• Cassandra版本：cassandra-3.10，commit-log 和data共用SSD
• RocksDB版本：rocksdbjni-5.8.6
• Titan版本：0.5.4, 使用thrift+Cassandra模式

graphdb-benchmark适配的Titan版本为0.5.4

2 测试结果

2.1 Batch插入性能

说明

• 表头"（）“中数据是数据规模，以边为单位
• 表中数据是批量插入的时间，单位是s
• 例如，HugeGraph使用RocksDB插入amazon0601数据集的300w条边，花费14.076s，速度约为21w edges/s

结论

• RocksDB和Memory后端插入性能优于Cassandra
• HugeGraph和Titan同样使用Cassandra作为后端的情况下，插入性能接近

2.2 遍历性能

2.2.1 术语说明

• FN(Find Neighbor), 遍历所有vertex, 根据vertex查邻接edge, 通过edge和vertex查other vertex
• FA(Find Adjacent), 遍历所有edge，根据edge获得source vertex和target vertex

2.2.2 FN性能

说明

• 表头”（）“中数据是数据规模，以顶点为单位
• 表中数据是遍历顶点花费的时间，单位是s
• 例如，HugeGraph使用RocksDB后端遍历amazon0601的所有顶点，并查找邻接边和另一顶点，总共耗时65.852s

2.2.3 FA性能

说明

• 表头”（）“中数据是数据规模，以边为单位
• 表中数据是遍历边花费的时间，单位是s
• 例如，HugeGraph使用RocksDB后端遍历amazon0601的所有边，并查询每条边的两个顶点，总共耗时64.526s

结论

• HugeGraph RocksDB > Titan thrift+Cassandra > HugeGraph Cassandra > HugeGraph Memory

2.3 HugeGraph-图常用分析方法性能

术语说明

• FS(Find Shortest Path), 寻找最短路径
• K-neighbor，从起始vertex出发，通过K跳边能够到达的所有顶点, 包括1, 2, 3…(K-1), K跳边可达vertex
• K-out, 从起始vertex出发，恰好经过K跳out边能够到达的顶点

FS性能

说明

• 表头”（）“中数据是数据规模，以边为单位
• 表中数据是找到从第一个顶点出发到达随机选择的100个顶点的最短路径的时间，单位是s
• 例如，HugeGraph使用RocksDB查找第一个顶点到100个随机顶点的最短路径，总共耗时2.059s

结论

• 在数据规模小或者顶点关联关系少的场景下，Titan最短路径性能优于HugeGraph
• 随着数据规模增大且顶点的关联度增高，HugeGraph最短路径性能优于Titan

K-neighbor性能

说明

• HugeGraph-Server的JVM内存设置为32GB，数据量过大时会出现OOM

K-out性能

说明

• HugeGraph-Server的JVM内存设置为32GB，数据量过大时会出现OOM

结论

• FS场景，HugeGraph性能优于Titan
• K-neighbor和K-out场景，HugeGraph能够实现在5度范围内秒级返回结果

2.4 图综合性能测试-CW

说明

• “规模"以顶点为单位
• 表中数据是社区发现完成需要的时间，单位是s，例如HugeGraph使用RocksDB后端在规模10000的数据集，社区聚合不再变化，需要耗时763.869s
• “*“表示超过10000s未完成
• CW测试是CRUD的综合评估
• 后三者分别是HugeGraph的不同后端，该测试中HugeGraph跟Titan一样，没有通过client，直接对core操作

结论

• HugeGraph在使用Cassandra后端时，性能略优于Titan，随着数据规模的增大，优势越来越明显，数据规模20000时，比Titan快30%
• HugeGraph在使用RocksDB后端时，性能远高于Titan和HugeGraph的Cassandra后端，分别比两者快了6倍和4倍