一种基于大数据的水利数据管理系统

专利主权项内容

1.一种基于大数据的水利数据管理系统，其特征在于，所述系统包括：水利数据采集模块，采集水利工程数据；将水利工程数据利用压缩算法进行压缩得到压缩后的水利数据；压缩后的水利数据为各个数据单元；水利数据管理模块，预设多个分割尺度；将所有数据单元在各分割尺度下进行分割得到各数据段；将同一分割尺度下得到的所有数据段进行去重后得到各数据段集合；获取各数据段集合内所有数据段间的相似性；根据数据段间的相似性得到各数据段集合的内源频次相似度；将所有数据段集合的内源频次相似度的最大值作为最佳分割长度；利用最佳分割长度对所有数据单元进行分割得到最佳分割数据段集合；获取最佳分割数据段集合内数据段的各数据单元与其他数据段的各数据单元的二进制相似性；根据二进制相似性的最值统计得到最佳分割数据段集合内各数据段与剩余各数据段之间的相对相似性；将各数据段与剩余所有数据段之间的相对相似性作为各数据段的相对相似性集合；根据相对相似性集合内相对相似性的值域分布得到所有数据段对应的高相似数据段；统计所有高相似数据段内各数据段出现的频次得到所有高相似数据段的相似频次集合；根据相似频次集合内数据的分布特征得到相似频次集合的分割阈值；结合相似频次集合的分割阈值及hMetis算法得到水利数据的各初始聚类簇；根据各初始聚类簇与其他初始聚类簇间的内存占比得到两初始聚类簇合并后的空间利用率；水利数据存储模块，根据两初始聚类簇合并后的空间利用率完成水利数据的存储管理。