通过 Spark ThriftServer 查询 Hive 效率太慢,有没有优化办法?

问答 KeepFire ⋅ 于 2023-10-04 17:54:59 ⋅ 最后回复由 KeepFire 2023-11-28 10:46:57 ⋅ 414 阅读

Hive的单分区量级5亿条左右,使用Spark的ThriftServer执行SQL

SELECT * FROM table_name WHERE `date` = '2023-10-02' AND `when`> 1696176000 AND `when` < 1696262340 AND pre_id > 10000 order by `when` desc limit 500

因为想做分页查询,排序使得查询效率相当慢,不知道大神有没有优化的好办法?

回复数量: 3
暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter