海牛部落 spark 系列教程(三十九):RDD 编程基础使用

资料 青牛 ⋅ 于 2017-09-29 14:23:54 ⋅ 最后回复由 wangchunshun 2018-07-07 08:54:30 ⋅ 1442 阅读

1.常用的转换

假设rdd的元素是: {1,2,2,3}

file
应用于pairRdd

file

file

file
假设rdd的元素是:{1, 2, 3},other元素是:{3, 4, 5}

file

2.常用操作接口

假设rdd的元素是:{1, 2, 3, 3}

file

file

3.创建RDD

有两种方式:读取外部数据集,以及在驱动器程序中对一个集合进行并行化
parallelize 集合并行化
textFile 本地文件或者HDFS文件

file

file

4.map()函数 和 take()函数

map(func)
take(num)

file

file

file

回复帖子,然后刷新页面即可查看隐藏内容

版权声明:原创作品,允许转载,转载时务必以超链接的形式表明出处和作者信息。否则将追究法律责任。来自海牛部落-青牛,http://hainiubl.com/topics/192
回复数量: 31
暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter