共计 380 个字符,预计需要花费 1 分钟才能阅读完成。
行业资讯
服务器
云计算
Spark API 编程中在 Spark 1.2 版本如何实现对 Job 输出结果进行排序
Spark API 编程中在 Spark 1.2 版本如何实现对 Job 输出结果进行排序,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面丸趣 TV 小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。
从 wordcount 的输出结果可以看出来结果是未经排序的,如何对 spark 的输出结果进行排序呢?
先对 reduceByKey 的结果进行 key,value 位置置换(数字,字符),然后再进行数字排序,再将 key,value 位置置换后就是排序后的结果了,最终将结果存储到 HDFS 中
可以发现我们成功对输出结果进行排序!
看完上述内容是否对您有帮助呢?如果还想对相关知识有进一步的了解或阅读更多相关文章,请关注丸趣 TV 行业资讯频道,感谢您对丸趣 TV 的支持。
正文完