Spark API编程中在Spark 1.2版本如何实现对Job输出结果进行排序

68次阅读
没有评论

共计 380 个字符,预计需要花费 1 分钟才能阅读完成。

行业资讯    
服务器    
云计算    
Spark API 编程中在 Spark 1.2 版本如何实现对 Job 输出结果进行排序

Spark API 编程中在 Spark 1.2 版本如何实现对 Job 输出结果进行排序,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面丸趣 TV 小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。

从 wordcount 的输出结果可以看出来结果是未经排序的,如何对 spark 的输出结果进行排序呢?

先对 reduceByKey 的结果进行 key,value 位置置换(数字,字符),然后再进行数字排序,再将 key,value 位置置换后就是排序后的结果了,最终将结果存储到 HDFS 中

可以发现我们成功对输出结果进行排序!

看完上述内容是否对您有帮助呢?如果还想对相关知识有进一步的了解或阅读更多相关文章,请关注丸趣 TV 行业资讯频道,感谢您对丸趣 TV 的支持。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-16发表,共计380字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)