更新时间:2022-11-16 来源:黑马程序员 浏览量:
在类CategoryTopl0中定义main()方法,该方法是Java程序执行的入口,在main()方法中实现Spark程序,具体代码如文件1所示。
文件1 CategoryTop10.java
public class CategoryTop10{ public static void main(String[] arg){ //实现热门品类Top10分析 } }在文件1的main()方法中,创建JavaSparkContext和SparkConf对象.JavaSparkContext对象用于实现Spark 程序,SparkConf对象用于配置 Spark程序相关参数,具体代码如下。
SparkConf conf =new SparkConf(): //设置Application 名称为topl0_category conf.setAppName("top10_category"): JavaSparkContext sc =new JavaSparkContext (conf);在文件1的main()方法中,调用JavaSparkContext对象的textFile()方法读取外部文件,将文件中的数据加载到textFileRDD,具体代码如下。
JavaRDD<String> textFileRDD =sc.textFile (arg [0]);
上述代码中,通过变量arg[o]指定文件路径,目的是执行提交Spark程序到YARN集群运行的命令中,通过参数指定文件路径。
【AI设计】北京143期毕业仅36天,全员拿下高薪offer!黑马AI设计连续6期100%高薪就业
2025-09-19【跨境电商运营】深圳跨境电商运营毕业22个工作日,就业率91%+,最高薪资达13500元
2025-09-19【AI运维】郑州运维1期就业班,毕业14个工作日,班级93%同学已拿到Offer, 一线均薪资 1W+
2025-09-19【AI鸿蒙开发】上海校区AI鸿蒙开发4期5期,距离毕业21天,就业率91%,平均薪资14046元
2025-09-19【AI大模型开发-Python】毕业33个工作日,就业率已达到94.55%,班均薪资20763元
2025-09-19【AI智能应用开发-Java】毕业5个工作日就业率98.18%,最高薪资 17.5k*13薪,全班平均薪资9244元
2025-09-19