机器学习和生物信息学实验室论坛联盟MAchine Learning And Bioinformatics, MALAB
查看: 5373|回复: 2

Hadoop的HelloWorld

[复制链接]
发表于 2012-4-22 18:14:48 | 显示全部楼层 |阅读模式
本帖最后由 YuHaiyang 于 2012-4-22 23:09 编辑

Hadoop 的helloworld程序就是wordcount单词统计了。俗话说万事开头难,没有helloworld也就没有后面更复杂的程序了。而这种问题也不好去请教师兄师姐,一个人弄弄半天也不一定弄得好,这里结合自己的情况写个教程。
环境是100
首先进入hadoop的目录
cd /usr/local/hadoop-0.20.2/
开启服务
cd bin
./start-all.sh
关掉安全模式(前几天搬了几台电脑走,现在要用,以后改设置了估计就不用了)
hadoop dfsadmin -safemode leave
创建文件夹,放入HDFS文件系统中:
hadoop fs -mkdir /test/
hadoop fs -put 123.txt /usr/dm/

现在准备工作做完了
下面有两种方法来执行wordcount
第一:用本身的example
hadoop jar hadoop-0.20.2-examples.jar wordcount /usr/dm/123.txt /usr/dm/yhy/
执行完毕后,查看,拿回操作
hadoop fs -ls /usr/dm/yhy/
hadoop fs -cat /usr/dm/yhy/part-r-00000
hadoop fs -get /usr/dm/yhy/part-r-00000 .(这里有个点)
第二种:编译wordcount代码,并执行
从hadoop目录下src/examples/org/apache/hadoop/examples/WordCount.java里得到源码
我这里建立了个yhy文件夹,并在其中建立了classes和src文件夹,WordCount.java放在src中
下面是编译(在hadoop根目录下)
javac -classpath hadoop-0.20.2-core.jar:lib/commons-cli-1.2.jar  yhy/src/WordCount.java -d yhy/classes/
jar -cvf yhy/wordcount.jar -C yhy/classes/ .

执行(在yhy文件夹下,org.apache.hadoop.examples.WordCount是类,之所以这么长是因为编译的时候自动生成了很多文件夹)
hadoop jar wordcount.jar org.apache.hadoop.examples.WordCount /usr/dm/321.txt /usr/dm/yhy/














回复

使用道具 举报

发表于 2012-4-22 18:33:56 | 显示全部楼层
我最喜欢一步步的详细操作~

期待持续更新。
回复

使用道具 举报

发表于 2012-4-22 21:18:19 | 显示全部楼层
very goooooooood, 奖励50元,记账!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

关注公众号
机器学习和生物信息学实验室联盟

相关侵权、举报、投诉及建议等,请发 E-mail:admin@discuz.vip

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.

在本版发帖
关注公众号
返回顶部