最新要闻
- 今日要闻!第二届中国报业创新发展大会今日开幕,羊城晚报再获殊荣!
- 河南安阳:多彩民俗过端午-环球热点
- CCTV16直播深足VS成都!足协杯两支败军相遇,陈涛率队保级 徐正源冲击亚冠|全球快资讯
- 英伟达与云计算巨头Snowflake达成合作
- 机器人工程技术人员:让机器人“吃”得更少 “干”得更多_每日短讯
- 元隆雅图(002878)盘中异动 股价振幅达15.82% 跌6.52% 报18.14元(06-26) 天天快资讯
- 每日焦点!苹果iOS 17扫码大幅优化:链接按钮自动出现
- 环球热推荐:“选择成就精彩”——“技能+”新媒体创意大赛获奖作品混剪片来了!
- 外交部发言人:中方重视和发展对韩关系的基本立场没有变化
- 环球热资讯!国家电网董事长:中国电价在全球属于较低水平
- 美国一架飞机撞入民宅:房屋起火飞行员死亡|今日精选
- 141家上市大厂被AI耍了!谷歌意外成帮凶
- 环球视讯!独特翻转舱设计!魅族PANDAER PASA降噪耳机图赏
- 电动自行车头盔新国标7月施行 旧的还能佩戴?海口明确不处罚|天天速读
- 传承非遗文化 感受工匠精神 沙塘中心小学小记者体验漆画创作_天天滚动
- 四川汶川县两地突发山洪泥石流灾害,官方通报:7人失联 正全力搜救中
手机
市场监管总局回复关于软件规范问题_当前滚动
非法运输爆炸性危险物质 一男子被三亚警方拘留-世界热消息
- 市场监管总局回复关于软件规范问题_当前滚动
- 非法运输爆炸性危险物质 一男子被三亚警方拘留-世界热消息
- 【全球热闻】曾被漫威定为钢铁侠二代,却被粉丝喷改名,这个角色现在来了!
- 6月26日芝加哥商业交易所(CME)金属类商品成交量报告已在金十数据中心更新!欢迎点击查看
- 【天天新要闻】解码|今天惠州这两个高铁站为什么改名?
- 金信诺:高速裸线及应用于服务器内部的高速组件已经量产并批量供应浪潮、联想等主流服务器厂商
家电
焦点资讯:CentOS7+java8+hadoop3.3.5环境搭建
需要的配置文件
centos7的镜像
(资料图片)
centos-7.9.2009-isos-x86_64安装包下载_开源镜像站-阿里云 (aliyun.com)
java8
Java Downloads | Oracle
hadoop3.3.5
Index of /dist/hadoop/common/hadoop-3.3.5 (apache.org)
步骤
首先第一步在本地下载好vmware和centos7的镜像
之后的选项根据自己的实际需求选择
创建完之后
将这个路径换为你自己镜像的路径
然后就可以进入了,完成一些初始的设定之后
开始配置java8环境
下载完后
打开命令窗口,并进入管理员模式
mkdir /usr/local/java8
tar zxvf jdk-8u371-linux-x64.tar.gz -C /usr/local/java8/
cd /usr/local/java8/jdk1.8.0_371/
vi /etc/profile
## JDK8export JAVA_HOME=/usr/local/java8/jdk1.8.0_371export JRE_HOME=${JAVA_HOEM}/jreexport CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib:$CLASSPATHexport JAVA_PATH=${JAVA_HOME}/bin:${JRE_HOME}/binexport PATH=$PATH:${JAVA_PATH}
source /etc/profile
在执行完vi /ect/profile命令完后,按i键进入编辑模式,在末尾添加上jdk8的环境设置,然后按esc退出,再按shift+:,然后输入wq按回车保存,最后使用source命令刷新配置
出现java版本说明配置成功了
配置hadoop3.3.5伪分布式
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.5/hadoop-arm64-3.3.5.tar.gz
tar zxvf hadoop-3.3.5.tar.gz -C /usr/local/
cd /usr/local/hadoop-3.3.5/
vi /etc/profile
## Hadoop3.3.5
export HADOOP_HOME=/usr/local/hadoop-3.3.5
export PATH=$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin
source /etc/profile
vi etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/local/java8/jdk1.8.0_371
export HADOOP_PID_DIR=${HADOOP_HOME}/pids
在hadoop-env.sh末尾添加上面两句话
然后是对hadoop文件的配置
vi etc/hadoop/core-site.xml
#把configuration换位如下配置
fs.defaultFS hdfs://192.168.15.130:9000 #注意这里是你自己的IP地址不要照抄io.file.buffer.size 131072 vi etc/hadoop/hdfs-site.xml
dfs.replication 1 dfs.namenode.name.dir /mnt/data01/hadoop dfs.blocksize 268435456 dfs.namenode.handler.count 100
dfs.datanode.data.dir /mnt/data01/hdfs_dndata
配置hosts
hostnamectl set-hostname billsaifu #可以任意取主机名称bashecho "192.168.15.130 billsaifu" >> /etc/hosts#你自己的主机名和IP地址
这里可以查看你的IP地址
创建免密
useradd xwpsu - xwp -c "ssh-keygen -t rsa -P "" -f ~/.ssh/id_rsa"su - xwp -c "cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys"su - xwp -c "chmod 0600 ~/.ssh/authorized_keys"chown -R xwp:xwp /usr/local/hadoop-3.3.5mkdir /usr/local/hadoop-3.3.5/pidschown -R xwp:xwp /usr/local/hadoop-3.3.5/pidsmkdir -p /mnt/data01/hadoopmkdir -p /mnt/data01/hdfs_dndatamkdir -p /mnt/data01/yarn_nmdatachown -R xwp:xwp /mnt/data01/hadoopchown -R xwp:xwp /mnt/data01/hdfs_dndatachown -R xwp:xwp /mnt/data01/yarn_nmdata
启动HDFS
su - xwpcd /usr/local/hadoop-3.3.5bin/hdfs namenode -formatsbin/start-dfs.sh
创建执行mapreduce任务所需的HDFS目录
hdfs dfs -mkdir /user
hdfs dfs -mkdir /user/xwp
执行mapreduce任务
hdfs dfs -mkdir inputhdfs dfs -put etc/hadoop/*.xml inputhadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.5.jar grep input output "dfs[a-z.]+"hdfs dfs -get output outputcat output/
启动YARN
vi etc/hadoop/mapred-site.xml
mapreduce.framework.name yarn mapreduce.map.memory.mb 1536 mapreduce.map.java.opts -Xmx1024M mapreduce.reduce.memory.mb 3072 mapreduce.reduce.java.opts -Xmx2560M mapreduce.task.io.sort.mb 512 mapreduce.task.io.sort.factor 100 mapreduce.application.classpath $HADOOP_MAPRED_HOME/share/hadoop/mapreduce/*:$HADOOP_MAPRED_HOME/share/hadoop/mapreduce/lib/*
vi etc/hadoop/yarn-site.xml
yarn.nodemanager.aux-services mapreduce_shuffle yarn.nodemanager.env-whitelist JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_HOME,PATH,LANG,TZ,HADOOP_MAPRED_HOME yarn.nodemanager.local-dirs /mnt/data01/yarn_nmdata sbin/start-yarn.sh#开启yarn
bin/mapred --daemon start historyserver #开启JobhistoryServer
输入 hadoop version
出现对应的版本说明配置成功了
利用jps查看是否启动成功
未启动
[xwp@billsaifu hadoop-3.3.5]$ jps8129 Jps
成功启动
[xwp@billsaifu hadoop-3.3.5]$ ./sbin/start-dfs.shStarting namenodes on [billsaifu]billsaifu: Warning: Permanently added "billsaifu,192.168.15.130" (ECDSA) to the list of known hosts.Starting datanodeslocalhost: Warning: Permanently added "localhost" (ECDSA) to the list of known hosts.Starting secondary namenodes [billsaifu][xwp@billsaifu hadoop-3.3.5]$ jps9108 SecondaryNameNode9259 Jps8622 NameNode
登录相应的页面
失败是这样的
关键词:
焦点资讯:CentOS7+java8+hadoop3.3.5环境搭建
今日要闻!tryit-jssip 的本地部署
四川一个班高考8人锁定清北 网友:真是学霸扎堆_每日观点
俄总统普京发表电视讲话 感谢全国民众和社会的团结 世界聚焦
惠普对部分价值多至10亿美元的已发售票据启动了现金收购要约。
(中国3分钟第413期)全球文明倡议:让世界文明异彩纷呈
今日热闻!北京劳动者之歌|王广征:在平凡的岗位上诠释不平凡的坚守
安徽道路交通事故社会救助基金省级统筹管理启动-当前要闻
潘焯鸿揭港大建筑现“蜂窝状”,港大:正与承建商严肃跟进 全球讯息
福彩3D第23167期晒票来了,来日可期,愿你前程似锦|每日时讯
【行情】国产厂商首次超过三星!最新OLED屏幕市场份额出炉
全球今日报丨阿瑞斯如何进行下载,阿瑞斯最新官方下载安装地址,可白嫖时长加速器
扬州中考成绩什么时候出来2023年 世界要闻
天天时讯:2023北京西山永定河文化节开幕
扬州海事局多形式庆祝“世界海员日” 全球报资讯
马力刺客|全新标杆! 奥迪RS e-tron GT轮上功率实测-全球快看点
市场监管总局回复关于软件规范问题_当前滚动
世界观速讯丨麻醉科医生收购迷药“翻墙”贩卖,致一被害人遭强奸
国内油价明晚或迎来小涨 预计上调 0.05-0.06 元 / 升
立方制药:6月21日公司高管汪琴减持公司股份合计4000股
今日要闻!第二届中国报业创新发展大会今日开幕,羊城晚报再获殊荣!
焦点资讯:今年“小升初” 6所民办初中电脑派位!24所民办初中注册入学、直接录取
比亚迪汉、唐系列累计销量突破一百万辆_天天微头条
开源证券:给予华凯易佰买入评级
赖清德8月过境美国?赖办:迄今无出访规划
橡胶短期承压调整
非法运输爆炸性危险物质 一男子被三亚警方拘留-世界热消息
金三江(301059):召开2023年第一次临时股东大会的通知的更正公告
当前焦点!中暑都有哪些症状?如何防范中暑?专家解答→
【地评线】中安时评:为青年“拓岗增位”,促进高质量充分就业
世界快报:16球16助攻!官方:梅西当选22/23赛季法甲最佳外籍球员
【全球热闻】曾被漫威定为钢铁侠二代,却被粉丝喷改名,这个角色现在来了!
杭州地铁公安辅警待遇怎么样?
世界即时看!虾的营养价值及功效视频_虾的营养价值及功效
孤雨下午(06.27)主要商品操作建议
2023年6月深圳市宝安区选聘教师试用期多久_当前头条
龙岗区龙岭学校2023年秋季插班生招生公告
世界快资讯:《上古卷轴 6》更新对《辐射 5》来说是个坏消息
华能汇流河发电厂350MW+50MW热电联产项目相关的3项中标结果 天天要闻
西城区西长安街街道“父母食堂”开进党群服务中心
中国鸡蛋市场调查(中国鸡蛋交易网)
一品红:参股公司首个双靶点分子胶新药临床试验(IND)获批
青海:端午假期民航运送旅客7.86万人次
环球简讯:熵是什么时候发现的_熵是什么
secx等于什么 secx等于什么图像|当前速读
重庆法院近五年受理毒品犯罪案件呈逐年下降态势
世界资讯:爱奇艺营收逆跌,依然难受市场“待见”
中国小将殷若宁斩获高尔夫大满贯赛冠军_全球滚动
为深厚友谊握手 对盛会充满期待──天津夏季达沃斯论坛欢迎会侧记|环球精选
月均增长达“百亿级” 六问快递业如何实现提速发展
河南安阳:多彩民俗过端午-环球热点
田东街道_关于田东街道介绍
CCTV16直播深足VS成都!足协杯两支败军相遇,陈涛率队保级 徐正源冲击亚冠|全球快资讯
花湖湿地黑颈鹤从400只增至2000只的背后
危地马拉总统选举将举行第二轮投票
6月26日芝加哥商业交易所(CME)金属类商品成交量报告已在金十数据中心更新!欢迎点击查看
是累犯又打人轻伤该怎样判 世界今头条
环球热消息:6月27日潍坊中冕硫酸铵价格动态
英伟达与云计算巨头Snowflake达成合作
2023癸卯年1公斤金制纪念币价格(2023年06月27日)
世界观察:锂电池之父、诺贝尔化学奖得主古迪纳夫去世,享年 100 岁
【天天新要闻】解码|今天惠州这两个高铁站为什么改名?
世界视讯!美国禁毒,内病外治行不通(钟声)
今日白银价格行情查询(2023年6月26日)
以案说法丨买到“假酱干”后要求10倍赔偿,法院这样判
天天热点!白莲蓉是什么 白莲蓉是什么材料
幸运倍多分|转出好运交响曲 找好房拿好礼两相宜
包装纸包书礼物,礼物书包装纸包法?
焦点短讯!怎么设置360极速浏览器为默认浏览器_怎样设置360极速浏览器为默认浏览器
青田全力打响“水上运动之城”特色品牌
西安地铁再添新线路 运营里程突破300公里 全球速讯
金信诺:高速裸线及应用于服务器内部的高速组件已经量产并批量供应浪潮、联想等主流服务器厂商
当前聚焦:天风证券:绿氢平价可期,下一个从0-1行业的投资机会
全球球精选!中国目前单身男女比例(中国单身男女比例)
环球热推荐:央企红利50ETF(560700)拉升1.34%,多只权重股飘红,鲁西化工涨近3%
枕草子哪个出版社(草枕 2018年中国华侨出版社出版的图书) 当前视讯
天天看热讯:美国印第安纳州遭龙卷风袭击 造成至少1死1伤
今日播报!6月26日基金净值:南方匠心优选股票A最新净值0.6941,跌1.01%
第六批月球科研样品发放:16家机构获得12328.8mg 环球观点
当前热讯:圣安地列斯作弊器(cs1 6作弊器007)
6月26日基金净值:鹏华环保产业股票最新净值3.996,涨0.86%_微资讯
【全球时快讯】realme oppo系统一样吗_realme系统和oppo是一样的吗简介介绍
流放到边关 流放边塞
当了10年副局长的“老公安”,被开除党籍!曾因特大交通事故被政务记过
建筑起重设备安全操作实用技术 全球实时
浙江大学回应努某某被留校察看 浙江大学决定给予努某某开除学籍处分 世界微头条
机器人工程技术人员:让机器人“吃”得更少 “干”得更多_每日短讯
容貌面指数_关于容貌面指数介绍
amd r530显卡_amd r530|世界报道
形容不为外界所干扰的成语_扰的成语
二手车购买指南:阿斯顿·马丁 V8
北回归线南回归线视频_北回归线南回归线
媒体解读:第三期“临沂保”保障责任内容及赔付标准|每日报道
【天天聚看点】园林绿化工程施工及验收规范最新_园林绿化工程施工及验收规范
全球看点:怎么才能看nba免费直播_如何在网上看免费的NBA直播简介介绍
dnf负重上限属性有用吗_DNF如何增加负重简介介绍_环球快消息
西北工业大学张艳宁教授团队获CVPR 2023最佳学生论文奖 全球头条
全省自然资源系统开展全国“土地日”宣传活动 全球百事通
全球观点:张家界市委党史研究室深入吉首大学张家界校区调研高校学生党史学习情况
人民币双柜台模式首周日均成交额约1.97亿元