免费人成动漫在线播放r18-免费人成观看在线网-免费人成黄页在线观看日本-免费人成激情视频在线观看冫-jlzzjlzz亚洲大全-jlzzjlzz亚洲日本

二維碼
企資網(wǎng)

掃一掃關(guān)注

當(dāng)前位置: 首頁 » 企資頭條 » 頭條 » 正文

HIVE常用優(yōu)化方法

放大字體  縮小字體 發(fā)布日期:2021-09-03 11:36:49    作者:企資小編    瀏覽次數(shù):48
導(dǎo)讀

1、join連接時(shí)的優(yōu)化_當(dāng)三個(gè)或多個(gè)以上的表進(jìn)行join操作時(shí),如果每個(gè)on使用相同的字段連接時(shí)只會(huì)產(chǎn)生一個(gè)mapreduce。2、join連接時(shí)的優(yōu)化_當(dāng)多個(gè)表進(jìn)行查詢時(shí),從左到右表的大小順序應(yīng)該是從小到大。原因_hive在對(duì)每

1、join連接時(shí)的優(yōu)化_當(dāng)三個(gè)或多個(gè)以上的表進(jìn)行join操作時(shí),如果每個(gè)on使用相同的字段連接時(shí)只會(huì)產(chǎn)生一個(gè)mapreduce。

2、join連接時(shí)的優(yōu)化_當(dāng)多個(gè)表進(jìn)行查詢時(shí),從左到右表的大小順序應(yīng)該是從小到大。原因_hive在對(duì)每行記錄操作時(shí)會(huì)把其他表先緩存起來,直到掃描最后的表進(jìn)行計(jì)算

3、在where字句中增加分區(qū)過濾器。

4、當(dāng)可以使用left semi join語法時(shí)不要使用inner join,前者效率更高。原因_對(duì)于左表中指定的一條記錄,一旦在右表中找到立即停止掃描。

5、如果所有表中有一張表足夠小,則可置于內(nèi)存中,這樣在和其他表進(jìn)行連接的時(shí)候就能完成匹配,省略掉reduce過程。
設(shè)置屬性即可實(shí)現(xiàn),

set hive.auto.covert.join_true;

用戶可以配置希望被優(yōu)化的小表的大小
set hive.mapjoin.smalltable.sia_2500000;

如果需要使用這兩個(gè)配置可置入$HOME/.hiverc文件中。

6、同一種數(shù)據(jù)的多種處理_從一個(gè)數(shù)據(jù)源產(chǎn)生的多個(gè)數(shù)據(jù)聚合,無需每次聚合都需要重新掃描一次。

例如_

insert overwrite table student select * from employee;

insert overwrite table person select * from employee;

可以優(yōu)化成_

from employee

insert overwrite table student select *

insert overwrite table person select *

7、limit調(diào)優(yōu)_limit語句通常是執(zhí)行整個(gè)語句后返回部分結(jié)果。

Set hive.limit.optimia.enable_true;

8、開啟并發(fā)執(zhí)行。某個(gè)job任務(wù)中可能包含眾多的階段、其中某些階段沒有依賴關(guān)系可以并發(fā)執(zhí)行,開啟并發(fā)執(zhí)行后job任務(wù)可以更快的完成。

設(shè)置屬性_

set hive.e>ecparallel_true;

9、hive提供的嚴(yán)格模式,禁止3種情況下的查詢模式。

a_當(dāng)表為分區(qū)表時(shí),where字句后沒有分區(qū)字段和限制時(shí),不允許執(zhí)行。

b_當(dāng)使用order by語句時(shí),必須使用limit字段,因?yàn)閛rder by只會(huì)產(chǎn)生一個(gè)reduce任務(wù)。

c_限制笛卡爾積的查詢。

10、合理的設(shè)置map和reduce數(shù)量。

11、jvm重用。可在hadoop的mapredtite.xml中設(shè)置jvm?重用的次數(shù)。

 
(文/企資小編)
打賞
免責(zé)聲明
本文為企資小編推薦作品?作者: 企資小編。歡迎轉(zhuǎn)載,轉(zhuǎn)載請(qǐng)注明原文出處:http://m.bangpiao.com.cn/news/show-171014.html 。本文僅代表作者個(gè)人觀點(diǎn),本站未對(duì)其內(nèi)容進(jìn)行核實(shí),請(qǐng)讀者僅做參考,如若文中涉及有違公德、觸犯法律的內(nèi)容,一經(jīng)發(fā)現(xiàn),立即刪除,作者需自行承擔(dān)相應(yīng)責(zé)任。涉及到版權(quán)或其他問題,請(qǐng)及時(shí)聯(lián)系我們郵件:weilaitui@qq.com。
 

Copyright ? 2016 - 2023 - 企資網(wǎng) 48903.COM All Rights Reserved 粵公網(wǎng)安備 44030702000589號(hào)

粵ICP備16078936號(hào)

微信

關(guān)注
微信

微信二維碼

WAP二維碼

客服

聯(lián)系
客服

聯(lián)系客服:

在線QQ: 303377504

客服電話: 020-82301567

E_mail郵箱: weilaitui@qq.com

微信公眾號(hào): weishitui

客服001 客服002 客服003

工作時(shí)間:

周一至周五: 09:00 - 18:00

反饋

用戶
反饋

主站蜘蛛池模板: 在线播放一区 | 日本天天射 | 天天摸日日舔 | 香蕉视频色| 国产黄大片在线观看 | 日本一本在线观看 | 怡红院成人在线 | 亚洲an天堂an在线观看 | 欧美精彩狠狠色丁香婷婷 | 免费一级特黄欧美大片勹久久网 | 麻豆国产成人精品午夜视频 | 日韩18在线观看 | dy888午夜国产精品不卡 | 天天干夜夜操美女 | 在线 成人 | 91精品成人免费国产片 | 免费视频精品一区二区三区 | 天天综合色天天综合网 | 中文在线免费看视频 | 亚洲rct中文字幕在线 | 91夜夜 | 精品久久久久久亚洲 | 日韩一区二区三区免费 | 九九成人免费视频 | 国产黄色片在线免费观看 | 中文字幕综合网 | 福利影院在线播放 | a视频在线| 欧美不卡精品中文字幕日韩 | 欧美国产成人一区二区三区 | 久久亚洲成人 | 国内小情侣一二三区在线视频 | 多人伦交性欧美在线观看 | 国产一级特黄aaaa大片野外 | 午夜天堂视频 | 青草视频青年娱乐 | 日本成片免费高清 | 色图综合 | 国产一精品一aⅴ一免费 | 欧美成人免费午夜全 | 伊人网视频在线观看 |