日韩黑丝制服一区视频播放|日韩欧美人妻丝袜视频在线观看|九九影院一级蜜桃|亚洲中文在线导航|青草草视频在线观看|婷婷五月色伊人网站|日本一区二区在线|国产AV一二三四区毛片|正在播放久草视频|亚洲色图精品一区

分享

Hibernate批處理操作優(yōu)化 (批量插入、更新與刪除)

 LibraryPKU 2014-04-19

在項(xiàng)目的開發(fā)過程之中,由于項(xiàng)目需求,我們常常需要把大批量的數(shù)據(jù)插入到數(shù)據(jù)庫。數(shù)量級(jí)有萬級(jí)、十萬級(jí)、百萬級(jí)、甚至千萬級(jí)別的。如此數(shù)量級(jí)別的數(shù)據(jù)用Hibernate做插入操作,就可能會(huì)發(fā)生異常,常見的異常是OutOfMemoryError(內(nèi)存溢出異常)。

 

    首先,我們簡單來回顧一下Hibernate插入操作的機(jī)制。Hibernate要對(duì)它內(nèi)部緩存進(jìn)行維護(hù),當(dāng)我們執(zhí)行插入操作時(shí),就會(huì)把要操作的對(duì)象全部放到自身的內(nèi)部緩存來進(jìn)行管理。

 

    談到Hibernate的緩存,Hibernate有內(nèi)部緩存與二級(jí)緩存之說。由于Hibernate對(duì)這兩種緩存有著不同的管理機(jī)制,對(duì)于二級(jí)緩存,我 們可以對(duì)它的大小進(jìn)行相關(guān)配置,而對(duì)于內(nèi)部緩存,Hibernate就采取了“放任自流”的態(tài)度了,對(duì)它的容量并沒有限制?,F(xiàn)在癥結(jié)找到了,我們做海量數(shù) 據(jù)插入的時(shí)候,生成這么多的對(duì)象就會(huì)被納入內(nèi)部緩存(內(nèi)部緩存是在內(nèi)存中做緩存的),這樣你的系統(tǒng)內(nèi)存就會(huì)一點(diǎn)一點(diǎn)的被蠶食,如果最后系統(tǒng)被擠“炸”了, 也就在情理之中了。

 

    我們想想如何較好的處理這個(gè)問題呢?有的開發(fā)條件又必須使用Hibernate來處理,當(dāng)然有的項(xiàng)目比較靈活,可以去尋求其他的方法。

 

    筆者在這里推薦兩種方法:

   (1):優(yōu)化Hibernate,程序上采用分段插入及時(shí)清除緩存的方法。

    (2):繞過Hibernate API ,直接通過 JDBC API 來做批量插入,這個(gè)方法性能上是最好的,也是最快的。

    對(duì)于上述中的方法1,其基本是思路為:優(yōu)化Hibernate,在配置文件中設(shè)置hibernate.jdbc.batch_size參數(shù),來指定每次提 交SQL的數(shù)量;程序上采用分段插入及時(shí)清除緩存的方法(Session實(shí)現(xiàn)了異步write-behind,它允許Hibernate顯式地寫操作的批 處理),也就是每插入一定量的數(shù)據(jù)后及時(shí)的把它們從內(nèi)部緩存中清除掉,釋放占用的內(nèi)存。

     設(shè)置hibernate.jdbc.batch_size參數(shù),可參考如下配置。

<hibernate-configuration>
<session-factory>
.........
<property name=” hibernate.jdbc.batch_size”>50</property>
.........
<session-factory>
<hibernate-configuration>

配置hibernate.jdbc.batch_size參數(shù)的原因就是盡量少讀數(shù)據(jù) 庫,hibernate.jdbc.batch_size參數(shù)值越大,讀數(shù)據(jù)庫的次數(shù)越少,速度越快。從上面的配置可以看出,Hibernate是等到程 序積累到了50個(gè)SQL之后再批量提交。

    筆者也在想,hibernate.jdbc.batch_size參數(shù)值也可能不是設(shè)置得越大越好,從性能角度上講還有待商榷。這要考慮實(shí)際情況,酌情設(shè)置,一般情形設(shè)置30、50就可以滿足需求了。
    程序?qū)崿F(xiàn)方面,筆者以插入10000條數(shù)據(jù)為例子,如

Session session=HibernateUtil.currentSession();
Transatcion tx=session.beginTransaction();
for(int i=0;i<10000;i++)
{
    Student st=new Student();
    st.setName(“feifei”);
    session.save(st);

    // 以每50個(gè)數(shù)據(jù)作為一個(gè)處理單元
    if(i%50==0)  
    {
        // 只是將Hibernate緩存中的數(shù)據(jù)提交到數(shù)據(jù)庫,保持與數(shù)據(jù)庫數(shù)據(jù)的同步

        session.flush();  

        // 清除內(nèi)部緩存的全部數(shù)據(jù),及時(shí)釋放出占用的內(nèi)存
        session.clear();  
    }
}
tx.commit();
.........

在一定的數(shù)據(jù)規(guī)模下,這種做法可以把系統(tǒng)內(nèi)存資源維持在一個(gè)相對(duì)穩(wěn)定的范圍。

    注意:前面提到二級(jí)緩存,筆者在這里有必要再提一下。如果啟用了二級(jí)緩存,從機(jī)制上講Hibernate為了維護(hù)二級(jí)緩存,我們?cè)谧霾迦?、更新、刪除操作 時(shí),Hibernate都會(huì)往二級(jí)緩存充入相應(yīng)的數(shù)據(jù)。性能上就會(huì)有很大損失,所以筆者建議在批處理情況下禁用二級(jí)緩存。

    對(duì)于方法2,采用傳統(tǒng)的JDBC的批處理,使用JDBC API來處理。

些方法請(qǐng)參照java 批處理自執(zhí)行SQL

看看上面的代碼,是不是總覺得有不妥的地方?對(duì),沒發(fā)現(xiàn)么!這還是JDBC的傳統(tǒng)編程,沒有一點(diǎn)Hibernate味道。
    可以對(duì)以上的代碼修改成下面這樣:

String insertSql = "insert into user(name,address) values(?,?)";
Session session = getHibernateTemplate().getSessionFactory().openSession();
Connection conn = session.connection();
PrepareStatement stmt = conn.prepareStatement(insertSql);

// 方式1:自動(dòng)提交
conn.setAutoCommit(true);
for(int i = 0; i++; i<10000) {
stmt.setString(1, "testName");
stmt.setString(2, "testAddress");
stmt.execute();
}

// 方式2:批量提交
conn.setAutoCommit(false);
for(int i = 0; i++; i<10000) {
stmt.setString(1, "testName");
stmt.setString(2, "testAddress");
stmt.addBatch();
if (i % 100 == 0) {
stmt.executeBatch();
conn.commit();
}
}
stmt.executeBatch();
conn.commit();

// 關(guān)閉session
session.close();

這樣改動(dòng)就很有Hibernate的味道了。筆者經(jīng)過測試,采用JDBC API來做批量處理,性能上比使用Hibernate API要高將近10倍,性能上JDBC 占優(yōu)這是無疑的。

批量更新與刪除

    Hibernate2中,對(duì)于批量更新操作,Hibernate是將符合要求的數(shù)據(jù)查出來,然后再做更新操作。批量刪除也是這樣,先把符合條件的數(shù)據(jù)查出來,然后再做刪除操作。
    這樣有兩個(gè)大缺點(diǎn):
    (1):占用大量的內(nèi)存。
    (2):處理海量數(shù)據(jù)的時(shí)候,執(zhí)行update/delete語句就是海量了,而且一條update/delete語句只能操作一個(gè)對(duì)象,這樣頻繁的操作數(shù)據(jù)庫,性能低下應(yīng)該是可想而知的了。
     Hibernate3 發(fā)布后,對(duì)批量更新/刪除操作引入了bulk update/delete,其原理就是通過一條HQL語句完成批量更新/刪除操作,很類似JDBC的批量更新/刪除操作。在性能上,比Hibernate2的批量更新/刪除有很大的提升。

Transaction tx=session.beginSession();
String HQL=”delete STUDENT”;
Query query=session.createQuery(HQL);
int size=query.executeUpdate();
tx.commit();
.......

控制臺(tái)輸出了也就一條刪除語句Hibernate:delete from T_STUDENT,語句執(zhí)行少了,性能上也與使用JDBC相差無幾,是一個(gè)提升性能很好的方法。當(dāng)然為了有更好的性能,筆者建議批量更新與刪除操作還是 使用JDBC,方法以及基本的知識(shí)點(diǎn)與上面的批量插入方法2基本相同,這里就不在冗述。

    筆者這里再提供一個(gè)方法,就是從數(shù)據(jù)庫端來考慮提升性能,在Hibernate程序端調(diào)用存儲(chǔ)過程。存儲(chǔ)過程在數(shù)據(jù)庫端運(yùn)行,速度更快。以批量更新為例,給出參考代碼。
    首先在數(shù)據(jù)庫端建立名為batchUpdateStudent存儲(chǔ)過程:

create or replace produre batchUpdateStudent(a in number) as
begin
update STUDENT set AGE=AGE+1 where AGE>a;
end;
調(diào)用代碼如下:
Transaction tx=session.beginSession();
Connection conn=session.connection();
String pd=”{call batchUpdateStudent(?)}”;
CallableStatement cstmt=conn.PrepareCall(pd);
cstmt.setInt(1,20); //把年齡這個(gè)參數(shù)設(shè)為20
tx.commit();

觀察上面的代碼,也是繞過Hibernate API,使用 JDBC API來調(diào)用存儲(chǔ)過程,使用的還是Hibernate的事務(wù)邊界。存儲(chǔ)過程無疑是提高批量處理性能的一個(gè)好方法,直接運(yùn)行與數(shù)據(jù)庫端,某種程度上講把批處理的壓力轉(zhuǎn)接給了數(shù)據(jù)庫。

    三:編后語
    本文探討了Hibernate的批處理操作,出發(fā)點(diǎn)都是在提高性能上考慮了,也只是提供了提升性能的一個(gè)小方面。
    不管采取什么樣的方法,來提升性能都要根據(jù)實(shí)際的情況來考慮,為用戶提供一個(gè)滿足需求的而且高效穩(wěn)定的系統(tǒng)才是重中之中。

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多