日韩黑丝制服一区视频播放|日韩欧美人妻丝袜视频在线观看|九九影院一级蜜桃|亚洲中文在线导航|青草草视频在线观看|婷婷五月色伊人网站|日本一区二区在线|国产AV一二三四区毛片|正在播放久草视频|亚洲色图精品一区

分享

大數(shù)據(jù)IMF傳奇行動絕密課程第73課:Spark SQL Thrift Server實(shí)戰(zhàn)

 看風(fēng)景D人 2019-02-24

通過JDBC/ODBC->Thirft Server->Spark SQL->Hive取代傳統(tǒng)數(shù)據(jù)庫為后臺的系統(tǒng)
啟動hive:

hive --service metastore &
hive

服務(wù)端:啟動thrift服務(wù)端

./start-thriftserver.sh --master spark://Master:7077 --hiveconf hive.server2.transport.mode=http --hiveconf hive.server2.thrift.http.path=cliservice

Java代碼

/**
 * Java通過JDBC訪問Thrift Server,進(jìn)而訪問Hive,這是企業(yè)級開發(fā)中最為常見的方式
 */
public class SparkSQLJDBC2ThriftServer {

    /**
     * @param args
     */
    public static void main(String[] args) {

        Connection conn = null;
        ResultSet rs = null;
        String sql = "select * from people where age = ?";
        try {
            Class.forName("org.apache.hive.jdbc.HiveDriver");
            conn = DriverManager.getConnection("jdbc:hive2://Master:10001/default?"     //10001為thrift默認(rèn)端口,default為hive'中的庫
                    + "hive.server2.transport.mode=http;hive.server2.thrift.http.path=cliservice",
                    "root","");
            PreparedStatement stmt = conn.prepareStatement(sql);
            stmt.setInt(1, 30);
            rs = stmt.executeQuery();
            while(rs.next()){
                System.out.println(rs.getString(1)); //數(shù)據(jù)應(yīng)保存成parquet
            }
        } catch (ClassNotFoundException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        } catch (SQLException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        } finally {
            try {
                rs.close();
                conn.close();
            } catch (SQLException e) {
                // TODO Auto-generated catch block
                e.printStackTrace();
            }
        }
    }
}

    本站是提供個人知識管理的網(wǎng)絡(luò)存儲空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多