本技術實施例涉及計算設備,尤其涉及一種基于流計算的數據處理方法、服務器及程序產品。
背景技術:
1、隨著互聯網和信息技術的發(fā)展,數據量呈現爆炸式增長,為滿足數據的實時處理和分析的需求,數據流計算應運而生。
2、相關技術中,針對不同流計算的場景需求,例如數據來源或者計算規(guī)則,開發(fā)人員需要編寫不同的軟件包,并上傳到流計算系統。但該方式在修改場景需求時,需要修改代碼,導致流計算處理的靈活性較低。
技術實現思路
1、本技術實施例提供一種基于流計算的數據處理方法、服務器及程序產品,用于提高流計算處理的靈活性。
2、第一方面,本技術實施例提供一種基于流計算的數據處理方法,包括:
3、響應于任務啟動請求,創(chuàng)建公共軟件包對應的流計算任務;其中,所述任務啟動請求包括流計算參數;所述流計算參數包括數據源參數和計算參數;
4、將所述流計算參數,作為所述流計算任務的公共軟件包的輸入參數;
5、啟動所述流計算任務,根據所述數據源參數獲取目標數據;并根據所述計算參數,對所述目標數據進行流計算處理,得到計算結果。
6、本實施例的有益效果:通過在流計算系統中設置輸入參數為數據源參數和計算參數的公共軟件包,流計算系統可以響應于攜帶有數據源參數和計算參數的任務啟動請求,創(chuàng)建該公共軟件包對應的流計算任務,并將該數據源參數和計算參數傳遞至公共軟件包的輸入參數中,啟動并執(zhí)行該流計算任務后,流計算系統可以根據該數據源參數獲取目標數據,并根據計算參數對該目標數據進行流計算處理,得到計算結果。通過該方式,基于該公共軟件包配置不同的數據源參數和計算參數,實現不同流計算場景需求的適配,無需對軟件包中的代碼進行修改,并且也無需針對不同的流計算場景需求上傳不同的軟件包,減少了軟件包的上傳次數,提高了流計算處理的靈活性。
7、在一種可能的實施方式中,所述響應于任務啟動請求,創(chuàng)建公共軟件包對應的流計算任務,包括:
8、根據所述任務啟動請求所指示的公共軟件包的名稱,確定所述公共軟件包的標識;
9、根據所述公共軟件包的標識,調用任務提交接口,創(chuàng)建所述流計算任務。
10、本實施例的有益效果:通過在任務啟動請求中指定公共軟件包的名稱,可以靈活地選擇和使用不同的公共軟件包來執(zhí)行流計算任務,可以滿足更多場景下的數據處理需求;流計算系統可以自動化地創(chuàng)建流計算任務,并可以響應于多個任務啟動請求,基于公共軟件包同時創(chuàng)建多個不同場景需求的流計算任務,提高流計算處理的靈活性。
11、在一種可能的實施方式中,所述方法還包括:
12、獲取數據獲取規(guī)則和計算規(guī)則;
13、對所述數據獲取規(guī)則和所述計算規(guī)則進行轉換處理,得到所述流計算參數;
14、根據所述流計算參數,生成任務啟動請求。
15、本實施例的有益效果:基于數據獲取規(guī)則和計算規(guī)則,流計算系統能夠適配于多種計算場景需求,提高了流計算處理對多場景需求的適配性和靈活性。
16、在一種可能的實施方式中,所述數據獲取規(guī)則包括數據源的標識;所述對所述數據獲取規(guī)則和所述計算規(guī)則進行轉換處理,得到所述流計算參數,包括:
17、根據所述數據源的標識,對所述數據獲取規(guī)則進行第一轉換處理,得到數據源參數;
18、根據所述數據源參數,對所述計算規(guī)則進行第二轉換處理,得到計算參數。
19、本實施例的有益效果:流計算系統可以自動將數據獲取規(guī)則和計算規(guī)則進行轉換處理,得到適用于流計算系統的數據源參數和計算參數,無需人工進行編碼處理,提高了流計算處理的靈活性。
20、在一種可能的實施方式中,所述根據所述數據源的標識,對所述數據獲取規(guī)則進行第一轉換處理,得到數據源參數,包括:
21、根據所述數據源的標識,獲取所述數據源的標識對應的轉換規(guī)則;
22、基于所述數據源的標識對應的轉換規(guī)則,將所述數據獲取規(guī)則轉換為所述數據源所對應的可執(zhí)行語句格式,得到所述數據源參數。
23、本實施例的有益效果:基于不同類型的數據源設置對應的轉換規(guī)則,提高轉換處理的準確性,進而提高數據源參數的準確性。
24、在一種可能的實施方式中,所述根據所述數據源參數,對所述計算規(guī)則進行第二轉換處理,得到計算參數,包括:
25、將所述計算規(guī)則轉換為流計算處理時的可執(zhí)行語句格式,并代入所述數據源參數,得到所述計算參數。
26、本實施例的有益效果:不同的計算規(guī)則體現不同的場景計算需求,通過對計算規(guī)則的轉換處理,實現對場景計算需求的自動化編碼處理,無需人工修改代碼,提高了流計算處理的靈活性。
27、在一種可能的實施方式中,所述獲取數據獲取規(guī)則和計算規(guī)則,包括:
28、響應于用戶基于前端界面的觸發(fā)操作,接收所述觸發(fā)操作所指示的數據獲取規(guī)則和計算規(guī)則;或者是,
29、接收用戶通過命令行界面輸入的數據獲取規(guī)則和計算規(guī)則。
30、本實施例的有益效果:通過多種方式進行數據獲取規(guī)則和計算規(guī)則的配置以適配多種場景計算的需求,無需對軟件包中的代碼進行修改。
31、在一種可能的實施方式中,所述流計算參數還包括保存時長參數;所述方法還包括:
32、存儲所述計算結果,并根據所述保存時長參數所指示的保存時長,配置所述計算結果的保存時長屬性。
33、本實施例的有益效果:通過流計算參數所包括的保存時長參數,可以靈活適配于不同計算場景需求的計算結果保存時長。
34、第二方面,本技術實施例還提供一種服務器,包括處理器,以及與所述處理器通信連接的存儲器;
35、所述存儲器用于存儲計算機執(zhí)行指令;
36、所述處理器用于執(zhí)行所述存儲器存儲的計算機執(zhí)行指令,用于實現如第一方面任一項所述的基于流計算的數據處理方法。
37、本實施例的有益效果:服務器的處理器可以執(zhí)行該計算機執(zhí)行指令,使得處理器通過設置輸入參數為數據源參數和計算參數的公共軟件包,流計算系統可以響應于攜帶有數據源參數和計算參數的任務啟動請求,創(chuàng)建該公共軟件包對應的流計算任務,并將該數據源參數和計算參數傳遞至公共軟件包的輸入參數中,啟動并執(zhí)行該流計算任務后,流計算系統可以根據該數據源參數獲取目標數據,并根據計算參數對該目標數據進行流計算處理,得到計算結果。通過該方式,基于該公共軟件包配置不同的數據源參數和計算參數,實現不同流計算場景需求的適配,無需對軟件包中的代碼進行修改,并且也無需針對不同的流計算場景需求上傳不同的軟件包,減少了軟件包的上傳次數,提高了流計算處理的靈活性。
38、第三方面,本技術實施例提供一種計算機程序產品,包括計算機程序,該計算機程序被處理器執(zhí)行時實現如第一方面所述的基于流計算的數據處理方法。
39、本實施例的有益效果:服務器的處理器可以執(zhí)行該計算機程序,使得處理器通過設置輸入參數為數據源參數和計算參數的公共軟件包,流計算系統可以響應于攜帶有數據源參數和計算參數的任務啟動請求,創(chuàng)建該公共軟件包對應的流計算任務,并將該數據源參數和計算參數傳遞至公共軟件包的輸入參數中,啟動并執(zhí)行該流計算任務后,流計算系統可以根據該數據源參數獲取目標數據,并根據計算參數對該目標數據進行流計算處理,得到計算結果。通過該方式,基于該公共軟件包配置不同的數據源參數和計算參數,實現不同流計算場景需求的適配,無需對軟件包中的代碼進行修改,并且也無需針對不同的流計算場景需求上傳不同的軟件包,減少了軟件包的上傳次數,提高了流計算處理的靈活性。