本發(fā)明涉及深度學(xué)習(xí),具體是基于深度學(xué)習(xí)模型優(yōu)化的智能化低代碼開發(fā)方法及系統(tǒng)。
背景技術(shù):
1、在現(xiàn)代的低代碼平臺中,隨著企業(yè)業(yè)務(wù)復(fù)雜性增加,低代碼平臺逐漸成為企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵工具。低代碼平臺通過圖形化界面簡化了應(yīng)用開發(fā)和部署過程,使得業(yè)務(wù)人員也能參與開發(fā),降低了開發(fā)成本和時間。然而,隨著業(yè)務(wù)場景的復(fù)雜化和系統(tǒng)性能需求的提升,傳統(tǒng)的低代碼平臺面臨著如何在不斷變化的業(yè)務(wù)需求和技術(shù)環(huán)境中保持靈活性與高效性的問題。尤其是在業(yè)務(wù)流程優(yōu)化、資源調(diào)度、決策執(zhí)行等關(guān)鍵環(huán)節(jié),低代碼平臺往往缺乏足夠的智能化決策支持和自動化的策略優(yōu)化機(jī)制,導(dǎo)致系統(tǒng)在大規(guī)模應(yīng)用時無法高效適應(yīng)業(yè)務(wù)變化,或者無法在動態(tài)環(huán)境中快速做出調(diào)整。
2、現(xiàn)有技術(shù)中,低代碼平臺通常依賴靜態(tài)規(guī)則或基于預(yù)定義的決策模型進(jìn)行邏輯流的部署和執(zhí)行,這種方式往往難以應(yīng)對復(fù)雜的多目標(biāo)優(yōu)化場景,也無法在大規(guī)模系統(tǒng)中自動調(diào)整資源分配和處理策略;傳統(tǒng)的自動化部署與資源調(diào)度方法通?;诠潭ㄅ渲?,缺乏根據(jù)業(yè)務(wù)負(fù)載、資源需求等動態(tài)因素進(jìn)行實時調(diào)整的能力,這使得平臺在面對大規(guī)模數(shù)據(jù)和業(yè)務(wù)波動時,常常出現(xiàn)性能瓶頸或資源浪費;
3、為此,本發(fā)明提出基于深度學(xué)習(xí)模型優(yōu)化的智能化低代碼開發(fā)方法及系統(tǒng)。
技術(shù)實現(xiàn)思路
1、本發(fā)明旨在至少解決現(xiàn)有技術(shù)中存在的技術(shù)問題之一。為此,本發(fā)明提出基于深度學(xué)習(xí)模型優(yōu)化的智能化低代碼開發(fā)方法及系統(tǒng),提升了低代碼平臺的彈性、穩(wěn)定性和可擴(kuò)展性。
2、為實現(xiàn)上述目的,提出基于深度學(xué)習(xí)模型優(yōu)化的智能化低代碼開發(fā)方法,包括以下步驟:
3、步驟一:通過領(lǐng)域驅(qū)動的元建模技術(shù)構(gòu)建多維度的領(lǐng)域知識圖譜;
4、步驟二:基于所述領(lǐng)域知識圖譜,構(gòu)建三維時空融合的訓(xùn)練樣本集,采用transformer-gnn混合架構(gòu)對訓(xùn)練樣本集進(jìn)行跨模態(tài)特征對齊,生成攜帶語義約束的可執(zhí)行邏輯流模板;
5、步驟三:將所述可執(zhí)行邏輯流模板編碼為馬爾可夫決策過程,通過集成梯度反向傳播路徑生成的特征重要性指標(biāo)與pareto前沿分析模塊的多目標(biāo)強(qiáng)化學(xué)習(xí)框架,對馬爾可夫決策過程的邏輯流的優(yōu)化目標(biāo)進(jìn)行聯(lián)合策略優(yōu)化;
6、步驟四:提取所述聯(lián)合策略優(yōu)化后的策略參數(shù)化序列,注入運行時監(jiān)控模塊構(gòu)造的動態(tài)驗證沙箱環(huán)境,通過在線變分自編碼器對執(zhí)行軌跡進(jìn)行異常模式檢測與反饋式參數(shù)蒸餾迭代,完成對策略的動態(tài)調(diào)整;
7、步驟五:將經(jīng)動態(tài)驗證的策略參數(shù)化序列進(jìn)行目標(biāo)服務(wù)的自動化彈性部署;
8、所述通過領(lǐng)域驅(qū)動的元建模技術(shù)構(gòu)建多維度的領(lǐng)域知識圖譜包括以下步驟:
9、步驟101:通過可視化元模型編輯器定義領(lǐng)域?qū)嶓w類型、屬性及關(guān)系約束,調(diào)用預(yù)訓(xùn)練的多模態(tài)對齊模型對結(jié)構(gòu)化數(shù)據(jù)庫字段與非結(jié)構(gòu)化文檔術(shù)語進(jìn)行跨模態(tài)語義匹配,生成帶置信度標(biāo)注的實體-屬性映射表,實現(xiàn)領(lǐng)域元模型定義與異構(gòu)數(shù)據(jù)對齊;
10、步驟102:基于所述實體-屬性映射表,采用聯(lián)合學(xué)習(xí)框架訓(xùn)練領(lǐng)域?qū)S脤嶓w識別模型,從業(yè)務(wù)日志中提取結(jié)構(gòu)化事件三元組,并通過時序衰減函數(shù)計算實體交互權(quán)重,構(gòu)建帶動態(tài)邊權(quán)重的功能拓?fù)渚W(wǎng)絡(luò),實現(xiàn)動態(tài)實體關(guān)系抽取與拓?fù)渚W(wǎng)絡(luò)構(gòu)建;
11、步驟103:解析領(lǐng)域文檔中的業(yè)務(wù)規(guī)則,將業(yè)務(wù)規(guī)則中的原子條件轉(zhuǎn)換為與所述功能拓?fù)渚W(wǎng)絡(luò)的節(jié)點特征維度對齊的稀疏約束矩陣,并通過自注意力機(jī)制消除規(guī)則沖突;
12、步驟104:基于所述功能拓?fù)渚W(wǎng)絡(luò)中各個節(jié)點id與所述稀疏約束矩陣,對業(yè)務(wù)流程日志進(jìn)行時空切片,利用超圖神經(jīng)網(wǎng)絡(luò)融合拓?fù)涮卣髋c時空流量模式,生成低秩壓縮的數(shù)據(jù)流向張量,實現(xiàn)數(shù)據(jù)流向張量的時空表征學(xué)習(xí);
13、步驟105:將所述功能拓?fù)渚W(wǎng)絡(luò)、所述稀疏約束矩陣及所述數(shù)據(jù)流向張量通過圖神經(jīng)網(wǎng)絡(luò)的消息傳遞機(jī)制進(jìn)行模態(tài)對齊,生成融合時空-邏輯特征的領(lǐng)域知識圖譜,并存儲至圖數(shù)據(jù)庫;
14、基于所述領(lǐng)域知識圖譜,構(gòu)建三維時空融合的訓(xùn)練樣本集包括以下步驟:
15、步驟201:基于領(lǐng)域知識圖譜中功能拓?fù)渚W(wǎng)絡(luò)的鄰接矩陣與節(jié)點特征向量,采用動態(tài)隨機(jī)游走算法生成實體交互序列;
16、步驟202:將業(yè)務(wù)規(guī)則約束矩陣的非零元素映射至?xí)r空單元,通過稀疏張量乘法實現(xiàn)規(guī)則特征的連續(xù)空間嵌入;
17、步驟203:構(gòu)建分層圖注意力網(wǎng)絡(luò),分底層拓?fù)涮卣魈崛?、中層時空特征融合和頂層規(guī)則特征注入三個階段融合多源特征;
18、步驟204:基于領(lǐng)域知識圖譜的時空索引與規(guī)則約束,采用對抗生成策略構(gòu)造困難負(fù)樣本,生成訓(xùn)練樣本集;
19、所述采用transformer-gnn混合架構(gòu)對訓(xùn)練樣本集進(jìn)行跨模態(tài)特征對齊,生成攜帶語義約束的可執(zhí)行邏輯流模板包括以下步驟:
20、步驟211:使用transformer模型對訓(xùn)練樣本集進(jìn)行時空序列特征的提?。?/p>
21、所述進(jìn)行時空序列特征的提取包括:
22、將訓(xùn)練樣本集按照時間、空間維度構(gòu)造為標(biāo)準(zhǔn)序列輸入,利用位置編碼器嵌入序列中每個元素的位置信息,確保transformer能捕捉局部及全局時空依賴;
23、采用多頭自注意力機(jī)制對輸入序列進(jìn)行特征抽取,且每個注意力頭從不同角度提取全局上下文信息,提供多視角的時空特征;
24、堆疊若干transformer編碼器層,最終輸出的序列特征張量作為后續(xù)跨模態(tài)融合所需的時空序列特征;
25、步驟212:基于領(lǐng)域知識圖譜,構(gòu)建gnn圖編碼模塊,并通過圖編碼模塊對圖結(jié)構(gòu)特征進(jìn)行提??;
26、所述對圖結(jié)構(gòu)特征進(jìn)行提取包括:
27、根據(jù)領(lǐng)域知識圖譜中構(gòu)建的功能拓?fù)渚W(wǎng)絡(luò),利用領(lǐng)域知識圖譜中每個節(jié)點的特征向量作為各節(jié)點初始特征,利用鄰接矩陣和動態(tài)邊權(quán)重信息,構(gòu)造反映節(jié)點間交互關(guān)系的圖數(shù)據(jù)結(jié)構(gòu);
28、選用圖卷積網(wǎng)絡(luò)、圖注意力網(wǎng)絡(luò)或超圖神經(jīng)網(wǎng)絡(luò)等消息傳遞機(jī)制,對圖結(jié)構(gòu)中各節(jié)點進(jìn)行多層信息傳遞,聚合鄰域節(jié)點特征;需要說明的是,在信息傳遞過程中引入邊權(quán)重動態(tài)更新策略,確保非線性和時變關(guān)系能夠被捕捉;
29、將經(jīng)過多層聚合后的節(jié)點特征矩陣輸出,并為每個節(jié)點生成全局上下文表示,該全局上下文表示作為圖結(jié)構(gòu)特征;
30、步驟213:對時空序列特征和圖結(jié)構(gòu)特征進(jìn)行融合,通過預(yù)定義的誘導(dǎo)信號損失函數(shù),生成融合特征;
31、所述生成融合特征包括:
32、采用雙線性池化、交叉注意力機(jī)制或如全連接網(wǎng)絡(luò)與殘差連接的融合層的設(shè)計,將transformer提取的時空序列特征與gnn輸出的圖結(jié)構(gòu)特征進(jìn)行對齊,將對齊后的時空序列特征與圖結(jié)構(gòu)特征輸入融合層;
33、在融合層中,通過預(yù)定義的誘導(dǎo)信號損失函數(shù),在反向傳播中引導(dǎo)模型生成的特征表示目標(biāo)約束;
34、通過融合層輸出統(tǒng)一的跨模態(tài)特征表示,作為融合特征;
35、步驟214:根據(jù)融合特征,通過解碼器構(gòu)建可執(zhí)行邏輯流模板;
36、所述通過解碼器構(gòu)建可執(zhí)行邏輯流模板包括:
37、構(gòu)建基于transformer解碼器或圖解碼器的模板生成模塊,將融合后的融合特征表示作為輸入;
38、在解碼過程中,嵌入來自領(lǐng)域規(guī)則的約束條件,例如各流程節(jié)點的資源限制、響應(yīng)時延約束及異常處理規(guī)則,從而生成的模板符合實際業(yè)務(wù)需求;
39、定義包括如交叉熵?fù)p失的生成損失、誘導(dǎo)信號約束損失以及領(lǐng)域一致性損失的聯(lián)合損失函數(shù),根據(jù)生成損失,通過訓(xùn)練樣本集進(jìn)行訓(xùn)練,通過離線仿真或小規(guī)模在線測試,對生成模板進(jìn)行驗證;
40、所述將所述可執(zhí)行邏輯流模板編碼為馬爾可夫決策過程包括以下步驟:
41、步驟311:對輸入的可執(zhí)行邏輯流模板進(jìn)行預(yù)處理,將其內(nèi)部描述的業(yè)務(wù)流程、決策節(jié)點和轉(zhuǎn)移條件進(jìn)行提取,并基于提取的業(yè)務(wù)流程、決策節(jié)點和轉(zhuǎn)移條件構(gòu)建馬爾可夫決策過程的狀態(tài)空間;
42、步驟312:從解析后的模板中識別出各個決策節(jié)點所允許的操作選項,構(gòu)成馬爾可夫決策過程的動作空間;
43、步驟313:將邏輯流模板中描述的流程轉(zhuǎn)移關(guān)系形式化為馬爾可夫決策過程的狀態(tài)轉(zhuǎn)移函數(shù);
44、步驟314:為馬爾可夫決策過程設(shè)計獎勵函數(shù),以評估在狀態(tài)s下采取動作a后獲得的即時收益或成本;
45、步驟315:狀態(tài)空間、動作空間、狀態(tài)轉(zhuǎn)移函數(shù)和獎勵函數(shù)組成馬爾可夫決策過程;
46、所述通過集成梯度反向傳播路徑生成的特征重要性指標(biāo)與pareto前沿分析模塊的多目標(biāo)強(qiáng)化學(xué)習(xí)框架,對馬爾可夫決策過程的邏輯流的優(yōu)化目標(biāo)進(jìn)行聯(lián)合策略優(yōu)化包括以下步驟:
47、步驟321:將已經(jīng)編碼為馬爾可夫決策過程的邏輯流作為優(yōu)化對象,采用集成梯度方法計算反向傳播路徑的特征重要性;
48、步驟322:設(shè)計pareto前沿分析模塊,為領(lǐng)域項目構(gòu)造多目標(biāo)評價體系,并基于特征重要性,為各個目標(biāo)生成賦予權(quán)重的目標(biāo)函數(shù);
49、步驟323:構(gòu)建融合馬爾可夫決策過程和多目標(biāo)評價體系的多目標(biāo)強(qiáng)化學(xué)習(xí)框架;
50、步驟324:通過定義多目標(biāo)損失函數(shù),根據(jù)多目標(biāo)強(qiáng)化學(xué)習(xí)框架的輸出進(jìn)行聯(lián)合策略優(yōu)化;
51、所述提取所述聯(lián)合策略優(yōu)化后的策略參數(shù)化序列,注入運行時監(jiān)控模塊構(gòu)造的動態(tài)驗證沙箱環(huán)境的方式為:
52、采用容器化和虛擬化技術(shù)構(gòu)建動態(tài)驗證沙箱環(huán)境,模擬與生產(chǎn)環(huán)境一致的代碼運行條件,同時通過實時監(jiān)控工具采集系統(tǒng)行為數(shù)據(jù);
53、采用標(biāo)準(zhǔn)的接口調(diào)用和數(shù)據(jù)映射機(jī)制將策略參數(shù)化序列注入動態(tài)驗證沙箱環(huán)境,實現(xiàn)對策略在真實業(yè)務(wù)場景下的在線驗證和反饋;
54、通過在線變分自編碼器對執(zhí)行軌跡進(jìn)行異常模式檢測與反饋式參數(shù)蒸餾迭代的方式為:
55、預(yù)先收集動態(tài)驗證沙箱環(huán)境策略執(zhí)行的執(zhí)行軌跡數(shù)據(jù),將其表示為一個軌跡序列集合;
56、在線變分自編碼器包含一個編碼器和一個解碼器,其訓(xùn)練目標(biāo)為最大化證據(jù)下界;
57、動態(tài)驗證沙箱環(huán)境中利用在線變分自編碼器對實時采集的執(zhí)行軌跡進(jìn)行重構(gòu),并計算重構(gòu)誤差,基于重構(gòu)誤差,判定是否需要進(jìn)行反饋式參數(shù)蒸餾;
58、對于需要進(jìn)行反饋式參數(shù)蒸餾的執(zhí)行路徑,收集該執(zhí)行路徑的策略參數(shù)化序列,定義量化當(dāng)前策略與策略參數(shù)化序列之間的偏差損失函數(shù),采用梯度下降方法對偏差損失函數(shù)進(jìn)行參數(shù)更新;
59、所述將經(jīng)動態(tài)驗證的策略參數(shù)化序列進(jìn)行目標(biāo)服務(wù)的自動化彈性部署的方式為:
60、低代碼平臺接收經(jīng)過在線異常檢測和反饋式參數(shù)蒸餾迭代后獲得的策略參數(shù)化序列,并通過預(yù)定義的映射規(guī)則,將各參數(shù)轉(zhuǎn)換為部署配置的具體項;
61、根據(jù)獲得的部署配置的具體項在低代碼平臺進(jìn)行相應(yīng)的部署。
62、提出基于深度學(xué)習(xí)模型優(yōu)化的智能化低代碼開發(fā)系統(tǒng),包括知識圖譜構(gòu)建模塊、邏輯流模板構(gòu)建模塊、策略優(yōu)化模塊、策略動態(tài)調(diào)整模塊以及策略部署模塊;其中,各個模塊之間通過電性方式連接;
63、知識圖譜構(gòu)建模塊,通過領(lǐng)域驅(qū)動的元建模技術(shù)構(gòu)建多維度的領(lǐng)域知識圖譜,并將領(lǐng)域知識圖譜發(fā)送至邏輯流模板構(gòu)建模塊;
64、邏輯流模板構(gòu)建模塊,基于所述領(lǐng)域知識圖譜,構(gòu)建三維時空融合的訓(xùn)練樣本集,采用transformer-gnn混合架構(gòu)對訓(xùn)練樣本集進(jìn)行跨模態(tài)特征對齊,生成攜帶語義約束的可執(zhí)行邏輯流模板,并將可執(zhí)行邏輯流模板發(fā)送至策略優(yōu)化模塊;
65、策略優(yōu)化模塊,將所述可執(zhí)行邏輯流模板編碼為馬爾可夫決策過程,通過集成梯度反向傳播路徑生成的特征重要性指標(biāo)與pareto前沿分析模塊的多目標(biāo)強(qiáng)化學(xué)習(xí)框架,對馬爾可夫決策過程的邏輯流的優(yōu)化目標(biāo)進(jìn)行聯(lián)合策略優(yōu)化,將聯(lián)合策略優(yōu)化后的策略參數(shù)化序列發(fā)送至策略動態(tài)調(diào)整模塊;
66、策略動態(tài)調(diào)整模塊,提取所述聯(lián)合策略優(yōu)化后的策略參數(shù)化序列,注入運行時監(jiān)控模塊構(gòu)造的動態(tài)驗證沙箱環(huán)境,通過在線變分自編碼器對執(zhí)行軌跡進(jìn)行異常模式檢測與反饋式參數(shù)蒸餾迭代,完成對策略的動態(tài)調(diào)整,將動態(tài)調(diào)整后的策略發(fā)送至策略部署模塊;
67、策略部署模塊,將經(jīng)動態(tài)驗證的策略參數(shù)化序列進(jìn)行目標(biāo)服務(wù)的自動化彈性部署。
68、與現(xiàn)有技術(shù)相比,本發(fā)明的有益效果是:
69、本發(fā)明首先通過領(lǐng)域驅(qū)動建模技術(shù)構(gòu)建多維度知識圖譜,提取出業(yè)務(wù)流程中的關(guān)鍵節(jié)點和關(guān)聯(lián),隨后利用transformer-gnn混合架構(gòu)對多模態(tài)數(shù)據(jù)進(jìn)行特征對齊,生成攜帶語義約束的可執(zhí)行邏輯流模板。通過集成梯度和pareto前沿分析模塊,結(jié)合多目標(biāo)強(qiáng)化學(xué)習(xí)框架,對馬爾可夫決策過程中的各個目標(biāo)進(jìn)行聯(lián)合優(yōu)化,找到最佳決策路徑,通過在線變分自編碼器對執(zhí)行軌跡進(jìn)行實時重構(gòu)和異常模式檢測,發(fā)現(xiàn)偏離預(yù)期的執(zhí)行軌跡時,反饋并觸發(fā)參數(shù)蒸餾迭代過程,自動調(diào)整策略,保證系統(tǒng)在實際運行中的穩(wěn)定性和高效性,最后對調(diào)整后的策略進(jìn)行自動化部署;實現(xiàn)了實時優(yōu)化策略,靈活調(diào)度資源,避免了傳統(tǒng)方法中的靜態(tài)配置問題,提升了低代碼平臺的彈性、穩(wěn)定性和可擴(kuò)展性。