【文章內(nèi)容簡介】 PRESS 最小時所對應(yīng)的特征向量個數(shù)作為 PLS 模型應(yīng)采取的特征向量個數(shù)。隨著計算機(jī)水平和分析手段的提高，變量的采集越來越多，尤其是在光譜或色譜領(lǐng)域，對同一樣本進(jìn)行分析可以得到大量不同波長的數(shù)據(jù)，如何在不影響模型性能的情況下，從包含大量數(shù)據(jù)的集合中選擇合適的變量組成一個較小的子集進(jìn)行回歸建模，成了人們研究的一個熱點(diǎn)。針對大量的光譜數(shù)據(jù)，先采用小波變換對數(shù)據(jù)進(jìn)行壓縮再進(jìn)行 PLS 回歸。采用交互變量選擇（IVS）法，對于不重要的變量，在 PLS 回歸過程中設(shè)置其對應(yīng)權(quán)值 w 為 0，達(dá)到選擇變量的目的。而負(fù)荷變量不進(jìn)行變化，從而可以看出哪些被刪除的變量與被保留的變量相關(guān)。IVS 方法不遺忘被刪除的變量，從而不會影響最后模型的解釋。對于過程變量個數(shù)很多的情況，主要有多模塊 PLS和層次PLS方法，主要思想是對化工過程進(jìn)行分析，按照生產(chǎn)過程機(jī)理和變量之間的相關(guān)關(guān)系，將要處理的過程變量分為多個關(guān)聯(lián)較小的子模塊，各子模塊分別對因變量建立 PLS 模型，后將各子模塊得到的得分向量組合成超得分向量矩陣，再與因變量建立 PLS 模型。通過對過程數(shù)據(jù)的劃分，使每一子模塊模型相對簡單，與單一的PLS 相比，多模塊 PLS 和多層次 PLS 具有更好的解釋能力。 現(xiàn)代工業(yè)過程的數(shù)據(jù)通常是高度非線性的，前面所述的統(tǒng)計回歸的方法，能夠抽取過程的有用信息，消除冗余信息，但本質(zhì)上是線性回歸，在處理非線性系統(tǒng)建模問題時常表現(xiàn)出精度不夠。引用額外的特征向量可以對非線性因素擬合，但引入的額外向量會增加對回歸無益的噪聲，嚴(yán)重降低模型的推廣能力。針對此問題，提出 PLS 非線性建模的兩種方法。一種是對輸入矩陣進(jìn)行擴(kuò)展，使擴(kuò)展后的向量包含一些原始變量的非線性項，如原始變量的對數(shù)項，平方項，交叉乘積項等，再后對擴(kuò)展的輸入矩陣和輸出矩陣進(jìn)行 PLS 建模。文中作者給出了一種 QPLS 算法，內(nèi)部采用二階多項式，外部保留線性關(guān)系的 PLS 算法。另一種方法是保留 PLS 方法的線性外部模型，內(nèi)部模型采用非線性形式：先用線性 PLS 的方法，通常利用 NIPALS 算法，得到輸入、輸出矩陣的特征向量 t 和 u，然后采用非線性函數(shù)擬合它們間的關(guān)系。同時，分析了兩種方法各自存在的問題。第一種方法，對輸入矩陣進(jìn)行非線性項的擴(kuò)展，存在輸入變量選擇問題。在沒有關(guān)于原始輸入變量間關(guān)系的先驗知識的情況下，無法知道組合方式的選擇。不適當(dāng)?shù)臄U(kuò)展，可能會導(dǎo)致非線性項過多，使輸入矩陣過大而難以處理，同時，得到的結(jié)果也不好解釋。第二種方法，內(nèi)部模型采用非線性函數(shù)，主要問題是PLS外部模型輸入權(quán)值 w 的更新。NIPALS算法是假設(shè)t 和u之間為線性關(guān)系，在采取非線性函數(shù)擬合時，影響外部模型的計算，進(jìn)而對后面各個特征向量的計算產(chǎn)生影響。為解決這個問題他提出對內(nèi)部模型采用 NewtonRaphson線性化，再求解出權(quán)值w的增量dw對權(quán)值w進(jìn)行更新，并證明了該方法對任何輸入輸出特征向量是連續(xù)可導(dǎo)關(guān)系的情況都使用。而且，在輸入輸出特征向量只有輕微非線性時，可以不進(jìn)行權(quán)值 w 的更新，對最后結(jié)果的影響不大。在對輸入矩陣進(jìn)行擴(kuò)展方面，對原始矩陣 X 進(jìn)行列擴(kuò)展時，若 X 矩陣本身能夠被投影模型 TPT描述，說明 X 本身存在一個隱結(jié)構(gòu)，僅僅擴(kuò)展x 變量的平方項即可把特征變量的二次項，包括平方項和交叉項，隱含地包含進(jìn)模型中。在進(jìn)行列擴(kuò)展時即可不必包含 X 變量的交叉項，大大減少了變量的數(shù)目。該方法稱為隱含非線性特征變量回歸（INLR）方法。同樣的，對于三階非線性，擴(kuò)展時可只包括立方項。然后對擴(kuò)展后的輸入矩陣和輸出矩陣進(jìn)行 PLS 回歸，則可以得到預(yù)測與響應(yīng)變量間的關(guān)系。在部分最小二乘法中引入核函數(shù)的概念，提出了核函數(shù)部分最小二乘法。通過核函數(shù)將輸入數(shù)據(jù)映射到高維的特征空間，實現(xiàn)非線性相關(guān)向線性相關(guān)的轉(zhuǎn)化，然后在高維特征空間中再進(jìn)行PLS運(yùn)算。該方法能充分利用樣本空間信息，建立輸入和輸出變量之間的非線性關(guān)系，有效地提高模型擬合和預(yù)測精度。該方法在化工領(lǐng)域很多過程中已取得成功應(yīng)用。保留PLS的線性外部模型，而內(nèi)部模型采用非線性函數(shù)形式來描述輸入輸出特征向量間關(guān)系的文獻(xiàn)較多。NLPLS 算法，采用局部線性平滑步驟來描述每一對特征向量間的關(guān)系。其后，這種近似方法跟一階（線性）樣條函數(shù)類似，當(dāng)用于小數(shù)據(jù)集合時不平滑，因此只能用于大的數(shù)據(jù)集合。SPLPLS 方法，用平滑樣條函數(shù)（二階或三階）來表述每一對特征向量間的非線性關(guān)系。在 此的基礎(chǔ)上，出現(xiàn)了一種基于誤差的權(quán)值更新方法，導(dǎo)出一種新的 QPLS 算法。文中證明該方法的性能優(yōu)于 上述的方法。作者還指出，基于誤差的權(quán)值更新方法同樣適用于輸入輸出特征向量間是任意非線性關(guān)系的情況，只要該非線性函數(shù)對 w 是連續(xù)且可導(dǎo)的。這些采用多項式非線性映射（或者它們的組合方式，如樣條函數(shù)）的非線性 PLS 算法都是假設(shè)輸入輸出特征向量間的關(guān)系可以用某種特殊的多項式形式來表述。但是，這需要預(yù)先設(shè)定一系列參數(shù)，如多項式階次、樣條函數(shù)中節(jié)點(diǎn)的數(shù)目和位置等，而且，由于多項式描述非線性關(guān)系的能力受到自身形態(tài)的限制，有時可能無法恰當(dāng)表達(dá)數(shù)據(jù)間某些較復(fù)雜的非線性關(guān)系。利用神經(jīng)網(wǎng)絡(luò)的萬能逼近性，將神經(jīng)網(wǎng)絡(luò)與 PLS 方法結(jié)合，提出神經(jīng)網(wǎng)絡(luò)/部分最小二乘（NNPLS）方法。該方法先用線性 PLS 方法得到輸入輸出特征向量，然后用以 Sigmoid 函數(shù)作激勵函數(shù)的三層神經(jīng)網(wǎng)絡(luò)來表述輸入輸出向量間的非線性關(guān)系，每一對特征向量間的關(guān)系用一個神經(jīng)網(wǎng)絡(luò)來描述。同時證明 NNPLS 模型等價于一個多層前向神經(jīng)網(wǎng)絡(luò)，只是采用 NNPLS 自己獨(dú)特的訓(xùn)練方式。NNPLS 與一般神經(jīng)網(wǎng)絡(luò)的不同之處在于：數(shù)據(jù)首先經(jīng)過 PLS 的外部特征投影再用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)。NNPLS 的外部線性變換將多元建模問題分解為若干個單入單出（SISO）的神經(jīng)網(wǎng)絡(luò)訓(xùn)練問題，不僅去除了數(shù)據(jù)間的相關(guān)信息，同時減少了網(wǎng)絡(luò)的獨(dú)立權(quán)重數(shù)，從而避免了一般神經(jīng)網(wǎng)絡(luò)訓(xùn)練的過參數(shù)問題（預(yù)測方差大，對噪聲敏感等），并使網(wǎng)絡(luò)訓(xùn)練不易陷入局部極小點(diǎn)。上述 NNPLS 方法的一個缺陷是，模型訓(xùn)練過程中沒有對輸入權(quán)值 w 進(jìn)行更新。只有當(dāng)輸入輸出特征向量間非線性關(guān)系不嚴(yán)重時，才會有好的近似效果?；谡`差的權(quán)值更新方法適用于輸入輸出特征向量間是任意非線性關(guān)系的情況，只要該非線性關(guān)系對 w 是連續(xù)且可導(dǎo)的。該部分介紹了偏最小二乘法的基本原理、計算方法及研究現(xiàn)狀，為后面章節(jié)偏最小二乘法在過程在線分析中的應(yīng)用作了鋪墊。第三章 案例分析工業(yè)上聚酯樹脂的生產(chǎn)主要用于涂料。通過聚合二醇和長鏈二元酸的批處理生產(chǎn)。該反應(yīng)在12立方米的標(biāo)稱容量攪拌式夾套釜反應(yīng)器進(jìn)行加熱。除了所需的產(chǎn)品，聚縮合反應(yīng)還有水的形成，所以必須從反應(yīng)環(huán)境除去水來促進(jìn)反應(yīng)。為了除去水，工廠配備了填料精餾塔（這是運(yùn)行在干燥模式下研究生產(chǎn)的樹脂），外部為水冷冷凝器，和洗滌器。而真空泵運(yùn)行必需在真空條件下。該工廠配備了一些在線測量的傳感器。通過這些傳感器定期收集了三十四個變量，每個變量收集都是在線過程完成，記錄時間是通過計算機(jī)每30秒計量一次。通常情況下，這些變量包括過程測量（溫度，壓力，閥開口）和控制器的設(shè)定值（這是調(diào)整人一般由經(jīng)營者）；收集的4500至7500個數(shù)據(jù)，這些數(shù)據(jù)是在33個批次40至70個小時收集的。本研究的目的，考慮了二十三個過程變量的在線記錄。這些變量是在一個初步工程分析的基礎(chǔ)上選擇的。每一批次的運(yùn)行都是通過一序列的操作步驟，其中大部分是手工操作觸發(fā)。一個典型的序列的操作步驟如下：對設(shè)備和線路進(jìn)行清洗時，不同的是樹脂已在前面的批量生產(chǎn)。然后，將原料、添加劑和催化劑裝入反應(yīng)器。液體二元醇的電荷是自動的，而長鏈二元酸是手動充電作為固體。二羧酸作為發(fā)酵產(chǎn)物，其質(zhì)量可能一批批明顯發(fā)生變化；其中的小的變化，可能是新生成的二元醇質(zhì)量。然而，在運(yùn)行反應(yīng)器，打開混合和加熱系統(tǒng)，并加熱直至反應(yīng)堆達(dá)到設(shè)定溫度（202176。C）期間，注入的質(zhì)量不能批開始前測量。隨著反應(yīng)的進(jìn)行，反應(yīng)器的溫度逐漸升；所以水會作為氣相產(chǎn)生，離開反應(yīng)器。在該批處理的早期階段，這種氣相含有顯著數(shù)量的二醇，因此它必須被回收和再利用進(jìn)行進(jìn)一步的處理。因此，氣相離開反應(yīng)器是在以下幾個方面：第一，順序處理的填料塔中微分冷凝，以這樣的方式來恢復(fù)液體二元醇和循環(huán)回反應(yīng)器；第二，通過在冷凝器總縮合；第三，通過洗滌和洗滌接觸凝結(jié)。批處理調(diào)整粘度和樹脂的分子量分布過程需要真空環(huán)境。此外，為確保最后產(chǎn)品的質(zhì)量規(guī)格，操作方法在批處理過程中至少需要兩次增加的新原料和催化劑。第一個是在真空進(jìn)行第一次了。因此，當(dāng)新原料和催化劑裝入反應(yīng)器，真空必須打破，然后需要重設(shè)真空。雖然該樹脂的終點(diǎn)質(zhì)量通常落在一個很窄的范圍內(nèi)，但該批次的內(nèi)在的變異性是非常大的。事實上，有一批變異的幾個來源，其中大部分是不可消除的。其中包括批處理開始前，設(shè)備的溫度；原料和添加劑的數(shù)量和質(zhì)量可能會有所不同（原材料和添加劑的有不同水平的雜質(zhì)，催化劑的活性損失）。這一切都沒有可預(yù)測的。而設(shè)定點(diǎn)由操作者手動操作，因此受操作者的經(jīng)驗和信心決定。然而大多數(shù)這種變化反映本身的過程測量的軌跡，并最終在總間歇時間。作為一個例子，在本研究范圍內(nèi)，在40和70小時之間設(shè)置考慮總間歇時間。該過程中，從一操作轉(zhuǎn)向下一操作由所測得的NA和μ值觸發(fā)，質(zhì)量測量不及時，觸發(fā)下一步操作將被延遲，從而導(dǎo)致產(chǎn)品質(zhì)量監(jiān)測不利，同時增加批次的處理時間，帶來經(jīng)濟(jì)上的巨大損失。建立在線測量變量到質(zhì)量變量的軟測量模型，可以很好的解決這一問題。對上述工業(yè)反應(yīng)過程用圖簡易表達(dá)如下：清洗 → 反應(yīng)物，添加劑，催化劑 → 加熱，反應(yīng) → 除水，回收醇 加入，混合↑ ↓反應(yīng)結(jié)束 ← 補(bǔ)償加料 ← 重設(shè)真空 ← 加料 ← 抽真空圖1：涂料樹脂生產(chǎn)過程圖建立模型的數(shù)據(jù)：共33個批次，4070h之間。34個變量可在線測量，30秒記錄一次，45007500次記錄結(jié)果。2個質(zhì)量變量，取樣離線分析，810h后開始，20min完成。1520次記錄結(jié)果。將33個批次數(shù)據(jù)，27批次建模，6個批次驗證。34個可測變量，去除11個設(shè)定值，選取23個測量值建模。有：X(IJK) → Y(IMH)其中I為批次總數(shù)，J為過程變量總數(shù)，K為過程變量的樣本總數(shù)，M為質(zhì)量變量的總數(shù)，H為質(zhì)量樣品的總數(shù)量。Y值對應(yīng)的時間為取樣時間。由于每個批次處理時間不同，K、H的值不同。而記錄頻率不同，同一批次H遠(yuǎn)遠(yuǎn)小于K，所以建立模型時