「AI 投毒」時代的工程風險:

當人工智能遇上錯誤資料,為何 CDE 的記錄與複核更重要?

隨着人工智能在各行各業的應用愈來愈廣泛,工程及建造行業亦開始討論:未來是否可以把設計優化、工程量估算、施工方案比較、風險預測等工作,交由 AI 協助處理?從效率角度看,這幾乎是必然趨勢。但在這個過程中,一個較少被討論、卻極其關鍵的風險逐漸浮現——「AI 投毒」(data poisoning)。

所謂「AI 投毒」,是指有人有意識地向演算法可能採用的資料來源中,注入大量錯誤或誤導性的資訊,令訓練或推理過程受到污染,從而影響 AI 的輸出結果,包括其準確性與可信度。當前多數生成式 AI 模型主要基於網上公開資料進行訓練,本身就存在「資料真偽難以完全把關」的問題。如果再有人刻意在網絡上製造、擴散錯誤內容,相關模型在回答問題或給出建議時,就有機會被這些錯誤資訊拉偏。

對一般用戶而言,錯誤輸出可能只是帶來認知偏差或決策失誤;但對於工程及建造項目,如果未來越來越多決策依賴 AI 的建議,風險就會上升到成本、安全、合規甚至法律責任的層面。這時,問題便不再單純是「AI 準不準」,而是「在 AI 參與決策的環境下,我們如何確保所依賴的資訊可以被追溯、被複核、被糾正」。

這正是 Common Data Environment(CDE)和整體 Digital Information Management 架構的重要性所在。


一、AI 的優點與盲點:它依賴的不是「真相」,而是「資料分佈」

現代的人工智能演算法,本質上並不「知道真相」,而是從大量數據中學習統計分佈與模式,然後根據新輸入,預測最「合理」的輸出。如果訓練或參考的資料,以真實、可靠的專業內容為主,那麼 AI 給出的建議通常會相對接近現實;但如果某一段時間內,某些錯誤論述被反覆大量複製、引用與轉載,這些錯誤就有機會在統計上看起來「像是主流」,令模型傾向於模仿它們。

在工程領域,這一點尤其值得警惕。想像一下,如果某些不準確的設計細則、錯誤理解的條例、過分簡化的計算方法,在網上被大量轉貼甚至有意擴散,而 AI 模型在缺乏權威標準比對的情況下,只是「見得多就當是真」,那麼未來當我們向 AI 詢問設計建議、施工方法甚至合規判斷時,得到的答案很可能在關鍵細節上出現偏差。

因此,問題不僅在於「網上有錯誤資訊」,更在於:只要訓練和推理主要依賴公開網絡資料,AI 就無法完全避免被這些錯誤拉偏。


二、工程專案的額外風險

若把 AI 當成輔助工具,用於生成初步概念、整理文書或作為靈感來源,錯誤輸出的風險仍可由專業人員在審查時攔截。但當 AI 被更深入地嵌入工程項目,例如:

  • 協助決定某些施工方案的優先次序;
  • 針對 BIM 模型提出設計優化建議;
  • 根據歷史項目數據預測成本、工期或風險;
  • 參與建築條例合規檢查的初步篩查;

此時,如果模型內部引入了被「投毒」的錯誤模式,而團隊又缺乏足夠的追溯與複核機制,便可能在不自覺的情況下,逐步把錯誤引入真實項目決策當中。

換句話說,問題已經不止於「AI 有時講錯」,而是「錯誤被整合進工程項目的正式流程」,並有機會傳遞到圖紙、報表、施工指示,甚至最終建成的資產之中。如果沒有一套嚴謹的資訊管理架構,事後難以查明:哪一項決策出錯、錯在何處、錯誤源頭是否與某次 AI 建議有關、當時使用了哪些數據作為依據。

這正是為何在談 AI 之前,必須先談「CDE 與數碼資訊管理」。


三、CDE 的角色:把「用過的資料」變成可追溯、可複核的資產

從 CIC BIM 標準與發展局技術通告的角度看,CDE 的核心,不是某個品牌的平台,而是一套關於「資訊如何被儲存、分享、審批與追蹤」的規則。當我們考慮在工程項目中使用 AI 時,CDE 可以在風險管理上提供幾個關鍵支點。

首先,CDE 透過 WIP、SHARED、PUBLISHED、ARCHIVED 等狀態,為每一份文件、模型、報告建立清晰的生命週期與責任人。這意味着:

  • 任何被用作決策依據的資訊,理論上應處於 SHARED 或 PUBLISHED 狀態,並已有明確的審批紀錄;
  • 若有人試圖把「來歷不明」或「未經審核」的 AI 輸出直接引入正式流程,至少在 CDE 層面會留下痕跡,或在流程設計上被阻擋(例如不允許 WIP 資料直接成為正式交付物)。

其次,透過文件與模型的 Meta Data(例如 Status Code、Approval Code、Revision/Version Code),CDE 能讓管理人員在事後重建每個決策的資訊背景:當時參考了哪個版本的模型、哪份報告、由誰審批、是否有 AI 工具参与產生某些內容。如果 AI 參與過程被設計為必須在 CDE 作出登記或附註(例如在報告中紀錄某部分內容由 AI 協助生成),將來一旦發現問題,就能追溯和分析:AI 在哪個環節起了作用,錯誤是否與資料來源或演算法偏差有關。

最後,CDE 為「複核」提供基礎。當某一 AI 建議要被納入正式決策前,CDE 可以要求:

  • 相關輸出需附上來源說明(例如參考了哪些內部資料集,而不是只依賴外部網絡);
  • 需由具特定職能的人(例如 discipline lead 或 BIM Manager)在系統中完成審閱與批註;
  • 必要時,需要與既有標準、條例或內部指南作 cross-check,並把比對結果紀錄下來。

這種做法的意義在於:不讓 AI 的輸出直接「滑入」決策流程,而是把 AI 視為一個資料來源,需要經過既定的審查與複核程序,才能轉化為可被依賴的資訊。


四、從「盲信 AI」到「用 CDE 管理 AI 的輸入與輸出」

未來在工程及建造領域,人工智能的角色只會越來越重要,但同時,「AI 投毒」以及資料真偽難以完全掌握的問題也只會越來越難忽視。這並不意味著我們應該拒絕使用 AI,而是意味著:

  • 不能把 AI 當成「自帶真相的黑盒」,而必須把它視為一個需要被管理的資訊來源與分析工具;
  • 需要用 CDE 和數碼資訊管理機制,為 AI 的輸入與輸出建立邊界、審批流程與追溯紀錄。

對 BIM 經理、Digital Engineer 或任何負責數碼建造的專業人員而言,一個重要的能力,就是在項目中為 AI 的使用設定規則,例如:

  • 哪些決策可以接受 AI 作為輔助參考,哪些決策必須以人為主導;
  • AI 在生成建議或報告時,應盡量以內部經 CDE 管理的資料集為主要依據,而不是完全依賴外部網絡;
  • 所有被納入正式交付或合約層面的資訊,無論是否由 AI 生成,都必須通過 CDE 所定義的審批與版本控制流程。

在這樣的架構下,即使外部世界的資料環境受到「投毒」干擾,只要我們能確保:真正進入工程項目決策層的資訊,必須經過 CDE 的記錄與複核,整體風險便能被大幅降低。

簡單來說,AI 可以幫你更快「看見」更多可能,但 CDE 與資訊管理,是確保你最終採用的是「可被負責任地引用的那部份」。

作者

marcokwan@dc3dm.com

屬於華語圈的數位營造普及化平台 數位 | 建築 | 管理 | 資訊 | ------------------------------- 資訊平台: https://dc3dm.com/ 合作聯繫: polyumarcokwan@gmail.com

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *