AI客服越聊越錯？防範印刷報價「對話污染」3關鍵

這陣子很多同業把AI接上LINE想取代人工報價，卻發現客人反覆修改規格後，AI會死咬著最初的錯誤資訊不放

在技術圈這叫 Context Poisoning（對話污染），也就是長對話中錯誤概念被反覆提及後，權重高到蓋過正確資訊

當客人在對話中先問了「150g銅西卡」，後來發現太貴改成「100g道林」，即使AI回答「好的，已修改」，在它底層的注意力機制裡，前面討論好幾輪的「150g銅西卡」權重反而變高了

結果就是它明明知道客人改了，最後算出來的報價卻還是厚紙板的價格

這不是系統有bug，而是長對話累積下來的必然副作用

在印刷產線裡，一個錯誤的紙張厚度認知，會直接摧毀後續的拼版與裝訂排程

國外技術社群 Reddit 最近在檢討對話污染現象，給了我們一個很清楚的警訊

能讀懂客人訊息的AI，絕對不該直接擁有寄送報價單或拋轉工單到ERP的權限

我接觸過幾家急著導入自動化的廠，以為把客人的Email或對話整包丟給系統就能省下客服人力

但印刷是很吃確認的行業，差一毫米或換個紙紋，成本就完全不一樣

對話污染一旦發生，AI把客人作廢的A5尺寸當成最終決議並送出工單，這筆單印出來就是整批報廢

最務實的作法是捨棄「全對話式」的報價幻想，改用結構化表單搭配斷點重置來防堵記憶污染

要阻斷錯誤累積，不能光靠提示詞叫AI「忘記前面的話」，必須在系統架構上強制重置

你可以參考麥策送印三道關的實務作法來梳理接單流程

・規格表單化：聊完需求後，由系統產出點擊式的確認清單，而非讓AI自己寫報價文字

・強制斷開記憶：進入「報價生成」階段時，只把最後確認的規格表單餵給AI，前面反覆修改的對話紀錄全部丟掉

・鎖死發送權限：生成的報價單與工單草稿必須停在人工審核區，由業務按最後的確認鈕才能送出

如果你們公司正準備把LINE官方帳號升級，或是想評估現有接單系統的風險，建議先找 麥策知識學院顧問團隊 盤點過權限與工作流再動手

・長對話會累積錯誤權重，AI客服越聊越容易對規格產生幻覺

・阻斷對話污染的唯一解法是硬性重置記憶，不能依賴AI自行修正

・自動化報價必須鎖死發送權限，把最後的確認鈕留給人類業務

大家都在拼模型有多聰明，但以我長期在產線與客戶端的觀察，AI落地的成敗其實在於「犯錯時的煞車機制」

與其花大錢訓練一個號稱百分百懂印刷的超級客服，不如把資源投資在基礎的規格確認介面與權限控管上

接受AI會被對話污染的事實，把工作流設計成容錯的形狀，才是中小印刷廠現階段最該做的事

如果碰到結構複雜、高階客製化的專案，現階段跳過AI直接找 麥思印刷 人工處理還是最穩妥的解法

・Learned the term Context Poisoning today