商用AI「答錯比不答更糟」…Appier以可信任Agentic AI促進消費者體驗

近年不少針對消費者的產業大量導入AI代理工具，包括處理客服與銷售。但AI代理發生錯誤機率太高、甚至「一本正經胡說」讓消費者暴怒，AI原生的Agentic AI即服務（AaaS）業者Appier指出，企業真正擔心的不是「AI能不能用」，而是「AI可不可以被信任」。Appier以前瞻研究與技術創新賦能AI「自我覺察力」，讓AI有自知之明，學會在關鍵時刻精準提問、進行風險評估、掌握自身能力邊界。相關技術導入旗下廣告雲、個人化雲與數據雲產品線，推動AI「可信任」，成為企業可靠的決策參考。

Appier執行長游直翰指出，AI具備「自我覺察力」，學會「不懂就不要亂回答」，但也不能一問三不知。Appier提出四項核心解法，讓 AI懂得精準提問、評估風險，並有效掌握自身能力邊界，且能防止「失憶」。應用在產品線上，AI代理能在關鍵時刻對用戶精準提問，釐清用戶需求，避免錯誤資訊影響消費者體驗，帶動企業客戶銷售轉換率。

Appier將相關研究成果寫成論文，並發表在期刊，近期也導入Appier AI Agent實際運作流程。以與消費者互動的Agent為例，當消費者詢問美妝品牌Agent「母親節餐廳」時，Agent若無自覺力，可能迎合用戶、回答與品牌無關的資訊，甚至虛構產品色號或過度銷售，但導入新的訓練成果後，AI Agent掌握自身能力範圍，不亂答非專業問題；當用戶提問資訊不足或條件不明確時，也會先釐清、再回應，並在合適時機自然推薦相關商品，降低錯誤資訊與不當互動帶來的風險。

游直翰指出，近年AI應用普及，但AI幻覺問題仍在，從客服錯答到內容虛構，企業面對的共通問題是：AI不承認自己不行，「硬要答」結果下場更慘。游直翰表示，未來AI Agent將加速串聯人、工具與軟體，形成更複雜的Agent society，AI是否具備可被信任的決策力更重要，Appier憑藉數據壁壘、領域知識、產業模型與前瞻研究能力，正持續把可信任的Agentic AI帶進真實商業場景，讓企業能敢於和AI一起做決策。

Appier提出四項核心解法，讓AI懂得精準提問、評估風險，並有效掌握自身能力邊界，且能防止「失憶」。例如透過導入可驗證的外部回饋，在回答前由其他LLM進行交叉驗證，能讓AI問得更準、問得更有必要，讓任務精準度與使用者體驗之間的平衡效益提升超過三成。針對風險評估，Appier採用「技能拆解」方法，將解題、信心評估與期望值決策分開處理，讓AI能依據風險高低採取更理性的回答策略，將高風險預期虧損降低六至七成（以AI期望報酬數值計算）。

至於能力掌握，Appier提出全新的能力校準機制，讓AI不只評估單次回答是否正確，而是在回答前先預估答對機率，更準確界定能力邊界。另一方面，針對模型微調後常見的失憶問題，Appier提出穩定微調方法，從源頭辨識並迴避高困惑度token，避免模型在強化新任務表現時遺忘既有的推理或指令遵循能力。