橘子集團破解生成式AI幻覺難題：Vyin AI兩大AI解決方案重塑企業智能服務

AI幻覺是指，AI生成的內容看似正確，但其實含有很多錯誤、虛假或誤導性資訊，這也導致企業應用GenAI的速度受到影響，尤其2023年發生AI幻覺相關的法律裁罰事件，令企業更加擔憂AI幻覺風險。
為減少生成式AI「一本正經的胡說八道」的情形，現今最常用的方式有二種，運用RLHF（Reinforcement Learning from Human Feedback）技術微調模型（Fine-Tuning）或使用standard RAG技術，但這兩種做法都有其不足之處。

橘子集團策略長暨AI創新實驗室負責人陳冠宇解釋，微調模型是將各種資料盡可能塞進大語言模型（LLM）裡，但使用者很難控制AI排列組合文字的結果，且需要定義很多規則，將答案限縮在被框架出的範圍裡，因此後續還有規則維運的問題。至於 standard RAG技術最大限制是資料切塊和索引問題，很容易造成資訊散亂，對於降低AI幻覺並沒有太大幫助。

對此，Vyin AI 翻轉市場主流思維，獨創兩大技術來解決AI幻覺問題。一是仿造人腦來打造 LLM模型，傳統 LLM是一顆AI腦只有一個神經中樞，負責處理知識理解、語言表達等所有任務。

而 Vyin AI 則將 AI 大腦劃分成控制、語言、知識、情境及動作5大中樞，每一個中樞都有各自對應的任務，「就像人腦分成很多不同區域，各自負責動作控制、社交、認知、了解語言等不同任務，」陳冠宇說，Vyin AI將AI腦變得更像人腦，才能提高 AI 的理解和決策能力，更靈活處理各種複雜任務。

其二則是自行研發 Distilled RAG 架構，將非結構化的資料結構化，並分門別類歸在適合的條目下，就好像為AI打造專屬的圖書館目錄索引系統一樣，當Vyin　AI需要回答問題時，可以參照索引快速且正確的從圖書館中找到答案，提高回覆精準度，「standard RAG架構的精準度平均約在53%，D-RAG架構可以達到93%，」陳冠宇強調。

Vyin AI 擁有五大領域的核心技術，可發展各種組合應用  圖／ Vyin AI

在上述兩大技術基礎下，Vyin AI進一步架構出Vyin Brain和Vyin Sales兩大產品，Vyin Brain聚焦於文字客服應用，協助企業減輕客服人力負擔。

例如，橘子集團將 Vyin Brain應用在旗下主力遊戲《新楓之谷》，在遊戲旺季期間，Vyin Brain自主解決問題比例高達83%，風險回答0件及客戶滿意度98%。此外，大型遊戲《波拉西亞戰記》亦有部份通路導入Vyin Brain作為服務客戶的第一線人員，這些客服機器人自主解決問題的比例達97%，幾乎不需要真人客服的介入，真人客服能夠投入在更有價值的服務上。

陳冠宇認為，Vyin Brain可以協助企業樽節營運成本，未來將錨定歐美等高人力成本的區域作為主力推廣市場。此外，近期也發現東南亞各國因內需市場龐大，企業成長速度快，對客服機器人也有強烈需求，亦將成為Vyin Brain目標市場之一。台灣市場則以客服進線數量多的大型企業為主。

基於Vyin Brain基礎，Vyin Sales專注於文字以外的各種互動式對話服務，使用者可以輸入文字、聲音、圖片、影像等各種形式的資料，Vyin　Sales則會生成個人化商品推薦，或是IP版權的圖像、語音、音樂及影片等內容，協助企業優化消費者體驗，進而推動營收成長。

論壇與會者透過實作演練，了解Vyin AI的技術與應用  圖／ 數位時代

例如，橘子集團為北流音樂中心於 9月舉辦的「JAM JAM ASIA」活動打造了JAM JAM RADIO DJ活動網頁，網頁中嵌入了AI虛擬助手，用戶只需輸入當下心情，AI 助手就會推薦當下最合適的音樂給用戶。這是因為AI助手已經透過大量公開資料深入了解音樂人個人背景與風格，並針對音樂進行情緒分析，並透過與用戶的文字對話解析其情緒與意圖，才能推薦最適合的歌曲。

陳冠宇形容，Vyin Sales是企業提高營收的最佳助攻員，包括零售百貨、遠距照護、房地產等不同產業，都可以應用Vyin Sales為消費者帶來更好的體驗。舉例來說，現在很多小眾品牌進駐百貨公司設櫃，百貨業者可以結合Vyin Sales服務向消費者推廣小眾品牌，藉由提供符合顧客偏好的品牌建議，給予消費者貼心與個人化的購物體驗，進而提高百貨通路的不可取代性，並為小眾品牌帶來新客，創造三贏局面。

房地產業者則可將Vyin Sales打造成虛擬代銷員，在網站上與顧客互動，協助其瞭解建案週邊環境、未來發展性等資訊，透過雙向溝通強化顧客對該建案的興趣，待顧客實際前往現場看屋時，代銷人員只需負責最後一哩路即可，大幅節省代銷人員進行重複性對話與帶顧客看屋的時間、提高銷售效率。

遠距照護產業可以藉由Vyin Sales在預防、陪伴、提醒、與照護4個面向上提供更有效率的服務，例如：虛擬人員可以頻繁與高齡長者互動，予其心理上最需要的陪伴，緩解照護員同時要負責數十位長者的沈重壓力，也讓照護員可以專注在給予長者更關鍵的協助。

「Vyin AI將直接改變企業與用戶溝通的方式，實現真正的雙向溝通與超個人化體驗」陳冠宇充滿期待的說，未來橘子集團除了透過專案形式協助大型企業應用Vyin AI外，也計劃在2025年Q3推出Vyin AI的SaaS服務，讓世界各國的中小企業也能運用Vyin AI的技術模組加速企業成長曲線。