以 LLM 大型語言模型強化知識管理系統

撰文｜創新協同事業處 處長 王瑞斌

以 LLM 大型語言模型強化知識管理系統

ChatGPT 開啟了大型語言模型 (LLM) 引領的人工智慧浪潮。它展現了令人驚嘆的語言生成能力和趣味橫生的互動體驗，讓人們對它愛不釋手。在短短兩個月內，就吸引了超過一億的用戶，並引發了各界的熱烈關注和討論。使用 LLM 來進行對話的生成式 AI 系統，一躍成為了人工智慧領域的新寵，各種創新的整合應用紛紛湧現。

大型語言模型應用於知識管理系統示意圖

我們嘗試將這種對話場景應用到知識管理系統中。過去，我們查找資料時，只能通過瀏覽知識庫或使用關鍵字搜尋的方式，現在，我們多了一種聊天對話的形式，可以根據問題要求，直接整合多個資料來源，生成解答，這樣不僅方便快捷，也更加準確和全面，為知識查找帶來了全新的感受，著實令人振奮。

企業內應用 ChatGPT 要先考量

更重要的是，我們理解、重視企業的挑戰與考量，也致力於解決它們。所以，我們將研究方向設定為：在企業端建置 LLM，在確保資料不外洩的前提下，協助客戶生成可信賴而又不超越授權的內容。這樣做有三個優點，首先，由於是在企業端建置，所以確保了營業秘密不會在網際網路上傳遞，也不需要透露給 LLM服務商。其次，生成的內容都會註明出處來源，方便回溯查證，確保了內容的正確性。最後，搭配我們特別為 LLM 研發的權限控管機制，確保了員工不會接觸到不該接觸的內容。

事實上，經過測試發現，LLM 除了生成內容這用途之外，拿它來做自然語言處理及語意分析，舉凡標籤萃取、相似詞列舉、文字糾錯，甚至是翻譯等等，彷彿是降維打擊，效果出奇的好，這些都是我們未來的研究方向及選項，有助於讓系統更加聰明，使用體驗更加美好。

大型語言模型應用於知識管理系統架構

知識管理系統引入了LLM的力量，讓我們能夠更有效率地查找資料，也讓我們看到了無限的可能性。但是，沒有優質的知識寶庫，巧婦難為無米之炊，再好的技術也無法發揮。因此，企業應該重視建立一套系統性的方法，要能盤點出知識缺口，還要能定期整理翻新，並輔以發表會、競賽以及獎勵的方式形成樂於分享的文化。而這些，正是我們專業的顧問們可以提供有效的協助的地方，我們多年的輔導經驗，可以幫助您打造一個高效能和高品質的知識管理系統。