大的技術來增強並從根本上改變用戶體驗。 我們正在從一個被動消費資訊的世界轉向一個數位生態系統，在這個生態系統中，使用者藉助語意概念和結構化資料進行豐富、充滿活力和個人化的對話。 生成式人工智慧應用程式的現代架構 法學碩士應用程式的新興架構是新技術和現有技術的迷人融合。我對人工智慧的炒作及其堆疊的演變充滿熱情，就像九十年代中期 Mosaic 作為網路介面時的熱情一樣。 大型語言模型 (LLM) 是建立軟體的強大新工具，但其獨特的特性需要將舊的 ETL 技術和創新方法（嵌入、提示、意圖匹配）相結合，以充分利用其功能。
大型語言模型應用程式堆疊的參考架構包 丹麥 電話號碼 括人工智慧新創公司和科技公司使用的標準系統、工具和設計模式。 該架構，如a16z所示，主要側重於上下文學習；這是法學碩士透過巧妙的提示技術和存取私人「上下文」資料進行控制的能力。 此架構可分為三個核心區域： 資料預處理/嵌入。這是我們的 KG 與新連接器一起發揮作用的地方。在預處理階段，語意資料可以在通過嵌入模型和一組索引（向量儲存是最常見的類型）之前被使用和切片。 在提示建置階段，會編寫一系列提示提交給LLM。
這些提示結合了硬編碼範本、有效輸出範例、來自外部 API 的資訊以及從向量資料庫檢索的相關文件。 在推理階段，提示被提交給預先訓練的LLM進行預測。 LlamaIndex、LangChain、Semantic Kernel 和其他新興框架協調該過程並代表 LLM 之上的抽象層。 WordLift 連接器使用 GraphQL 從知識圖中載入我們需要的數據，GraphQL 是 Facebook 引入的一種查詢語言，可以實現精確、高效的數據獲取。只需幾行程式碼，我們就可以透過從 KG 中提取我們想要的子圖來準確指定我們需要的資料。我們透過使用 schema.org 詞彙表（或我們使用的任何自訂本體）的特定屬性來做到這一點。 GraphQL 讓連接器 ( WordLift Reader ) 隨時了解網站上的最新更改，而無需進行爬網，從而確保所有對話始終基於最新資料。