您應該使用當地的法學碩士嗎? 9 優點和缺點
要點
雖然公共聊天機器人在內容審核方面受到一定的限制和約束，但本地語言模型在探索有爭議或敏感主題時提供了更大程度的自主性和靈活性，從而導致更不受約束的對話。
利用本地大語言模型 (LLM) 可以增強資料隱私，因為它在本地存儲所有生成的信息，從而保護機密性並限制運營公共 LLM 的公司的訪問，這些公司可能會濫用或出售用戶資料以獲取利潤。
本地法學碩士可以離線使用，以促進互聯網連接有限或間歇性的地區的無縫操作，為在線資源可能不易獲得的環境提供實用的解決方案。
2022 年 11 月 ChatGPT 的出現導致了「大語言模型」（LLM）一詞的廣泛採用和普及，此前該術語僅在 AI 愛好者中被視為專業術語。本地法學碩士的主要吸引力之一在於其能夠提供與基於雲端的聊天機器人（例如 ChatGPT）類似的功能，同時消除對外部託管服務的需求。
是否使用本地安裝的大型語言模型（LLM）的問題一直受到支持者和反對者的歡迎，雙方都提出了令人信服的論點。在本文中，我們旨在透過檢查實施此類系統的利弊來提供客觀分析。最終，確定本地法學碩士是否符合個人的特定需求和目標至關重要。
使用本地法學碩士的優點
人們常常對建立個人化的大規模語言模型以在他們的計算設備上運行表現出極大的熱情。這種興奮背後的原因不僅僅是自吹自擂或時尚吸引力；這種努力可以帶來一些實際的好處。在開始建立可自訂語言模型的任務之前，值得考慮這些實際好處。
減少審查
當 ChatGPT 和 Bing AI 最初投入使用時，它們的言語和行動能力被證明同樣令人著迷和令人不安。必應AI表現出一種親切和友善的氣息，暗示著情感深度的存在。相比之下，ChatGPT 並不反對根據要求使用髒話。值得注意的是，在此期間，這兩種人工智慧都表現出願意透過明智的提示來協助製造爆炸裝置。雖然此類行為在道德上可能顯得可疑，但這些事件證明了管理其運作的語言框架中固有的巨大潛力。
聊天機器人目前受到嚴格的審查規定，阻止它們為編寫包含暴力畫面的虛構犯罪小說提供任何幫助。此外，一些人工智慧聊天機器人避免討論宗教和政治等敏感話題。然而，本地安裝的大型語言模型（LLM）為用戶提供了更多自由來探索有爭議的話題，而不會因為道德上的輕率行為而受到責罵。這使得個人能夠就個人感興趣的問題進行對話，而無需接受機器人的評判性講座。
更好的資料隱私
人們通常選擇本地大語言模型 (LLM)，因為它們可以保證透過它們進行的任何互動都是保密的，並且在其設備的範圍內。利用當地的法學碩士類似於在自己舒適的家中進行私人討論，任何外人都無法竊聽。無論您是在探索信用卡資訊的局限性，還是與法學碩士進行親密對話，這都是正確的；所有產生的數據都完全包含在您的裝置中。相較之下，採用可公開存取的 LLM（例如 GPT-4）會將您的通訊記錄暴露給控制這些平台的監督實體。
離線使用
考慮到互聯網的廣泛可用性和易於訪問性，使用本地語言模型 (LLM) 實現離線功能可能顯得微不足道。然而，此功能在連接有限或零星的區域尤其重要，因為它使用戶能夠獨立於活動的線上連接來操作系統。此功能可確保任務可以無縫地進行而不會出現任何中斷，這在無法保證可靠的網路存取的情況下非常有用。
##＃ 節約成本
訪問最先進的大型語言模型（例如 GPT-4 和 Claude 2）通常每月需要支付 20 美元左右的費用。雖然乍看之下這似乎很合理，但用戶必須應對其投資的各種限制。例如，透過 ChatGPT 使用 GPT-4 限制使用者在三小時內只能發送 50 則訊息。為了克服這些限制，需要升級到更昂貴的 ChatGPT Enterprise 計劃，這可能會產生大量額外費用。相比之下，使用本地安裝的法學碩士無需連續每月訂閱或付費，就像購買車輛而不是依賴共享交通服務一樣。儘管初期投入較多，但長期來看
更好的定制
公開訪問的人工智慧聊天機器人的局限性在於它們允許的個性化程度，這通常受到與隱私和內容監管相關的考慮因素的限制。透過在內部託管人工智慧助手，用戶可以完全自訂系統以滿足他們的個人喜好。這使得能夠使用專為特定應用而設計的獨家資訊進行培訓，從而提高針對性和準確性。舉例來說，法律專業人士可能會增強他們的在地化人工智慧模型，以提供更準確的法律建議。從本質上講，主要優勢在於能夠根據自己的獨特先決條件進行客製化。
使用本地法學碩士的缺點
在進行轉換之前，必須牢記與使用本地大語言模型 (LLM) 相關的某些缺點。
資源密集型
為了從本地執行的語言模型獲得最佳效能，必須擁有高效能硬件，例如強大的中央處理單元、大量隨機存取記憶體以及可能的專用圖形處理單元。雖然可以使用較少的配置，例如價格在四百美元左右的廉價筆記型電腦中的配置，但用戶可以預期次優的結果，特別是在使用更先進的人工智慧模型時。這個類比也適用於其他運算密集型任務，例如玩要求較高的電玩遊戲；同樣，需要充分的規範才能提供令人滿意的結果。在某些情況下，可能還需要額外的措施，例如溫度調節系統。應該指出的是，運行本地語言模型需要大量的財政承諾來獲取國家
反應速度較慢且效能較差
本地部署的法學碩士的一個潛在缺點是，與基於互聯網的同行相比，它們的回應時間通常較慢。然而，由於特定 AI 模型和所使用的硬體等因素，這種差異在所有實例中可能不一致。雖然某些本地實現可能表現出色，但大多數用戶在快速線上平台和自己的法學碩士之間轉換時可能會遇到響應能力的顯著差異。因此，在這兩個領域之間移動時，使用者應謹慎預期使用者體驗會出現相當大的變化，通常稱為「文化調整」。
從本質上講，本地運行的大語言模型 (LLM) 的性能將無法與在線生成 AI 聊天機器人的性能相提並論，即使擁有尖端配置，例如 AMD Ryzen 5800X3D 搭配 Nvidia RTX 4090 和充足的內存容量。
複雜的設置
與簡單地註冊基於網路的人工智慧 (AI) 服務相比，建立本地大語言模型 (LLM) 可能是一項更為複雜的任務。雖然網路連線可讓您快速建立 ChatGPT、Bard 或 Bing AI 帳戶，但建立完整的本機 LLM 環境需要下載必要的框架、配置必要的基礎架構並整合多個元件。儘管某些工具旨在簡化安裝過程，但設置大型模型可能仍然需要相當大的努力，可能需要幾個小時。值得注意的是，一些最先進的人工智慧解決方案仍然需要大量的技術熟練程度才能在本地系統上有效運作。因此，與相關的易用性相反
知識有限
在地化大型語言模型 (LLM) 在獲取當代資訊的能力方面通常表現出固有的限制。由於這些模型主要是在包含特定預定截止日期之前的資料的資料集上進行訓練的事實，因此它們通常對所述時刻之後發生的事件具有有限的認知。這個缺陷讓人想起 ChatGPT 的早期迭代，它們無法存取外部資訊來源，只能提供與特定時間點之前發生的事件相關的回應。
此外，本地法學碩士無法存取即時網路數據。這限制了即時查詢（例如股票價格或天氣）的實用性。為了享受表面上的即時數據，本地法學碩士通常需要與互聯網連接的服務進行額外的整合。網路存取是您可能考慮升級到 ChatGPT Plus 的原因之一！
您應該使用本地法學碩士嗎?
本地大型語言模型提供了誘人的好處，但在嘗試之前也有需要考慮的真正缺點。更少的審查、更好的隱私、離線訪問、節省成本和定制為在本地設置法學碩士提供了令人信服的理由。然而，這些好處是有代價的。在線有大量免費的法學碩士，跳入本地法學碩士可能就像用大錘打蒼蠅一樣——有可能，但太過分了。但請記住，如果它是免費的，那麼您和您產生的數據很可能就是產品。因此，今天沒有明確的正確或錯誤答案。評估您的優先事項將決定現在是否是做出轉變的正確時機。