毫無疑問，AI 技術(shù)已經(jīng)成為了智能手機(jī)、電腦等個(gè)人運(yùn)算設(shè)備的下一個(gè)轉(zhuǎn)折點(diǎn)。在上游芯片領(lǐng)域，高通、英特爾等品牌已經(jīng)完成了 NPU、AI 芯片等產(chǎn)品的產(chǎn)品布局，正旗幟鮮明地朝著 AI 技術(shù)落地進(jìn)發(fā)。在產(chǎn)品側(cè)，自 2023 年驍龍峰會(huì)結(jié)束后，除 Apple 外各大品牌都爭先推出采用 AI 大語言模型技術(shù)的具體產(chǎn)品。在前段時(shí)間才結(jié)束的 CES 2024 上，三星、華碩、聯(lián)想、戴爾等知名電腦品牌都發(fā)布了自己的「AI 電腦」產(chǎn)品，在三星「開箱日」（Unpacked）活動(dòng)中，三星更是發(fā)布了其首批「AI 手機(jī)」——Galaxy S24 系列。

就連為了照顧老舊硬件兼容性而常常慢半拍的微軟，也決定在未來的 Windows 11/12 中加入更多的 AI 功能。在 2023 年 Ignite 2023 開發(fā)者大會(huì)上，微軟 CEO 納德拉甚至表示微軟成為了一家「Copilot 公司」。

圖片來源：微軟

但從硬件配置上，有些電腦似乎還沒有準(zhǔn)備好迎接 AI 時(shí)代。

市場調(diào)查機(jī)構(gòu) TrendForece 的一則資訊中提到：

微軟已將 AI PC 中的內(nèi)存基線設(shè)置為 16 GB。從長遠(yuǎn)來看，TrendForce 預(yù)計(jì)人工智能PC將促進(jìn)對 PC 內(nèi)存的年度需求增加，消費(fèi)者升級趨勢進(jìn)一步推動(dòng)了這一需求。

換句話說，如果你電腦內(nèi)存小于 16GB，微軟的 Copilot AI 很可能與你無緣。

16GB 門檻并不高？

對于你我這種數(shù)碼愛好者，16GB 的內(nèi)存基線似乎不高，畢竟在 2023 年 12 月的 Steam 硬件調(diào)查中，內(nèi)存小于 16GB 的玩家占比只有不到 22%。但就像剛剛說的那樣，這個(gè)數(shù)字只能代表 Steam 玩家?？紤]到實(shí)際狀況，這個(gè) 22% 并不具有普適性。再說了，微軟的 Copilot AI 面向的更多的是工作場景，直接用 PC 玩家的高配游戲電腦來參考并不科學(xué)。

圖片來源：Steam

考慮到大多數(shù)公司的商用電腦更換周期為 3 年，我們不妨以 3 前，既 2020 年的配置來做參考。根據(jù) Digital Trened 的數(shù)據(jù)，2020 年普通消費(fèi)者的筆記本電腦通常只配備 8GB 內(nèi)存。 比如在 2020 年某市某數(shù)據(jù)中心的競價(jià)公告中，所采購的電腦內(nèi)存就只有 8GB，未達(dá)到「基準(zhǔn)線」。

圖片來源：重慶市政府采購網(wǎng)

當(dāng)然了，考慮到 Windows 11 的實(shí)際表現(xiàn)，微軟和 Copilot 其實(shí)沒有挑三揀四的底氣：根據(jù) Statcounter 公布的數(shù)據(jù)，截至 2023年 11 月，Windows 11 的系統(tǒng)占比僅為26.66%。與此同時(shí) Windows 10 占比高達(dá) 68%，其余的所有系統(tǒng)版本加起來占比都不到 Windows 10 的 50%。

再聯(lián)系到前段時(shí)間微軟正想盡一切辦法「驅(qū)趕」用戶改用 Windows 11，甚至不惜「開閘放水」允許用戶以自己的方式激活 Windows 11，小雷并不認(rèn)為微軟會(huì)在內(nèi)存上為未來的 Windows 11 用戶設(shè)計(jì)障礙，很有可能會(huì)在最后關(guān)頭放開內(nèi)存限制，或允許用戶全量升級，但不保證關(guān)鍵應(yīng)用的運(yùn)行結(jié)果。

不過話又說回來，現(xiàn)在的 AI 大語言模型在智能手機(jī)上都能正常運(yùn)行，高通甚至在 2023 驍龍峰會(huì)展示了極為高效的手機(jī) AI 大語言模型，難道 8GB 電腦就真的跑不動(dòng) AI 嗎？或者說有沒有什么辦法可以讓 AI 大語言模型應(yīng)用運(yùn)行在 8GB 手機(jī)上呢？

辦法自然是有的，比如將本地模型和線上模型混合調(diào)用的混合式 AI 大語言模型。

「分布式」混合大模型是未來？

從運(yùn)行位置來說，當(dāng)前AI 大語言模型應(yīng)用大致可以分為三類：本地運(yùn)行、遠(yuǎn)端運(yùn)行和混合運(yùn)行。本地運(yùn)行很好理解，即整個(gè)模型就跑在當(dāng)前正在交互的系統(tǒng)中，可以離線運(yùn)行的 AI 大語言模型應(yīng)用和專業(yè)玩家在自己電腦上部署的離線模型都屬于這一類。

遠(yuǎn)端運(yùn)行與之相反，指輸入輸出的設(shè)備和運(yùn)行大語言模型的設(shè)備不在同一系統(tǒng)下的情況。那些通過網(wǎng)頁、微信小程序交互、或整個(gè)模型運(yùn)行在遠(yuǎn)端服務(wù)器上的 AI 應(yīng)用就屬于遠(yuǎn)端運(yùn)行。

圖片來源：微軟

本地運(yùn)行和遠(yuǎn)端運(yùn)行各有各的優(yōu)勢和劣勢，比如本地運(yùn)行可以斷網(wǎng)運(yùn)行，將用戶數(shù)據(jù)保留在設(shè)備本地，降低數(shù)據(jù)泄露的風(fēng)險(xiǎn)；本地模型在響應(yīng)速度上也不依賴于網(wǎng)速，可以顯著提升用戶體驗(yàn)。遠(yuǎn)端運(yùn)行雖然要將數(shù)據(jù)發(fā)往遠(yuǎn)端服務(wù)器并等待輸出結(jié)果返回，但因?yàn)檫h(yuǎn)端服務(wù)器一般都是 HPC 集群，擁有的算力和用戶本地資源根本不是同一個(gè)數(shù)量級，所以在生成式模型應(yīng)用中擁有更快的生成速度和更好的運(yùn)算精度。

而混合運(yùn)行模式則取兩家之長，根據(jù)應(yīng)用的具體需求，可以靈活地在本地和云端之間分配計(jì)算任務(wù)。例如，一些對響應(yīng)速度要求高或需要即時(shí)處理的任務(wù)可以在本地執(zhí)行，而那些對計(jì)算能力要求更高的分析和學(xué)習(xí)任務(wù)則可以在云端進(jìn)行。這種靈活性使得AI系統(tǒng)能夠更好地適應(yīng)不同的使用場景，提供更加定制化的服務(wù)。

首先，混合模型在數(shù)據(jù)隱私和安全方面具有顯著優(yōu)勢。隨著數(shù)據(jù)泄露事件的頻繁發(fā)生，消費(fèi)者對于個(gè)人信息安全越來越關(guān)注。在混合模型中，敏感數(shù)據(jù)可以在本地處理，不必傳輸?shù)皆贫?，這大大降低了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。對于一般消費(fèi)者而言，這意味著他們可以更加放心地使用基于AI的應(yīng)用，如智能家居設(shè)備和個(gè)人健康數(shù)據(jù)分析工具，無須過分擔(dān)心個(gè)人隱私被侵犯。

其次，混合模型提供了更好的性能和響應(yīng)速度。對于需要實(shí)時(shí)反應(yīng)的應(yīng)用，如語音助手和在線游戲，本地計(jì)算能夠提供更快的處理速度，避免了因數(shù)據(jù)傳輸至云端而產(chǎn)生的延遲。而對于那些需要復(fù)雜計(jì)算和大量數(shù)據(jù)分析的任務(wù)，比如圖像識(shí)別和大型語言模型，可以利用云端的強(qiáng)大計(jì)算能力來處理，從而提供高效率的AI服務(wù)。對消費(fèi)者來說，這種結(jié)合了本地快速響應(yīng)和云端高效計(jì)算的模式能夠在不同場景下提供更加流暢和高效的體驗(yàn)。

圖片來源：微軟

靈活性是混合模型的另一個(gè)重要優(yōu)勢。它允許消費(fèi)者根據(jù)自己的需求和偏好來選擇數(shù)據(jù)處理的方式。例如在家里，消費(fèi)者可能更傾向于使用本地計(jì)算來處理個(gè)人數(shù)據(jù)，以確保隱私；而在外出時(shí)則可能更依賴云端服務(wù)來獲取信息和娛樂內(nèi)容。這種靈活性使得混合模型能夠適應(yīng)不同消費(fèi)者的多樣化需求。

此外，混合模型對于設(shè)備兼容性和更新維護(hù)也更加友好。由于云端計(jì)算可以提供最新的AI模型和算法，消費(fèi)者不必頻繁更換本地設(shè)備就能享受到最新的AI技術(shù)。同時(shí)，對于一些本地計(jì)算任務(wù)，舊設(shè)備依然可以有效運(yùn)行，這減少了設(shè)備更新的壓力，延長了設(shè)備的使用壽命，對于注重成本效益的消費(fèi)者而言，這是一個(gè)重要的優(yōu)勢。

甚至微軟自己也曾多次表示對混合 AI 大語言模型的重視，在 8GB 內(nèi)存的「死線」下，相信微軟也絕對有能力提供基本的 AI 決策能力，讓 AI 大語言模型成為一項(xiàng)「普惠」功能。

不過考慮到近幾年閃存技術(shù)突飛猛進(jìn)的發(fā)展，16GB 的基準(zhǔn)線未來也可能成為辦公電腦的標(biāo)配，畢竟這事關(guān) AI 和「生產(chǎn)力」。相信在 AI PC 的浪潮面前，16GB 內(nèi)存很可能會(huì)成為 2024 年筆記本市場的「起步配置」。

圖片來源：Apple

當(dāng)然了，售價(jià)高達(dá) 12999 元卻依舊只有 8GB 內(nèi)存的 M3 Macbook Pro 不在「AI 普惠工程」之內(nèi)。