2023年，人工智能成為了熱詞，谷歌、Meta和微軟紛紛展示了他們的產品線和利用AI的宏偉愿景。在圍繞AI的喧囂中，蘋果在展示其AI實力方面一直顯得沉默或緩慢。或許，這就是為什么許多人詢問蘋果如何跟上AI軍備競賽的原因。答案很簡單，蘋果多年來一直在不同領域與AI合作。只是用戶尚未能夠在iPhone上整合像ChatGPT這樣的系統。

然而，事情即將發生變化。蘋果在一篇新的研究論文中展示了一種突破性技術，有助于在iPhone上運行AI。這種技術涉及使用閃存優化簡化龐大的大型語言模型（LLM）。當蘋果將先進的AI整合到iPhone中時，這將是另一個重大轉折。這家總部位于庫比蒂諾的科技巨頭本月公布了兩篇重要的AI研究論文。論文揭示了3D頭像和高效語言模型推理的新技術。

這項名為“閃存中的LLM：具有有限內存的高效大型語言模型推理”的新研究于12月12日發表，有可能改變iPhone體驗，因為它可能提供更沉浸式的視覺體驗，并使用戶能夠在iPhone和iPad上訪問復雜的AI系統。研究論文主要關注在具有有限DRAM容量的設備上高效運行大型語言模型。DRAM是動態隨機存取內存，用于個人電腦，以其快速、高密度、經濟實惠和低功耗而聞名。

以下是該研究的一些要點，將使蘋果領先于其競爭對手：

論文解決了運行超出可用DRAM的LLM的挑戰，存儲模型參數在閃存中，并根據需求將其運行到DRAM中。它討論了已經開發的推理成本模型，以優化從閃存的數據傳輸，考慮到閃存和DRAM的特性。

論文中討論的技術包括窗口化（Windowing），通過重復使用先前激活的神經元來減少數據傳輸，以及行列捆綁（Row-Column Bundling），用于提高閃存讀取的數據塊大小。

研究者們使用了諸如OPT 6.7B和Falcon 7B等模型來展示他們的方法。根據論文，結果顯示，與傳統方法相比，這些模型在CPU和GPU上分別實現了4-5倍和20-25倍的速度提升。

蘋果的新研究顯示了一種在硬件受限環境下高效運行LLM的創新方法。這為未來在設備上的研究和下一代用戶體驗開辟了新的方向。

這對iPhone用戶意味著什么？

從用戶的角度來看，有限內存下高效LLM推理的發現，將極大地惠及蘋果和iPhone用戶。有了在內存有限的設備如iPhone和iPad上高效運行的強大LLM，用戶將能夠體驗到觸手可及的增強AI能力。這些能力包括改進的語言處理、更復雜的語音助手、增強的隱私保護、潛在的減少互聯網帶寬使用，最重要的是，使所有iPhone用戶能夠訪問和響應先進的AI。

盡管未來的能力展示了蘋果如何致力于主導AI研究和應用，但專家似乎持謹慎態度。一些專家似乎已經建議，這家科技巨頭在將研究發現納入現實世界用例時，需要非常謹慎和負責。一些人甚至強調了考慮隱私保護、緩解潛在濫用和總體影響的必要性。