所有語言
分享
原文來源:極客公園
作者 | 連冉
編輯 | 靖宇
圖片來源:由無界 AI生成
所有人都想知道,在看似即將到來的 AI 時代,誰會成為新的「iPhone」?
有很大可能,AI 時代的「iPhone」,依舊是「iPhone」。
近日的一篇論文显示,蘋果公司的研究人員已經解決了在內存有限的設備上部署大模型的關鍵難題——通過構建一個與閃存行為相協調的推理成本模型,指導兩個關鍵領域的優化:減少從閃存傳輸的數據量,以及在更大、更連續的塊中讀取數據。
如此一來,大模型的適用性和可訪問性被擴大,蘋果將生成式 AI 集成到 iOS 18 的計劃或許也將因此而加速進行。
過去一年裡,自 2022 年 11 月 ChatGPT 首次向公眾推出、全世界進入生成式人工智能熱潮之中,蘋果作為全球最大的科技公司,對過去十年中最重要的這項科技發展——生成式人工智能,很少正面提及。
蘋果公司|來源:medium
外界可能認為蘋果在人工智能領域的布局相對落後,但一系列動向表明,其實蘋果早已部署,只是沒有正式公之於眾。
2023 年以來,蘋果加快了自主人工智能技術的開發步伐。蘋果不僅組建了專門的 AI 團隊,開發出大型語言模型,還在產品端大力應用語音、圖像等識別技術;更早之前,數十起併購已經為蘋果奠定了技術基礎,特別是語音助手 Siri 背後的技術積累,使其在語音交互等領域佔據優勢;而 20 億活躍設備在手,蘋果更是有望在 AI 消費應用領域成為頭號玩家。
更明顯的變化是從 10 月底的那場「Scary Fast(快得嚇人)」發布會開始的。在這場發布會上,蘋果發布了比 M3 快 40% 的 M3 Pro 和快 250% 的 M3 Max 芯片,並強調具有 16 核 CPU、40 核 GPU 的 M3 Max 將可以被用於研發 AI 軟件。同時,蘋果明確地將新款 MacBook Pro 定位為開發人員打造 AI 產品的工具。
支持 AI 的超強芯片的現身,為蘋果 AI 的爆發,奠定了基礎。但其實,蘋果在 AI 上的積累,遠比任何一家巨頭更深。
每年 10 億美元,這是傳聞里蘋果 AI 計劃的投入数字。
據彭博社報道,2023 年 7 月,蘋果建立了自己的大型語言模型 Ajax,並推出代號為「Apple GPT」的內部聊天機器人,用於測試 Ajax 的功能。關鍵的下一步是確定這項技術是否符合競爭標準,以及蘋果將如何將其應用到現有產品中。
這 10 億美元,都砸在了什麼地方?
重金打造 AI 團隊
蘋果負責人工智能和軟件工程的高級副總裁約翰·詹南德雷亞 John Giannandrea 和克雷格·費德里吉 Craig Federighi 負責牽頭這些工作。在庫克的團隊中,他們被稱為推動生成式人工智能項目的「執行發起人」。據悉,蘋果服務高級副總裁埃迪·庫伊 Eddy Cue 也參与其中,上述三人當前每年在該項目上可支出約 10 億美元。
John Giannandrea |圖片來源:apple
核心團隊之外的 AI 團隊招聘和建設則從 4 月底就在進行了。當時的招聘頁面上的十幾條廣告都在尋求生成式人工智能領域「熱衷於構建非凡自主系統」的機器學習專家,這些職位空缺分佈在聖地亞哥、舊金山灣區和西雅圖的多個團隊,包括集成系統體驗團隊、輸入體驗 NLP 團隊、機器學習研發團隊和技術開發團隊。
其中一些職位特別關注視覺生成人工智能應用,應聘者將會從事「視覺生成建模,為計算攝影、圖像和視頻編輯、三維形狀和運動重建以及頭像生成等應用提供支持」。
9 月有報道稱,蘋果在從谷歌和 Meta Platforms 的人工智能隊伍中积極招募人才。自從 AXLearn 於今年 7 月在 GitHub 上傳以來,對其做出貢獻的 18 人中,其中 7 人曾在谷歌或 Meta 工作過。
事實上, Giannandrea 和神經網絡領域專家 Ruoming Pang 都來自谷歌,Giannandrea 在谷歌的 8 年時間里一直在開發先進的人工智能系統,Giannandrea 和 Pang 說服了蘋果使用谷歌雲,特別是利用谷歌雲的定製張量處理單元(TPU)芯片進行機器學習訓練。為訓練 Ajax GPT 而開發的機器學習框架 AXLearn 部分正是基於 Pang 的研究而進行的。
10 月的招聘信息上,蘋果對生成式人工智能的人才要求變得更加明確了,比如 App Store 平台上的一個職位描述是這樣的:「公司正在開發一個基於生成式人工智能的開發者體驗平台,供內部使用,並協助我們的應用開發團隊」,零售部門的另一個職位則提到蘋果正在開發一個「對話式人工智能平台(語音和聊天)」,以便與客戶互動,「長文本生成、摘要、問題解答」這樣的構建文本生成技的任務也出現在了蘋果的招聘信息里。
在蘋果人工智能/機器學習領域的其他職位招聘中,一些職位強調基礎模型的重要性,並將「類人對話代理」列為可能通過這些模型開發的應用示例。同時,蘋果還發布了一些涉及 Siri 信息智能等部門的職位需求,該部門負責處理 Siri 和 Spotlight 搜索等產品的功能。此外,蘋果還在积極尋找能夠在本地設備上實現模型運算的人才。
加快研發底層技術
人才之外,技術的準備也在進行之中。據報道,Giannandrea 正在監督新人工智能系統底層技術的開發,他的團隊正在對 Siri 進行改造,以深入實施這一系統。更智能版本的 Siri 最快將於明年問世。
軟件方面,Federighi 正在領導開發新的人工智能 iOS,iMessage 和 Siri 在內的應用體驗將被改善。據稱蘋果下達了一項指令,要求在 iOS 中加入在大語言模型上運行的功能,該模型將利用大量數據來提升人工智能能力,而新功能將改善 Siri 和信息應用處理問題以及自動完成句子的能力。
蘋果 iOS 17 系統 |圖片來源:apple
軟件工程團隊還在考慮將生成式人工智能整合到 Xcode 等開發工具中,此舉可以幫助應用程序開發人員更快地編寫新的應用程序。這將使它與微軟的 GitHub Copilot 等服務保持一致,後者在開發人員編寫代碼時能夠為他們提供自動完成建議。
Eddy Cue 則在推動為盡可能多的應用程序添加人工智能,包括 Apple Music、Pages、Keynote 等,比如探索音樂自動生成播放列表,今年早些時候,Spotify 與 OpenAI 合作推出了此類功能;研究如何利用生成式人工智能來幫助人們在 Pages 等應用中寫作,或在 Keynote 中自動創建幻燈片(與微軟已經推出的 Word 和 PowerPoint 應用程序類似)。此外,蘋果也在為其 AppleCare 小組的內部客戶服務應用測試生成式人工智能。
大模型上「iPhone」
不過到底要將生成式人工智能部署在設備端,還是基於雲端設置,或者以介於兩者的方式運行,此前似乎未有定論:設備上運行無疑速度更快,也有利於保護用戶隱私,但通過雲端部署,蘋果的大語言模型可以實現更加複雜精細的運算。這兩種方案各有利弊,蘋果正在試圖在本地計算和雲端計算之間尋找出一個平衡點。
有報道稱蘋果將提供基於雲的人工智能和設備上處理的人工智能的組合。但多位前蘋果機器學習工程則師稱,出於提高隱私和性能的考慮,蘋果的領導層更傾向於在設備上運行軟件,而不是在雲服務器上。
高級副總裁 Giannandrea 開發蘋果人工智能的基本原則之一正是尊重隱私。他曾在接受採訪時說:「我理解數據中心的模型越大越準確,但最好是在靠近數據的地方運行模型,而不是把數據搬來搬去。」
不過這可能有很高的實現難度。有分析稱,以 Ajax GPT 為例,它已經在超過 2000 億個參數上進行了訓練。參數反映了機器學習模型的規模和複雜程度;參數數量越多,表示複雜程度越高,需要的存儲空間和計算能力也越大。一個參數超過 2000 億的 LLM 可能無法合理地放在 iPhone 上。
但最新的消息表明,蘋果可能已經做出了終端決策。近日,蘋果發布的研究論文显示,其已經找到了在 iPhone 上運行大模型的方法,「構建一個與閃存行為相協調的推理成本模型,以指導兩個關鍵領域的優化:減少從閃存傳輸的數據量,以及在更大、更連續的塊中讀取數據」。
該論文稱,新技術使大模型在內存有限的設備上的運行速度提高了 25 倍,這意味着原本因為資源限制而無法在小型設備上運行的複雜 AI 模型,很快就能在 iPhone 和 iPad 等消費類移動設備上運行起來。
雖然外界感知到的蘋果在生成式 AI 等前沿技術上的布局速度有所不及其他巨頭,但蘋果在 AI 領域也有自己的底氣。
研究公司 PitchBook 在跟蹤了蘋果的多次人工智能收購后總結稱,蘋果着眼於收購各個領域的頂尖人才團隊,這些團隊可以將機器學習技術應用到特定的消費產品中。可以看出,蘋果的收購戰略主要集中在人工智能的消費應用上,但也包括機器學習部署和邊緣設備的操作技術,以及對深度學習和更多橫向技術的有限押注。
據統計,從 2010 年收購 Siri 開始,蘋果在 10 年時間里收購多達 30 多起 AI 初創公司,包括 Shazam、primeSense、Turi、Lattice Data、Xnor.ai 等五家公司的收購額都不超 2 億美元。自 2017 年以來,蘋果收購了 21 家人工智能初創公司,幾乎是微軟和 Meta 收購數量的兩倍,可以稱得上「AI 頭號買家」。2021 年起,蘋果收購 AI 公司的節奏看起來有所放緩,但依舊拿下了Curious AI、 AI Music、WaveOne 等初創 AI 公司。
2010 年至今蘋果在 AI 領域收購的不完全統計|極客公園
總體而言,蘋果在 AI 領域的收購策略可以概括為「花小錢辦大事」。蘋果很少進行大額的併購,它的收購目標通常是那些技術可以與現有產品和服務實現緊密結合、有助於完善生態建設的初創企業。當蘋果收購一家公司時,主要考量的往往是這家公司的技術如何才能更好地融入到蘋果正在開發的項目當中。
整體上看,蘋果收購這些企業的交易金額普遍較低,且後者的技術方向主要覆蓋語音識別與會話等方向,其次是與面部識別、圖像識別相關,在落地應用上,這些被併購的技術則為改進 Siri 語音助手、支持 Face ID 人臉識別、優化圖片應用、增強音樂服務功能、提高天氣預報精度等多個蘋果現有產品和服務提供了支持。
蘋果的許多收購看起來都是為了改進 Siri,可見 Siri 在蘋果系統中的重要地位。比如收購 Inductiv 是為了改善 Siri 的數據,收購 Voysis 是為了提高 Siri 對自然語言的理解,收購 PullString 則是為了讓 iOS 開發人員更容易在應用中使用 Siri 功能。
還有一些收購則是針對未來產品的,比如蘋果在 2019 年收購自動駕駛初創公司 Drive.ai,可能是為了推動其自動駕駛汽車項目的發展。蘋果並沒有公開所有的收購信息,因此可能還有其他被蘋果併購的人工智能公司未被人所知。
數目眾多的併購之外,蘋果自身的 AI 發展可以追溯到很多年前。早到從 1987 年推出知識導航儀,到 1990 年啟動語音識別項目,再到 2011 年推出 Siri 成為首個消費級語音助手,蘋果其實在很早期就展現了對 AI 的探索,只是一直相對低調。
蘋果歷來不會率先推出新技術,尤其是未經消費者驗證的技術。比如在 MP3 播放器被推出不久,市場前景已經有所驗證,但蘋果也沒有立刻進入市場,而是在確定了 iPod 這種更優越的解決方案后才加入的。
手機領域也是一樣,雖然其他公司在早期推出了智能手機,但蘋果選擇在確保能夠提供卓越客戶體驗的前提下才在 2007 年開始進入市場。類似地,儘管平板電腦早在 1989 年就已問世,但這個產品類別一直未能在市場上取得成功,直到蘋果推出了 iPad。
蘋果一直以來都以消費者使用體驗為先,通常會等到技術成熟才正式商用,這一謹慎策略規避了初期技術的不穩定風險,也使蘋果能更好地把握市場的機遇,推出更加成熟和超越的產品。
所以蘋果對 ChatGPT 類似產品應該也是這個路線——在準備好之前,不會貿然推出。也就是,在保持神秘感的同時,蘋果最終應該會以自己的方式推出成熟的 AI 產品。
事實上,在蘋果的現有產品中,也已經有不少機器學習/ AI 應用:
圖像處理
iPhone 15 能檢測到畫面中是否有人,並自動捕捉豐富的深度信息|圖片來源:apple
語音處理
搜索引擎和建議系統
健康監測
另一個可能的應用則是在汽車——蘋果的 Project Titan(泰坦計劃),一個自動駕駛汽車項目。雖然外界將該秘密項目稱為 Apple Car,但蘋果是否真的會推出汽車目前還並不確定。
據報道,Project Titan 里正在開發的自主系統需要一個大腦,這也是蘋果人工智能的用武之地,為 Apple Vision Pro 引入的許多技術在放大后也可能在汽車項目上發揮巨大作用。
對蘋果的高級神經引擎而言,要讓系統實時協調、檢測物體、理解用戶指令並同時產生反饋,是一項艱巨的任務。不過,2021 年的一份報告里显示,蘋果已經完成了這樣一款芯片,並將開始測試。
接下來,蘋果產品在 AI 的應用,應該會在圖像處理、搜索推薦、環境感知等方面繼續創新。然而,其生態系統存在一個可能的潛在缺陷,那就是蘋果堅持對數據隱私和產品設計保持追求,這可能會限制它在生成式 AI 等前沿技術上的布局速度,正如大眾現在感知中的「慢一步」一樣。
但這些依舊掩蓋不掉蘋果在 AI 領域具有巨大的發展潛力,這主要基於以下三個因素:
一方面,蘋果在全球擁有超過 20 億運行 iOS 操作系統的設備,這為其未來發展 AI 應用奠定了龐大的用戶基礎。根據蘋果財務長 Luca Maestri(盧卡·馬埃斯特里)透露,截至 2023 年 2 月,蘋果的活躍設備裝機量已經突破 20 億大關,並在 6 月季度末達成了「在每個地區細分市場都創下了歷史新高」的記錄。
另一方面看,蘋果的 Siri 語音助手每月處理的請求量達 250 億次,反映了消費者對語音助手等 AI 工具的強烈需求。如果蘋果未來能推出類似 ChatGPT 的產品,那麼來自其消費者端的 AI 數據和互動規模將會很龐大。
以及不可忽視的是,蘋果付費訂閱用戶數量在快速增長,已突破了 10 億大關並保持兩位數增長態勢。在 2023 年 8 月的第三季度財報中,蘋果 CEO 庫克指出,蘋果「在服務領域的收入創歷史新高」,「付費訂閱量超過 10 億,並以兩位數的速度增長」,這一態勢為蘋果通過 AI 類應用實現收入增長奠定了堅實基礎。依託如此廣闊的用戶群體,蘋果在消費級 AI 市場的增長空間廣闊。
另外,有消息稱,蘋果正在大力投資人工智能服務器,並計劃在 2024 年再建造數百台,為其即將到來的人工智能時代做準備。未來,在成為消費級 AI 應用的第一大平台上,蘋果依舊很有潛力。
參考資料:
1. Inside Apple's Big Plan to Bring Generative AI to All Its Devices,bloomberg
2. Apple may be quiet on AI, but it's also the biggest buyer of AI companies,quartz
3. Apple Boosts Spending to Develop Conversational AI,the information
4. LLM in a flash: Efficient Large Language Model Inference with Limited Memory