蘋果發佈可直接在裝置運行的開源 LLM AI 模型 OpenELM

蘋果發佈了幾款設計於裝置上運行的開源大型語言模型,而不是透過雲端服務。這些模型統稱為 OpenELM,並已在Hugging Face Hub 上提供,該平台是一個共享人工智能代碼的社區。

蘋果 (AAPL-US)

蘋果在開源 AI 平台 Hugging Face 上發布一個具有開源訓練和推理框架的高效語言模型,名為 OpenELM。

據了解,OpenELM 有四種尺寸:2.7 億、4.5 億、11 億和 30 億個參數版本,定位於超小規模模型,而微軟 Phi-3 模型為 38 億。 這種小模型運行成本更低,可在手機和筆記型電腦等設備上運行。 同時,在 WWDC24 開發者大會之前,蘋果徹底開源了 OpenELM 模型權重和推理程式碼,資料集和訓練日誌等。 而且,蘋果還開源了神經網路庫 CoreNet。

OpenELM 支援 iPhone 或 Mac 電腦

蘋果在 OpenELM 公開說明中提到 「將模型轉換為 MLX 資料庫的程式 碼,以便在蘋果設備上進行推理和微 調」,其中 MLX 是去年釋出能在蘋 果晶片上運行機器學習的框架,能夠 在非連網路狀態下,直接透過蘋果設 備本機執行。

蘋果一直都是封閉系統領導者,如今 罕見公開 AI 大模型,外界認為這有 可能就類似 Google 操作方式,先透過 開源拉攏開發人員,再利用封閉產品 進行商業化。

OpenELM 有哪些亮點?

據蘋果官方所述,OpenELM 是一種 最先進的開放語言模型。OpenELM 使用分層縮放(layer-wise scaling)策 略來有效地分配變壓器模型每一層 內的參數,從而提高準確性。例 如,在參數預算約為 10 億個參數的 情況下,OpenELM 與 OLMo 相比, 精度提高了 2.36%,同時所需的預訓 練令牌減少了 2 倍。

此外,「與先前僅提供模型權重和 推理程式碼以及在私人資料集上進 行預訓練的做法不同,我們的版本 包括在公開資料集上訓練和評估語 言模型的完整框架,包括訓練日 誌、多個檢查點和預訓練。我們還 發布了將模型轉換為 MLX 庫的程式 碼,以便在 Apple 裝置上進行推理和 微調。這一全面的發布旨在增強和 加強開放研究社區的力量,為未來 的開放研究努力鋪平道路。」


⚡️太平總店⚡️ (台哥大斜對面&耀仁診所旁)

【門市地址】台中市太平區樹孝路39-6號

【門市電話】(04)2393-4002

【營業時間】中午12:00-晚上9:00

⚡️豐原店⚡️ (711對面&50嵐隔壁)

【門市地址】台中市豐原區三民路114號

【門市電話】(04)2525-7557

【營業時間】中午12:00-晚上9:00

⚡️逢甲店⚡️ (西屯路&逢甲路交叉口)

【門市地址】台中市西屯區逢甲路167號

【門市電話】(04)2700-0040

【營業時間】中午12:00-晚上9:00

⚡️台中店⚡️ (公益路&精誠路交叉口)

【門市地址】台中市西區精誠路105-5號

【門市電話】(04)2320-0851

【營業時間】中午12:00-晚上9:00

#雷神快修 #陳雷秀鳳 #手機泡水 #蘋果原廠電池 #手機維修推薦 #蘋果原廠零件 #iphone觸控失靈 

#iphone螢幕破裂 #iphone無法開機 #台中iphone維修 #太平iphone維修 #大里iphone維修 

#潭子iphone維修 #豐原iphone維修 #逢甲iphone維修 #一中iphone維修 #西屯iphone維修 

#西區iphone維修 #iphone維修價目表 #iphone換電池後遺症 #台中iphone螢幕維修 

#蘋果原廠授權雷神快修 #使用蘋果授權原廠零件 #iphone原廠電池哪裡換 #台中iphone換電池價錢 

#台中iphone維修推薦ptt#iphone換原廠電池要多久 #iphone原廠獨立维修中心 #台中iphone換電池推薦ptt #雷神快修Apple獨立维修中心

Messenger

即時問答