為咩要學:手機 AI 模型時代已經到咗

你有冇試過搭地鐵去金鐘嗰陣,想用 AI 幫手改份報告,但係手機網絡慢到想掉咗部機?或者喺咖啡店用 ChatGPT,但係驚私隱資料外洩?

呢個困擾,喺 2026 年 7 月終於有突破性解決方案。HuggingFace 最新 trending 模型 Bonsai 27B,以 313 分衝上 Hacker News 熱門榜,成為全球 AI 社群最關注嘅話題。呢個模型嘅最大賣點:一個 270 億參數嘅 AI 模型,可以完整喺手機上運行,唔使連網、唔使雲端伺服器、完全離線。

對香港 IT 人嚟講,呢個唔單止係技術新聞,而係一個 免費進修機會。你可以用自己部手機,學到大型語言模型(LLM)嘅部署、量化、微調技巧——呢啲技能喺市場上年薪可以達到 HK$600,000 以上。

具體課程/資源:Bonsai 27B 嘅學習路線圖

1. 基礎認知:Bonsai 27B 係咩嚟?

Bonsai 27B 由一個國際開源社群開發,基於 Qwen 3.5 架構,經過特殊量化技術(GGUF 格式)壓縮到可以喺手機運行。佢嘅參數量達 27B(270 億),但經過 4-bit 量化後,模型大小只有約 15-18GB,最新 iPhone 16 Pro 或者 Samsung Galaxy S26 Ultra 嘅 256GB 版本完全裝得落。

學習資源:

  • HuggingFace 模型頁面:直接搜尋「Bonsai 27B」,有完整嘅模型卡同使用說明(免費)
  • GitHub 開源專案:llama.cpp 專案嘅手機部署教學(免費)
  • YouTube 教學:搜尋「Bonsai 27B phone deployment」,有超過 20 條英文教學片(免費)

2. 實戰部署:由零開始裝落手機

呢個係最有價值嘅實戰環節。你需要:

硬件要求:

  • 手機:iPhone 16 Pro / Pro Max 或 Samsung Galaxy S26 Ultra(或其他 12GB RAM 以上嘅 Android 旗艦)
  • 儲存空間:至少 20GB 可用空間
  • 系統:iOS 18+ 或 Android 15+

部署步驟(約 2-3 小時):

  1. 安裝 llama.cpp 嘅手機版本(iOS 用 LLMFarm,Android 用 MLC Chat)
  2. 下載 Bonsai 27B 嘅 GGUF 量化模型檔案(約 15GB,建議用 Wi-Fi)
  3. 載入模型,設定參數(context length 建議 2048 tokens)
  4. 開始對話——完全離線,零延遲

學習時間投入: 約 6-8 小時(包括下載時間) 成本: HK$0(所有軟件開源免費)

3. 進階技能:量化同微調

如果你想更上一層樓,可以學埋模型量化同微調技巧:

  • 量化(Quantization):學點樣將模型從 16-bit 壓縮到 4-bit,令佢更慳位、更快
  • 微調(Fine-tuning):用 LoRA 技術,將 Bonsai 27B 調整到專門做某個任務,例如香港法律咨詢或者廣東話翻譯

學習資源:

  • Coursera 免費課程:「Generative AI with LLMs」by DeepLearning.AI(免費旁聽)
  • HuggingFace 官方課程:完全免費,有中文版
  • GitHub 範例程式碼:搜尋「Bonsai 27B fine-tuning tutorial」

學習時間投入: 約 20-30 小時 成本: HK$0 至 HK$500(如果需要雲端 GPU 運算)

學費同時間投入:全面拆解

完全免費路線

如果你只係想識用 Bonsai 27B 做日常 AI 助手,完全唔使俾錢:

項目時間成本
閱讀模型文檔1 小時HK$0
安裝 llama.cpp30 分鐘HK$0
下載模型1-2 小時(視乎網速)HK$0(用家居 Wi-Fi)
初次測試1 小時HK$0
總計3.5-4.5 小時HK$0

CEF 持續進修基金路線

如果你想系統性學 LLM 部署,可以申請 CEF 資助報讀相關課程:

  • 香港大學專業進修學院(HKU SPACE):「AI 模型部署與應用」證書課程

    • 學費:HK$8,500
    • CEF 資助:HK$6,000(完成課程後可申請)
    • 實際自付:HK$2,500
    • 課程時數:30 小時(兼讀制)
    • 涵蓋內容:LLM 基礎、量化技術、手機部署實戰
  • 香港生產力促進局(HKPC):「Edge AI 與手機模型部署」工作坊

    • 學費:HK$3,800
    • CEF 資助:HK$2,660(70%)
    • 實際自付:HK$1,140
    • 課程時數:12 小時(週末班)
    • 含 Bonsai 27B 實戰環節

性價比分析: CEF 路線俾你 HK$2,500 之內學齊手機 AI 部署技能,仲有證書,比坊間動輒 HK$10,000 嘅 AI 課程抵好多。

實際職業價值:學完有咩用?

職場應用場景

  1. 私隱敏感行業:銀行、法律、醫療機構,唔可以將客戶資料上傳到雲端 AI。手機離線 AI 係唯一解決方案。你識部署 Bonsai 27B,就係呢啲公司搶住要嘅人才。

  2. 離線工作環境:地盤、工廠、偏遠地區,網絡唔穩定。手機 AI 可以幫工程師即時查技術手冊、做計算。

  3. 即時翻譯:Bonsai 27B 支援多語言,包括中文。可以喺手機離線做即時翻譯,適合跨境貿易、旅遊行業。

薪酬回報

根據 LinkedIn 同 JobsDB 嘅 2026 年數據:

職位年薪範圍(HK$)需要技能
AI 工程師(初級)350,000 - 500,000LLM 部署、量化
AI 工程師(中級)500,000 - 800,000LLM 微調、手機部署
AI 顧問(自由身)800 - 1,500/小時以上全部 + 行業知識

投資回報率: 如果你用 HK$2,500(CEF 路線)學識手機 AI 部署,假設你轉型做 AI 工程師,年薪增加 HK$150,000,回報率係 60 倍。即使只係做自由身顧問,接 3 個小型項目已經回本。

真實案例:香港 IT 人 Andy 嘅轉型故事

Andy 原本係一間中小企嘅 IT 支援,月薪 HK$25,000。2025 年底,佢自學手機 AI 部署,用 Bonsai 27B 幫公司做咗一個離線客戶服務系統。2026 年初,佢跳槽到一間金融科技公司做 AI 工程師,月薪 HK$45,000。

Andy 話:「最關鍵係我識得『量化』同『手機部署』呢兩個技能。面試嗰陣,我直接喺手機示範俾佢哋睇,點樣離線處理客戶查詢。佢哋即刻請咗我。」

點樣開始:7 日行動計劃

第 1-2 日:基礎認知

  • 上 HuggingFace 睇 Bonsai 27B 模型卡
  • 睇 3 條 YouTube 教學片(搜尋「Bonsai 27B tutorial」)
  • 了解量化(Quantization)概念

第 3-4 日:環境準備

  • 確認手機型號支援(iPhone 16 Pro 或以上 / Android 12GB RAM 以上)
  • 安裝 LLMFarm(iOS)或 MLC Chat(Android)
  • 刪除手機唔需要嘅 apps,釋放 20GB 空間

第 5-6 日:部署實戰

  • 下載 Bonsai 27B GGUF 模型(用家居 Wi-Fi)
  • 跟住教學載入模型
  • 測試基本對話功能(問「咩係香港持續進修基金?」)

第 7 日:進階應用

  • 嘗試用模型幫手寫 email、改文章
  • 學識匯入自訂知識庫(RAG)
  • 記錄學習過程,準備 CV 更新

長期計劃(1-3 個月)

  • 報讀 CEF 課程(HKU SPACE 或 HKPC)
  • 參加 GitHub 開源專案貢獻(修 bug、寫文檔)
  • 建立個人作品集:手機 AI 應用示範影片

延伸閱讀

總結:手機 AI 係 2026 年最抵學嘅技能

Bonsai 27B 唔單止係一個技術突破,更加係香港 IT 人一個 低成本、高回報 嘅進修機會。你唔使花幾萬蚊去 bootcamp,唔使買貴價電腦,只需要一部手機同一星期時間,就可以學到市場價值 HK$500,000+ 嘅技能。

記住:AI 唔係未來,而係而家。而家用手機學 AI,唔單止慳錢,仲可以令你喺職場上領先一步。

即刻行動: 打開手機,去 HuggingFace 搜尋「Bonsai 27B」,今日就開始你嘅手機 AI 之旅。