Перейти к содержимому

打工仔同老闆都要知嘅AI真相!免費開源超聰明 Local LLM 引發 AI數碼員工熱潮—引爆DGX Spark全港中小企熱搶不斷加價?

6度研究所—Digital‧Business‧Ai‧Marketing‧Tech‧Podcast

0:00 / 0:00

打工仔同老闆都要知嘅AI真相!免費開源超聰明 Local LLM 引發 AI數碼員工熱潮—引爆DGX Spark全港中小企熱搶不斷加價?

1 897 просмотров · 3 дня назад
6度研究所—Digital‧Business‧Ai‧Marketing‧Tech‧Podcast
237 подписчиков
1 897 просмотров · 3 дня назад
👇章節、簡介、有用連結等👇 👉 記得Subscribe、Like、Share! 📱 追蹤我哋 Facebook | LinkedIn | YouTube 💬 Telegram AI群組 👇 http://linktr.ee/6din 今集嘉賓|Hillman(香港 Octopus InfoTech Limited 創始人) ・專注 AI 項目同本地部署解決方案 ・上集分享 AI 教育,今集深入本地 LLM 同 Agent System ・實戰經驗涵蓋企業私隱、硬件選購、Token 成本控制 [00:00] 開場:關網都能玩 AI?本地部署潮流到了 [01:49] 介紹節目 + 嘉賓 Hillman [06:08] 律師行為什麼一定要本地 AI(私隱) [07:11] 什麼是真正的「本地部署」?權重同 LLM 基本概念 [13:23] RAG + Agent System 解說 [16:40] 本地模型已經有多強?Qwen 實測感受 [20:37] 硬件大戰:Mac Studio M5 Ultra vs DGX Spark [26:14] Token 自由!本地 vs 雲端成本真相 [33:28] 雲端 AI 會「罷工」?穩定性問題 [47:18] 本地最大優勢:可微調 + 公司 Style 永久記住 [49:41] 為什麼本地部署更穩定 [51:23] 普通人同 IT 人要不要學本地 AI? [01:03:22] Censorship 問題 + Uncensored 模型 [01:14:32] 入門買機建議:64GB / 128GB 分水嶺 [01:18:52] 結尾 + Telegram 群組請 ━━━━━━━━━━━━━━━ 💬 金句精華(可加入 Shorts / 精華片段) [00:00]「在自己本地,在家裡關了網絡,玩到 AI 的玩法」 [00:01:04]「我請一個人這麼煩,買 Medical 又有 MPF,這個不用」 [00:01:19]「值之餘又發現會升值……比買樓好」 [00:01:26]「早買早享受,遲買可以貴幾倍」 [00:06:08]「律師行所有的數據都很隱密,很需要私隱保護」 [00:16:40]「本地的已經可以很 powerful」 [00:26:14]「有個 terms 叫 token 自由」 [00:33:39]「不計算罷工那些」 [00:49:41]「本地這個穩定性是非常重要的」 [01:12:04]「早買早享受,遲買便宜幾舊……現在不是,遲買可能貴幾倍」 ━━━━━━━━━━━━━━━ 💬 金句精華 「在自己本地,在家裡關了網絡,玩到 AI 的玩法」 「我請一個人這麼煩,買 Medical 又有 MPF,這個不用」 「值之餘又發現會升值……比買樓好」 「早買早享受,遲買可以貴幾倍」 「本地的已經可以很 powerful」 「有個 terms 叫 token 自由」 「不計算罷工那些」 「本地這個穩定性是非常重要的」 ━━━━━━━━━━━━━━━ 📌 本地 AI 三大核心價值 1️⃣ Token 自由(唔使再驚燒錢) 2️⃣ 私隱同穩定(關網都能用) 3️⃣ 可微調(永久記住公司 Style) ━━━━━━━━━━━━━━━ 🏷️ Tags #本地AI #LocalLLM #AI部署 #數字員工 #Qwen #DGXSpark #MacStudio #Token自由 #私隱 #六度研究所