The Future Live | 04.03.26 | Guests from BEP, Ornn, and MOTS Podcast!
一句話版本
呢集節目最有價值嘅訊息係：AI 焦點正由「邊個模型最大最勁」轉向「夠細、可商用、可落地整合入日常產品」，而呢個轉變直接影響我哋點樣設計實際可用嘅系統。
點解重要
- 開源模型開始進入真商用區間：節目提到 Google 釋出 Gemma 4 一系列 open-weight 模型，而且商用限制相對少，意思係企業唔一定要全程綁死最貴嘅託管模型，部署選擇開始多返，成本同可控性都好唔同。
- 細模型唔再只係「閹割版」：嘉賓強調較細參數模型表現已經非常接近甚至挑戰更大模型，呢點重要喺於我哋做產品時，可以用更低硬件門檻換到夠用甚至幾強嘅能力，唔使每個場景都追 frontier。
- Edge AI 變得實際，而唔只係概念：節目講到部分模型已經朝住手機、邊緣設備可運行方向行，對我哋嚟講，代表延遲、私隱、離線能力同推理成本會成為真正嘅產品優勢，而唔係簡報賣點。
- 採用障礙未必係部署位置，而係用戶根本唔知 AI 可以幫佢做乜：呢個判斷幾關鍵，因為如果使用者只當 AI 係問答框，再平、再快、再本地都未必會用得深，產品成敗反而更取決於工作流設計。
- 真正推動普及嘅會係「無感整合」：節目認為 Apple 同 Google 呢類平台公司如果將 AI 深度嵌入現有產品，先會打開大規模採用。重要之處係，市場教育未必靠 demo，而係靠系統幫人自動完成事。
- 「加落去」同「整合入去」差好遠：對 Workspace 類產品嘅評論係，依家好多 AI 功能仍然似外掛，未夠自然。呢點提醒我哋，如果 AI 只係額外按鈕，用戶會覺得可有可無；如果係流程本身一部分，價值感先穩。
- 大平台有數據回路優勢：節目提到海量使用者令 Google、Apple 更易收窄產品迭代回路。對團隊嚟講，意思係功能好唔好唔只睇模型能力，仲要睇你有冇辦法快速觀察真實使用、修正交互、收斂任務定義。
- 未來架構好可能係混合式，而唔係單一模型通吃：主持人同嘉賓都指向一個方向：最前沿推理留畀 hosted frontier models，大量日常任務放去 edge 或較輕量模型。呢個判斷重要，因為佢直接影響系統切分、成本模型同可靠性設計。
- 技術進步速度快到用舊認知會誤判形勢：節目入面有種強烈訊號，係「過去以為仲未得嘅，可能而家已經得」。對團隊嚟講，風險唔只係跟得慢，仲包括繼續用兩年前嘅假設去規劃產品。
- AI 價值敘事開始回到解決真問題：開場引言唔係講炫技，而係講幫人同幫地球解決挑戰。呢點值得留意，因為市場對純模型排名會愈來愈麻木，最後留得低嘅仍然係有明確成果嘅應用。
我哋點睇
- 我哋做系統設計時，應該預設 混合模型架構：高風險、高難度任務先打遠端大模型，其餘可預測流程優先考慮較細模型，咁先有機會控制成本同延遲。
- 產品層面唔好再停留喺「提供一個 chat 入口」，而係要直接嵌入用戶原本已經做緊嘅步驟，令 AI 幫手完成動作，而唔係叫用戶自己諗 prompt。
- 評估新模型時，唔應只睇 benchmark；要另外睇三樣：商用授權、可部署位置、整合成本。呢三樣加埋，往往比純分數更決定可唔可以落地。