Really, you made this without AI? Prove it
一句話版本
而家愈來愈多人想為「真人創作、非 AI 生成」加上可識別標籤,但市場上標準太散、驗證太弱,結果連證明自己係人手做都開始變成一件難事。
點解重要
- 信任機制已經倒轉咗:以前係懷疑內容係咪假,依家連真人作者都要主動自證清白,代表內容生產嘅基礎信任正在崩。
- 「標 AI」未必做得到,於是業界開始轉去「標真人」:因為生成式 AI 愈來愈似真,單靠抓假內容會愈來愈難,反而替真人作品做指紋或認證,可能更實際。
- 市場感知本身已經有影響力:就算無人講得準網上有幾多內容真係由 AI 生成,只要大眾普遍覺得「成網都係 AI」,平台、媒體、創作者都會被迫回應呢種不信任。
- 有標準唔等於有用:C2PA 本來就係想處理內容來源與認證,但文章指出實際落地效果很差,說明「有業界支持」唔代表真能改變平台上的資訊流。
- 激勵方向本身唔一致:AI 內容方未必有動機主動標示來源,因為隱藏身份可能帶來流量、混亂同收入;相反,最想標示嘅係受威脅嘅真人創作者。當雙方利益相反,制度自然難推。
- 方案太多,反而削弱信號:文章數到至少 12 種「AI-free / human-made」標籤,各自有不同資格與驗證方法。對用家嚟講,標誌愈多,不但唔清晰,仲更難判斷邊個可信。
- 跨媒介通用性係硬傷:有啲認證只適用於書籍或文字作品,唔能夠自然延伸去圖片、影片、音樂等,意味住內容生態愈多元,統一標準就愈難。
- 不少做法其實只係「靠你自稱」:有啲服務直接提供 badge 俾人自行下載使用,冇真正建立作品來源鏈,這種做法幾乎等於把信任外判俾聲稱者本人。
- 機器檢測唔足以做裁判:部分方案會用 AI detector 或人工目測,但文章明講呢類偵測本身就唔可靠,意味如果系統建基於不穩定判斷,最後只會製造更多爭議。
- 人工審核成本極高:要求創作者提供草稿、過程證據畀人核對,理論上較嚴謹,但規模化好難,對創作者同審核方都係負擔。
- 平台層支援仍然係關鍵缺口:如果標籤只停留喺創作者自己貼、自己解釋,而唔係被平台原生理解、展示、傳播,最終影響力會非常有限。
- 呢件事唔只係創作者議題,亦係分發與排序問題:一旦搜尋、社交平台、新聞分發都被懷疑充斥 AI 內容,標示制度其實會影響曝光、可信度,甚至商業轉化。
我哋點睇
- 如果我哋要處理「來源可信」呢類問題,唔應該假設貼個 badge 就夠,重點係可驗證、可追溯,同埋平台內部點樣用呢個訊號作判斷。
- 做產品時最好避免自創又一個難以互通嘅標籤;相比起設計新 logo,更值得投資喺證據鏈、審核流程同失效情境。
- 對外溝通要準備好面對一個新現實:將來用戶未必先信內容本身,而係先問「你點證明呢個唔係 AI 做?」