當 AI 愈來愈了解你，我們應該如何保存自我？資料以外，更要保護心理土壤
投資的時候，我們知道不應該把所有雞蛋放在同一個籃子。
一間公司可能倒閉，一個市場可能逆轉，一項原本看似穩定的投資，也可能因為我們無法預計的事情失去價值。因此，即使某個選擇現在表現最好，我們仍會用分散投資保留退路。
但回到數碼生活，我們採取的做法可能剛好相反。
我們在 Facebook 看朋友近況，在 Instagram 和 Threads 接收新聞、娛樂、意見以及圍爐取暖，用 Messenger 和 WhatsApp 維持私人與工作聯絡。當 Meta 再把 Muse 這類 personal AI agent 放進同一個生態，它處理的便不只是我們看過甚麼，還可能包括我們準備做甚麼。
我們會要求它整理行程、閱讀電郵、比較產品、填寫表格、預約、購物，甚至在背景中替我們推進一個目標。
這令我想到一個比資料備份更難回答的問題：
如果我們不會把所有金錢放在同一個籃子，為甚麼會把注意力、記憶、關係、工作和判斷，逐步交給同一個數碼平台？
也許 AI 時代需要討論的，不只是如何保護資料，而是如何保存自我。
由娛樂、通訊到行動，平台正在佔據不同位置
單獨看每一件產品，都是在解決單一問題。
- Facebook、Instagram 和 Threads 幫助我們發現內容、人物與意見；
- Messenger 和 WhatsApp 讓我們與朋友、家人、同事和客戶溝通；
- Muse 嘗試理解目標，連接外部服務，再代表使用者完成工作。
但把它們放在一起看，便會出現另一幅圖畫。
Meta 不只可能知道甚麼內容吸引我們。當使用者主動連接更多服務後，它的 agent 還可能接觸我們的日程、收件箱、購買意圖，以及完成任務所需要的背景資料。
Meta 對 Muse 的官方介紹指出，它可以連接電郵、Facebook、Instagram 和其他第三方服務，使用瀏覽器填寫表格、預約或購物，並在需要付款或對外行動時要求使用者批准。Meta 亦明確承認，把 inbox、calendar 和執行工具交給一個可以在背景工作的 agent，是一種新的安全挑戰。
這並不能證明 Meta 已經取得每一名使用者的完整數碼足跡，更不能直接推論它一定會濫用這些資料。使用者需要主動使用 Muse、連接服務和授予權限，產品的實際使用方式亦可能因地區和設定而不同。
但它至少顯示了一個清楚方向：
平台正在由觀察人的行為，走向理解人的意圖，再代表人採取行動。
真正的轉變：由知道你喜歡甚麼，到知道你準備做甚麼
傳統社交平台主要觀察已經發生的行為：
- 我在哪一段影片停留；
- 追蹤甚麼帳戶；
- 對哪一類內容按讚；
- 點擊過甚麼廣告；
- 與哪些人物和群組互動。
個人 AI agent 需要理解的卻更接近意圖：
- 我現在真正想解決甚麼；
- 我有哪些限制和偏好；
- 哪些人、承諾和工作對我重要；
- 我下一步準備買甚麼、說甚麼和做甚麼；
- 我願意讓系統代表我作出哪些行動。
前者是行為紀錄，後者開始接近一個人如何理解自己。
假如內容平台、通訊平台和個人 agent 屬於同一個生態，便有機會形成一條完整的循環：
平台決定我看見甚麼 → AI 根據這些材料理解我 → AI 建議下一步 → AI 協助完成行動 → 新行動再成為理解我的資料。
最值得擔心的未必是平台比我記得更多，而是它開始同時參與我的輸入、解釋和行動。
Muse 的商業價值，可能來自成為交易入口
最近有報道引用花旗估算，Meta 的 Muse 到 2030 年收入可能超過 270 億美元，當中大部分來自交易相關收入，其餘來自訂閱。
這是分析師的預測，不是 Meta 已經取得的收入，也不是一項必然實現的結果。Muse 推出時間仍短，下載量、活躍用戶、交易習慣和競爭環境都可以快速改變。
可是，這個預測仍然揭示了一個值得留意的商業想像：personal agent 不只是新的聊天工具，而可能成為人進入互聯網的 front door。
過去，我們自己搜尋、比較，再決定購買。將來，我們可能只要說出目標，agent 便替我們完成中間大部分步驟。
這會帶來一個很難避開的利益問題：
當提供建議的 agent，同時從完成交易中取得收入，它選擇的是最適合我的答案，還是最容易促成交易的答案？
這不代表所有 agent 的推薦必然偏頗。但只要建議、排序和收入來自同一套系統，使用者便需要知道推薦背後的利益、資料來源和選擇標準。
由 AI 改稱 SI，但我更想保留 MI
美國總統特朗普最近簽署行政命令，要求美國行政部門在官方通訊和文件中，盡量以 Super Intelligence（SI）取代 Artificial Intelligence（AI）。白宮的說法是，「artificial」令人覺得這種智能是假的，而「super intelligence」更能代表技術的能力和發展方向。
這是美國行政部門採用的政治和政策用語，不代表全球科技界已經把 AI 正式改名，也不代表今天所有 AI 系統已經達到研究語境中的 superintelligence。改變名稱，不會自動改變模型能力、錯誤率、權力關係或責任問題。
不過，這次改名本身仍很值得思考。
當我們把一件工具稱為 Artificial Intelligence，至少仍然提醒自己，這是一套由人建立、用資料訓練、受設計和商業制度限制的系統。
當名稱變成 Super Intelligence，語言便可能悄悄改變我們與工具的關係：它不再只是協助人的系統，而像一個天然比人更高、更快，也更值得服從的判斷者。
所以，AI 變成 SI 的同時，我反而覺得更需要提出另一個名稱：
MI 不是 Mission: Impossible，而是 My Intelligence。
MI 不是要和 AI 比較誰計算得更快，也不是否認 AI 在搜尋、整理、生成和執行上的能力。它代表的是：在使用更強大的外部智能時，我仍然要保留一套屬於自己的理解、記憶、判斷和責任。
我的 MI 包括：
- 在看到 AI 答案以前，我原本怎樣理解問題；
- 哪些經驗令我知道一個合理答案在現場未必可行；
- 我重視甚麼，又願意為哪一個結果承擔責任；
- 當平台提供十個選項時，我用甚麼標準說不；
- 即使離開某個模型，我仍能否繼續思考和工作。
如果 SI 的發展只是令我把更多判斷交出去，MI 便可能愈用愈弱。相反，如果我利用 AI 比較資料、找出盲點和驗證假設，但仍然保留自己的第一個版本與最後決定，外部智能才可能成為我的槓桿。
真正值得保存的，不是人類在每一項能力上都勝過 AI，而是我仍然知道哪一個問題值得問、哪一個答案不能照做，以及最後由誰承擔結果。
WhatsApp 有加密，不等於整個問題已經消失
討論這個問題時，需要分清楚目前已知的事實。
WhatsApp 表示，一般私人訊息和通話受端對端加密保護，Meta 不能讀取訊息內容，私人對話亦不會用來決定廣告。與 Meta AI 的對話則不同：AI 能夠讀取使用者主動傳給它的內容；Meta 亦提供 Incognito Chat 等更私密的使用模式。
Muse 的官方政策則表示，對話和 Virtual Machine 內的資料不會直接分享給 Meta 的廣告系統。但目前的架構並非以密碼學方式完全阻止 Meta 在支援、安全或營運需要時存取；Meta 表示更嚴格隔離的 Confidential VM 將在之後推出。
Meta 亦說明，Muse 的對話、工具調用和 subagent 之間的工作軌跡，經處理及移除部分個人識別資料後，可以預設用來訓練模型；使用者可以在設定中選擇退出。即使資料不直接進入廣告系統，Muse 代替使用者瀏覽網站、搜尋商品或完成交易，外部網站仍可能根據這些活動顯示廣告。
所以，更準確的問題不是「Meta 是否已經讀取所有東西」。至少根據現有官方說明，這個說法並不成立。
真正的問題是：
我們會不會因為方便，自願把原本分散在不同生活範圍的資料、權限和決定，逐步集中到同一個代理層？
我想起 Orwell 的《1984》
想到一家公司可能同時參與我們看見甚麼、與誰溝通、記得甚麼和採取甚麼行動，我最初想起「老大哥會知道」。
George Orwell 在 1949 年出版的小說《Nineteen Eighty-Four》中的 Big Brother 不只是知道居民做過甚麼。書中的 telescreen 一方面持續播放官方資訊，另一方面監察居民；Ministry of Truth 修改歷史紀錄；Newspeak 則透過縮窄語言，令人逐漸失去表達某些思想的能力。
當然，這與今天的數碼平台並不完全相同。
Orwell 描寫的是由極權政府強制執行的監控、宣傳與歷史改寫。今天的 Meta 是商業公司，WhatsApp 私人訊息有端對端加密，使用者亦不是在完全沒有選擇下被迫把所有服務連接到 Muse。把兩者直接畫上等號，會忽略制度、技術和權力來源的重大差異。
可是，兩者仍有三個相似的問題值得借用來思考。
第一，相同的畫面同時負責輸入和觀察
《1984》的 telescreen 同時播放內容和監察觀眾。今天的手機不等於 telescreen，但平台同樣可以一方面向我們推薦內容，另一方面記錄我們如何回應這些內容。
當 agent 再加入這個循環，它所接觸的便可能不只是觀看和點擊，而是我們提出的問題、正在形成的意圖，以及最後採取的行動。
第二，控制語言可能慢慢收窄問題
Newspeak 的可怕，不只是某些字被改名，而是語言愈來愈窄，最後令人難以形成不被系統容納的思想。
AI 改稱 SI 當然不等於 Newspeak，也不能單靠一次改名便推論政府正在控制思想。但它提醒我們，名稱並不中立。當 AI 被描述成「Super Intelligence」，人可能更容易把質疑工具理解為落後，把服從模型理解為理性。
同樣，如果平台和 AI 不斷把複雜問題整理成幾個看似完整的選項，我們也可能慢慢只在它提供的字句之中思考。
第三，誰保存記憶，誰便影響甚麼被視為真實
《1984》的 Winston 在 Ministry of Truth 重寫舊報章，再把原始紀錄投入 memory hole。今天的平台沒有以相同方式統一改寫歷史，但如果我的舊文章、照片、對話、搜尋和 AI 記憶全部只存在某個服務內，我所能找回的過去，便會受平台保存、排序、摘要和刪除方式影響。
這不是說平台已經可以任意改寫我的人生，而是指出一個較實際的依賴：當原始資料不在自己手上，我記得甚麼，可能愈來愈取決於系統願意讓我找回甚麼。
所以，今天的風險未必是一個強迫所有人服從的 Big Brother。
它也可能是一個非常方便、由我們主動餵養，而且逐漸成為唯一記憶和行動入口的 Big Brother。
《1984》最值得借用的提醒，不只是「有人正在看着我」，而是：當同一套系統控制輸入、語言和記憶，人會否逐漸失去在系統以外描述現實的能力？
資料可以備份，但心理土壤如何備份？
檔案遺失，我可以由硬碟、GitHub 或雲端備份還原。
但如果一個人的注意力、語言和判斷方式，長期由同一套推薦和 AI 回應塑造，我們又可以從哪裏還原？
我所說的「心理土壤」，不是一組可以下載的個人資料。它包括：
- 我長期接收哪些資訊，又忽略哪些資訊；
- 我用甚麼語言描述自己和自己的問題；
- 哪些失敗經驗改變了我的判斷；
- 有哪些人會反對我，而不是只附和我；
- 我能否容忍疑問暫時沒有答案；
- 在沒有平台提示時，我還會主動想起甚麼。
如果每一個空白都由內容填滿，每一個疑問都立即由 AI 回答，每一個選擇都由 agent 縮窄，心理土壤便可能逐漸失去多樣性。
這有點像農業上的 monoculture。單一作物在短期內容易管理，也可能有很高產量；但當環境改變、疾病出現或土壤失去平衡，整個系統會同時暴露於相同風險。
如果我們的新聞、娛樂、社交、工作和 AI 建議都由同一家公司提供，問題便不只是資料集中，也包括理解世界的方式變得集中。
保存自我，不是把自己固定下來
「保存自我」很容易令人想到把某個版本的自己完整封存，彷彿我的性格、觀點和習慣都不應該改變。
但真正值得保存的不是一個固定版本。
人本來就會改變。我可能因為新的經驗放棄以前的觀點，因為認識新的人重新理解一個問題，也可能承認自己多年來一直判斷錯誤。
需要保護的，是這種改變仍然可以由我參與：
- 我仍能看見平台沒有主動提供的資料；
- 仍能用自己的文字形成問題；
- 仍能接觸不同的人、模型和立場；
- 仍能拒絕一個方便但不適合自己的建議；
- 仍能在離開某個平台後延續自己的記憶與工作。
保存自我，不是拒絕被改變，而是保留自己選擇如何改變的能力。
我可以怎樣主動保護自己的心理土壤？
我不認為答案是停止使用 Meta、WhatsApp 或 AI。這些工具確實有用，而且完全退出數碼平台對很多人的工作和關係並不現實。
較可行的方法，是像管理投資風險一樣，不把所有重要能力放在同一個籃子。
一、在 AI 整理以前，留下自己的第一個版本
當一個想法出現時，可以先用自己的語言寫下疑問、直覺和不確定，再請 AI 整理。
第一個版本未必完整，也可能很混亂。但它保留了思想還未被改寫成「合理答案」以前的形狀。
如果每次都先看 AI 的答案再開始寫，我很容易只在它提供的框架內選擇，而忘記自己原本在意甚麼。
二、把長期記憶保存在自己可以帶走的地方
重要筆記、文章、決定、來源和工作紀錄，應該保留在自己控制、可以搜尋和匯出的格式內。
這是我建立 Personal OS 時愈來愈重視的原則：AI 可以閱讀資料、協助分類和提出連結，但它不應該成為唯一的保存者。即使更換模型、服務停止或帳戶出現問題，原始檔案仍然存在。
Markdown、一般圖片和文件格式看起來沒有新平台那麼聰明，但它們較容易搬遷，也較少要求我把未來綁在單一公司的產品決定上。
三、分散資訊、模型和真人關係
不要讓同一個 feed 決定所有輸入，也不要讓同一個模型負責所有高風險判斷。
對重要問題，我可以：
- 查閱原始資料，而不只讀 AI 摘要；
- 比較不同公司的模型；
- 保留 RSS、書籍、電子報和直接瀏覽的來源；
- 找一個會提出異議的真人討論；
- 把線上資訊帶回實際經驗中驗證。
真正的分散不只是擁有三個 AI 帳戶。如果三個模型讀取相似資料、追求相似的滿意度，它們仍可能提供看似不同、實際上非常接近的答案。
四、保留沒有被優化的時間
不是所有摩擦都應該被 AI 消除。
散步、手寫、發呆、閱讀一本不能立即摘要成行動的書，或者與朋友進行一段沒有明確目的的對話，看起來都不夠有效率。但新問題和新想法，往往在這些沒有被系統預先安排的空間出現。
AI 很擅長在已知條件下繼續推進。真人經驗和現實環境則會帶來原本沒有放進 prompt 的條件。
如果生活每一部分都只追求快速完成，我們可能得到更多答案，卻逐漸失去產生新問題的能力。
五、保留拒絕、撤銷和離開的能力
我不應該只問一個平台今天是否可信，也要問：如果有一天我不再信任它，我能否離開？
實際上可以檢查：
- 重要資料能否完整匯出；
- agent 擁有哪些連接和長期權限；
- 付款、發布、刪除和對外訊息是否每次需要批准；
- 記憶和工作流能否轉移到另一個工具；
- 與讀者、客戶和朋友的聯絡是否完全依賴單一平台。
真正的自主，不是平台承諾永遠善用資料，而是平台改變政策、價格或方向時，我仍然有選擇。
Personal OS 應該是一座花園，不是一個監控自己的控制室
討論保存自我時，我亦需要警惕另一個極端。
我們可能為了保存自己，把所有情緒、對話、習慣和行為都記錄下來，再用 dashboard 評分自己。最後，Personal OS 由一個幫助思考的地方，變成另一套要求自己持續輸入、分類和提高表現的監察系統。
但心理土壤不可能完全結構化。
有些想法尚未成熟，有些矛盾不需要立即解決，有些經驗只是在多年後才看出意義。好的 Personal OS 應該容許這些內容暫時保持混亂，而不是急於把每件事變成任務、標籤或公開內容。
對我來說，Personal OS 比較像一座遊樂場：
- 保留值得繼續探索和試驗的材料；
- 讓不同年份的想法重新連接，碰撞；
- 移除沒有價值的操作摩擦；
- 保留形成判斷所需要的思考摩擦；
- 由我決定甚麼可以交給 AI，甚麼仍然留在自己手上。
Personal OS 的目的不應該是讓 AI 完全複製我，而是讓我在使用 AI 以後，仍然知道哪些選擇真正屬於自己。
做一次「保存自我」的小型檢查
這個星期，可以不用立即更換任何平台，只選一個重要決定，記錄以下五件事：
- 輸入：我最初從哪裏看見這個問題？
- 原始想法：在問 AI 以前，我自己怎樣理解？
- 影響：哪一個平台、模型或人物改變了我的判斷？
- 行動：最後的選擇是由我決定，還是由預設選項推動？
- 退出：如果明天不能再使用這個平台，我還能否找回資料和延續行動？
這五個問題不能消除平台集中、商業利益或 agent 安全風險，也不能證明某一種 Personal OS 比其他方法更能保護心理健康。
它只提供一個較小的起點：把原本看不見的依賴重新看見。
我們要保存的，不只是資料
資料可以複製，檔案可以備份，帳戶也可以重新建立。
但一個人的心理土壤，是由長期接收的資訊、親身經驗、真人關係、失敗、沉默和自己形成問題的過程累積而成。它不會因為按下一個 Export 按鈕便完整回來。
所以，當 AI 愈來愈了解我們，問題不應該只停留在「它保存了甚麼資料」。
我們還要問：
在平台替我記憶、建議和行動的同時，我是否仍然保留一塊不由它決定應該生長甚麼的土地？
投資分散，是為了在一個籃子失敗時仍有選擇。
保存自我也是一樣。不是因為所有平台都不可信，而是我們的記憶、判斷力和改變自己的能力，重要得不應該只由一個籃子承擔。
資料來源：
- Introducing Muse: The World’s First Personal AI Agent Built for Everyone — Meta
- How We Built Safety Into Muse — Meta AI Research
- Introducing a Completely Private Way to Chat With AI — Meta
- Helping You Find More Channels and Businesses on WhatsApp — Meta
- Citigroup bets on Meta’s Muse as AI’s “front door to the internet” — Reuters
- Inaugurating The Era Of Super Intelligence — The White House
- Nineteen Eighty-Four — The Orwell Foundation
相關文章：
DISCUSSION
讀者留言