前陣子在準備 Workshop 的簡報，在思考怎麼跟非技術背景的人介紹 AI Agent，突然發現：對欸，其實我們現在的 AI Agent 根本就是《記憶拼圖》的男主角：一個每次醒來都失憶、只剩下基本認知，必須靠外部線索重建當下世界的人。
《記憶拼圖》的故事大概是這樣：男主角某天因為頭部遭到重擊得了順行性失憶症，意謂他只記得頭被砸發生之前的事，但沒辦法形成新的記憶。
所以他每次「醒來」都不知道自己剛剛做了什麼、現在在哪裡、接下來要幹嘛，只能靠刺青、拍立得、紙條這些外部紀錄，重新拼出自己當下的復仇任務跟世界觀。
這男主角的大腦完全就是 LLM 啊？它記得頭被砸以前的事情，所以有基本對世界的認識。但它每次醒來完全不記得現在是幾點、我要幹嘛、我在哪裡、這件事進行到哪、前面發生過什麼。
所以每次想要完成任務，都需要看看周遭的筆記、資訊，去拼湊出「眼前這個人是誰？」「我是否可以相信他？」「我接下來要做什麼？」
這也可以進一步解釋 agent 怎麼做自主規劃跟推理，因為男主角不是只有被動看紀錄而已，他還會主動的、趁自己還沒睡著忘記一切時，刻意留下提示給下一次醒來的自己：下一步要去哪裡、要找誰、看到什麼線索要做什麼、哪些人是好人。這就是 agent planning。
《記憶拼圖》甚至也可以預言了 AI Agent 的一些常見錯誤模式，包含錯誤的理解導致寫下更多錯誤資訊、被惡意植入的資訊導致被有心人士利用。
（有雷）結局也很發人深省：男主角在劇情的最後刻意燒掉一張照片，讓下一次醒來的自己忘記其實已經復仇成功過了，於是下一個他就會根據錯誤的記憶狀態，繼續做出一串對他自己來說看起來合理、但其實已經偏離真相的行動。
AI 也是一樣，你給它錯的 context（Context 就是他接收到的上下文、資訊），它就會活在那個錯的世界觀裡推理；你少給它關鍵 context，它也可能自己補一個看起來合理的故事，然後逐漸偏離任務。
所以我感覺這對多數人要怎麼樣使喚 AI、怎麼思考 AI 應用落地，甚至是所謂 Harness Engineering，都是一個很好的思想實驗：
- 如果我是《記憶拼圖》的男主角，我醒來看到身邊的刺青、筆記、照片跟任務清單，我是否可以正確完成任務？
- 如果不能，那到底是我能力不足（模型太笨、或沒有適當的工具），還是留給我的線索太爛？
- 如果是因為線索太爛，是因為筆記沒有好好分類（資料凌亂）、字跡太潦草（資料品質低）、筆記與筆記之間衝突，還是資訊多到我消化不了（資訊爆炸）？
甚至可以再進一步問：就算記憶是對的，我醒來後可以使用哪些工具？
這就不只是在設計他的記憶了，這也是在設計他醒來後可以做哪些事，以及哪些行為必須被攔下來。例如：如果復仇計劃應該使用合法合規的工具，那就不應該在房間裡面放入管制物品。
所以 Harness Engineering 本質上就是在幫一個每次醒來都只剩局部記憶、但推理能力很強的人，設計他的刺青、筆記、照片、任務清單、工具箱和行動邊界。
想來想去還是覺得這部電影真的很神，在充分的探索了順行性失憶症的行為以及風險，還正巧可以預言 20 多年後 AI Agent 的行為。
（我想到這個比喻的當下覺得真是太神了，結果我上網查了一下已經有不止一個人寫過類似的東西，非常煩躁，不過我沒點進去看不確定觀點或是內容是否一致。）