最近看到《林亦LYi》發的 Youtube 影片(他有一些影片會架設各種環境讓 AI 去玩,例如讓 AI 玩騙子酒館、彼此當駭客,娛樂性很高,大推),講解 AI 模型 API「中轉站」具體是怎麼「薅羊毛」賺價差,覺得滿有趣,所以整理一下自己的想法。
先稍微快速介紹一下中轉站:中轉站就是一個幫使用者整合不同模型的地方,可以使用跨不同模型供應商(例如我同時想使用 Gemini + Claude + OpenAI),然後使用者依中轉站的計費方式付費,通常是按用量而非訂閱制。
其中中轉站又可以大致上可以分成兩種:一種是合規的(例如 OpenRouter);另一種則比較灰色,靠共享帳號、折扣套利、學生優惠等等五花八門的方法(可以去看影片介紹),提供比官方便宜很多的模型存取。
影片主要是講灰色中轉站的運作模式,我看完影片的第一反應是:這很多灰色方法聽起來,只要這些 AI Lab 想管,都可以管到很大一部分啊?例如帳戶做某些程度的身份驗證,就可以大幅限縮套利空間。
例如 OpenAI 和 Anthropic 在這件事上的做法就很不一樣。Anthropic 對第三方使用、帳號濫用抓得比較嚴,帳號要做身份認證等等;OpenAI 則相對鬆一些。
這也反映在這些灰色中轉站的價格:根據《林亦LYi》影片的說明,Anthropic 模型在中轉站的價格平均是 OpenAI 模型的十倍。
產生這種差異的箇中緣由,我自己的猜測還是回到上次那篇的觀點,也就是跟兩家公司算力的多寡與企業用量占比,造成收緊程度的不同。
如果我們把算力當成是一種可調配的資源,且我們把企業收入當成相對高品質的收入來源,那至少到目前為止 Anthropic 不僅企業用戶比較多、算力也比較少。
也就是說,Anthropic 之所以政策相對嚴格很多,很大可能是因為 2B 端的需求已經高到明顯擠壓算力,因此選擇把 capacity 留給相對高品質的來源,而非所謂的「信任、安全文化」等理由。
到這邊我就不禁去思考:雖然 OpenAI 可能沒有處理這問題的急迫性,但為什麼不現在就大幅降低中轉站的生存空間?
我目前覺得可能有幾個原因,彼此不互斥、可以同時存在:
(一)需求端,OpenAI 可能是想要持續「加速創造需求」:不管社群媒體怎麼互相恐嚇 AI 末日,我覺得終究 AI 在應用層還是在早期階段,不僅應用場景還是需要持續開發,且真正深入使用的比例也遠比普遍想像的低。
而這種灰色中轉站的使用門檻又比較高,會使用的用戶本就是有大量需求、有更進階能力的工程師等等,封禁更可能會影響市場創造出新需求的速度。
這就回到上一篇貼文「Anthropic 跑通商業模式,但 OpenAI 算力儲備可以帶來優勢」的論點一樣:假如結論正確,OpenAI 就完全有更強的誘因去找到新的變現方式,因為自己會是市場上的最大受益者。
再加上灰色中轉站的用戶,跟高價值的企業用戶重疊度可能不高,多數企業不會冒著資安風險去使用這些中轉站,甚至有些企業連正版 AI 模型都不讓用,因此不封灰色中轉站大概不會影響太多企業端的營收。
(二)財務跟成長敘事:畢竟中轉站很大一部分套利的方式就是用各種免費帳號,或是用訂閱流量賺取額度,用 API 價格轉賣。因此大規模封禁等同於會大量砍掉這類型的帳戶,導致帳號數量負成長,數字會變得不好看。
這對要 IPO 的公司來說可能不是好事情。尤其最近 Codex 搞了個「邀請朋友使用」可以獲得用量重置的功能,就知道帳號數可能是他們現在關注的其中一個指標。
而且對一間仍然需要維持高成長敘事的公司來說,這裡可以類比 Netflix 當時對帳號共享的態度。
Netflix 一直也有密碼共享的問題,但 Netflix 也是相對容忍,某種程度上,目的同樣也是回到需求面,讓更多人先形成使用習慣。等到市場滲透率、內容依賴與付費意願都成熟後,再透過逐步收緊,反而把原本未充分變現的使用者轉成新增營收,達到維持增長、降低季節波動等目的。
如果放到 AI 模型上,這個邏輯甚至更適合。因為 Netflix 終究是娛樂服務,可以選擇不用,AI 則是一種生產力的必需品;但也難講,也許未來「堪用模型」(也就是替代品)會很競爭。
(Disclaimer:這段完全沒有根據,只是在討論一間高成長公司從理性角度可能面臨的誘因)
(三)供給端:回到前面提到的,也就是 OpenAI 的 2B 營收暫時還不會擠壓到自己的算力,就更沒有必要現在封禁。
而且技術層面上,全面封鎖會誤傷很多合法應用。先前 Anthropic 就已經有好幾次誤傷事件,現在反而 OpenAI 在供給穩定性上算是擁有一種優勢(?),我想這種特性在企業應用中也挺重要的。
但當然,沒有討論的是灰色中轉站到底占了多少算力?只是我目前也沒有找到什麼可信的估計。如果佔比很小,那上面的討論就完全不重要哈哈。
(非金融專業分析,純心得分享!大家參考就好)