目錄

30 秒看懂前 OpenAI 技術長 Mira Murati 的新創 Thinking Machines,推出被評為中國以外最強的開源 AI 模型 Inkling 2 Small。據 the-decoder 報導,它每項任務成本約 1.18 美元,只要 Gemini 或 Claude 的六到八分之一。對想壓低 AI 開銷的中小企業,這是重新評估工具的好時機。
如果你正在幫公司導入 AI,最頭痛的往往不是技術,而是帳單。每個月的訂閱費和 API 用量費越疊越高,老闆開始問:這筆錢花得值不值得?
這週有一則消息值得你留意:由前 OpenAI 技術長 Mira Murati 創立的新創 Thinking Machines Lab,推出了一款開源 AI 模型 Inkling 2 Small,被評為中國以外最強的開源模型,而且用起來比大廠便宜一大截。
Inkling 2 Small 是什麼?開源 AI 模型又是什麼?
先把名詞講白話。開源 AI 模型,指的是把模型本體(業界稱為「權重」,可以想成模型的大腦)公開,讓人下載、架在自己的機器上使用的 AI。相對地,ChatGPT 這類閉源服務只能透過官方雲端付費使用,你拿不到模型本體。
根據科技媒體 the-decoder 在 11 月的報導,Inkling 2 Small 採用「混合專家(MoE,Mixture-of-Experts)」架構,總參數高達 5,940 億,但每次回答只會動用其中約 170 億個參數。
這個設計是省錢的關鍵。你可以把它想成一家大醫院裡有很多科別的醫生,你掛號時只找對應科別看診,不必全院醫生一起上。模型雖大,實際運算量卻小,成本自然壓得下來。
要提醒的是,它的權重還沒正式開放。據 the-decoder 報導,官方預計要先通過外部安全測試,才會以 Apache 2.0(一種允許商用的開源授權)公開權重;目前先透過自家的微調服務 Tinker 提供。也就是說,現在還不能直接下載自己用。
開源 AI 模型為什麼對中小企業重要?
關鍵就兩個字:成本。根據 the-decoder 的測試,Inkling 2 Small 完成每項任務的成本約 1.18 美元,而 Google 的 Gemini 3.8 Flash 約 7.77 美元、Anthropic 的 Claude Sonnet 5.5 約 10.02 美元。
換句話說,同樣一件工作,開源 AI 模型的花費大約只要大廠的六到八分之一。對每天要跑大量客服回覆、商品文案、報表整理的中小企業來說,這個差距一年下來很有感。
| 模型 | 類型 | 每項任務成本(美元) |
|---|---|---|
| Inkling 2 Small | 開源 | 約 1.18 |
| Gemini 3.8 Flash | 閉源 | 約 7.77 |
| Claude Sonnet 5.5 | 閉源 | 約 10.02 |
成本以外還有一個好處是主控權。開源模型可以架在自己或配合廠商的環境裡,敏感資料不一定要送到外部平台,這對有個資或商業機密顧慮的公司是加分。
為什麼跟你有關便宜不等於適合你。Inkling 2 Small 的權重還沒正式開放,自己架設又需要技術與硬體,資料與維運責任也都在自己身上。多數中小企業短期內還是會先透過雲端服務或系統商使用,重點是先想清楚需求,再決定要不要自架。
這則消息背後還有哪些重點?
除了模型本身,資本市場的動作也值得一看。根據 SiliconANGLE 11 月 6 日報導,Thinking Machines Lab 正在進行一輪約 50 億美元的募資,由創投 Accel 領投,投前估值約 400 億美元,是去年種子輪(估值逾 100 億美元)的三倍以上。
這代表大筆資金正押注開源路線,開源 AI 模型不再只是陪跑者。而在性能上,the-decoder 引用評測機構 Artificial Analysis 的數據,Inkling 2 Small 的智慧指數拿到 31 分,大約與 Gemini 3.8 Flash 同級;幻覺(模型一本正經講錯話)的比率也從前一代的 61% 降到 27%。
對你的啟示是:開源和閉源的差距正在縮小。過去「貴的才好用」的直覺,現在不一定成立,值得重新盤算你的 AI 工具組合。
中小企業現在可以先做哪 3 件事?
- 先盤點你的 AI 花費: 把目前所有 AI 訂閱與 API 帳單列出來,標出哪些是每月固定、哪些是用量計費,找出花最多錢的那一兩項,這是之後比較與砍預算的基準。
- 分清楚哪些任務需要頂規模型: 把工作分成兩類,一類是對外、要求高品質的(例如重要提案、品牌文案),一類是量大、容錯高的(例如初步分類、整理資料)。後者最適合用便宜的開源 AI 模型試做。
- 評估自架或找廠商: 如果團隊沒有工程能力,別急著自己架開源模型,先問配合的系統商或顧問有沒有提供相關服務,用託管方式入手,風險比較低。
開源 AI 模型重點整理
- 前 OpenAI 技術長 Mira Murati 的新創推出開源 AI 模型 Inkling 2 Small,被評為中國以外最強的開源模型(來源:the-decoder)。
- 每項任務成本約 1.18 美元,只要 Gemini 3.8 Flash、Claude Sonnet 5.5 的六到八分之一(來源:the-decoder)。
- 權重預計通過外部安全測試後才以 Apache 2.0 授權開放,目前還不能直接下載自用。
- 母公司正募資約 50 億美元、估值上看 400 億美元,顯示資本看好開源路線(來源:SiliconANGLE)。
- 中小企業該做的是:盤點花費、分類任務、評估託管,別為了省錢硬上自架。
常見問題
開源 AI 模型是什麼?和 ChatGPT 有什麼不同?
開源 AI 模型是把模型本體(權重)公開、讓人下載自己架設使用的 AI;ChatGPT 這類閉源服務只能透過官方雲端付費使用,拿不到模型本體。開源的好處是成本低、資料可留在自己這邊,缺點是要有技術或廠商幫忙架設。
Inkling 2 Small 真的比較便宜嗎?便宜多少?
根據科技媒體 the-decoder 的測試,Inkling 2 Small 每項任務成本約 1.18 美元,Gemini 3.8 Flash 約 7.77 美元、Claude Sonnet 5.5 約 10.02 美元,等於只要大廠的六到八分之一。但實際省多少,還要看你的用量與自架成本。
中小企業現在就能用 Inkling 2 Small 嗎?
還不能直接下載。據 the-decoder 報導,它的權重預計要通過外部安全測試後,才會以 Apache 2.0 授權開放;目前先透過官方微調服務 Tinker 提供。建議先觀望、同時盤點自己的 AI 需求,等正式開放再評估導入。
開源 AI 模型適合每一家公司嗎?
不一定。開源模型省錢,但自己架設需要技術與硬體,資料與維運責任也在自己身上。多數中小企業短期內還是會先透過雲端服務或系統商使用。先想清楚需求與團隊能力,再決定要不要自架。
參考資料
- the-decoder:Thinking Machines’ Inkling 2 Small claims top spot among western open-weight models
- SiliconANGLE:Thinking Machines debuts Inkling 2 Small amid reported $5B fundraising push
想把 AI 與自動化導入你的品牌行銷? 看看優妃思的 AI 與自動化方案