← Back to search
EP157 - AI Agent 大戰全面開打!深度解析 OpenAI Dots、Muse、Grok Bot、Instinct
科技浪 Tech.wav · 2026-10-05 · 87 min
Show full episode description
本集筆記與精修逐字稿: https://open.firstory.fm/user/techwav/posts/ep157-vhqrtn2bmztb 訂閲有問題請來信:
[email protected] 商業合作:
[email protected] (請先參考: https://www.techwavpod.com/collab ) --- 本集節目由【NordVPN】贊助 NordVPN 限量優惠活動開跑! 即日起至 2026/10/21,前往 https://nordvpn.com/techwave,並使用折扣碼「techwave」,除了享有 NordVPN 獨家優惠方案,加贈 4 個月,還可最高領取 NT$1,200 7-ELEVEN 禮券 數量有限,送完為止!想拿禮券的朋友記得趕快把握這波優惠喔~ 活動詳情與贈品領取方式請以官方網站公告為準。 ----
✨ Episode Outline — click any point to jump to it in the episode
Problem solved
Understanding the new wave of cloud personal AI agents (Instinct,
Grok Bot, Muse, Dots) and how they differ from self-hosted
OpenClaw and
Hermes Agent.
Benefits
- Cloud agents act like a person with identity, memory, and proactive messaging, not a session
- Cloud VM provided by the vendor removes the self-hosting setup and maintenance burden
- Built-in prompt-injection filters, supervisor agents, and credential vaults (Muse)
- Clear framing: OpenClaw/Hermes Agent and cloud agents have the same capability ceiling; cloud vs. local is the main difference
Use cases
- Dots monitors inbox and proactively warned about an unanswered vendor email 3 hours before end of day
- Host migrated most of his Mac mini OpenClaw 'lobster' duties to Dots, Codex sessions, and cron jobs
- Dots connected to Gmail, GitHub, Google Drive via plugin APIs rather than logging into accounts in the VM
- Dots spawns Codex threads in the background while the host records the podcast
- Host bought Cerebras stock at ~$160 after the 20% drop, reading the Ultra Fast news as misinterpreted
KPIs / results
- Cerebras stock fell 20% in a week after GPT-6 Astra Ultra Fast launched on NVIDIA
- NVIDIA Ultra Fast ~300 tokens/sec vs Cerebras 750 tokens/sec on 5.6 Soul (2.5x gap)
- ChatGPT $200 plan usage cut from 20x to 10x of the $20 plan
- Instinct: 14-person team, $10B valuation, 23-year-old founder
📑 Chapters — tap a time to jump there
00:00
NordVPN
- NordVPN sponsor: scam/phishing blocking, public Wi-Fi protection, region switching
- Promo: code TECHWAVE, 4 extra months plus up to NT$1,200 7-11 vouchers before Oct 21
02:43
本集主題
- Personal cloud AI agents called the most important 2026 AI trend
- Four players: Instinct (earliest), Grok Bot, Meta Muse, OpenAI Dots
- Agenda: differences from OpenClaw/Hermes Agent, business models, impact on CPU infra
06:38
OpenAI DevDay
- DevDay launches: Dots, ChatGPT Space (Notion clone), Decisions API
- GPT 6.1 Soul replaces 6.0 Soul after one week; Astra Ultra Fast mode
- $200 plan usage halved from 20x to 10x of the $20 plan
08:53
Cerebras 暴跌
- Cerebras down 20% because Astra Ultra Fast runs on NVIDIA, not Cerebras
- NVIDIA 300 tok/s vs Cerebras 750 tok/s — different tiers, not a replacement
- Host bought more Cerebras at ~$160; Cerebras simply couldn't ship the model fast enough
15:38
個人 AI Agent
- Agents are a 'person' not a session: identity, memory, goals, proactive bubble-chat messages
- Vendor-provided cloud VM vs OpenClaw/Hermes Agent self-hosted; same capability ceiling
- Host moving lobster duties to Dots; cloud security via filters, supervisor agent, Muse token vault
36:03
不同 Agent 比較
- Instinct: went viral in August, 14-person team, $10B valuation, 23-year-old ex-MIT founder
- Comparing distinct traits of Instinct, Grok Bot, Muse, and Dots
49:33
哈利如何用 dots
- How the host uses Dots day to day: inbox monitoring, Gmail/GitHub/Drive plugins, Codex threads
58:06
商業模式
- Business models: two very different routes among the four agents; current free/subsidized usage
01:11:04
未來網路世界
- How personal agents reshape the web and interaction with the digital world
- Infra impact: agents increase CPU and memory demand, not just GPU
Hello 大家好, 歡迎收聽科技浪, 我是主持人哈利 科技浪是一個白話跟你聊科技的Podcast 希望可以用簡單易懂, 但是又深入的方式帶你了解時下最火的科技話題 本集節目由NordVPN贊助播出 我覺得在這個AI時代當中, 我相信各位都有體驗到AI帶來的價值了 但是AI所帶來的風險其實也是不可忽略的 很多人講到風險就是講一些什麼AI毀滅人類之類的 但我覺得對於你我來說, 現在大家最應該在意的 最貼近我們現實生活的其實是資安的風險 那這邊也有很多不同的層面 其中一個就是因為AI的出現 詐騙、釣魚的這些各種不同的網路上的病毒等攻擊 一定會越來越猖狂 這個已經有在發生了 這也是為什麼我覺得像Nord VPN這樣的一個服務 真的是現在CP值極高的一個選項 因為Nord VPN它不只是一個VPN 它還是一個全方位的數位安全解決方案 它會幫你封鎖詐騙網站 無效化網路釣魚連結 然後可以直接阻止惡意軟體的下載 然後同時你在用一些機場WiFi 或是公共WiFi的時候 開著Nord VPN也可以確保你的個資不會外洩 這些是比較偏資安的功能 但當然Nord VPN它身為一個VPN 還有許多VPN本身的價值都有 包括你要跨區看劇打遊戲 或者是出國的時候跨回台灣連線 使用習慣的網路設定 還是你在買機票買訂旅館的時候 使用Nord VPN想辦法幫你訂到更便宜的機票或旅館 這些VPN一般的價值Nord VPN也都有 全部包在一起 我覺得這個訂閱價格是非常划算的 如果你想要訂閱Nord VPN的話 一定要使用我們科技浪的專屬連結跟折扣碼 尤其是在10月21號之前 你使用了我們的專屬連結跟折扣碼 除了可以享有Nord VPN的獨家優惠方案 可以加贈你四個月以外 還可以最高領取1200塊台幣的7-11禮券 而且數量有限送完為止 你如果有這個VPN需求的話 可以趕快趁現在訂 我們的優惠連結是 nordvpn.com slash T-E-C-H-W-A-V-E 然後我們的折扣碼是T-E-C-H-W-A-V-E 全部都在我們本集的資訊欄都可以直接點直接用 歡迎使用 我們本集業配就到這邊 就有寫Nord VPN的贊助 我們今天這集Podcast 我私心覺得你有點進來 真的是非常正確的一個選擇 因為我們今天這集呢 要來跟大家好好聊一下 最近在AI科技圈算是最重要的一波趨勢 然後也是最多人在討論的一波趨勢 就是所謂的Personal AI Agent之亂 OK 這種個人的雲端 AI Agent 這個題目我真的覺得很重要 甚至我覺得可能是2026年最重要的一波AI科技趨勢 OK 因為現在的就是突然最近這一個月出現了這些 Personal AI Agent 他們其實不是一個就是全新的產品類別而已 他們是有潛力可以完全顛覆現在人類跟整個網路世界 數位世界互動形式的一種全新UI OK全新使用者界面 那這個算是我們從GPT3.5 就是ChairGPT剛出來的時候 就在展望的未來 然後現在這些AI Agent在過去這個月呢 就是慢慢的一步一步帶我們走向這個全新的未來 OK 也不是說一步一步喔 嚴格來說 這過去這個月真的是我們往這個未來前進了一大步 OK 那以防你不知道我在說什麼呢 我們剛剛講的這些雲端的個人AI Agent 就是在過去這一個月突然一一冒出來的這種爆紅的AI Agent產品 像是這個Meta的Muse 好像是XAI的Grok Bot OK 那嚴格來說其實在他們之前呢 最早推出的其實是一間叫做 一個叫做Instinct的AI Agent 是來自一間矽谷的新創公司這樣子 但是在他之後呢 9月初這個XAI先推出了Grok Bot 是9月初還是8月底我有點忘了 但反正那個時候 然後Meta過了幾個禮拜又推出Muse 然後在上個禮拜的OpenAI Deaf Day OpenAI推出了Dots 那全部都是同一類型的產品這樣子 那我知道有些人可能會好奇 就是這些產品跟我們年初的那些OpenClaw 那叫什麼Hermes Agent 那些Agent到底有什麼差別 OK 只是差雲端跟低端而已嗎 是不是 好等等的 那我們會先從這一層開始聊 最基本的 先幫大家分辨一下現在最新這一波的產品 它定位到底是什麼 然後我們這集也會跟大家聊一下 這四大天王 Instinct Grok Bot Muse 跟Dots 他們各自有什麼特點 其實真的各自都是有些蠻不一樣的地方 OK 然後除此之外呢 我們也會聊到說 誒他們的商業模式究竟是什麼 我覺得這邊其實也真的蠻有趣的 我們現在從現在這四大天王呢 其實有看得到兩條非常不一樣的路線 好 然後最後呢 我們也會聊一下就是這些Agent的出現 這一整波趨勢 我們從一個比較宏觀的角度來看 它到底為這個世界帶來的意義究竟是什麼 它會造成什麼樣子的影響 會怎麼樣子改變 未來的網路世界 以及會怎麼樣子 我知道很多投資人呢 其實他們真的想 他們真的在乎的問題 其實覺得網路世界變成怎樣都沒差 重點是它的股票會怎樣嘛 它買的這些供應鏈會怎麼樣嘛 對不對 所以我們也會稍微聊到一些 就是關於Infra的部分 關於這個算力的基礎設施 會如何受到這一波AI Agent的影響 好那這邊其實我們今天主要會focus在CPU啦 因為其實Agent呢 最直接相關的 當然啦 就是記憶體跟這個GPU也有很大的關係 但是Agent這一波跟其他幾波 這種Data Center的算力比起來呢 它最特別的一個地方就是 它不只是增加CPU跟記憶體的量 它也會增加CPU的量 好那這個CPU 我們應該要怎麼樣子去思考 好這個也會聊到 好那在進入今天的許多話題之前呢 我覺得一個很好的起點呢 其實是我們先從上禮拜的OpenAI Dev Day開始聊 算是上禮拜的一個最大的科技圈的事件嘛 對不對 那你如果不知道的話 OpenAI Dev Day就是他們一年一度會舉辦的一個 發表大會 開發者大會這樣子 好那今年的DeathDay他們發表了什麼東西呢 首先最最他們的headline啊 最頭條的一個當然就是他們發表了DOTS 好基本上呢就是一個Muse跟Grok Bot的Clone OK 然後再來他們發表了什麼東西呢 他們發表了ChatGPT Space 那基本上就是一個Notion 的 Clone 好然後他們還發表了什麼東西呢 欸 一個叫做Decisions API 好的一個能夠快速做決策的API 那它是什麼東西呢 欸基本上就是一個Jeff的Clone OK 所以今年的DeathDay就被很多人嗆說是有點聊無心意啊 這個抄襲的速度連主刻薄看了都要自愧不如啦 那反正這些發表的內容呢 其實我剛剛講的這些說真的沒有都沒有什麼好聊的啊 除了DOTS DOTS我們今天會聊到非常多啊 我還會講到一些我的使用心得等等的 但是其他兩個其實沒什麼好聊的啦 好真正大家在意的是以下這幾個 好首先 GPT 6.1Soul OK 這個是新版的GPT 6.0Soul 好就是他們才剛推出GPT 6.0Soul 這個模型一個禮拜左右 好然後就立刻推出GPT 6.1Soul 又把它取代了 好那這個模型當然就是 呃又更接它的智能 好包括啊它的Agentic Coding的能力啊 Computer Use的能力啊 好又更接近Astra一點了 但是比Astra便宜很多好的一個模型 它這樣子的一個定位 然後大家也很在意這個全新的Astra的Ultra Fast OK 那所謂的Ultra Fast Mode 好就是你可以花更貴的價格 去買到更快的Token OK 是同樣一個模型 同樣的智能 得到答案是一模一樣的 只是你可以更快的得到這個答案 OK 那他們正式在Deathday呢 就是推出了Astra的Ultra Fast Mode 好那推出了這個模式之後呢 就是欸有一間公司爆跌了 好叫做Cerebrus 好這個是我們之前科技上有幫大家 做一個深度分析過的這間公司嘛 欸它這個股價在過去一個禮拜 是跌了20%啊 好那為什麼會爆跌這麼多呢 欸就是因為大家發現說 欸這次GPT 6.0Astra的Ultra Fast Mode 不是跑在Cerebrus上面 那這乍看之下 真的很像是Cerebrus一個大壞消息嘛 因為其實之前OpenAi每次講到Fast Mode 每次推出Fast Mode 都是跑在Cerebrus上面 OK 包括啊最一開始的這個GPT 5.3吧 我記得有個Spark的模型啊 欸是跑在Cerebrus 然後後來GPT 5.6Soul的Ultra Fast 也是跑在Cerebrus上面 欸但到了Astra這一代 就突然就不是了 好那很多人的解讀呢 就是說完蛋了 好這個Cerebrus被NVIDIA取代了 好因為 這是GPT 6.0Astra Ultra Fast呢 應該是跑在NVIDIA的GPU上面 好這個至少是Semi Analysis他們爆料的 好那他們的做法就是 我們之前科技上其實也都有提到過蠻多次 就是你今天要在NVIDIA GPU上面 榨出更快的Token 你也是做得到 好你就犧牲你的Batch Size嘛 對不對 你調低你的Batch Size 好等於是說你一次推論 你只服務非常少量的用戶 好你就可以每個用戶 會得到更快速的Token 好那這次他們就是透過這樣的做法 在NVIDIA GPU上 炸出了更快的Token 然後提供這個Ultra Fast Mode這樣 那你如果把這個事件解讀成了是 OpenAI對於Cerebrus失去信心 然後開始就是嘗試用NVIDIA去取代 這個Cerebrus 讓NVIDIA 讓原本全部留給Cerebrus Ultra Fast 現在也一部分分給NVIDIA 你如果是這樣子去解讀這個新聞的話 當然這個對於Cerebrus來說 是一個超級大壞消息 畢竟OpenAI是Cerebrus 最重要的一個客戶 他們公司接下來這幾年 絕大部分的營收其實都是來自OpenAI 一間公司 然後OpenAI也算是Cerebrus 它一個能夠證明自己的機會吧 現在Cerebrus還沒有在任何地方 能夠真正證明自己 那OpenAI是一個它最好的一個成績單這樣子 那萬一OpenAI都對它失去信心 那這間公司不就完了嗎 然後同時Cerebrus也因為有一些 這個IPO解禁很多人在賣股 所以過去一個禮拜就跌了20% 但我自己個人的想法是 我覺得這很明顯就是市場 在亂殺啊 就是他們看錯訊號了真的 從這一次的事件當中 我自己本人是完全看不出 OpenAI對於Cerebrus失去信心的 OK所以暴跌的當天 我甚至有進場又再買了一些 我買在160幾塊很低的一個價格 那當然這不是任何的財務建議啦 只是單純跟大家分享一下 我自己本身也是有在FB上面 就是Poker文跟大家記錄一下這樣子 Threats也有這樣 那我在這邊很快的跟大家分享一下 我這次操作的理由啊 就是我覺得這整件事情完全看不出 它對於Cerebrus 這間公司負面的消息到底在哪裡 OK 因為整件事情我的解讀呢 不是說NVIDIA今天在 GPT6Astra的UltraFast 取代了Cerebrus 他們OpenAI只是把UltraFast 這個詞的定義變廣了而已 因為嚴格來說 這次NVIDIA的UltraFast 跟Cerebrus的UltraFast 並不是同一個級別的服務 OK 這個NVIDIA是300Token Persec 然後Cerebrus在5.6SW上面的 是750Token Persec 兩者差了2.5倍耶 OK 差了2.5倍的速度 你覺得他們是同一個Tier的服務嗎 很明顯差了一個級別嘛 但只是NVIDIA 只是OpenAI他們懶得再想一個 Fast Mode跟UltraFast Mode 中間的一個Tier 就有可能 他要叫做SemiUltraFast嗎 也很怪嘛 就乾脆把它歸類到UltraFast 這樣子而已 OK 那當然啦 他們Serve的模型還是有差 就是GPT6Astra是比5.6SW很明顯 一定又是大了一些 但是 我覺得 他們Token的速度不至於會差這麼多啦 很明顯 Cerebrus 還是能夠做得比NVIDIA快很多 那為什麼OpenAI這次要先用NVIDIA 推出300Token的這個 AstraUltraFast 而不是直接推出一個 可能接近六七百Token的 這種Cerebrus的UltraFast呢 我覺得這邊的答案應該蠻單純的 就是因為Cerebrus 沒辦法這麼快上線 就這樣而已啊 NVIDIA上線速度一定超快嘛 就這模型本來就在NVIDIA上可以跑 然後可以跑得很好 那今天只是改變Batch Size而已 那你今天要在Cerebrus上面 跑一個新的模型 當然要花比NVIDIA 就是久很多的時間 在上面做油畫 反正這些技術細節呢 你有興趣可以再回去回顧一下 科技廊的EP146跟XEP27 那兩集都在跟大家詳細的解析 Cerebrus這間公司 你如果忘了他們在做什麼的話 也可以回去再回顧一下 反正你聽完之後 你就可以理解就是 為什麼這次的新聞 我會這樣子去解讀了 OK 好 那我們回到OpenAI Dev Day 除了我們剛剛講的 這一些發表內容呢 其實其他的沒有什麼 特別值得討論的 甚至可能比較值得討論的是 一個很負面的更新 就是200美金的Plan的用量 直接被砍半了 OK 就原本ChartGPT有訂閱方案是 一個月200美金嘛 就7000塊台幣這樣子 那原本7000塊台幣的方案 它的用量是20美金的20倍 但這次他們直接把砍半 變成剩20美金的10倍而已 那這邊就真的是 引起蠻多人的憤怒的 像我自己其實也是受災戶啦 但我應該也就還是摸摸鼻子 去定下去吧 因為原本200美金的Plan 對我來說就是 CP值爆表 爆表到很誇張的一個程度 所以雖然現在用量砍半了 我覺得200美金的Plan 還是CP值蠻高的啦 就是你如果拿來跟API價格比起來 當然是還是很划算的 然後尤其是OpenEye他們有說 這個模型的效率提升呢 確實也是會讓你的實際工作量 不會減少太多啦 所以我是覺得還會定下去啦 尤其是現在200美金的Plan 還多了這個DOTS可以使用嘛 對不對 然後講到DOTS 剛好可以聊到我們今天的主要話題 也就是這些雲端的Personal AI Agent 那我先簡單解釋一下 定義一下這些雲端的Personal AI Agent 他們到底是什麼樣子的產品 然後我們再來講到他跟之前的一些 產品的差異好了 那首先這些Personal AI Agent 他們比較像是一個人 而不是一個Session OK 那這件事情代表了什麼 首先他們會有自己的身份 自己的名字 自己的記憶 OK 那當然身份跟名字什麼的 你都可以自己去自由的 幫他們取自己去自己定義這樣子 然後這些Agent 他們身為一個比較接近人的角色 更深一層的意義 其實是你不是只能派明確定義的工作給他們 你還可以給他們一些責任 跟給他們一些比較高層次的目標 OK 這個就是一般的一個Session 沒有辦法做到的事情 對吧 一個Session就是你丟給他一個明確定義的工作 然後這個Session把它完成了 就結束了 比如說幫我寫這封信 或是幫我開發一個什麼什麼的App OK 但是這個Personal AI Agent 他比較接近一個人的角色 他可以承擔責任跟目標 所以他能夠做到的事情 是像是說 幫我跟這個廠商持續信間來往 直到你跟他negotiate到一個最好的deal 或者是說 這個是我們開發出來的App 那我要你持續關注最新的AI模型推出 一旦有新的AI模型推出的時候 你就幫我把目前這個App裡面 核心的AI模型給換掉 更新成最新的模型 然後要跑過這一系列的測試 確保一切都OK 然後最後再跟我說 我再部署上去這樣 好 那這邊你就可以很明確的看出 這些產品跟Clarco Codex 跟Cowork的最大的差別了 就是Clarco那些都是Session 但是這些AI Personal Agent呢都是人 OK 你真的可以交給他們責任跟目標的 有些人會誤以為說這些Agent跟Clarco的差別是在於說 這些Agent能夠實際去幫你做事 不是啊 Codex也可以幫你做事啊 Codex也可以去使用瀏覽器 去幫你做到各種事情 真的要幫你book一些什麼餐廳什麼的 也都可以做得到啊 真正的差別其實是在於一個是比較接近人 一個是比較接近Session的一個角色 好那這個其實不只是影響到你會派什麼樣子的工作給他們 也會影響到實際的聊天界面 實際的產品的界面的設計 其實也非常的不一樣 OK 像是一般的Chat GPT跟Clarco Codex 其實它不太算是一個傳統的聊天界面 你也仔細看你會發現 一般傳統的聊天界面 兩者都是泡泡 就是你傳出去的訊息 跟對方回給你的訊息 都是聊天泡泡 好但是Chat GPT跟Codex 他們的界面不是泡泡 好就你你傳的訊息仍然是泡泡 但他回給你的是一整坨沒有被框起來的文字 他是一整篇文章這樣回給你這樣 好但是這些Personal AI Agent不是 好他們都是 他們的傳給你訊息也是泡泡 就你跟他們聊天的整個聊天界面的過程體驗呢 真的就是跟一般的聊天的app是差不多的 好他們也會看你的訊息也會已讀 然後你也可以給他們訊息一些表情符號有的沒的 你們就是這種泡泡來往 那有些人可能會覺得這個有什麼好重要的 這個是這有什麼意義嗎 好這個就是一個一個gimmick 就是他們設計上 只是想讓他有種更有人的感覺嗎 確實就是他真的他一方面的價值真的是帶給你一個更更像是長期跟一個人在聊天的感覺 OK 但這樣子的設計其實也是有其他意義就是 對於你能夠平行丟不同的工作能夠插畫 然後他能夠主動message你 OK 主動傳訊息給你 其實這樣子的設計是遠遠優於那種 就是飛泡泡式的那種chat GPT的這種聊天界面的 OK 這個其實是一些產品設計上面的一些非常小的細節 那就是你如果對於UI UX很感興趣的話 這個是一個你蠻值得這個研究的議題 但我們這邊也不研究到太深 好但反正 這些personal agent都有這些特質 by the way 我們現在在講的都是橫跨所有的personal agent都有的特質 就是instinct,muse,grokbot跟Dots都有的 我們待會才會再講到他們各自的差別 好那剛剛有稍微提到一點就是 這些AI agent能夠主動的傳訊息給你的這件事情 他們有主動性的這件事情 這個其實也是這些AI agent非常大的一個亮點 然後也是他們之所以這麼像一個人 而不是一個session的其中一個主要原因 好那具體來說這個是長什麼樣子呢 好就像是我有一個這個Dots的agent 好那他會持續的一直看我的信件 每封信的信進來他都會看 好然後大部分的信進來他就是略過去略過去這樣 好但是有很緊急的事情 他就會主動傳訊息給我 OK就比如說有一次是 有個廠商傳一封信早上跟我說 今天要教某某東西這樣子 那過了幾個小時之後 距離下班時間只剩三小時了 我還沒回信給他 這個時候Dots就主動傳一封信 跟我說 早上這個廠商有來自封信 好那你還沒有交東西給他 好你要提醒你一下 今天下班時間剩三小時這樣 OK 那我覺得這個算是一個還不錯的提醒 當然我自己有看到這封信了 我已經有在準備了 所以對我來說沒有意義 但是有可能有時候我真的忘記了 好那這封信 就那這個訊息就真的會有幫助 好然後他其實主動傳訊息給你的 頻率也沒有到超級高 好除非你有一些就是 就是主動要來回報的事項 好不然他 就是自己會主動提醒你的事情 沒有到非常多 大部分的信他真的就是看過去而已 好那這個其實也是很重要的一點 就是他會知道什麼時候才要主動的聯絡你 不會瘋狂吵你 OK 好像是Instinct 另外一個AI Agent呢 他們甚至會主動打給你 緊急事情的時候他會打電話給你 跟你說你某個東西要趕快交之類的 好那以上講的是這些 Personal AI Agent的第一個大特色 就是他們是一個人而不是一個Session 然後他們還有第二個大特色 就是他們有雲端的VM可以使用 好所謂的雲端VM 這個VM是Virtual Machine的意思 好那這個東西是什麼呢 好他其實白話來說非常簡單的 就是這些AI Agent會有一台自己的電腦 然後能夠在這台電腦上面 幫你做到各種需要電腦才能完成的事情 好各種工作 OK 這台電腦不是你自己的裝置喔 你不會需要分一台電腦給他喔 是OpenAI資料中心 他們直接畫一個虛擬的電腦出來給你用 OK Muse也是一樣的道理 這個Meta 他們直接把資料中心 一部分的CPU能力 跟RAM 跟硬碟 直接分配給你讓你用 那這點呢 其實就是這些最新的Personal AI Agent 跟年初的這些OpenClaw Hermes Agent 最大的差別 就是OpenClaw Hermes Agent 他們是開源專案 大家要跑的話 要在自己的電腦 在自己的裝置上面跑 或者你真的要在雲端上跑也可以 但是你要自己找到這個 好雲端的VM去使用 OK 並不是這些AI公司他們直接 畫這個資源來給你用 好那其實雲端地端的這一點呢 真的就是唯一的差別而已 OK 就是OpenClaw Hermes Agent 跟現在這些Muse跟Dots 能做到的事情是一模一樣的 OK 嚴格來說是他們的能力上限 是一模一樣的 OK 當然具體來說 誰好誰壞 跟就是你用什麼Harness 然後你的OpenClaw怎麼設定啊 還是有一點關係嘛對不對 但是他們能力上限 理論上來說是一模一樣的 同樣一件事情 你百分之百可以在兩邊都做得到 只是D端這邊OpenClaw 是有比較多DIY的部分 然後還要自己去找一台機器去跑 好那這個具體來說 會有什麼樣子的 體驗上面的差別呢 好我必須說 首先對於一般人來說 一般的使用者 這個雲端VM是會 巨幅提升體驗的 是會大幅大幅的降低 他使用這些個人AI agent的摩擦力 你就看現在這個OpenClaw 跟Hermes Agent 都已經出來多久了 好那他們有非常普及嗎 其實也沒有 好這個OpenClaw 他在Getout上面星星這麼多 但真正有在使用的 真正在家裡有養一隻龍蝦的 都還是怪人嘛 就像是我跟你 這些有在聽科技浪的這些怪人 這些 也不要講怪人 就是說 Prosumer 這些Developer Prosumer 真的玩AI玩得很兇的這些人 才會做這件事情 你的鄰居親朋好友 有多少人真正自己有在養龍蝦的 很少啊 那為什麼呢 因為門檻很高嘛 對不對 首先你要自己搞到一台機器 來跑這個龍蝦 OK 你不太能使用自己的主力電腦 因為很危險嘛對不對 他哪天幫你把所有檔案全部刪掉之類的 你要一個很乾淨的環境來養這隻龍蝦 那通常的狀況你會需要去買一台新的電腦 好那這件事情本來就很大的摩擦力 然後買到之後 你還要安裝 這個安裝的過程中 其實也沒有到很困難啊 就是你一步一步問ChatGPT一下也是可以搞定 但是整個界面還不是非常成熟的 還是有很多需要你在command line裡面操作啊 要在terminal裡面在終端機裡面操作的步驟啊 然後你也要就是使用Github吧等等的 就欸是真的沒有到非常簡單 OK 然後 除此之外 你全部用好了之後 你要進階的把它玩到好 你會發現有好多外部的功能要串接啊 要這個 要設定啊 有了沒的 其實是真的蠻複雜的 但如果是雲端VM的agent的話 你基本上就是辦個帳號 取個名字就可以開始用了 好然後各種服務你就點個按鈕 然後按授權授權授權 全部都串好了 甚至你如果是用ChatGPT的Dots的話 你原本就已經授權一堆東西給ChatGPT了 你Dots就只無縫接軌 無縫直接開始 非常的舒服 OK 什麼東西都不用找 甚至對我來說 我是一個自己養龍蝦已經養了超過半年的人 OK 我現在在過去這一個月 我已經慢慢的在把我的龍蝦轉移到雲端 直接Agent上面了 OK 我龍蝦現在已經幾乎沒有什麼在使用了 他的責任已經慢慢都分配給Dots 分配給一些這個Codex的一些Session 一些Chrome Job OK 那為什麼連我這種都已經買了一台Mac mini來養龍蝦 然後一切都已經設定好都安裝好 而且已經用很久了的人 都想要慢慢跨到這個 就是轉移到雲端的Agent這邊呢 就是因為 我覺得長期Maintain龍蝦果然還是蠻好我的時間的 首先就是 你每過一陣子一定會有東西壞掉 或者是要你額外的Action 要嘛就是 某個外部工具它憑證過期 你要重新去驗證啊 要嘛就是你某個外部工具 你可能額度到了 它不能用了 然後你又沒有一個Alternative去設定好 或者是說 這個東西 這個服務已經不support了啦 或者什麼有的沒的 好那 除此之外 你還會需要持續的 讓它跟上最新模型的腳步嘛 對不對 就是你好像現在模型 可能 每過幾個禮拜就有新的更強的模型出來 你底層的模型 你一定要一直換嘛 那每次換的過程 都高機率會需要去手動操作 就是又要會花我大概半小時的時間 然後我要physically做到我的Mac mini前面 或者是說至少要遠端連線過去 就真的很麻煩 因為你知道 換模型很多時候並不是 你直接一句話跟他講 把你的底層模型換成最新模型 就結束了 有時候你會需要重新授權 有時候他在換的過程中 還把你的provider的那個 model的名字 code給搞錯 那搞錯那個API發不出去 就是整個服務還會當掉 然後你就還會需要手動的去裡面 幫他看他到底是哪個model name 少了一個dash 還是少了一個大消息什麼 就真的是 有時候真的會讓人很暴怒我覺得 好那像雲端的agent 就不會有這些問題 整個版本的控制跟外部工具的更新 全部都是交給他們去處理 就沒問題了 那當然地端也是有它的價值所在 我們大家常講地端的價值 主要就是三個 一個是隱私跟資安 第二個是成本 第三個是延遲 那延遲這個不用看了 其實沒什麼差 那成本這邊我目前其實也看 也比不太出來 因為現在這些personal AI agent 也都剛出來 然後大家都算是在大放送的階段 像是這個TradGPT的DOTS 他們基本上 這一個月是完全免費使用的 當然你要訂Pro 就你Plus的方案 就是20美金的是沒有的 你至少要100美金以上的方案 這種Pro的方案 你才可以使用到DOTS 但你如果可以用到DOTS的話 你這個月基本上是可以免費 無限使用DOTS的 就你跟DOTS聊天 以及DOTS幫你做的事情 它所消耗的這些Token 都是Astra的Token 都是最大的這個模型 但是他們不會跟你收費 就是你不會實際用到 你200美金100美金的那個usage 這樣子 我這個是測試過 真的是這樣子 那當然有些人覺得 這是一個騙人的 因為嚴格來說 DOTS 雖然說你跟他聊天的內容 不會計入你的用量 但是DOTS會幫你開Codex的Threats 所以他其實有時候自己狂開堆Codex 也是幫你消耗很多 像我的DOTS現在就是狂開 幫我狂開Codex的狀況之下 我們現在在聊天的 我們現在在錄Podcast的過程中 他還在狂幫我開Codex 狂幫我燒Token 但至少你跟他聊天的過程是 不用那個耗Token 那其他家也都有很多補助方案 像Instinct現在也是完全免費的 所以說 然後Muse也有很大量的免費 所以其實成本你這邊 現在也是看不太出來的 那所以地端的優點 就剩下最後一點嘛 就是資安這一點 那資安這一點 我覺得確實是有一點感覺啦 就是我在使用我自己的 Mac mini上跑的 那個OpenCloud的時候呢 我在那台Mac mini上面 登入一些個人的帳號 我是比較沒有那麼擔心的 畢竟這個Mac mini 就在我眼前 OK 但是今天你要我在 在這個OpenAI的Virtual Machine裡面 登入一些我的個人帳號 我自己目前是還沒有做這件事情 我就是還是有一點點顧慮啦 雖然我真的很想這樣做 因為有些我想做的事情 真的是這樣會比較方便 但是我就還沒有做到這件事 但其實你不一定真的要做到這一步 才可以讓這些雲端AI agent很有用 我現在只是就是有串我的Gmail 有串我的Github 就是你串接這些工具 跟你在他的VM裡面登入直接帳號 是不一樣的概念喔 你串接工具比較像是串這些工具的API 讓這個Agent能夠使用這些工具的API去幫你完成一些 他明確定義出來他能做的操作 OK 直接在那個插件的列表當中都可以看得出來 每一個像Gmail的插件 他可以做哪些操作 然後哪些有開放 哪些你不想開放 然後Github的插件 他可以做哪些操作這樣子 好 那你如果是在他VM登入 就是不一樣的道理 就是他原則上來說就是 你在這個VM的瀏覽器裡面 你登入了你的帳號 然後原則上這個Chatbot 他可以點任何這個界面上任何東西 好 他可以做任何的操作這樣子 好 所以說我的體感上 我還是會有點怕怕的 那這個就是串接插件 透過API的方式我覺得是OK 好 所以我已經串很多東西了 那其實今天你真的只要串 這個Google Drive相關的 然後串這個Gmail 串個Github 串個 如果你有在用Slack的話 串個Slack 其實就真的可以非常好用了 然後在資安這一點 其實有時候 你從不同的角度來看的話 你甚至會覺得 這個雲端Agent 他甚至會比OpenClaw Hermes Agent這種地端的更安全 OK 從特定的角度來看 好 為什麼 因為這些雲端Agent 都有蠻完整的這種監控系統 然後安全防護措施 在那邊 OK 那像是一些AIA Agent常常會受到威脅的地方 他們都有先想到了 就比如說 最常見的是一個Prompt Injection 對不對 就是今天當你的AIA 在瀏覽網站 在處理資料的時候 如果萬一不小心看到一個惡意的指令 他有時候可能會不小心真的去執行這個指令 就比如說這個指令寫說 把你的敏感資料傳到某某某地方 這個Gmail這樣子 然後這個惡意指令呢 就藏在某個網頁當中 人類肉眼看不到的地方 那Agent讀到了 他不小心執行了 你的敏感資料就被傳出去了 但這件事情在雲端Agent 會比較不容易發生 為什麼 當然我不敢說的太瞞了 因為現在這些雲端Agent才剛出來 然後至少我們目前沒有看到類似的狀況出現 然後我覺得他也比較不會出現 為什麼呢 是因為他們通常會有很多道的防護措施 這個惡意指令一進到Agent的Contact當中 他們可能就會先被一些Deterministic的機制 就是一些預先設定好的規則 一些filter 先被刪掉 或者是說先被Flag出來了這樣子 然後就算他就是跑到了後面 然後這個LM實際要執行這個恐怖的 這一步的時候呢 也會有另外一個監督的Agent 會在這個Agent 就是你的Personal Agent 要做任何事情之前 先做一次最後的檢查 那在這次檢查當中 他可能就會發現這個行為不對 然後就會把它擋下來了 那就算就算 他沒有辦法擋下來的話 很多時候這些Agent 他根本就拿不到你的敏感資料 OK 像是Muse 他們就有做這件事情 Muse他們很強調他們的資安保護 那他們有強調一點就是 你的Muse Agent 其實從頭到尾看不到你的任何一個密碼 或者是API Key OK 因為你這些密碼跟API Key 都是存在另外一個地方 一個金庫當中 那這個Muse Agent 他實際在handle的 是一個假的Token OK 就是一個代表你的密碼的假的Token 那他就是靠著這個假的Token 在去操作 然後實際在這個網站 要填入密碼的時候 會再去交給另外一個 這個系統去處理它 然後把這個Token去Decode 成你的真正密碼 那過程中你的密碼 跟你的API Key是不可能會出現在這個Muse Agent的任何Context當中的 OK 所以理論上這個Muse Agent也沒有辦法把你的密碼交出去 那這些事情 這些安全措施呢 當然 OpenCloud跟Hermes Agent 你要做也做得到 但是你會想做嗎 你會有那麼多的時間去把這些System全部Set up 然後一個一個測試每個環節嗎 你沒時間嘛 對不對 那這些事情就是這些AI公司會幫你Take care的 好那聽到這邊大家應該已經可以完全的理解 現在這波AI Agent呢 他們到底是什麼樣子的一個產品 好那 強烈建議大家真的是實際去體驗一下 真的 我覺得你如果之前沒有使用過OpenCloud或是Hermes Agent 你是第一次用到這種Agent類型的產品的話 我覺得它完全會幫你打開一個全新的世界 真的 那你如果不知道要拿它來做什麼事情的話 我待會再跟大家分享我是怎麼使用DOTS的 好這邊可能可以給大家一些靈感 好但在那之前呢 我覺得我們還是得來比較一下 就是這四大天王 四個Agent呢 他們各自的差別在哪裡 好因為我們剛剛講的那些 全部都是這四個Agent 全部共有的特質 OK 好但是他們各自之間呢 確實還是有一些自己的特色 我們先從第一個最早的開始 就是Instinct 好那這個我覺得可能比較多人不知道啦 因為它是一個可能在國外比較紅的 還沒紅到台灣這邊 我覺得台灣這邊比較紅的可能只有Grog Bot 好那Muse甚至台灣人都還不能使用嘛對不對 好那還有DOTS啦 DOTS最近台灣人也可以開始用 但這個Instinct就是它其實是最早紅的 它其實在今年2月的時候就有發表一些內容了 但是真正爆紅是在8月中那個時候 好就是在X上面大家就開始瘋傳這樣子 好那它是一個非常很厲害的小團隊做出來的 他們團隊只有14個人耶 14個人的一間公司 但是卻有一百億美元的估值 好那然後他們創辦人呢更更扯 他們他創辦人那個Shin現在只有23歲 好他之前是在MIT做機器學習的研究 然後他也是Sierra的早期研究員 很早就有在研究一些AI agent的方向這樣子 好那他們的這個Instinct agent呢 最大的特色是在於一個叫做 No new interface的一個堅持 好那這個堅持這個顧名思義呢 就是他們不會為了Instinct這個產品呢 多做一個app或者是多做一個網頁 這個Instinct的這個agent呢 是活在你平時習慣的界面當中 比如說WhatsApp 比如說iMessage 然後他有自己的手機 有自己的E-mail 換言之就是你今天要使用Instinct的時候 你不是感覺下載了一個新的app一樣 你不用做這件事情 你其實真的比較像是 你認識了一個新的同事 OK 因為你今天你們公司請了一個新的員工 認識了一個新的同事 你也不會有一個這個同事的app 這個同事也不會跑出一個app 讓你給你下載 這個同事就是你就是會加他的line 你就是會加他的email 你就是會有他的聯絡資訊 然後他就是會活在一個 這些你常見的界面背後 對不對 那Instinct也是想做到類似的概念 那這點就是其他家比較沒有的 像是Grabbot 你就是還要下載一個新的app 那Dots應該比較similar是一點 就是直接出現在ChatGPT當中 但他還是有一個新的這個Dots的界面 要你去使用這樣子 OK 那Instinct他還有另外一個特點呢 是在於他們有個叫做 Trusted Person Network的一個feature 那這個在講的呢就是 你可以指派你的instinct 直接跟別的instinct溝通 然後你可以根據你跟這個人的關係去決定 你們兩個instinct之間要互相share多少的資料 要有多少的這個權限這樣子 OK 那這個其實很有趣喔 你可以想像就是 假設你今天要跟你同事 下禮拜要找個時間開個會討論新產品 那這個時候呢 你就可以派你的instinct 去跟他的instinct去喬時間 那因為你的instinct 跟他的instinct之間的關係是co-worker 所以說互相會share你們的工作的calendar 所以說你的instinct就會對比一下 你的calendar上面這個時間有空啊 然後去跟對面的instinct去喬一下 好兩邊喬來喬去喬來喬去 喬到一個時間 他們就會各自定下來 然後定下來就各自在你們的calendar上面 把這個時間給book下來 好然後整個過程呢 你跟你的同事都不用講任何一句話 你們的instinct之間自己把事情給喬出來了 OK 那如果你今天的對象是你的 比如說老公老婆OK 那你們可以 你們互相之間instinct能夠share的權限 可能又會跟工作不太一樣嘛 又會有更多一些 可能小孩的一些資料啊 或者是什麼其他相關的 那這一點呢 就是我覺得也是其他家比較沒有的 OK 好那instinct是這樣子 接下來我們來聊一下muse muse他最大的特點呢 就是他們超級focus在資安 你去看祖克伯最近上的一些節目 他講到muse 他至少都有20分鐘 就60分鐘的podcast 他至少有20分鐘在講資安 然後沒有人問他資安 他一定會講20分鐘 他一定會想辦法就是導到資安 他就是要講資安 因為這個是他覺得muse 他們做得很好的一點 OK 然後確實至少從他們發表的內容來看呢 他們可能也真的是在目前的四大天王當中 把資安做得最好的 好那當然除了像我們剛剛有講的那些 資安的基本機制 我覺得是 我覺得我們剛剛講的那些 可能是每家都有多少有做的 那muse這邊就很明確他們有講 他們有做這件事情 然後做得很好 好像是他們有這個 他們叫做centinel agent 這個centinel agent 就是一個門位的概念 每一個這個muse 他要實際去做出的行為 如果是比較高風險等等的 都至少要經過這個centinel agent 好那除此之外 他們還有一些自己的額外的機制 像是他有個所謂的 tainted egress的機制 這個就是在說 假設今天muse在做的這一個session 這個process過程中 有碰到任何你的私人資料的話 那這個process 它就會被標示成是tainted 就是它會被標示起來這樣子 那標示起來的這些process 後續的安全門檻都會提高 OK 換言之呢就是假設今天你叫muse做某件事情 那它的context當中 其實完全不會碰到你的個人資料 你只是單純叫他去查一些電影的時刻表 之類的沒有叫他去book 那它的這個安全門檻就會降低 那它就會很快速的幫你去完成這些事情 但假設你一旦給他你的信用卡卡號 或者說你一定一旦給他一些 你要訂票的一些資訊之後 那後續他每一個步驟安全的門檻都會提高 OK 那除此之外 祖克伯這次還直接找了Signal的共同創辦人 來搞confidential VM OK 那Signal你若不知道的話 它是一個算是以資安出名的一個 非常隱私的一個聊天APP OK 那你可以想像它的創辦人就是一個這些資安的專家 那它要搞一個叫做所謂confidential VM的東西 這個是他們現在還沒有做的喔 他們還在做的 他們你現在使用Muse的話 它會給你的VM是叫做secure VM 那就有剛剛我們講的這些tainted egress 或是各種安全的機制這樣子 但未來的這個confidential VM 它又更進一步 是到就是說任何使用者資料 連Meta自己都沒有辦法access 因為嚴格來說 現在Meta如果想要去看任何一個使用者的個人資料的話 他們技術上是做得到的 OK 這在secure VM上是做得到的 但是下一步如果他們這個confidential VM做完了之後呢 是連Meta自己都沒有辦法隨便調閱任何一個使用者的資料的 OK 這個技術上是做不到的 但當然啦 就是Meta很努力的想要把這個資安做好 大家會不會買單又是另外一件事情啦 就是我覺得 我有在臉書上po一篇在討論類似的事情的文 下面刷了一整排幾百則留言 全部都在講說信個屁啊 這個祖克勃蜥蜴人 誰會信他的資安啊 做臉書做IG這種賣個資的產品 你現在要我相信你的資安 沒有人會想相信的 但我覺得這個就是 就是技術上你可以做得很安全 但是你要怎麼說服大眾又是另外一件事情啦 OK Anyways Muse大概的特點就是這樣 接下來我們講Grockbot 那Grok Bot的特點呢 就是多agent協作的團隊 OK 他們是唯一一個從day one一開始呢 就是讓你一個人就可以建立很多個agent 建立一整個agent大軍的一個服務 其他像是Dots 是單一agent 然後Muse單一agent 然後Instinct單一agent這樣子 那當然OpenAI說他們後續會再把這個多agent協作的功能再開起來啦 但反正現在只有Grockbot有 那這個feature呢 我個人覺得絕對是一個必要的 是一個好的feature OK 因為雖說現在的這種單一agent呢 你仍然可以平行派給他很多不一樣的工作 OK 就是因為這個我們剛剛也有講到嘛 他不是term based的 不是像codex一樣 你給他一個東西 然後完成之後你再給他下一步 你可以在 就是這些所有的agent都可以在 他做一個專案的同時 你可以插畫 叫他改方向 或者是叫他同時又開啟另外一個新的專案 都沒有問題的 但是長遠來看 你還是會想要有不同的agent去負責不同的責任 OK不同的目標 好這樣還是可以分的比較好 畢竟每個agent有自己的contact自己的記憶 然後也有自己的角色 你可以去設定他嘛對不對 好那像是對我來說呢 我現在就蠻想要把我的日常生活跟我的工作分開 然後工作這邊甚至也可以分成我的自媒體相關的工作 跟我的新創這邊的工作 我也是想要把他們分開這樣 好那我覺得這樣子還是 甚至我覺得新創這邊每個產品我都想要有一個自己的agent 好這樣其實才是對我來說最ideal的 好那我現在其實全部都搞在同一個dots裡面這樣 好那有了這些bots之後呢 一方面是你自己可以更有組織 更乾淨的去切分你今天要做什麼事情 然後你就再拿一個就是跟哪一個bots去完成這樣子 同時bots之間也可以去协作 OK他們之間也可以去討論啊 可以去互相就是派作業啊這樣子 派工作 其實這樣协作起來也真的是蠻不錯的啦 好那grokbot的特色就講到這邊 最後是dots 好dots這邊的特色呢就是沒有特色 好嚴格來說 dots的特色呢就是它是open ai開發的 OK好那這個換言之呢就是 它可以使用open ai的ecosystem 對不對 這個其實真的是一個特色啦 就是畢竟我是長期使用codex的用戶 所以說這對我來說是很大很大的一個優勢 我的這個memory呢就是codex有很多 然後我的一些skills也都存在codex當中 然後我的codex已經連到各種我的工具了 所以說然後我同時也持續在課金嘛 持續在買那個plan200美金的plan 所以dots直接出現在open ai的ecosystem當中 對我來說是一個很大很大的加分啦 但單純論產品本身他們真的沒什麼特色我覺得 那從這點我覺得也真的可以看得出來 這些ai產品的生態系互層和也真的慢慢建立起來了 不得不這麼說 因為嚴格來說啦 就單純論產品現在的feature跟設計呢 我覺得grokbot一定是比dots更好的 OK我自己其實也有稍微用過一下grokbot 我也是覺得我能夠看得出來 如果我把grokbot用到滿的話 他應該比dots更強 OK但是為什麼我現在還是主要使用dots 我就是很難切到grokbot為什麼 就是我不想再串一堆東西 然後又再把我的skills又帶過去 然後要把我的那個memory 我的context 然後我的各種使用習慣等等 我要重新跟grokbot講一次 好那嚴格來說這些事情 其實也沒有到非常困難去設定嘛對不對 就是嚴格來說你的memory 你也可以透過幾個prompt 從這個openai算是蒸餾出來嗎 就是擷取出來吧 就是把它再丟到grok裡面這樣子 但我就真的覺得 好不想要一直這樣切來切去 換來換去 真的很煩 所以那時候grokbot剛出來的時候呢 我就是只有試用以下 但我沒有真的就是讓他變成一個長期的工作夥伴 好因為那個時候我就有在使用龍蝦了嘛 我就主要就是去用龍蝦這樣子 OK但是dots出來之後呢 好我就真的把龍蝦搬到dots上面 然後目前的體驗都是完全ok的 我過去這兩天完全沒有碰我的龍蝦 過去應該說三天啊 完全沒有碰我的龍蝦 好那具體來說我是怎麼使用dots的呢 我來分享一些我的用法 好首先我有一個dots會24小時一直幫我在做的事情 就是他會持續幫我build我的一個新產品的prototype OK那這個算是我最近這一兩個禮拜開始的一個新的專案 就是我們那個氛圍科技一個新產品的一個原型這樣 那這個prototype會需要花蠻多時間去polish的 它是一個算是蠻大的一個project這樣子 那我現在的做法呢就是我首先先跟dots定義清楚了說 我想要把這個prototype build到什麼樣子的程度 我最終的目標是什麼 OK然後這個目標是非常具體的一個目標 而且也不是一個三兩下就可以達到的目標 好絕對不是隨便幾個半小時一小時的codex session就可以完成的 好是一個蠻大的一個目標這樣子 好那定義清楚了這個目標之後呢 我就跟這個dots就說 達到這個目標之前你都不要停止 你就是一直持續的開新的這個codex的threads 然後持續去build這個prototype這樣子 那dots真的就是會開這些新的codex的工作 然後他會給這些codex下prompt 好根據我要的目標去下prompt 好當然他有breakdown 他有整個計畫啦就一步一步來 但他會去下prompt 然後會持續去follow up 好這些codex的進度 然後codex做出東西之後呢 他也會看做出的東西 好離我的目標有沒有近一點 好然後持續去這個校正啊去調整 好然後讓他們去做出更接近我想要的東西 好那他等於是他自己管很多sub-agent的這種感覺 好那過程中呢我也有給他一個規則就是 每做到一個段落 你就要push到github OK 好把那個進度存下來 然後同時也給我一個可以直接在手機上就預覽的link OK讓我在任何時間就算在外面沒有電腦 我也可以直接從手機很快速的看一下 他做到什麼樣子的程度 然後我會隨時給他快速的feedback 就是我如果有機會看的話 我就會給他feedback 好然後給他調整一些方向這樣子 那我沒有機會看沒有時間看的話 他也不會理我 他也不會等我的feedback 他會持續自己build下去 OK 那這個工作呢就是他會無時無刻一直持續進行的 就是我們現在在錄podcast的此時此刻 他也一直在幫我build產品 那當然這會燒大量大量的usage 但這個原本就是我想要的 因為我還有一張那個reset去用 也可以重置券 要趕快把我的那個額度燒完 我才可以重置一下 但這個是他持續在背景會執行的一件事情 然後他已經跑了一天左右了 然後目前的結果我非常的滿意 OK真的非常滿意 就這個進度真的是 之前是無法比擬的你知道嗎 因為你要知道 之前的做法都比較像是說 我自己會需要先是把這個prototype 先去breakdown成不同的模組 然後每個模組我要派給一個codex的thread去執行 然後同時讓他們跑 可能他們跑了三四分鐘 我自己要跑回來檢查一下 他們跑完了沒 跑完了之後要看一下他們的產出 然後再去給他們下一步這樣子 我如果沒有看的話 他們就待在那邊 他們就不會動了 OK 所以我會變成一個很大的瓶頸 但今天我的boss就完全把我的瓶頸給拿掉了 我們整個build產品的速度快太多了 我變成是偶爾想到可以給一些input的角色 真的這個體驗真是太好太好了 那所以這個是我的Dots會持續進行的一個任務 但是他在工作的過程當中呢 我偶爾也是會丟新的任務給他 有些是跟處理信件相關的 我的信件現在其實已經就是 是完全交給Dots 跟一些codex的crown job去處理的 crown job就是那些你事先預定安排好 他會定時執行的一些工作 OK那我這邊在做的就是 他每天早上9點半的時候 會幫我整理當天的所有 我需要回的信件 只有我要回的信件 不回的他就略過 那我要回的信件 他每一封會先幫我自己 根據我之前的那個回信的skills 就是我有根據我過去三年的所有科技浪的工作信件呢 去就是做成一個完整的skills 就是哈利如何回信的skills 那他會根據我的skills先去把我可能的回覆先擬出來 然後我會做出一個html的簡合表 OK就是一個簡合的網站這樣子 那我在這個簡合表的網站中 我就很快速的勾選 這個回覆OK就直接你操告 這個回覆不行我就手動改一下 然後這回覆我覺得現在先暫緩 然後就反正我可以很快的去確定 每一封信我要怎麼處理 然後後續就叫他發送 他就自己建立操告 然後信件就全部發出去 好那但這個不算是DOTS在做的事情 這個是Codex的Crown Job 好那DOTS在做的事情呢 比較像是說 我突然想要發一封信 就是比如說 我們最近分為科技在真材嘛對不對 有很多的面試的信要發 好那我可能整個履歷的篩選 我本來就是在DOTS裡面進行 那篩完了之後呢 我就跟他說OK 那這個人這個人這個人 幫我寄一封面試邀請過去這樣子 好那我就不用完全 過程中完全不用去Gmail那邊 好除非要把那個calendar時間book出來 那book完了之後 得到一個連結之後 理論上我完全不用去Gmail那邊 我就直接在DOTS裡面 就完成這些所有發行的工作了 那當然除此之外 還有很多各種小事呢 我都會叫DOTS去趕快幫我處理一下 那我覺得之後呢 一定我也會發覺更多的use case 到時候再跟大家分享 好但反正我覺得如果你有機會去嘗試一下 這些個人AI agent的話 真的要去用一下 完全是跟你之前 你這輩子用過的所有產品都完全不一樣 OK真的是完全不一樣的高度很扯 OK這真的是一個未來的感覺 好那 當然我覺得DOTS還是有很多的Rough Edges 就是有很多 還沒有做到完美的體驗 好就比如說有些工具的串接 還是有一點問題 OK 然後比較大的是這個雲端環境的使用 有一點點問題 OK我這邊在講的雲端環境 其實不是這個DOTS它自己的VM 好因為它除了自己的VM以外 這次OpenEd它還有就是發表一個新的 專門給Coding的雲端環境 是叫做Codex Cloud Environment 好那 這跟之前的Codex Cloud模式不太一樣 就是現在這個新的東西呢 是你可以在 你可以直接 就是針對某一個特定的專案 開啟一個專為這個專案設計的 一個雲端環境 它這個環境當中呢 它就是會裝完這個專案所需要的 所有不同的版本的套件啊 它特別的環境的需求啊全部設定好這樣子 那為這個專案設定完了這個環境 準備好的環境之後呢 後續你再開新的Codex Threat 你就可以直接選定這個環境 然後就直接根據這個環境去build了 OK不用說你今天在開一個新的threat 你要重新叢林再針對這個project 再去build一個環境出來就不用了 OK 那這個真的是超級好的一件事情 因為也就是有這件事情 我的Dots才可以做到我剛剛說的那件事情嘛 就持續幫我開很多不同的threat去做各種事 然後我連在手機上我都可以 就是就是掌管它的一切行為這樣子 那這個feature真的是超級好 但是我一開始在用的時候 我覺得好難用喔 就是它的問題超多的 它一開始各種各種錯誤訊息跳出來 沒有辦法去使用這個環境這樣子 所以Dots在就是雲端環境的 雲端開發環境的使用這邊 就我覺得真的也沒有到非常順啊 我是後續它才突然又可以了 我也不知道為什麼 但反正它就可以了這樣 好那我們體驗聊完了 接下來我們可以一步一步來聊一些 更宏觀的東西 像是首先我們可以聊這個商業模式 我覺得這點真的非常有趣喔 因為目前四大天王 甚至二二分 兩個人是走一派 另外兩個人是走另一派 那你看就是每間公司 他們選擇的路線 他們選擇商業模式的這個狀況呢 其實你也是可以看得出來 他們現在的公司的focus在哪邊 OK這點蠻有趣的喔 那兩個商業模式分別是什麼呢 分別是Transaction Tick Rate 就是交易抽成 以及訂閱費跟用量計費 OK 那我們先講第一個好了 Transaction Tick Rate 那這個的概念其實很單純嘛 就是你的agent幫你去完成的交易 過程當中的這個 最後的交易金額呢 這個agent可能抽一部分 可能一趴兩趴之類的 OK 那這一趴兩趴 那這個agent公司 就靠這一兩趴在賺錢 而不是靠訂閱費或是廣告 那選擇這一條路線的廠商呢 是Instinct跟Meta OK Instinct是比較這個 all in這一條路線的 他們目前的想法是 產品是完全免費的 他們絕不抽訂閱費 然後也不會有任何廣告 廣告是絕對不會有的 好那未來呢 他們就單純靠這些 這個交易的抽成去賺錢 那Meta的話 他們比較像是說 他們承諾大家 長期他們會發展成這樣 他們長期想要讓Transaction Tick Rate 成為他們主要的商業模式 但是目前他們還是有 Freemium的這個方案 就是他們的Muse 有算是蠻慷慨的免費用量 好但是你如果想要用更多的話 他們是會收費的 有20美金跟100美金的Plan 你可以再加購 那至於另外一種商業模式 就是訂閱費跟用量寄費 我覺得這個應該是大家比較熟悉的 有在用Codex的人 有在用Clock Code的人 其實基本上 應該都非常熟悉這樣子 就你現在比較像是混合型的 就是你會有訂閱費嘛 然後你超過訂閱所給你的這個用量之後呢 你就是自己刷自己的卡 就是用API的價格再購買額外的Token 就是這樣子 一個訂閱混合用量的寄費 那走這條路線的廠商就非常明確 就是OpenAI跟SpaceX AI 那OpenAI現在嚴格來說 就是他們DOTS沒有額外的訂閱費 然後也沒有額外的用量寄費 對吧 但是他們未來我相信 就是他們只有說承諾一個月 DOTS免費 我真的很怕 我真的不知道一個月之後 它到底要多少錢 好但希望是不用額外再付太多 然後Grogbot也是 它現在是包在SuperGrog 或者是Cursor Pro的訂閱當中 然後也有這個明確去計算 你的這個Grogbot的用量 好那首先這兩個不同的商業模式呢 可以很明確的看出來說 兩邊的Focus現在在哪邊 OK 這個Meta跟Instinct 他們的Focus 比較在Consumer OK一般的消費者 因為一般的消費者 才會去比較多用這些AIA人去買東西 買機票 買衣服之類有的沒的嗎 對不對 那在有這些實際的交易的過程當中 他們才有錢賺 就是這個商業模式 就只能靠這樣子 對不對 就你今天如果是叫你的Muse 去像我一樣 開發一個產品的Prototype 整個過程中燒了一堆用量 完全賺不了 他們完全賺不到一毛錢 因為沒有Transaction 對不對 Instinct也是一樣的道理 對不對 那相反的 像OpenAI跟SpaceX AI 他們用訂閱費加用量計費呢 這很明顯的就是在打 比較偏Prosumer跟Enterprise的市場 所謂的Prosumer就是 像是我這樣子的人物 就是我平時用量是比一般人大蠻多的 然後我會用他來做一些自己的產品啊 或者是有一些可能很多AI Agent的 這個信件處理的工作啊等等的 我用量很大 這種叫做Prosumer 那像是對我這種Prosumer 以及對於一般的企業客戶來說呢 就是使用訂閱跟用量計費才是最合理的 甚至其實未來會慢慢 越來越多往用量計費那邊走 這個是Tibo他蠻明確有指引的一條 他們前進的方向 這個Tibo就是Codex的那個 那個Project Lead啊 基本上就是人稱這個 Reset之神啊 就是他整天都在幫大家 Reset爽到不行 那反正Tibo他有跟大家說 他們未來會越來越往用量計費走 因為現在訂閱費跟用量計費 他們中間有一個蠻大的價差 你訂閱費你能使用到的量 你換算成API價格的話 會遠遠遠遠遠超過你的訂閱費用 這個就是為什麼我最一開始跟大家說 200美金的訂閱方案CP值真的是高到爛掉 就是這樣子 你可能200美金的方案 你一個月花200美金 但是你實際用量如果有用好用滿的話 你可能可以花到破萬美金的API價格 OK 所以你看這個差距真的是非常之巨大 你如果每周都有用滿的話 你真的說你真的是賺爛了 但未來API價格會跟訂閱費會越來越接近 這是Tibo說的 反正這個商業模式 就是比較適合 Prosumer跟一般的Enterprise 如果是對於一般消費者來說 是非常的不適合 因為一般消費者就是 他習慣用免費的東西 對不對 你今天如果給 你就算是開出一個20美金一個月的訂閱 你的整個市場也會大幅縮小 因為大家就是不想要付錢 絕大多數人就是免費在 這是一般的消費者的狀況 那你就是要打一般消費者 你還真的是要使用這種 Transaction Take Rate的方式 他們會比較願意接受 因為你看 Transaction Take Rate真的就是 對消費者非常非常友好 他們完全不用付一毛錢 可以更快的買到他想要的產品 然後甚至如果在Ideal理想的情況當中 這個Take Rate的部分 這一部分額外的錢呢 是廠商是商家需要去承擔的 那這個對於消費者來說 真的就是完全只有好處沒有壞處 當然這個是理想的情況啦 未來可能一定還是會有一些狀況之下 商家會把這個額外的成本 是反映在消費者的身上 但是理想的狀況 就算是反映在消費者身上 這也不會太誇張嘛 就是你得到了很大的方便 但你只要額外多付一兩%的錢之類的 同時站在公司的角度來看呢 這個商業模式只要AIAgent真的 在未來變成了大家主要跟網路世界溝通的界面的話 這個商業模式絕對是會賺錢賺爛的 OK 為什麼 因為這個Total Addressable Market可以很簡單算出來嘛 對不對 Total Addressable Market就是 你這個商業模式這個產品 就是整塊餅究竟有多大 你最多能夠吃下的究竟有多大 OK 那這整個市場有多大呢 其實很簡單算呢 就是你把Visa跟MasterCard 一年全球的交易量 再乘上平均一個AIAgent能夠抽幾% 那你得到的這個數字呢 就會是AIAgent整個市場的大小 OK 整個Revenue Potential究竟有多大 那Visa跟MasterCard的整個Transaction Volume 都網路上都查得到 就是大概一年23兆美元 非常之巨大 那在這23兆當中呢 當然有很多是實體通路的 這些可能是Agent沒有辦法最直接取代的 它可能比較取代線上通路嘛 那線上通路至少也佔一半以上啦 OK 所以我們隨便抓60%好了 抓60%這樣子一年有14兆 OK 那當然啦 就是我覺得在未來這個數字 只會持續提升不會下降 越來越多會在線上完成 但反正14兆一年呢 你在乘上一個TakeGrade 你TakeGrade只要1%就好 你一年就是有1400億 OK 1400億美元的這個 Revenue的可能性 那這當然是一個超級巨大的市場 但還不到一個超級天文數字嘛 對不對 就是你如果拿到這個科技巨頭的等級來看的話 仍然是一個很大很大的生意 但不會說真的是超級無法想像的底部 OK 但是我必須說 就是TakeGrade不一定是1% 你要知道 就是1%我只是隨便亂舉的一個數字 有可能是2% 有可能3%都有可能喔 為什麼 OK 因為你要知道 Visa跟MasterCard只能拿幾個小數點 是因為他們是支付層 OK 他們是金融層 那整個金融層就是 好多個Vendor 可能30家40家 全部都在分那2%的一個金流的費用 對吧 MasterCard分其中一點點 然後那個Stripe分其中一點點 然後誰分其中一點點等等 全部全部分掉 就大家分2%這樣 好 但是 AI Agent比起支付層 它其實更接近Aggregator 更接近這些聚合者的這一層 OK 我隨便舉一個比例就是 比起MasterCard AI Agent其實更像是Skyscanner嘛 對不對 那所以說 就像是這些航空公司 會付佣金給Skyscanner 你每次透過Skyscanner 買某間公司的這個機票 這個他們就是會付一筆佣金 給Skyscanner嘛 對不對 這個就是Skyscanner 產生的價值 OK 那今天AI Agent 能夠產生這個價值 那這個價值 會是1% 2%而已嗎 就不一定嘛 這個就非常看產業 它底層邏輯呢 就是看說 在這個產業當中 AI Agent 這個帶來的通路價值究竟有多高 如果像Skyscanner這樣 通路價值很高的 就是這個AI Agent 能夠幫助你 Discover到這間公司的機票 然後你如果沒有用 AI Agent的話 你可能不會買這間公司的機票的話 等於是 這間公司的機票是 這個AI Agent 帶來的生意 那這邊AI Agent就有能力 去charge非常多 OK 去take非常多 那所以說 最後 各個產業加起來的average 到底是幾% 就不一定 但你要知道它不會受到 傳統的 金融的只有一兩%的那種限制 那目前這個 Transaction Take Rate 跟訂閱費 用量計費的商業模式 大家都已經理解了 我覺得有些人可能會 開始納悶 好像有一個還沒提到 對不對 廣告啊 廣告也是一個很大的商業模式 然後也算是上一波 這個網際網路的革命之下 這些網路公司最常用最主要的一個商業模式之一 像Meta Google都是靠廣告做起來的 那為什麼在最新的這一波AI Agent沒有人在考慮廣告呢 那針對這一點呢 我覺得那個Instinct的CEO他講得非常好 他在最近一次訪談呢 他有被問到這一題 然後他就講說 未來這些AI Agent會比大家都還聰明 而且他會無限了解你這個人 OK 他是我們之前的任何產品 就算是Meta 就算是IG的這些社學媒體 你整天花那麼多時間在上面 他也沒有辦法像一個AI Agent一樣 這麼了解你 那這麼了解你又這麼聰明的entity 他如果有一個要提升廣告收入的誘因的話 結果會非常恐怖 OK 因為要賣廣告給你太簡單了 他比你聰明這麼多又這麼了解你 他一定可以讓你買一大堆你用不到的東西 結果會很恐怖 那我自己是非常認同這個想法的 OK 我知道在商業分析界呢 有一派人是非常支持廣告的 他們認為這些Agent應該也有廣告 但是我自己個人是比較站在Instinct CEO這邊 我真的覺得廣告如果出現在Agent的使用過程當中 真的是太危險了啦 太恐怖了 就真的是你可以想像一個世界就是 大家已經不用再決定自己要買什麼了 就是Agent會一直瘋狂幫你買東西 大概就是這樣子的概念 或者是說Agent講什麼你就買什麼 講什麼你就買什麼 因為他懂你嘛 他比你聰明那麼多嘛 你也沒有辦法 就是他一定找得到方法讓你買啊 那講到這點其實也可以帶到 我們對於未來網路世界的看法 其實這點呢 我覺得我們在科技上已經講好幾年了 OK 就是 AI Agent成為新的網路UI 不會再需要App介面的這件事情 我覺得我們從2024年就開始講了 真的 就是大家可以回去翻 我記得 我還記得很清楚 60幾集我們在講高通的時候 我們在講就是 反正我們講好多不同的主題的時候 我們都有講到 未來AIAgent就是新的網路UI這一點 所以概念上呢就是說 因為你未來去叫Uber啊 你去訂飯店啊等等的 你不會實際上UberEast 不會實際到Agoda上面 去點來點去操作去訂飯店了 AI Agent就是這個UI了 你只要跟Agent說 Agent會自己幫你找到你需要的 或者說自己去呈現出你 就是各個選項 直接在這個chat界面中讓你選之類的 或者是直接 當下即刻生成一個新的界面 讓你立刻點選 那這個未來我們已經算是展望了好多年 現在就真的是有感 我們朝這邊前進了一大步了 因為你看一下像是Muse 他最近很多消費者透過他能夠做到的事情 以及像是Instinct等等的 你看到當下在做的事情 我們真的是越來越往這邊進一步了 那我覺得下一步要思考的就是 那什麼app會死掉 什麼app會價值提升 未來的這整個網路世界的這些 digital product跟digital service 究竟會如何改變 那我覺得這邊有些人可能就很天真的以為 那可能底層服務全部都會死掉吧對不對 不是絕對不是好不好 你今天不用一個服務的UI 不代表這個服務會死掉 你那到底要怎麼決定說 哪些服務會死掉 哪些會變得更有價值 然後哪些會不變 你就是要思考說 目前的這個服務或是這個數位產品 它的收入來源究竟是來自於消費者 停留在這個UI上的時間 還是來自於消費者的摩擦力 還是來自於這個服務本身 OK 那如果是它的比較多的這個收入 如果是來自於這個服務本身的話 那這個服務應該不太會受到AI agent影響太多 甚至會得利於AI agent 一個蠻經典的例子就是像Uber Eats 對不對 這個Uber Eats呢 它提供的價值本身 它收的錢本身 是來自於它的這整個外送員跟店家之間的Network 這個網路 OK 那它的UI本身 是沒有多大的這個revenue的可能性的 你今天狂滑Uber Eats的UI 它也不會賺更多錢 就是你今天真的是要下單了 有他們幫你安排了一個外送員跟店家之間的這個溝通之後 它才從中間抽一筆 那像這筆是這種就還好 但像什麼樣子的這個服務是最容易GG的 就像是我剛剛講到Skyscanner 那其實Skyscanner現在它產生價值的地方呢 第一個是來自於這個網頁的廣告收入嘛 因為你會用Skyscanner的人 都是很明確你想要坐飛機到某個地方的人 所以說你有一個很明確意圖的這種流量呢 其實是很好的廣告流量 他們可以賣給你一些什麼旅遊的package啊 或是賣給你一些旅遊會用的東西這樣子 那同時他們還有另外一個商業模式就是抽佣金嘛 但其實Skyscanner本身 它並沒有自己特別的資料庫 或者是它特別的聚合這些資料的能力 聚合這些商家的能力 OK 它只是 它其實主要也是依靠 大家本來就是各家網站 各家航空網路 航空公司他們本來就有公開的資訊 所以今天一個AI agent 他其實自己就可以收集到這些資訊 自己幫你進行比較 自己幫你選擇一個最好的選項 然後幫你訂機票 那過程中 你不會再需要使用Skyscanner 所以你不會有他們UI上面的流量了 他們就不會有這邊的廣告收入 然後他們連佣金收入 都被AI agent給取代了 因為AI agent也不會用到Skyscanner 他自己去找各家的航空公司 所以像Skyscanner 我覺得應該就是G了 OK 那除此之外 那也有很多其他的會 可能不一定G掉 但是會有一些損失 像是有一些靠著消費者的摩擦力的 比如說有一些產品的訂閱服務 很難取消 對不對 像是什麼 某爾街日報 或是某約時報 哇 他們就是超級難取消 就我記得以前你還要打電話給他們 但現在好像不用打電話 但還是就是感覺非常難取消 點來點去 一大堆有的沒的 好 然後 然後同時像是有些 比如說保險 OK 像保險 你常常保了一個 你覺得不是最好的保險 然後你想去換 但是就很麻煩 對不對 要換他很麻煩 但未來AI agent 持續直接幫你找到最優的保險 那你絕對不會去挑到一個 對你來說現在不是很好的保險 這樣子 那除此之外 還有很多都是依賴消費者的摩擦力的這種business 真的都會稍微走下坡一點 好 那最後呢就聊到我們今天的最後一個話題 就是關於算力需求的這一點 AI infra的這一點 好 那我們今天有說 今天這集呢 我們就focus在CPU的需求試算嘛 對不對 好 那這邊呢 其實我自己有做過幾次的試算 然後後來是發現 我跟網路上的一個分析師的試算非常接近 好 他是那個Frida 好 他是 沒記錯的話應該是 Brad Gershner 團隊的吧 好 那反正是 就是厲害的一個分析師 好 我偶爾會看他的一些 他蠻擅長做這些各種的market sizing 我偶爾就是會看一些這樣子 好 那他就是有 我針對這一次的這個CPU需求呢 做了一個試算 具體來說呢 他在算的是 今天假設MetaMuse 有一億的daily active user 就每天有在日活躍用戶 有一億人的狀況之下呢 會有多大的 他會需要買多少的CPU OK 買多少這邊在講的是 要花多少錢去買CPU 建這個資料中心 才能夠support一億的用戶這樣 那 結果呢 我直接跟大家講結果就是 我覺得這個金額蠻小的 OK 比大多數人想的應該都小蠻多的 他的算法是這樣 就是一億人呢 就是一百million嘛 對不對 我們用美國的單位比較好講 就是million OK 那一百million當然 雖然每天活躍也不代表 同一時刻全部人都會上線嘛 對不對 那你今天要決定你的infrastructure 你的CPU量究竟要多少的話呢 你還是要看你的尖峰到底多少人 對不對 因為你只要尖峰能夠應付就OK了嘛 對不對 那尖峰要怎麼算呢 你就要看說 你這100million的用戶 他平均一個時刻最多同時上線的人 會是多少 那這個free.他是抓20million 怎麼抓的呢 當然你可以直接抓說尖峰用量是 大概20%的人口 但這20%其實也是可以用算的算出來 就是假設你使用者一天用兩個小時的話 就代表你一天的agent工作小時 總共有200million 對不對 2乘以100million 那這200million平均 就是除以24小時 就代表平均每小時會有 8.33million個agent在跑 OK 那假設尖峰用量是平均的2.5倍的話 就8.33乘以2.5呢 就差不多是20嘛 對不對 好所以假設在一天的尖峰當中 最多同時會有20million個用戶同時在用 嚴格來說啦 是20million個用戶的agent同時在活躍 好這個用戶不一定真的在用 這個agent可能在背景處理一些事情嘛 好這也在活躍的狀況之下 好像是我 我的這個DOTS 它基本上是24小時活躍的狀況 好那 反正有20million個這個agent在活躍 你不可能剛剛好就是能夠支援20million個VM 剛好用到100% 那假設你有20%的榮餘的話呢 就代表你的硬體需要同時能夠支援 差不多25million個VM OK 那25million個VM呢 大概會需要多少的CPU硬體核心呢 好因為這個不是1比1喔 好並不是說你今天要開一個VM 你就是要一個實際的具體的CPU的核心 就是分配給它 不一定 VM是一個殺核的概念 你可以一個核心support多個VM 因為每個VM的實際的CPU用量需求是不一定的 好假設你這個VM真的就是小小的只是在背景 在等一個crownjob還是什麼的 你其實不會需要用到很多 但假設你今天是在跑一些城市 那你就會用到很多嘛對不對 那根據FREDA他的試算呢 就是他參考了DeepSeq的數據 DeepSeq他們有公佈一個數據 是他們內部在做一些agent訓練的時候 在跑這些agent的殺核 他們是用了160個CPU node 總共3萬個CPU的核心 就可以同時服務38萬個殺核 那FREDA覺得說 這是DeepSeq他在整個效率上最優化的結果 假設Meta沒有辦法最優化到這種極端的程度 可以抓大概是差不多0.5個核心 實體核心可以負責一個VM OK 所以說換言之呢 25M個VM 就只會需要差不多12.5M個實際的硬體CPU核心 那12.5M個硬體的CPU核心呢 大概是5萬顆的Server CPU 假設一個CPU是用256個核心的規格的話 那這樣子的結果 就是5萬個256核心的Server CPU 你就可以直接用現在試價 算出說這樣子的成本大概是多少 那大概是800M OK 所以結論啊 就是Meta你只要花800M的錢去買這些CPU 你就可以服務1億個日活躍用戶了 OK 那這個跟GPU我們在講的這個 規模是不太不太一樣的嘛 對不對 GPU是大蠻多的 是貴蠻多的一個東西 CPU沒想到其實 大家一起共享這些資源呢 是沒有到這麼貴的 當然AMD跟Intel還是噴了很多波 就是從這個 應該是差不多年初那個時候 還是年中的時候 有因為CPU噴一波 股價的部分有噴一波 然後最近這一個月呢 也因為MetaMuse的爆紅 又有噴一波這樣子 但是其實兩波我都沒有到跟得很多 就我這個CPU的持股是很少的 那也是因為一直以來我都覺得說 CPU這邊我真的不懂 就它感覺機會 revenue的機會真的沒有到超級巨大 那我怎麼想都不覺得 它應該它會真的影響股價影響到非常多 但我可能也是 我就是也是錯過了這樣子 那當然啦 我覺得FREDA這個試算呢 是有蠻多可以去調整的地方 那你如果要調的話 最重要的調整的參數 就是一天用戶使用幾小時的這個 OK因為這個會影響你100M的日回月用戶 究竟你的尖峰究竟會多少個人嗎 對不對 因為假設一個用戶使用兩小時的狀況下 是20M但是一個用戶平均使用兩小時 不一定是常態啊 像是我 我一天使用24小時耶 那當然我是Prosumer 我不是一般的Consumer 但等到這些AI Agent真的變得非常有用的時候 然後這些一般的Consumer都有 把他們的生活跟工作很大一部分全部交給他的時候 我覺得一個人 一天的Agent用量絕對超過兩小時啊 OK 尤其是這個是Agent活躍的時間 不是你實際用的時間嗎 對不對 你可以想像很多時候 你在睡覺的時候 這個Agent都在幫你處理事情 都在等待某一些事情 都會持續的是Active的使用這些VM 好那到時候一天的平均 絕對是遠遠超過兩小時的我覺得 好那這邊算一算呢 其實你的這整個數字會調整的蠻大的 OK 然後除此之外還有另外一個重要數字 就是你的Daily Active User的總數嘛 對不對 我現在這邊是算1億 好那1億當然已經是一個很巨大的產品類別 但是這個AI Agent可能是一個 全世界有在用網路的人都會使用的東西 OK已經是Google Search等級的這種產品了 那如果是像這種產品的話 那1億就是有點低估了 所以這樣算一算 CPU未來的潛能其實也真的是蠻大的 但是我必須說 FREDA的這個試算呢 初期應該是蠻接近的 OK 因為你要知道 一般使用者要用這些AI Agent 用到一天平均活躍超過兩個小時 還需要一段時間 我自己一個人是這麼覺得 OK 它實際的使用時間 我猜可能一小時半小時就差不多了 不會超過那個時間太多了 就你平時一天 就是你在手機上的時間 抓個可能6小時好了 那這6個小時呢 你可能至少有4、5個小時 你都是在用娛樂產品 就是在用Meta 的這種 你在刷IG 在刷Threads 或是你在跟你的朋友聊天 對不對 你實際有在做事的時間 有沒有超過一個小時 我覺得應該也沒有 對不對 可能半小時 那這段時間當中呢 你的VM當然是Active的 但是除此之外 它可能背景還是多幫你處理了一個多小時的 一些有的沒的雜七雜八的事情 那加起來就是一天差不多兩個小時是差不多啦 就你沒有把全人生交給它的狀況之下 我覺得短期是蠻合理的 好啦那這集Podcast的時間呢 也就是爆出了蠻多的 我們就跟大家聊到這邊啦 我覺得這集太多東西 我真的是我必須得講完的 OK就我覺得算是比較像是 AI Agent的一個101吧 OK 大家聽完這集都了解了這些Agent 它到底是什麼 然後它就是現在目前產品各自之間的差別 他們的商業模式 以及他們未來可能對於世界的一些影響這樣子 但是這個只是one on one 我覺得後續我們在未來的科技廊呢 一定還會持續提到這個Personal AI Agent的話題 然後也有很多可以討論的 就下一個可以討論的點可能就是 這邊接下來的競爭格局會是怎麼樣子 OK 就是大家誰到底誰會勝出啊等等 有的沒的 這邊又是一個大的很大的議題了 我們可以之後再討論這樣子 那假設今天這集科技廊對你來說是有點幫助 如果你覺得今天內容是好的話 歡迎給我們一個五星評分留言 然後把科技廊分享給你的親朋好友同事們去聽 我們科技廊呢就是 我覺得聽到現在也都是老聽眾啦 就流量成長蠻困難的 就歡迎大家 如果覺得節目好的話 歡迎分享給朋友們 好那我們就下集再見囉 拜拜