先說結論: 珍惜生命, 遠離妖股 你不看好空手就好, 不要去放空, 妖股的漲跌是華爾街早餐桌上聊天決定的 再來說Coreweave這家公司, 對, 這就是家空殼公司, 這是crunchbase 裡頭的資訊, 過幾天可能會被刪掉避風頭, 所以我先在這裡備份資訊, https://www.crunchbase.com/organization/coreweave/people Brian Venturo Co-Founder and CTO https://www.linkedin.com/in/brian-v-6719b812/ Haverford College Bachelors, Economics Partner Hudson Ridge Asset Management LLC Michael Intrator Co-Founder and CEO CTO 是經濟系畢業, 前一份工作是在華爾街賣CDO, CEO 歷史系/人資系畢業, 前一份工作在華爾街賣CDO, 整間公司沒有任何一個人懂技術, 不過我相信這公司一定跟華爾街關係很好 Coreweave 之前是作加密貨幣, 應該就是做雲端挖礦機出租, 現在用一模一樣的概念跟同樣NVDA 的機器, 把挖礦機改名成為AI 機器繼續做雲端出租, 這種東西是投機到不行的, 基本上碰CDO, 加密貨幣, 挖礦機這些東西都是超級投機 我們就來談技術, 這是他們的官網: https://www.coreweave.com/ 基本上就是用open source 的 kubernetes (我前面文章有解釋), 這樣要跟其他雲端大廠競爭? 更何況kubernetes 是GOOG 開發的 三大廠AWS/MSFT/GOOG 現在之所有用 H100 並不是真的無法取代H100, 而是跟華爾街以及炒股大戶的AI 科學家們妥協, 不用H100 就會被華爾街認為沒有 AI 競爭力, 公司股價暴跌, 不用H100 就會被AI 科學家們認為平台難用難開發, 但是這只是目前的妥協 其實如果底層不要用CUDA, 可以有非常多的其他選擇, 像是OpenCL/OpenGL 等, 硬體可以用TPU, AMD, 自製ASIC 等等, 真的不是非用H100 不可 我在雲端市場研發也算是有一段時間, 雲端市場很難打進去的, 一大堆奧客, 就像我前面說的AI 科學家們沒有CUDA 就不會寫代碼, 我跟他們解釋半天用OpenCL 用Tensorflow, 他們就是不願意接受, 誰叫我是開發雲端AI 平台給人使用, 然後很多客戶要求一堆的support, 還有一堆鳥問題跟急單, 最好再送sample code, sample or reference model, 最好是可以直接套用, 這樣一家空殼公司, 根本無法處理這些事情 ※ 引述《LDPC (Channel Coding)》之銘言: : 我有在follow coreweave 但是朝另外一個方向 Coreweave現在規劃就是死抱老黃和 : 微軟大腿 他提供的就是第三方租借算力 其他類似的公司有Amazon/Google/Lambda : 然後Coreweave也有跟微軟簽約提供算力 : 老黃這陣子看得出來 他有在朝算力租借這邊佈局 : 在講這些玩家之前 先科普一下如果踏入AI產業 你大概會選擇三個方向其中一個 : AI開發者有大概三個族群 : 1.Train From Scratch (大公司玩家 每年AI頂會三大會 會看到他們出現刷存在感) : 代表產物:BLIP(Saleforce)/CLIP(OpenAI)/DALLE-2(OPENAI)/LLAMA(Meta)/Palm-e(Google) : 2.Fine Tune/Adapter Design: 就是拿上面幾家公司開源的大模型作微調 或者增加套件 : 來整合下游任務 就算是如此也是吃一堆GPU運算 但比上面動輒百顆千顆GPU 小許多 : 3.Deployment (通常是Inference族群) : 開發者就是把模型部署在終端 針對各種特別User Scenario來做優化AI模型 這塊會是 : AMD將來的市場 目前市值估計是1跟2的10倍 需要的人就是做c code和模型轉變(ONNX) : Meta目前也在這佈局 : 在Foundation Model大放異彩後 以及開源平台後Hugging Face興起 : (Hugging Face 這家如果有股票 一定要買爆他) 造成許多優秀AI相關人才 : 包含工程師 都想跳入2跟3的領域 來做面對B2C的AI產業 : 這部分都屬於Foundation Model下游任務 在早期李飛飛ImageNet時代 : 這些特製化面向產業的 以前還可以用GTX/RTX這類遊戲顯卡 去做測試和開發和部署 : 現在你大概得要有V100/A100/H100才行 但這些玩意只有大公司有 : 於是老黃目前看來想幹的就是 解鎖這門檻 讓全世界新創 小型公司 任何優秀人才 : 能加入這產業 在透過Hugging Face 你現在想做LLM 只要套用幾個現成模板 : 你就可以做下游特制化產物 老黃開發了一堆套件諸如AI WorkBench 就像你在用SAAS : Matlab這類軟體 搭個幾個套件 你就可以開發屬於你自己需求下游產物模型 : Pytorch ENG Head也跑去開了一個Firework公司 走這條路 : 原本老黃是寄望雲端三大(Google/MS/Amazon)幫他推租借算力平台 但Amazon已經前後表明 : 他們更希望開發自己的算力平台 而Google/MS隨時都有可能會跳船 那老黃目前感覺就是 : 想養一個親兒子跟他們對幹又或者當替代方案...Coreweaver據傳已經要在德州蓋DGX : Cloud 做開放AI平台和算力租借整合 據理解DGX這類型Cloud就算是上面三大雲玩家也是需要重新蓋機房 : 無法拿以前的infra來升級 因此上面三個玩家也是需要花錢蓋廠 就某種意義 並沒有 : 比Coreweave來的更領先 : 但只要是聰明人都會注意到 這塊租借算力市場的矛盾性 大公司不會希望上面事情發生 : 最糟糕情況就是3這塊會各家公司分走 甚至危機到1這個Training市場 : 也就是老黃不想看到的 挑戰cuda權威 而老黃感覺是要去搶雲市場租借算力這事情 : 讓更多小資本玩家進入這市場 讓他資本做大 更依賴老黃開發工具體系 打破大公司壟斷 : 大模型 進而在算力租借市場開發新的賺錢項目 越多玩家 他就能賣越多鏟子 : 如果老黃成功打造自己的算力租借軟硬整合雲平台(雖然我不看好) 那我會去解鎖我CD帳戶繼續加碼 : 但我也能理解老黃 如果他不這樣幹 他沒辦法持續壟斷這領域 QQ 總之 繼續在旁邊吃瓜 : 看這群大佬互打 -- ※ 發信站: 批踢踢實業坊(www.ptt.org.tw), 來自: 76.103.225.6 (美國) ※ 文章網址: https://www.ptt.org.tw/Stock/M.1694133645.A.E5A
a12838910 : ai大軍即將抵達 09/08 08:44
benson01 : CUDA現在就是無可取代呀 09/08 08:50
jerrychuang : W大覺得什麼時候會改變這生態呢? 09/08 08:51
payneblue : 所以你覺得頭頭都不是本科系的就覺得是空殼公司? 09/08 08:52
zerro7 : 感覺你的空殼公司的定義怎麼好像跟市場上不太一樣 09/08 08:55
vd422: 現包養都上檯面了嗎 09/08 08:55
tomdavis : 看這家公司在整條利益鏈裡面有沒有分到錢囉 09/08 08:55
tomdavis : 老黃就學界用了十幾年 跑模型都用CUDA 用習慣了 09/08 08:57
otaku690 : 都有WSJ專訪了刪什麼 09/08 08:57
ab4daa : 不是法律系 空殼確認 09/08 08:58
tomdavis : 你真的想推廣就自己發一篇paper比較不同訓練工具 09/08 08:58
lutano: 在包養網遇到朋友= = 09/08 08:58
otaku690 : 訓練系統精華是mulit-node interconnect 09/08 08:59
j3024133 : 我也越看越覺得扯….這家才兩三億可以買二十幾億的 09/08 09:00
j3024133 : 晶片,然後錢是拿晶片抵押貸款來的,意思就是用NVDA 09/08 09:00
j3024133 : 的晶片抵押貸款去買NVDA的晶片,這邏輯跟FTX當初抵 09/08 09:00
j3024133 : 押自己的代幣去套錢根本一模一樣,有人說Blackrock 09/08 09:00
muiwo: 問卦:有包養SD的卦嗎 09/08 09:00
j3024133 : 的角色是安排公司貸款給Coreweave ,這部分不知道 09/08 09:00
j3024133 : 怎麼查出來的 09/08 09:00
otaku690 : opencl吃屎吧 09/08 09:00
tomdavis : 或是用你的工具做個開源的code給大家跑 09/08 09:01
donkilu : 不是人資吧 CEO之前是做避險基金管理的 09/08 09:01
sunuzo: 隔壁桌好像是包養SD在見面XD 09/08 09:01
donkilu : CTO資歷跟CEO重疊 大概是從以前跟到現在的親信 09/08 09:02
tomdavis : 沒有長期經營的合作關係 不能天天酸科學家不用你的 09/08 09:02
min86615 : CUDA 整個生態鍊都起來了,現在有點難被取代 09/08 09:05
Alwen : 就跟現在顯卡有點像R,其實你拿AMD的卡去跑遊戲 真 09/08 09:06
Alwen : 的沒差多少 09/08 09:06
UNIQC: aSugarDating = 包養SD? 09/08 09:06
Alwen : 但一堆單子還是指定N卡 09/08 09:06
tomdavis : 公司內部的話 就跟科學家證明你的比老黃現有的更好 09/08 09:06
Alwen : 儘管兩邊卡的遊玩體驗真的沒差多少 09/08 09:07
tomdavis : 跑出來的模型要跟CUDA跑的一樣 09/08 09:07
donkilu : 也要看perf吧 跑三天才出來 你要怎麼說服使用者用 09/08 09:09
dewaro: 未看先猜這包養網 09/08 09:09
otaku690 : 跑在單一機器都很容易啦 你8台串聯訓練看看 09/08 09:09
otaku690 : opencl那垃圾driver看看 09/08 09:10
film12 : 照妳的說法,網咖老闆只能是資工系? 09/08 09:11
tomdavis : 你這樣就是要從小用iphone的人跳安卓 09/08 09:12
Alwen : 之前教主就有說啊 一堆AI大頭手上一堆NV股票,整個 09/08 09:12
Elfego: 有人知道包養SD是什麼嗎 09/08 09:12
Alwen : 利益集團間接會鞏固老黃那邊的優勢 09/08 09:12
tomdavis : 本來就是個不只要做出好工具 還要去花時間推廣 09/08 09:12
film12 : OS很好用,為什麼7成人類用Win? 09/08 09:13
Alwen : 老黃真的很像iphone水果行,安卓說真的也不是不能 09/08 09:13
Alwen : 取代,但底下的人不想離開= = 09/08 09:13
Nicodim: 一定又是這包養網 09/08 09:13
tomdavis : TPU就估狗自己想搞自己的特規 那要教人怎麼用 09/08 09:14
opop1132 : 優文 09/08 09:14
tomdavis : 你公司內要推 你就要上面的人去跟科學家攤牌 09/08 09:15
tomdavis : 兩邊要認真直球對決一下 該罵哪邊不好用就改 09/08 09:15
easychen : 自己的晶片高價賣給自己的子公司製造缺貨的假象 09/08 09:16
Foning: 包養平台不意外 09/08 09:16
tomdavis : 就算你真的安卓做的比iphone好又如何 人家用不慣 09/08 09:16
easychen : 子公司再拿高價晶片去融資繼續高價買晶片 09/08 09:17
easychen : 好熟悉的套路啊 XDD 09/08 09:17
tomdavis : 那結果就是上面要用力推 要讓內部科學家強迫用你的 09/08 09:17
tomdavis : 阿如果模型不如預期也會全推給你的套件沒寫好不好用 09/08 09:17
AKNY: 覺得包養網EY嗎 09/08 09:17
tomdavis : 當然知道用公司自己的不要用老黃的可以省非常多錢 09/08 09:22
tomdavis : 科學家可以不要公司的錢 跳去另一家CUDA的公司就好 09/08 09:23
herculus6502: 科技業頭頭常常是sales,你說阿庫會coding? 09/08 09:23
tomdavis : 這種公司內部要推的 都是要很上層的表態用力支持 09/08 09:25
shinewind : CUDA把生態系建起來,大家懶得換也合理吧 09/08 09:25
mysister: 包養網站葉配啦 09/08 09:25
tomdavis : 不然都是吃力不討好的工作 09/08 09:25
tomdavis : 上層用力支持也不一定能成功 09/08 09:25
shinewind : 就像word、excel有替代品,但多數人還是用微軟的 09/08 09:25
tomdavis : 科學家有底氣 公司要他們拼出下一代模型 09/08 09:29
tomdavis : 如果他們好找替代人選 公司也不會這麼順從科學家 09/08 09:31
cir72: 記者收了包養網多少啦 09/08 09:31
strlen : 我覺得抱怨生態系沒什麼意思 不然我們也來抱怨為何 09/08 09:32
strlen : iOS開發平台一定要鎖Swift跟Xcode啊 尤其XCode爛死 09/08 09:32
tomdavis : 科學家的頭頭沒有強迫他們用 就代表公司沒有要求 09/08 09:33
tomdavis : 你就不能抱怨公司發錢給科學家 他們還不配合 09/08 09:33
shorty5566 : 這篇就不專業了 09/08 09:33
ATrain: 包養真亂 09/08 09:33
strlen : XCode根本就IDE中的恥辱 但你靠北Apple也沒用 09/08 09:33
strlen : 人家前面花了多少成本在推生態系 才有今天壟斷局面 09/08 09:33
strlen : 要開發iOS應用也有一堆替代方案 但就不好用R 09/08 09:34
kanx : 我以前一直不懂為何中國很興起黑蘋果這套件... 09/08 09:35
kanx : 原來安裝黑蘋果一大半為了Xcode 的編譯器 09/08 09:36
grado0802: 演藝圈一堆包養好嗎 09/08 09:36
darkangel119: 說不專業的來發一篇啊 廢魯蛇 09/08 09:36
strlen : 黑蘋問題有夠多 麻煩死了 09/08 09:38
strlen : 生態系這種東西 就是人家佈局得早 而且成功了 人家 09/08 09:39
strlen : 就有本事擺態 哪間科技大廠不是這樣 蘋果微軟亞麻造 09/08 09:39
strlen : 局造了甚至幾十年 NV也是如此而已 09/08 09:40
smilejin: 政治圈一堆包養好嗎 09/08 09:40
Alwen : 這篇給的資訊很多捏,一般新聞根本看不到這種資訊 09/08 09:41
Alwen : ,股版優文 09/08 09:41
Alwen : 大家都有認真在討論事情 09/08 09:42
LieTo : opencl/opengl這open source要花多少人多久才能達到 09/08 09:45
shorty5566 : 承認cuda做最好就好了 扯什麼AI科學家利益相扣幹麻 09/08 09:45
qusekii: 有錢人一堆包養好嗎 09/08 09:45
LieTo : CUDA的效能...還要用其它家TPU 根本-50%後再減50% 09/08 09:46
idernest : 完了 一人公司 09/08 09:47
zerro7 : 上面那個安卓跳蘋果的比喻好貼切 09/08 09:49
shorty5566 : 現在AI生態裡連那個"安卓"都沒有 當然用"蘋果" 09/08 09:50
shorty5566 : 後面一堆陰謀論扯CUDA利益相扣 根本在腦補 09/08 09:50
Y949731: 學生妹被包養多嗎 09/08 09:50
tomdavis : 以前寫扣在公司內是第一層 現在被科學家擠下去了 09/08 09:58
donkilu : 絕大部分的公司都還是用Windows吧 科技業還有能力搞 09/08 10:01
k85564 : nv這樣就變妖股也是好笑 09/08 10:01
donkilu : Linux ㄧ般公司應付電腦白癡就來不及了還Linux 09/08 10:02
donkilu : 這種東西都嘛是免錢的最貴 用便宜的整天debug就飽了 09/08 10:05
T730733: 有錢人為啥都想包養 09/08 10:05
a12838910 : 33樓 2ㄏ 09/08 10:06
zerro7 : Linux架Server好用 但一般PC還是windows首選 09/08 10:10
tomdavis : 不爽不要做 寫扣打工仔也該離職跟公司抗議(反串) 09/08 10:16
tomdavis : 科學家就是敢跟公司嗆離職所以才這麼拿翹(X 09/08 10:16
tomdavis : 不過你自己都說了CUDA是最好用的工具 09/08 10:16
FireStation: 有錢人為啥都想包養 09/08 10:16
tomdavis : 用"公司政策"講 科學家的老闆要去施壓才會有用 09/08 10:17
tomdavis : 你說公司政策 公司付薪水 他們只對自己的老闆負責 09/08 10:18
shorty5566 : 上面說得很好啊 也是有能取代excel ppt的東西 09/08 10:18
shorty5566 : 但大家最後還是用微軟壟斷的excel ppt 09/08 10:18
strlen : 這就好像你公司找iOS工程師進來 跟他說蘋果電腦太貴 09/08 10:19
Thobel: 亞洲最大包養網上線啦 09/08 10:19
strlen : 了公司要省錢我們去光華弄一台兩萬塊的桌機我幫你搞 09/08 10:19
strlen : 黑蘋開發環境一樣 你看哪個工程師不會爆炸 09/08 10:20