看板 Stock
原文標題:不是用輝達GPU!蘋果揭露靠Google自研晶片訓練AI模型 原文連結:https://udn.com/news/story/6811/8127425 發布時間:2024-07-30 09:26 記者署名:葉亭均 原文內容: 蘋果公司周一(29日)表示,支撐其AI系統Apple Intelligence的人工智慧模型是靠 Google設計的處理器進行預先訓練。這顯示蘋果並非是使用輝達(Nvidia)的晶片來訓練 AI模型,也是大型科技公司在訓練先進AI方面尋求輝達晶片以外替代品的一個跡象。 蘋果發表一篇技術報告,詳述選擇採用Goolge開發的兩種TPU(Tensor Processing Unit ,張量處理器)進行AI模型訓練,這些處理器構成了大型晶片叢集。為了建立在iPhone和 其他裝置上運作的AI模型,蘋果使用了2,048個TPUv5p晶片;在伺服器AI模型中,蘋果部 署8,192個TPUv4處理器。 蘋果決定採用Google的雲端基礎設施來訓練AI模型,是值得注意的,因為輝達所生產的AI 處理器是目前業界最熱門的。包含計算Google、亞馬遜和其他雲端運算公司生產的晶片在 內,輝達占了大約80%市占。 在研究報告中,蘋果沒有表明未使用輝達晶片,但在描述其AI工具的硬體和軟體基礎與功 能時,並沒有提到輝達的軟體。 路透說,無法立即連絡到蘋果公司提出回應。Google沒有回覆置評請求,輝達則不願置評 。 輝達並不設計TPU,而是聚焦廣泛用於AI的繪圖處理器(GPU)。 Google是透過其雲端平台Google Cloud Platform銷售能使用其TPU的權利,這點和輝達獨 立銷售晶片與系統的做法不同。有意購買TPU使用權的客戶,必須透過Google的雲端平台 構建軟體,才能使用TPU。 蘋果在47頁的報告中沒有提到Google或輝達,但確實指出其蘋果基礎模型(AFM)和AFM伺 服器是在「雲端 TPU叢集」上進行訓練。這代表蘋果是向雲端業者租用伺服器來執行運算 。 蘋果工程師在研究報告中表示,使用Google的晶片可以創造出比報告中討論的兩款模型更 龐大、更複雜的模型,「這系統讓我們能夠有效率地訓練AFM模型而且可以擴容,包括終 端裝置上的AFM、AFM伺服器與更大的模型。」 蘋果本周將向其測試版用戶推出Apple Intelligence功能。 蘋果在6月的開發者大會上發表一系列新的AI功能,包括將OpenAI的ChatGPT技術整合到其 軟體中。 心得/評論: 蘋果不跟 NVDA 玩,直接跟 Google 組隊 但蘋果到底要訓練什麼東西? 不是把 chatGPT 包一包嗎? 不論怎樣,我買不起麥當勞,也會買 AI 手機 讓 AI Great Agagin! 下半年 AI 股再漲一倍 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.250.142.217 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1722331735.A.3D0.html
ohohohya : 丸子 那就是很爛的意思 07/30 17:29
kutkin : siri 優化 07/30 17:30
zerro7 : 之前不是說跟openAI合作? 怎麼說法好多種 07/30 17:32
zerro7 : 不過能把siri變聰明真是太好了 現在的很智障 07/30 17:32
Chricey : 魚油 07/30 17:32
guagua1101 : 啊租的還不是跟nv買的…… 07/30 17:32
Fezico : 水果店跟老黃有仇阿... 07/30 17:34
q8977452 : 模型用openai 訓練用google的tpu呀... 07/30 17:34
Kroner : 精胺酸副作用 07/30 17:34
sp024961 : Apple iPhone=Ai 07/30 17:34
inoce : 崩 07/30 17:34
q8977452 : 應該說軟體跟openai合作 硬體跟google合作 07/30 17:35
Chricey : 益生菌推薦ptt 07/30 17:35
WTF55665566 : 還是用台積晶片 07/30 17:36
onewaylun : google的也是委託AVGO設計 07/30 17:37
poeoe : 這好事啊 蘋果的選擇不錯 07/30 17:37
Chricey : 維他命D功效 07/30 17:37
Gipmydanger : 包圍網 07/30 17:40
strlen : 我覺得庫克的眼光真的有點奇怪 電動車翻一次 我看AI 07/30 17:40
getx105 : 估狗… 07/30 17:40
Chricey : 魚油 07/30 17:40
strlen : 晶片大概又要翻一次 07/30 17:40
uller : 不管那個都是台積 07/30 17:40
aegis43210 : TPU對GG營收貢獻很少,明顯是利空 07/30 17:40
Chricey : 甘露糖 07/30 17:40
poeoe : apple car取消好事啦 特斯拉那麼強要怎麼玩 07/30 17:42
clamperni : 真奇怪 07/30 17:42
dosiris : 敵人就在輝達寺 07/30 17:42
Kroner : 益生菌推薦 07/30 17:42
aegis43210 : 不過TPU只能對主流AI演算法加速的缺點,蘋果剛好不 07/30 17:42
aegis43210 : 在意,因為蘋果只會重新定義 07/30 17:42
rooo2012 : 蘋果不喜歡養大敵人 07/30 17:43
Chricey : 維他命D推薦 07/30 17:43
edward198791: 自研=... 07/30 17:44
thetide0512 : 被三星屌打 07/30 17:44
work2dog : AVGO噴 07/30 17:45
Chricey : 維他命d 07/30 17:45
idernest : 難怪Siri跟智障一樣 07/30 17:47
cor1os : 在AI這塊,就算蘋果跟谷歌合起來也不是對手,純粹賭氣 07/30 17:47
aegis43210 : 這樣蘋果可以訓練出和Gemma 2差不多的AI模型,但卻 07/30 17:48
Kroner : 維生素D 07/30 17:48
aegis43210 : 是自有模型,不用被微軟及google掣肘 07/30 17:48
guardangle : 我都用我的膝蓋訓練AI 07/30 17:48
shaufire : 蘋果別想不開啊 07/30 17:49
Kroner : 維他命C 07/30 17:49
evangelion05: 難怪蘋果AI失敗,只會cost down 07/30 17:52
andy810306 : 本來就只需要做巨頭的幾個主流模型啊,你以為弄個 07/30 17:52
andy810306 : 通用晶片裝忙半天能搞出啥東西哦,不要幻想了 07/30 17:52
Kroner : 馬卡 07/30 17:52
sssallen : 精彩了 07/30 17:53
aegis43210 : 另外蘋果也有GPU,要觀察蘋果是否想跨入GPGPU市場, 07/30 17:53
aegis43210 : 不然怎麼會不用老黃 07/30 17:53
Kroner : 維他命D推薦 07/30 17:53
turndown4wat: TPU也都台積電製造嗎 07/30 17:54
andy810306 : AI就是巨頭說了算,通用能跑一萬個模型是要賣給誰 07/30 17:54
andy810306 : 我們巨頭就只有其中幾個模型有用到自研就好 07/30 17:55
Kroner : 益生菌 07/30 17:55
pziix : 爛掉了 這蘋果 07/30 17:55
poorcharles : 輝達當乙方也都很硬氣 07/30 17:56
Miseryz : 覺得應該是因為成本而做的選擇 07/30 17:56
Kroner : 瑪卡推薦 07/30 17:56
tctv2002 : 輝達太貴 蘋果不喜歡 07/30 17:56
sharkpops : 用tpu最後還是跟gg下單 07/30 17:57
sdyy : 難怪siri越來越笨 常常在車上叫他導航 都會說車上 07/30 17:57
Kroner : 苦瓜胜肽 07/30 17:57
sdyy : 無法使用此功能 07/30 17:57
JustinCy : Google晶片train AI? 自己寫一套OpenAI? 07/30 17:58
super0949 : nvda今晚又要崩了 07/30 17:59
Chricey : 益生菌 07/30 17:59
hbooreo : Gemini 不好用,apple要確欸 07/30 18:00
huk40199 : 蘋果崩? 07/30 18:01
andy810306 : 有人不知道openAI整批人都是deepmind員工哦,不過 07/30 18:02
Chricey : d3 07/30 18:02
andy810306 : 當初google高層怕東怕西被chatgpt先發表比較可惜 07/30 18:02
spi0303 : 嗯嗯 割一下萌新 07/30 18:03
a28200266 : 阿婆的眼光一直都有點問題 07/30 18:05
Kroner : 魚油 07/30 18:05
ncucosine : 台積又賺惹 07/30 18:06
sunday0913 : https://i.imgur.com/3ky62cA.jpeg 07/30 18:12
EeLong : 不就是SIRI不行才要用ChatGPT. 但蘋果的自研AI還是 07/30 18:12
Kroner : 益生菌功效 07/30 18:12
EeLong : 會同步進行,只是採用谷歌的晶片。估計成功機率不 07/30 18:12
EeLong : 大。跟主流對著幹就是賭 07/30 18:12
ysb727 : 我覺得蘋果要退流行的趨勢,因為太耐用了嗎? 07/30 18:14
Kroner : 瑪卡功效 07/30 18:14
ysb727 : 這是賭注很奧妙,有夠散戶思維 07/30 18:14
ysb727 : 直接買權值股很難嗎? 07/30 18:15
shepherdd35 : 蘋果看來要繼續走下波 07/30 18:15
Kroner : 瑪卡推薦品牌 07/30 18:15
uxy82 : 所以還是買GG比較好? 07/30 18:15
shepherdd35 : 蘋果賈伯斯要走在最前端 貴不是問題 07/30 18:16
shepherdd35 : 現在蘋果要costdown….. 07/30 18:16
sdbb : 蘋果可以重新定義權質股 07/30 18:17
siki588 : Gemini用過心得:恩 好吧 還是GPT屌 07/30 18:19
spoilede0824: 又縮預算 07/30 18:25
raymonde : 過氣的爛頻果 07/30 18:28
leon1757tw : 產品都還沒推出 就在想costdown 07/30 18:28
aaa80563 : 丸子 07/30 18:28
capirex : 不是還說要做機器人嗎? 07/30 18:29
giantwinter : 自研…Apple信g 的硬體是不是傻了 07/30 18:30
gk1329 : 庫克 costdown達人 讚 07/30 18:38
bala045 : 看推文都在酸就知道蘋果做對了 07/30 18:40
watertip : Gemini 不差耶 雖然之前中了woke virus, 但不應小 07/30 18:41
watertip : 看google 07/30 18:41
strlen : 問題不是出在自研AI晶片 問題是出怎麼會去找Google 07/30 18:44
strlen : 不是應該自己做? 07/30 18:44
strlen : 這樣還不是被別人卡脖子 07/30 18:44
exojin : Silicon不是被吹噓到無所不能?幹嘛不用自家的gpu跑 07/30 18:47
exojin : AI? 07/30 18:47
aegis43210 : 用租的很有彈性呀 07/30 18:47
nocash : Google 也是用台積電的晶片,是吧?拜託你說是 07/30 18:56
chysh : 不就太晚買搶不到貨啊... 都被meta和老馬搶光了 07/30 18:57
chouvincent : 買GG就好啦 彎腰撿鑽石 07/30 18:58
Ronee : 最近開始使用付費的MaxAI Claude最棒而且越用越滿 07/30 18:58
Ronee : 意 真的會記住使用者喜好 免費版優秀到可以吊打其 07/30 18:58
Ronee : 他AI模組付費版 Gemini第二名 一開始覺得它最好用 07/30 18:58
Ronee : 但越用體驗感越覺得不如預期 偶爾還會給出一行文的 07/30 18:58
Ronee : 答案 免費的Copilot比上不足比下有餘 07/30 18:58
hamydad : 但晶片都是gg 的 07/30 18:59
Ronee : Claude有次我沒注意到切換版本 免費版給的答案竟然 07/30 19:02
Ronee : 不輸給付費的AI 07/30 19:02
YesNoter : 碰購不是都比人家晚 反正到時候再重新定義 07/30 19:09
fajita : 阿婆會押錯寶,馬投顧已經示警谷歌了 07/30 19:14
nokias : Apple要涼了? 07/30 19:27
HarukaLM : 感覺apple ai不妙了... 07/30 19:30
Alpha99 : 不管用什麼 能強化智障Siri 都是好事 07/30 19:33
allen527 : 蘋果應該是自己的ai蘋果厲害的是軟體,chat gpt只 07/30 19:35
allen527 : 是合作提供另一個選擇罷了 07/30 19:35
allen527 : 三星手機的ai玩過後覺得沒有很厲害… 07/30 19:37
macetyl : 換湯不換藥,要用chatgpt,open ai一樣要用nv gpu 07/30 19:41
macetyl : 一開始自己搞地圖也是爛到爆,沒想到還是重蹈覆轍 07/30 19:42
huabandd : 蘋果採用google的雲端運算來訓練感覺比較划算,自 07/30 19:46
huabandd : 己買晶片很快就會汰舊換新了,買一堆沒幾年又要被 07/30 19:46
huabandd : 超越了,還不如用雲端的時機,我也覺得未來是高速 07/30 19:46
huabandd : 網路跟雲端運算的天下,手機本身不需要太強大,透 07/30 19:46
huabandd : 過高速網路接收運算後的結果就好了 07/30 19:46
huabandd : gemini跟chatgpt在準確性上面還是一堆問題 07/30 19:47
stosto : 最後還是去找chstgpt 07/30 19:50
pziix : 蘋果做不出來電動車 早就涼了 還有什麼好期待 07/30 19:51
pziix : 看推文 還有人覺得蘋果做對了 唉 07/30 19:52
g27834618 : 蘋果又要壓錯了 07/30 19:52
bj45566 : 感覺微軟的 AI 策略比 Apple 好,微軟之前 Azure 07/30 19:56
bj45566 : 平台發展大成功就立於不敗之地了 07/30 19:56
bj45566 : 之前微軟賭雲端平台,Apple 賭元宇宙和電動車,高下 07/30 19:57
bj45566 : 立判 07/30 19:57
ACDC69 : 蘋果的價值剩下會掏錢的果粉了 07/30 19:57
Tenging : 蘋果呵呵 07/30 20:05
richaad : META最新的LLama3.1論文效能比較,根本沒把Gemini寫 07/30 20:08
richaad : 進去,表示Google 現在只能算二線 07/30 20:08
buyerko : 不想花大錢,意思意思跟一下 07/30 20:08
goodjop : https://i.imgur.com/jehrJGP.jpeg 07/30 20:12
tennyfox : Google硬體真的很爛不用懷疑啦!手機出多久了! 07/30 20:13
tinkle : 沒差啊 晶片還是只能跟台積電下 07/30 20:15
Detonate : Ai 的年代真的忍不了Siri 那個阿呆 再不快生出來老 07/30 20:31
Detonate : 子就不換手機 07/30 20:31
aoc7175 : 蘋果會毀在庫克手上gggggg 07/30 20:35
horb : 所以Siri才那麼笨 07/30 20:36
bj45566 : Google 當初發表 LLM 論文的作者群全部都離職了,Go 07/30 20:42
bj45566 : ogle 本家的內部環境一定出了什麼問題;但 Google 07/30 20:42
bj45566 : 收購的英國 DeepMind 團隊最近有好消息,他們的軟 07/30 20:42
bj45566 : 體在數學奧林匹亞競賽能夠拿到銀牌,是目前數理能力 07/30 20:42
bj45566 : 最強的生成式 AI 07/30 20:42
bj45566 : P.S. 我感覺 Google 本家爛很久了... 07/30 20:43
Delerium : 只有我覺得蘋果會成功嗎 07/30 20:51
zhi5566 : google CEO很強啊 裁員+加廣告量 這次業績不好就在 07/30 20:53
zhi5566 : 做一次上述 07/30 20:54
bj45566 : XDDDDD 07/30 20:56
Bf109G6 : 請鬼拿藥單 07/30 21:05
tmdl : 有Nokia的即視感 07/30 21:08
ppuuppu : 召喚W大解析GOOG 07/30 21:09
willion003 : 用過ChatGPT真的回不去,未來搞不好真的要換手機了 07/30 21:13
DrGun : the more you buy the more you save葛鬼!人家根本 07/30 22:05
DrGun : 8屌尼 8買der最大!!天下苦黃久矣!!! 07/30 22:05
banana190 : 崩 07/30 23:04
allyourshit : tensor明明就是三星製造的 關GG屁事 07/30 23:32
wildwoof : APPLE除了手機有啥做成功的? 07/30 23:44
amorose77 : 蘋果用谷歌,谷歌用輝達? 07/31 09:48