欧美人禽猛交狂配_美美哒免费高清影院在线4_国产成人亚洲精品无码车A_中国人在线观看免费的动漫

正確的提示信息

掃碼打開(kāi)虎嗅APP

從思考到創(chuàng )造
打開(kāi)APP
搜索歷史
刪除
完成
全部刪除
熱搜詞
2024-06-27 18:02
哈佛輟學(xué)生發(fā)布地表最快AI芯片,挑戰英偉達

本文來(lái)自微信公眾號:愛(ài)范兒 (ID:ifanr),作者:胡漠楊,原文標題:《「地表最快」 AI 芯片發(fā)布,哈佛輟學(xué)的本科生挑戰英偉達》


Etched


Sohu


AI芯片問(wèn)世


在談到AI、大模型、算力等關(guān)鍵詞時(shí),如果要提及硬件產(chǎn)品,很多人應該會(huì )不假思索的說(shuō)出英偉達。


一位華爾街分析師曾如此評論到:


人工智能領(lǐng)域正在進(jìn)行一場(chǎng)戰爭,而英偉達是唯一的軍火商。


的確,在A(yíng)I時(shí)代下,英偉達的地位是獨特又難以撼動(dòng)的。但現在,有一位勇者準備正式挑戰這一局面。


2022年,Gavin Uberti和Chris Zhu創(chuàng )立了Etched.ai。他們從一開(kāi)始就獲得了包括Ebay前CEO Devin Wenig在內的536萬(wàn)美元的種子輪投資。


在剛剛宣布融資1.2億美元后,Etched又發(fā)布了目前的最快的AI芯片——Sohu。


此Sohu非彼搜狐,它號稱(chēng)可以在毫秒級別的時(shí)間里處理數千個(gè)單詞。每秒能處理超過(guò)50萬(wàn)個(gè)tokens,運行Llama 70B模型。


什么概念呢?這就相當于可以在兩秒內寫(xiě)完《圣經(jīng)》,或者一年寫(xiě)15萬(wàn)億個(gè)tokens。


據Etched官網(wǎng)介紹,Sohu在硬件層面上集成了Transformer架構,是首個(gè)專(zhuān)為T(mén)ransformer模型設計的專(zhuān)用芯片(ASIC)。


正是這種專(zhuān)用性,才為Sohu帶來(lái)了性能的巨大提升。相較于英偉達H100,Sohu的推理速度相提升了8至10倍。


一個(gè)搭載八片Sohu芯片的服務(wù)器,可以取代整整160個(gè)英偉達H100 GPU。



對于編程場(chǎng)景,Sohu可以通過(guò)蒙特卡洛樹(shù)搜索,并行相應數百個(gè)結果,給出最優(yōu)秀的答案。


無(wú)論是語(yǔ)音助手還是智能客服,Sohu都能做到在幾毫秒內分析數千個(gè)單詞。


并且Sohu還支持多重推測解碼,可以以極快的速度實(shí)時(shí)生成新的內容。



作為全球首款Transformer專(zhuān)用集成電路(ASIC)芯片,每張Sohu芯片只有一個(gè)核心,使用了臺積電4nm制造工藝,并配有144GB HBM3E高帶寬內存。


相比英偉達的下一代Blackwell(B200)GPU,Sohu的速度提高了一個(gè)量級,價(jià)格也會(huì )更加便宜。



短短兩年時(shí)間,Etched從零開(kāi)始成長(cháng)到現在這番模樣,實(shí)在是一個(gè)「奇跡」。


Chris Zhu是一名華裔,他和Gavin Uberti一起創(chuàng )立了Etched,二人也都有著(zhù)豐富的背景。


Gavin Uberti和Chris Zhu都曾就讀于哈佛大學(xué),度過(guò)了一段本科生活。后來(lái)出于一些原因,他們選擇休學(xué)一年,并在OctoAI找到了一份實(shí)習工作。


當時(shí)二人的工作內容,主要是負責ApacheTVM開(kāi)源編譯器和微內核開(kāi)發(fā)。但在實(shí)習時(shí),他們發(fā)現Arm的指令集中的一些設計十分低效,使得他們的工作效率很差。


Gavin Uberti說(shuō)到:「這個(gè)問(wèn)題無(wú)法解決,每次工作時(shí)我都得面對這個(gè)問(wèn)題,這讓我和Chris覺(jué)得我們必須做得更好?!?/p>


在思考如何解決這個(gè)問(wèn)題時(shí),他們突然發(fā)現可以利用這個(gè)思路來(lái)設計一款AI加速芯片。


于是兩人便選擇了從哈佛輟學(xué),創(chuàng )辦了一家專(zhuān)注于LLM的AI芯片初創(chuàng )公司——Etched。


在Gavin Uberti看來(lái),通用公版設計無(wú)法帶來(lái)獲得突破性的性能提升,所以他們才研發(fā)Transformer架構下的專(zhuān)用加速芯片。


Gavin Uberti曾說(shuō):


必須在單一架構上下大力氣,讓芯片處理AI任務(wù),目標太大了,必須要針對更具體的任務(wù)來(lái)設計芯片......我們認為英偉達最終會(huì )這么做。


目前主流的AI產(chǎn)品如ChatGPT、Claude、Gemini和Sora等,都是基于Transformer架構驅動(dòng)的。


作為全球首款Transformer ASIC芯片,再配上如此亮眼的成績(jì),Etched自然也是吸引了一大波關(guān)注。


6月25日,Etched宣布完成1.2億美元的A輪融資。這次融資由紐約風(fēng)投機構Primary Venture Partners和Positive Sum Ventures共同領(lǐng)投。


其天使投資人陣容也十分強大,包括風(fēng)險投資家Peter Thiel、GitHub首席執行官Thomas Dohmke、自動(dòng)駕駛公司Cruise的聯(lián)合創(chuàng )始人Kyle Vogt,以及Quora的聯(lián)合創(chuàng )始人Charlie Cheever,


在2022年創(chuàng )立之初,Etched就看中了Transformer將會(huì )占據主導地位的未來(lái)。Gavin Uberti表示,「我們正在人工智能領(lǐng)域下最大的賭注?!?/p>


如果我們賭對了,Sohu將改變世界。這就是我們敢于下注的原因。


一年爆賣(mài)近10億,為什么年輕人看演唱會(huì )都戴它?


蘋(píng)果的新Siri為什么要這樣設計?

本內容為作者獨立觀(guān)點(diǎn),不代表虎嗅立場(chǎng)。未經(jīng)允許不得轉載,授權事宜請聯(lián)系 hezuo@huxiu.com
如對本稿件有異議或投訴,請聯(lián)系tougao@huxiu.com
打開(kāi)虎嗅APP,查看全文
頻道:

支持一下

贊賞

0人已贊賞

大 家 都 在 看

大 家 都 在 搜

好的內容,值得贊賞

您的贊賞金額會(huì )直接進(jìn)入作者的虎嗅賬號

    自定義
    支付: 
    欧美人禽猛交狂配 波多野结衣一级毛片| 亚洲精品自拍视频| gay网在线观看| 痴女波多野结衣在线观看| 黄色三级毛片| 在线观看精品一区| 国产欧美精品午夜在线播放| 99国产精品欧美久久久久久影院| 91高端极品外围在线观看| 777yy午夜电影理论片| 全肉一女n男np乱禁| 男上女下的视频男女| 男女肉粗暴进来下面好紧| 男女日妣视频| 欧美精品成人| 操动漫美女视频| 最近免费韩国电影高清5| 老师喂我乳我脱她裤子| 久久久91| kkkk4444| 香港澳门a级三级三级全黄| 91插插插视频| 蜜中蜜3动漫无修在线播放| 里番在线观看| 总裁呻吟双腿大开bl耽海棠| 情侣黄网站免费看| 亚洲精品国产美女在线观看| 91精品国产免费| 40岁女人三级全黄| 91手机视频在线观看| 国产精品手机在线播放| 美女视频大全美女视频黄| 精品国产91| 模拟战争| 我把护士日出水了90分钟视频| 91情侣视频| 漫画美女让男人揉胸| 扒开美女的内衣亲吻漫画| 久久网国产| 欧美一级全黄| 国产手机精品自拍视频| http://www.kreatar.com http://www.ordersubway.com http://www.1800autostore.com http://www.dating-snap.com http://www.cw5117.com http://www.californiasalestaxrate.com