比B200快10倍?AI芯片初创公司叫阵英伟达

1949idc 2年前 (2024-10-17) 阅读数 437 #人工智能

近日,据媒体报道,硅谷人工智能(AI)芯片初创公司Etched表示,已在A轮融资中筹集1.2亿美元,该公司计划利用这笔资金进一步开发其专用AI芯片。

据报道,由哈佛辍学生Gavin Uberti和Chris Zhu于2022年创立的Etched,凭借其用于AI的ASIC芯片,从最底层的架构层面为主流AI大模型公司所采用的Transformer计算提供更优性价比的选择,在AI硬件领域引发了高度关注。

报道称,Etched开发了一款名为Sohu的专为Transformer模型设计的ASIC芯片。Etched声称,Sohu芯片推理Llama-3 70B的速度比英伟达的H100快20倍,比今年3月推出的顶配芯片B200快上超过10倍,且功耗却大大降低。

Sohu芯片减少了用于存储器的空间,而将更多空间用于计算用途的晶体管,并通过只有一个大内核的设计,减少了用来协调不同内核的低效计算。

Etched表示,公司聘请了先前曾在赛普拉斯、博通等半导体公司工作过的人才,芯片则交给台积电的Emerging Business Group制造。目前其Sohu AI芯片可以支援Google、Meta、微软、OpenAI、Anthropic等大型科技公司所有的热门Transformer。

作为随着Transformer模型不断推动生成式AI突破,Sohu芯片被认为有望在AI推理侧打破英伟达GPU一家独大的格局,重塑AI计算的格局。

不过,据彭博社报道,Etched的Sohu芯片是执行Transformer这类AI演算法,一旦未来有另一种类型的演算法取代了Transformer AI,Sohu就会没用了。而英伟的GPU,例如H100是可以适用于任何AI演算法的。正如Gavin Uberti在接受采访时表示,“我们正在人工智能领域下最大的赌注”,“如果Transformer消失了,我们就会死。但如果它们继续存在,我们就是有史以来最大的公司。”

版权声明

本文内容由互联网用户自发贡献,该文观点仅代表作者本人
本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。

© 2010 首途云安 & 厦门硕顿信息技术有限公司 & 闽ICP备11016866号  增值电信业务经营许可证:B1-20203020 地址:福建厦门思明区嘉禾路297号1806
高新技术企业
软件产品证书
计算机软件著作权
ISO认证
国家3A企业