马斯克:史上最强AI训练集群上线,将再增加10万颗GPU

 邮箱网  0条评论  1559次浏览  2024年09月04日 星期三 16:41

分享到: 更多

特斯拉CEO埃隆·马斯克。视觉中国 资料图

马斯克旗下宣称是目前最强大的人工智能计算集群上线,其规模还将很快翻倍。

9月3日,特斯拉CEO埃隆·马斯克在X平台上宣布,旗下人工智能初创企业x.AI打造的超级人工智能训练集群已经正式上线,该集群名为“Colossus(巨人)”。

他透露,团队花了122天来完成Colossus的上线过程。Colossus还将在未来几个月内增加10万颗GPU(图形处理器),其中,5万颗将是更为先进的英伟达H200,这意味着Colossus的算力将再次翻倍。


在社交平台上,业内的反响非常热烈,称这是人工智能领域的巨大成就。

风险投资公司方舟投资(ARK Invest)的CEO凯茜·伍德(Cathie Wood)也对该团队取得的成就表示祝贺,称其“令人印象深刻”,并透露xAI未来还会有重大进展要宣布。


早在去年上半年,就不断有媒体爆料称马斯克正在为特斯拉采购大量GPU。今年5月份,Colossus首次被公开,并在7月份开始运行。

5月25日,马斯克在一场演讲中透露,xAI计划打造一台超级计算机,名为“算力的超级工厂”,预计规模是市场上最强大竞争对手的四倍。该计算机将采用英伟达H100 GPU。

7月22日,马斯克在X上宣布,xAI团队、X团队、英伟达及其他支持公司已经于当地时间凌晨4时20分开始在“孟菲斯超级集群(Memphis Supercluster)”,也就是Colossus上进行训练。

Colossus由10万个液冷H100 GPU组成,在单个RDMA结构(即远程直接数据存储结构,可解决网络传输中服务器端数据处理的延迟)上运行,是“世界上最强大的人工智能训练集群”。

马斯克还补充说,目标是在今年12月前训练出“按每项指标衡量都是世界上最强大的人工智能”。

当然,xAI的大模型Grok也将在自家的Colossus上进行训练。

去年7月,xAI宣布正式成立,并表示公司的宗旨是“了解宇宙的真实本质”。xAI在官网表示,“我们是一家独立于X Corp的公司,但将与X、特斯拉和其他公司密切合作,以实现使命。”

2023年11月,xAI发布第一款大模型Grok-1;8月13日,xAI宣布Grok-2的测试版本正式上线,并首次引入图像生成功能;马斯克此前曾透露,Grok-3将使用Colossus进行训练,预计将于年底发布,相信它会“非常特别”。

今年5月份,xAI宣布获得60亿美元B轮融资,主要投资者包括安德森·霍洛维茨基金(Andreessen Horowitz)、红杉资本(Sequoia Capital)等。xAI的投前估值为180亿美元,本轮融资后的投后估值将达到240亿美元。

不过,在引领人工智能革命的同时,马斯克长期以来也一直在强调人工智能的潜在安全风险,并积极推动人工智能安全法规落地。

8月27日,马斯克在X上发帖称,他认为加利福尼亚州应该通过参议院SB 1047号法案。此举在科技界引起了争议,许多人担心这可能会扼杀美国的人工智能创新。

据悉,SB 1047法案要求一些最大的人工智能模型(成本高于1亿美元)在开发时必须报告智能安全问题,并需要提交评估与模型相关的风险的报告。该法案已经遭到xAI竞争对手OpenAI公司的反对。


文章来源:澎湃新闻

标签:AI马斯克GPU

我的评论:

请  后发表评论。