苏姿丰介绍,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型,单个MI300X可以运行一个参数多达800亿的模型。AMD首席执行官苏姿丰表示,随着模型规模越来越大,就需要多个GPU来运行最新的大型语言模型,而随着AMD芯片内存的增加,开发人员将不再需要那么多数量的GPU,意味着可以节约成本。
AMD表示,已开始向Meta等公司大量出货一款名为Bergamo的通用中央处理器芯片。Facebook母公司Meta负责计算基础设施的Alexis Black Bjorlin表示,该公司采用了Bergamo芯片,该芯片针对的是AMD数据中心业务的另一部分,该业务主要面向云计算提供商和其他大型芯片买家。