Trainium 2

在今年re:Invent年會中，AWS揭露Trainium 2 UltraServer主機，也推出全託管AI平臺Amazon Bedrock的AI推論加速功能預覽版，可加速Llama 3.1模型和Claude 3.5 Haiku模型的推論速度。Anthropic共同創辦人暨運算長Tom Brown還透露，下一代Claude模型將由數十萬顆Trainium 2晶片來訓練。