| AWS | re:Invent | Trainium 2 | 晶片 | UltraServer | Claude 3.5 Haiku | Project Rainier | 加速 | 推論
【re:Invent 2024現場直擊】AWS揭Bedrock AI推論加速功能，能讓Anthropic最新模型推論加速60%
在今年re:Invent年會中，AWS揭露Trainium 2 UltraServer主機，也推出全託管AI平臺Amazon Bedrock的AI推論加速功能預覽版，可加速Llama 3.1模型和Claude 3.5 Haiku模型的推論速度。Anthropic共同創辦人暨運算長Tom Brown還透露，下一代Claude模型將由數十萬顆Trainium 2晶片來訓練。
2024-12-03
| Anthropic | Claude 3.5 Haiku | 漲價
Anthropic宣布新一代Claude 3.5 Haiku模型因效能提升、價格也調漲4倍，有用戶指出Haiku雖然和GPT4o-mini的標竿測試表現不分軒輊，但價格是GPT4o-mini的7倍，也比Gemini 1.5 Flash更貴
2024-11-07