IBM Granite AI模型在AWS上架

IBM和AWS宣布強化AI合作，包括IBM大語言模型家族Granite將在Amazon雲端平臺推出，雙方也強化整合AWS及watsonx雲端平臺的功能，提升安全及效能管理。

這項消息是為下周AWS re: Invent技術大會打頭陣。IBM繼上個月開源Granite 3.0 2B、8B模型後，Granite程式模型將在Amazon Bedrock及機器學習平臺Amazon SageMaker JumpStart上架。IBM最新的Granite 3.0模型系列已經先一步在Sagemaker JumpStart提供。

透過這項合作，Granite模型現在獲得AWS Neuron開發套件支援，可在AWS Inferentia及AWS Trainium晶片的雲端執行個體上執行。IBM並計畫其watsonx未來將支援AWS最新一代AI晶片Trainium2。

雙方雲端平臺也將擴大整合或合作。首先，12月IBM AI模型生命周期管理watsonx.governance將進一步整合Amazon SageMaker，雙方開發一個全新介面，直接以watsonx.governance管理介面管理SageMaker。SageMaker Model Registry的模型資訊可分享給watsonx，使AI運作管理透明化。

其次IBM管理機敏AI數據與AI模型安全風險的Guardium AI Security，現在在AWS Marketplace上架。這工具能發現「影子AI」（即員工私下建的AI模型），能和watsonx.governance整合，確保AI治理。

最後，雲端應用管理工具Instana Generative AI Observability on AWS現在已預覽版推出，可透通管理Amazon Bedrock及Amazon SageMaker，確保AWS生成式AI應用的穩定性和運作正常。此外，IBM Instana也將支援Amazon Elastic Kubernetes Services和Elastic Cloud Services，提供雲端微服務的管理。

其他新宣布方面，IBM預覽了IBM Concert新功能。IBM Concert利用生成式AI技術提供AWS平臺上應用程式的風險管理，預計將於2025年初上線。此外有IBM Autonomous Security for Cloud（ASC）這項新技術是IBM顧問服務開發的AI解決方案，可利用Amazon Bedrock生成AI技術，加強雲端安全自動化管理，預計12月全球推出。