Hugging Face LLM Inference Container untuk Amazon SageMaker
Hugging Face memperkenalkan LLM Inference Container untuk Amazon SageMaker. Menurut entri blog rasmi, ia direka untuk memudahkan penyebaran model LLM pada infrastruktur SageMaker dan memperbaiki aliran kerja inferens.