@@ -98,6 +98,7 @@ start() {
--host $HOST \
--port $PORT \
--gpu-memory-utilization $GPU_MEMORY_UTILIZATION \
+ --served-model-name $MODEL_NAME \
> $LOGFILE 2>&1 &
echo $! > $PIDFILE