Tìm $m$ để hàm số  $y=-\frac13 x^3+(m-1)x^2+(m-3)x-4$  đồng biến trên $(0;3)$.

Hàm số $y=-\frac13 x^3+(m-1)x^2+(m-3)x-4$ là hàm số đa thức bậc 3 nên có tập xác định là $R$.
Đạo hàm là $y'=- x^2+2(m-1)x+m-3=-\left((x-m+1)^2-(m^2-3m+4)\right)$
Vì $m^2-3m+4=\left(m-\frac32\right)^2+\frac74>0\quad \forall m\in R$
Nên $y'=-\left(x-m+1-\sqrt{m^2-3m+4}\right)\left(x-m+1+\sqrt{m^2-3m+4}\right)$
Do đó hàm số đồng biến trên $(m-1-\sqrt{m^2-3m+4};m-1+\sqrt{m^2-3m+4})$
Để hàm số đồng biến trên $(0;3)$ ta phải có $\begin{cases}m-1-\sqrt{m^2-3m+4}\le 0 \\ m-1+\sqrt{m^2-3m+4}\ge 3\end{cases}\iff \frac{12}5\le m\le 3$