Integramos por partes. Sean $u=(\ln x)^3$ y $dv=dx$, de modo que $du=3(\ln x)^2 \dfrac{dx}{x}$ y $v=x$.
Luego tenemos que $$\int (\ln x)^3 dx=(\ln x)^3 x - 3\int (\ln x)^2 dx.$$
Volvemos a integrar por partes para obtener la última integral de la derecha, pero esta vez definiendo $u=(\ln x)^2$ para obtener $$\int (\ln x)^2 dx=(\ln x)^2 x - 2\int (\ln x) dx.$$
Integramos por partes una última vez, esta vez considerando $u=(\ln x)$, llegando a $$\int (\ln x) dx=(\ln x) x - \int dx=(\ln x) x-x+C.$$
Finalmente sustituimos en las ecuaciones anteriores: $$\implies\int (\ln x)^2 dx=(\ln x)^2 x - 2\left[ (\ln x) x-x\right]+C$$ $$\implies\int (\ln x)^3 dx=(\ln x)^3 x - 3\left\lbrace (\ln x)^2 x - 2\left[ (\ln x) x-x\right] \right\rbrace +C$$