Hola!
En Blender, para aumentar la calidad de un objeto, además del set smooth, le aplicas subdivisión de superficies (Subsurf).
De la versión 2.37a y anteriores de Blender, el botón \"Subsurf\" lo encuentras en el menú Editing(F9), en la pestaña \"Mesh\". y en las versiones 2.4 Aplha lo encuentras en el menú Editing(F9) en la pestaña \"Modifiers\".
Para aplicar el Subfurf, seleccionas el objeto al que le quieres aplicar la subdivisión, y después seleccionas el botón \"Subsurf\".
En la subdivisón cuentas con dos opciones de parámetros donde puedes incrementar la subdivisión del objeto \"Mesh\", la primera incrementa los niveles de subdivisión en tu entorno 3D y la segunda incrementa los niveles de subdivisión en tu render.
Puedes ir aumentando la subdivisión para tener mejor calidad visual, sin embargo debes tomar en cuenta que a mayor subdivisión mayor recursos de RAM se van a consumir y por consecuencia, tu máquina se va a hacer más lenta y también se va a incrementar el tiempo de render.
Idealmente, para una buena calidad visual de render, puedes probar esta combinación:
Activando el set smooth + activar Subsurf (de 1 a 4 en el subsurf de render suelen dar muy buenos resultados) + activar el botón \"OSA\" (Over Sampling Antialiasing) en la pestaña de render.
Aquí puedes ver una comparación de un mismo Mesh rendereado con diferentes párametros de subsurf, set smooth, y Over Sampler (OSA):
