Рассказали мне про Maxima. Поставил из портов на FreeBSD 7.0-PRERELEASE,
вспомнил молодость :-)

Mapple, помнится, формулы рендерил покрасивше...
По сути ещё не разобрался, вот подкинули ещё кроме штатного
on-line help ссылочку:

A 10 minute tutorial for solving math problems with maxima