Что значит через формулу? Зубчатое колесо режется зуборезкой, просто табличку с параметрами на чертёж вешаешь.
Если для визуализации - аппроксимируй профиль зуба дугой по трём точкам, схема построения со сплайном, но тут похую гуглится по involute gear solidworks tutorial
А вообще - GearTrax в помощь