Если тема актуальна - постараюсь ответить...
В кратце:
По осям - Линейки скорее всего без метки. Проверить можно в HAL метре. Если ее нет - удаляйте все связи в hal файле с ней связанные. Разрешение 0,5 очень грубо. Согласуйте значения серво драйвера (Encoder equivalent pulse line number) со STEP_SCALE в ini файле. Очень важны еще будут значения DEADBAND и FERROR. Все можно настроить в HAL скопе. Иначе ось будет "ерзать".
По шпинделю - решили энкодер ставить или нет? Какое управление решили поставить (скорость или положение)?
Как я понял, у Вас "простая крутилка энкодер" а не пульт? Тут я ноль полный.