Сначала нужно ознакомиться с бумагами, а то вы там сейчас напаяете.
Как говорит интернет: HBS507+573HBM20-1000 = ES-D508+ES-M32320 (модели для внешнего рынка) 
Идём на сайт (не подумайте ни чего дурного) производителя.
Мотор - 
http://www.leadshine.com/UploadFile/Down/ES-Md_V1.3.pdf
На 3/8 странице по цветам расписаны UVW (надеюсь цвета совпадут с вашим мотором), там же распайка энкодера (снимите корпус, проверьте распиновку).
Драйвер - 
http://www.leadshine.com/productdetail. ... el=ES-D508
Вкладка Downloads, посмотрите, может там Протюнер свежее вашего.
Мануал на ПО - 
http://www.leadshine.com/UploadFile/Dow ... m_V1.0.pdf
На стр 11 написано, что если линий 1000, то это 4000 импульсов (или как то так, у меня с англ слабо).
Окно проги похоже на ваше? Там должна быть вкладка с ошибками (возможно ошибка не одна).
Там же рассмотрен пример настройки.
Если не поможет, выкладывайте фото всех окон, будем думать.