Причина была найдена в том что двигатель оси У не успевает развернуться в другую сторону при выполнении окружности из-за постоянной разницы в ускорении, которую не удаётся устранить настройками сервоусилителей, потому что они разные. В данный момент не устранена.
Теперь немножко истории в фотках, вдруг медальку дадут:
(для просмотра содержимого нажмите на ссылку)
Алюминиевые 6мм уголки были потом заменены на стальные.
импровизированный Т-слот из уголков приклёпанных к трубам.

- импровизированный Т-слот из уголков приклёпанных к трубам.
Отлично работавшая с шаговиками, система компенсации люфтов оказалась непригодна в таком виде для серводвигателей

- Отлично работавшая с шаговиками, система компенсации люфтов оказалась непригодна в таком виде для серводвигателей
гайки-заклёпки, маст хэв.

- гайки-заклёпки

- маст хэв инструмент.
Что понравилось: Серводвигатели работают очень быстро и не прокручивают как шаговые, но только обязательно надо завязать их выход ошибки на ав. стоп. Очень понравилось работать с гайками-заклёпками, можно откручивать зубчатую рейку с направляющей сколько угодно - резьба уцелеет. Всё остальное было ожидаемым и никаких впечатлений не вызвало.
Что непонравилось:
Стол провисает, при увеличении ширины до 2м надо увеличивать количество поперечных балок.
Жёсткость портала, если полутораметровый из двух труб 100х100х4 ещё норм, то двухметровый уже надо серьёзно усиливать.
Сервоусилители очень тяжело настраивать по приложенному мануалу.
Серводвигатели очень чувствительны к дефектам механики, если наедет на люфт - вы оглохнете и всех в радиусе сотни метров насмерть испугаете.
Косозубые зубчатые рейки можно подогнать только колёсами, которые по ним ездят, кусочек рейки уже не прокатит, слепок из холодной сварки - тоже ерунда.
Отлично работавшая с шаговиками, система компенсации люфтов оказалась непригодна в таком виде для серводвигателей, в итоге болты были затянуты, а пружины сняты.
Что сделал бы в следующий раз:
Взял бы хороший, зарекомендовавший себя комплект сервоприводов.
Сделал бы портал из толстенного швеллера или конструкционного профиля.
Удвоил бы количество поперечных балок.
Разместил бы обе направляющие У в одной плоскости, да жёсткость больше, но малейшая ошибка вызывает наклон шпинделя и выравнивать её замучаешься.
Компенсацию люфтов сделал бы рычажной на подшипниках.
Для головы использовал бы более тонкие листы дюраля (чем 12мм), она получилась сильно перегруженной.
Сделал бы шире стойки портала и/или установил бы ещё по одной каретке на них
Поставил бы хороший высокопроизводительный контроллер вместо обычной платы опторазвяки (скоро поставлю smothstepper).