Спасибо всем за советы, вроде уже немного есть понимание как рулить DSP.
Изначально всё делал по совету
NVN-RnD, картина в зале заметно улучшилась

потом немного ещё графическим эквалайзером подстроил, вообщем всё вроде стало лучше, но всё равно как то не так. И тут нам пришла в голову мысль проверить фазу-противофазу

до этого были уверенны что вся коммутация правильная, но нет, оказалось, что сабы в противофазе работали

Спасибо DSP, что в нём можно менять полярность. после изменения полярности звук стал просто бомба и это на нашей бюджетной акустике :)
теперь нужно заняться ревизией кабелей и т.д.
Лимитеры настраивал просто - взял компакт-диск с драйвовой музыкой (без сильных перепадов в громкости), все фейдеры в "0" и понижал лимитером пока на усилителе "пик" не стал изредка помигивать. до этого бывало загорался нормально