Нарезка матрицы по объекту

Да, можно. Для этого после выполнения задачи "Нарезка матриц" нужно установить рамку матрицы по данному криволинейному объекту (Вид-Список матриц-Свойства-Установить рамку по ... объекту карты), а потом здесь же в "Свойствах" - Оптимизировать (задать режим "Вырезать изображение по рамке").

Режим "Вырезать изображение по рамке" при оптимизации матрицы оперирует блоками.
То есть при нарезке из матрицы удаляются блоки, полностью расположенные вне рамки.
Блоки, пересекаемые рамкой, остаются в матрице (видимо этим объясняется указанный Вами результат).

Но можно выполнить нарезку на уровне элементов матрицы.
Для этого нужно установить объект в качестве рамки исходной MTW и далее - в задаче нарезки
задать режим "Не использовать высоты вне рамки исходной матрицы".

Вот результат такой нарезки ("Отобразить по рамке" - выключено, то есть высот вне рамки нет).