В качестве шаблона (первый объект) вы должны указать объект карты и номер контура (если надо определить пересечение с подобъектом). Поэтому первым вы должны выбрать объект без подобъектов. Поэтому при вызове функции ovlObj.SetObjectCross(-1, 0.001, 0, ovl_METHOD_SQUARE, ovl_ANYOBJECT) в первом параметре стоит -1.