mapCreateMtq

Все получилось, привожу код (код сырой, но суть будет понятна тем, у кого аналогичная проблема):
[DllImport(GisLibrary, CharSet = CharSet.Ansi)]
unsafe public static extern int mapCreateMtq(StringBuilder name, ref BUILDMTW parm, IntPtr projectiondata, IntPtr palette, int countpalette);

MapControl.BUILDMTW MTWProperties = new MapControl.BUILDMTW();
       
               MTWProperties.StructSize = (uint)(Marshal.SizeOf(MTWProperties));
               MTWProperties.BeginX = MapControl.MapAccess.mapGetMapX1(MapScreen1.MapHandle);
               MTWProperties.BeginY = MapControl.MapAccess.mapGetMapY1(MapScreen1.MapHandle);
               MTWProperties.Width = MapControl.MapAccess.mapGetMapY2(MapScreen1.MapHandle) - MapControl.MapAccess.mapGetMapY1(MapScreen1.MapHandle);
               MTWProperties.Height = MapControl.MapAccess.mapGetMapX2(MapScreen1.MapHandle) - MapControl.MapAccess.mapGetMapX1(MapScreen1.MapHandle);

               MTWProperties.ElemSizeMeters = 3;
               MTWProperties.ElemSizeBytes = 8;// TxElementSizeBytes.es64bit;

               MTWProperties.Unit = 3;// TxUnitHeight.uhMeter;
               // MTWProperties.ReliefType = 0;
               MTWProperties.Scale = 100000;
               MTWProperties.Init();
               //  MTWProperties.HeightSuper = 0;
               //    MTWProperties.Method = TxBuidlMtwMethod.bmMiddleIP16Smooth;

            //  
              // char* d = stackalloc char[20];
              /* for(int i = 0; i < 20; i++)
               {
                   MTWProperties.Reserve[i] = (char)0;
               }*/
               //MTWProperties.Reserve = d;

               UInt32[] palette = new UInt32[64];
               GCHandle handle = GCHandle.Alloc(palette, GCHandleType.Pinned);

               IntPtr pointer = handle.AddrOfPinnedObject();
               //  Marshal.StructureToPtr(palette, ptr1, false);

               String s = "C:/SCIENTIFIC_COMPANY/Matrixrrrrrr.mtq";
               StringBuilder sb = new StringBuilder(256);
               
               char* c = stackalloc char[s.Length];
               for (int i = 0; i < s.Length; i++)
               {
                   sb.Append(s[i]);
                   textBox1.Text += sb[i];
               }
               MTWProperties.StructSize = (uint)(Marshal.SizeOf(MTWProperties));
               int hMtq = -1;

               MapControl.MTRPROJECTIONDATA t = new MapControl.MTRPROJECTIONDATA();
               t.Init();

               if (File.Exists(s))
               {
                   hMtq = MapControl.MapAccess.mapCreateMtq(sb, ref MTWProperties, IntPtr.Zero, pointer, 64);
               }

Методом MapMtrs.Append() добавить матрицу качеств можно, но ГИС ядро будет считать, что это матрица высот.
Разные алгоритмы - из-за разных предметных качеств: в одном случае - это высота (со всеми вытекающими последствиями и возможностью обработки как высоты), в другом случае - это некое число, интерпритация которого ложится на плечи автора...

Может чего не понимаю, но где используются входные параметры?

А есть уверенность, что матрица заполняется правильно? Для информации - размер матрицы должен быть порядка 800 Мб.