从.NET1.1升级到.NET2.0时出现的PInvokeStackImbalance错误
 
如果 CLR 检测到平台调用之后的堆栈深度与 DllImportAttribute 属性指定的调用约定中以及托管签名的参数声明中提供的预期堆栈深度不匹配,则将激活 PInvokeStackImbalance 托管调试助手 (MDA)
 
下面将举一个具体的例子
PCCamera(UserLib.Device.PCCamera摄像头类)在从.NET1.1级到.NET2.0时出现的PInvokeStackImbalance错误:
检测到 PInvokeStackImbalance
Message: PInvoke 函数“WindowsApplication1!UserLib.Device.PCCamera::SendMessage”的调用导致堆栈不对称。原因可能是托管的 PInvoke 签名与非托管的目标签名不匹配。请检查 PInvoke 签名的调用约定和参数与非托管的目标签名是否匹配。
错误首次发生在这一行代码: SendMessage(hWndC, WM_CAP_SET_CALLBACK_VIDEOSTREAM, 0, 0);
经过分析发现所有调用SendMessage函数的地方都会出现以上错误
于是查看DLLImport:
[DllImport("User32.dll")]
private static extern bool SendMessage(IntPtr hWnd, int wMsg, int wParam, long lParam);
原来是因为WinAPI的long类型是32位的,而C#的long是64位的,这就导致堆栈不对称,引发错误.
 
.NET2.0中加入了MDA(managed debugging assistant), 在平台调用时后会检查栈的指针, 如果发现不平衡, 就会抛出PInvokeStackImbalance异常; 而在.NET1.1中不会检查, 所以不会捕获到异常, 但在运行时会导致不稳定.
 
解决方法:
将最后一个long lParam改为int wParam”, 因为C#int32位的. 并且将之后有涉及到SendMessage函数的参数适当地转成int型就可以了.
发现先前的解决方案还有不合适的地方, 应该将其中的 ”wParm” ”lParm” 参数的类型都转成IntPtr类型,并且将后面涉及到的参数的 ”0” 改为 “IntPtr.Zero”. 因为如果使用int类型,那么这段代码在64位的Windows上面将会无法正常运行.
 
总结:
       我们在调用WinAPI时要特别小心, 因为WinAPIC#的数据类型不是完全一样, 就好像在WinAPI中的long类型在C#中就是int类型, 如果没有处理好类型问题, 就很可能会导致堆栈的不平衡,引发PInvokeStackImbalance错误, 但是这类错误在.NET1.1下不会被暴露出来, 所以在从.NET1.1级到.NET2.0时要特别注意此类问题.