【C#/C++】C#调用C++ DLL bool返回值始终为true的问题排查

问题描述

在C#项目中，调用C++DLL中方法时，bool返回值始终返回true。

问题原因

C将布尔定义为4字节int，C++将其定义为1字节。C#团队决定在PInvoke期间使用4字节bo0l作为默认值，因为大多数系统API函数Q 使用4字节值作为bool。如果要更改此行为，必须通过封送处理来完成，并指定要使用1字节值。

解决方案

方案一

采用int 返回值替代bo0l返回值，如返回1代表true，返回0代表false。

方案二

通过[return:MarshalAs(UnmanagedType.11)]指定返回值为1字节值。

[DllImport("DLLINTER.dll", EntryPoint="OPENC", CallingConvention=CallingConvention.Cdecl)]  
[return:MarshalAs(UnmanagedType.I1)]  
public static extern bool OPENC([MarshalAs(UnmanagedType.LPStr)] string name);

//测试  
public static extern bool OPENC(  string name);     也可以