搜索论坛 帖子排序:  Oldest to newest Newest to oldest

2010-10-13, 15:30 下午 不及格的程序员-八神 注册: 2009-11-11 发 贴: 22 P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 情况描述: 我在win32 dll 项目中封装了段asm代码调用另一个dll中的函数. 在我的win32 dll项目中公开的函数声明如下: 1 extern "C" _declspec(dllexport) void No(const char* source, char* result) 2 { 3 _asm 4 { 5 mov eax, source 6 push eax 7 mov eax, result 8 push eax 9 call pFun //pFun 是我从另一个dll中用GetProcAddress函数提取的函数地址,这个函数规则是被调用者清除栈; 10 //下面使用eax寄存器,向调用者返回结果,而实际上我们的函数声明并没有返值,这种调用在我的winxp上调用是成功的. 11 //但是在另一台win7系统中,当这此函数返回时却总是失败,报异常. 12 //由于我的最终项目是wcf项目托管于iis7下,当发生异常时,提示ntdll堆被破坏..... 13 mov eax,dword ptr [result] 14 add eax,1 15 mov dword ptr [result],eax 16 } 17 } 下面是我在C#项目中声明的函数导入代码; [DllImport("No.dll", CallingConvention = CallingConvention.Cdecl)] private static extern void No(string strArg0, byte[] strArg1); //此种调用方式,在winxp,win7系统都可以正常运行,结果是通过strArg1传递的. //注意:下面代码声明了string类型的返回值,也就是获取eax返回的地址. private static extern string No(string strArg0, byte[] strArg1); 此种调用方式不能在win7系统下运行,但也是仅仅是第一次报异常,当第二次调用此函数时,就可以通过返回值取到结果. 我的问题是为什么这种方式会报异常呢? 难道win7下CLR jit编译做了更严格的内存检查吗? 或者与JIT没有关系,而是由于系统api的低层函数有更多的检查呢? 我目前还没有找到这个问题所在,但我非常有兴趣....想知道原因,与大家共同讨论一次吧. 不及格的程序员-八神 IP 地址: 已记录   报告

2010-10-13, 15:51 下午 不及格的程序员-八神 注册: 2009-11-11 发 贴: 22 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 张老师,你有Intel 指令集参考手册 的中文版pdf吗? 不及格的程序员-八神 IP 地址: 已记录   报告

2010-10-13, 17:44 下午 sPhinX 注册: 2008-06-28 发 贴: 50 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 中文版......，这个东西硬邦邦的，翻译成中文看不懂的还是看不懂，还不如看原文准确，应该没有人翻译这个吧？ IP 地址: 已记录   报告

2010-10-13, 23:52 下午 格蠹老雷 注册: 2005-12-19 发 贴: 1,303 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 我也有兴趣, :-)要看一下哪里出异常, 把能重现问题的执行文件发给我一份,我来看一下 关于IA32 SDM,国内的确有个兴趣小组翻译过, 搜索一下应该可以搜到, 记得本站的一个朋友参与过这个翻译 IP 地址: 已记录   报告

2010-10-14, 09:07 上午 不及格的程序员-八神 注册: 2009-11-11 发 贴: 22 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 附件: TestRelease.rar 我目前只有这本.还算不错 英特尔64和IA-32架构软件开发人员的手册卷3 中文版-部分 花了一点时间 针对这次的问题写了一个Demo. 附件里是Release版的测试程序. 可以在xp下正常运行,但是放到win7下会出错. 下面的贴子我会贴上源码工程,可以在调试模式(F5)运行能发现异常的报告,但是以非调试(Ctrl+F5)就不会提示异常可以正常运行. 非常有意思. 不及格的程序员-八神 IP 地址: 已记录   报告

2010-10-14, 10:48 上午 不及格的程序员-八神 注册: 2009-11-11 发 贴: 22 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 附件: TestInvoke.rar 源码工程,包含win32dll与托管项目,我已设好依赖项. 不及格的程序员-八神 IP 地址: 已记录   报告

2010-10-14, 22:45 下午 格蠹老雷 注册: 2005-12-19 发 贴: 1,303 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 原因是把返回值声明成了string，即： private static extern string TestFunA(byte[] result); 对于PInvoke函数，返回值如果声明为string，那么CLR便认为，被调用的函数是使用CoTaskMemAlloc分配的内存，而且需要CLR来释放这个内存。异常正是释放返回的内存时发生的。 声明可以改为： [DllImport("TestedDLL.dll", EntryPoint = "TestFun", CallingConvention = CallingConvention.Cdecl)] private static extern System.IntPtr TestFunB(byte[] result); 对应的函数可以改为： var result = new byte[36]; IntPtr returnValue = TestFunB(result); MessageBox.Show("result:" + System.Text.Encoding.Default.GetString(result)); MessageBox.Show("eax: " + Marshal.PtrToStringAnsi(returnValue)); IP 地址: 已记录   报告

2010-10-15, 09:28 上午 不及格的程序员-八神 注册: 2009-11-11 发 贴: 22 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 张老师,您是通过调试的手段发现这个问题的还是之前看过关于clr平台调用时内存分配规则的描述呢? msdn上有一些文章描述了您说的这种情况,而且还有些是与win具体版本有关,比如vista也会出问题. 下面是调试的调用栈: ntdll.dll!_DbgBreakPoint@0() ntdll.dll!_RtlpBreakPointHeap@4() + 0x28 字节 ntdll.dll!_RtlpValidateHeapEntry@12() + 0x113 字节 ntdll.dll!_RtlDebugFreeHeap@12() + 0x97 字节 ntdll.dll!_RtlFreeHeapSlowly@12() + 0x228bf 字节 ntdll.dll!_RtlFreeHeap@12() + 0x17646 字节 ole32.dll!CRetailMalloc_Free() + 0x1c 字节 ole32.dll!_CoTaskMemFree@4() + 0x13 字节 [托管到本机的转换] mscorlib.dll!System.StubHelpers.CSTRMarshaler.ClearNative(System.IntPtr pNative) 行 111 + 0x1c 字节 C# TestInvoke.exe!TestInvoke.Form1.btnError_Click() C# 我看到了的确调用了那个清除内存的方法,但是我却在反汇编里看不到谁调用了ClearNative方法呢???? 是由于函数返回时,clr马上调用了它,而在我们的反汇编代码里没有体现吗? 不及格的程序员-八神 IP 地址: 已记录   报告

2010-10-15, 20:09 下午 格蠹老雷 注册: 2005-12-19 发 贴: 1,303 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 通过调试看到，CoTaskMemFree在释放DLL里的常量... IP 地址: 已记录   报告

2010-10-19, 17:13 下午 不及格的程序员-八神 注册: 2009-11-11 发 贴: 22 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 可是即使是clr在回收内存,为什么Release版能够在xp中运行通过, 而在win7则不能呢? 哪些新的规则在限制着它呢? 不及格的程序员-八神 IP 地址: 已记录   报告

2010-10-19, 22:56 下午 格蠹老雷 注册: 2005-12-19 发 贴: 1,303 Re: P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是? 错误检查的严格程度不同而已 IP 地址: 已记录   报告

高端调试 » 软件调试 » .Net程序调试 » P/Invoke调用dll函数,将本来void的函数声明为带返回值的,在win7出错,在winxp下正常,理由是?

请选择 论坛首页 |- 论坛搜索 |- 热门主题 |- 未回复的主题 用户选项 |- 登录 |- 注册 |- 找回密码 软件调试 |- Windows内核调试 |- C/C++本地代码调试 |- .Net程序调试 |- 脚本程序调试 |- Java程序调试 |- Linux内核调试 |- 《程序员》杂志调试专栏 |- WinDbg |- GDB |- 远程调试 |- 调试ACPI和BIOS |- 特殊的调试任务 |- 转储分析 |- GDK7 内核探秘 |- Windows内核 |- Linux内核 系统架构 |- CPU架构 |- PCI/PCI Express架构 程序人生 |- 软件物语 |- 社区活动 |- 名人逸事 联盟论坛 |- 欢迎使用CnForums 没有银弹 |- BUG也精彩 |- 豆腐工程 |- 软件圈里十大怪 Windows Vista |- 用调试利剑剖析VISTA内幕 |- 老专家如何破解新问题 |- 我的电脑谁说了算？ |- 资源 Office开发 |- Visio 驱动程序开发 |- Windows驱动开发 |- Linux驱动开发 |- Windows CE驱动开发 用户态开发 |- Windows本地代码（native）高级开发 |- Web应用开发 |- WinFX和.Net |- Office开发 本站建设 |- 高端调试团队 |- 版面布局 |- 活动建议 |- 网站维护 64位计算 |- 64-bit Windows |- 64-bit CPU 图书 |- 《软件调试》的示例程序 |- 《软件调试》的工具 |- 《软件调试》书友 |- 《软件调试》答疑 |- 《软件调试》勘误和意见 |- 《格蠹汇编》 |- 《软件调试》第二版卷1 |- 《软件调试》第二版卷2 云计算 |- IaaS |- 云存储 |- 大数据 |- PaaS和SaaS GPU |- CUDA |- OpenCL |- HSA |- 游戏开发与调试