[VB]调用vc Dll出错

三叶草

模块代码:

1. Public Declare Function HookApi Lib "D:\HookApi.dll" (ByVal hWnd As Long, ByVal ModuleName As String, ByVal FunctionName As String, ByVal FnctionAddr As Long) As Boolean
   
2. 
   
3. Public Declare Sub UnHookApi Lib "D:\HookApi.dll" ()
   
4. 
   
5. Public Declare Sub HookOn Lib "D:\HookApi.dll" ()
   
6. 
   
7. Public Declare Sub HookOff Lib "D:\HookApi.dll" ()
   
8. 
   
9. Public Declare Function MessageBox Lib "user32" Alias "MessageBoxA" (ByVal hWnd As Long, ByVal lpText As String, ByVal lpCaption As String, ByVal uType As Long) As Long
   
10. 
    
11. Public Function My_MessageBox(ByVal hWnd As Long, ByVal lpText As String, ByVal lpCaption As String, ByVal uType As Long) As Long
    
12. 
    
13. Debug.Print lpText & vbCrLf & lpCaption
    
14. 
    
15. HookOff
    
16. 
    
17. My_MessageBox = MessageBox(hWnd, lpText, lpCaption, uType)
    
18. 
    
19. HookOn
    
20. 
    
21. End Function

复制代码

窗体代码:

1. Private Sub Command1_Click()
   
2. 
   
3. MsgBox HookApi(Me.hWnd, "user32", "MessageBoxA", AddressOf My_MessageBox)
   
4. 
   
5. End Sub
   
6. 
   
7. Private Sub Command2_Click()
   
8. 
   
9. UnHookApi
   
10. 
    
11. End Sub
    
12. 
    
13. Private Sub Command4_Click()
    
14. 
    
15. MessageBox Me.hWnd, "Hi", "Hello", vbOK
    
16. 
    
17. End Sub

复制代码

运行时总出现对话框Error:cannot get Function

求解释!

三叶草

HookApi.dll代码：

HookApi.h:

1. // HookApi.h : HookApi DLL 的主头文件
   
2. //
   
3. 
   
4. #pragma once
   
5. 
   
6. #ifndef __AFXWIN_H__
   
7.         #error "在包含此文件之前包含“stdafx.h”以生成 PCH 文件"
   
8. #endif
   
9. 
   
10. #include "resource.h"                // 主符号
    
11. 
    
12. 
    
13. // CHookApiApp
    
14. // 有关此类实现的信息，请参阅 HookApi.cpp
    
15. //
    
16. 
    
17. class CHookApiApp : public CWinApp
    
18. {
    
19. public:
    
20.         CHookApiApp();
    
21. 
    
22. // 重写
    
23. public:
    
24.         virtual BOOL InitInstance();
    
25. 
    
26.         int ExitInstance();
    
27. 
    
28.         DECLARE_MESSAGE_MAP()
    
29. };
    
30. #define  UM_WNDTITLE WM_USER+100 //自定义消息
    
31. 
    
32. //全局共享变量
    
33. #pragma data_seg(".Share")
    
34. HWND g_hWnd = NULL;//主窗口句柄;
    
35. HHOOK hhk = NULL;        //鼠标钩子句柄;
    
36. HINSTANCE hInst = NULL;//本dll实例句柄;
    
37. #pragma data_seg()
    
38. #pragma comment(linker, "/section:.Share,rws")
    
39. 
    
40. HANDLE hProcess = NULL;
    
41. BOOL bIsInjected = FALSE;
    
42. 
    
43. PTR oldFunc = NULL; //用于保存原函数地址
    
44. FARPROC pfFunc = NULL;//指向原函数地址的远指针
    
45. BYTE OldCodeA[5]; //老的系统API入口代码
    
46. BYTE NewCodeA[5]; //要跳转的API代码 (jmp xxxx)
    
47. PTR FunctionAddress;
    
48. 
    
49. //安装钩子
    
50. _declspec(dllexport) BOOL WINAPI _stdcall HookApi(HWND hWnd);
    
51. //卸载钩子
    
52. _declspec(dllexport) VOID WINAPI _stdcall UnHookApi();

复制代码

HookApi.cpp:

1. // HookApi.cpp : 定义 DLL 的初始化例程。
   
2. //
   
3. 
   
4. #include "stdafx.h"
   
5. #include "HookApi.h"
   
6. 
   
7. #ifdef _DEBUG
   
8. #define new DEBUG_NEW
   
9. #endif
   
10. 
    
11. // CHookApiApp
    
12. 
    
13. BEGIN_MESSAGE_MAP(CHookApiApp, CWinApp)
    
14. END_MESSAGE_MAP()
    
15. 
    
16. 
    
17. // CHookApiApp 构造
    
18. 
    
19. CHookApiApp::CHookApiApp()
    
20. {
    
21.         // TODO:  在此处添加构造代码，
    
22.         // 将所有重要的初始化放置在 InitInstance 中
    
23. }
    
24. 
    
25. 
    
26. // 唯一的一个 CHookApiApp 对象
    
27. 
    
28. CHookApiApp theApp;
    
29. 
    
30. //开启钩子的函数
    
31. void HookOn()
    
32. {
    
33.         ASSERT(hProcess != NULL);
    
34. 
    
35.         DWORD dwTemp = 0, dwOldProtect, dwRet = 0, dwWrite;
    
36. 
    
37.         VirtualProtectEx(hProcess, pfFunc, 5, PAGE_READWRITE, &dwOldProtect);
    
38.         dwRet = WriteProcessMemory(hProcess, pfFunc, NewCodeA, 5, &dwWrite);
    
39.         if (0 == dwRet || 0 == dwWrite)
    
40.         {
    
41.                 TRACE("啊，写入失败");
    
42.         }
    
43.         VirtualProtectEx(hProcess, pfFunc, 5, dwOldProtect, &dwTemp);
    
44. }
    
45. 
    
46. //关闭钩子的函数
    
47. void HookOff()
    
48. {
    
49.         ASSERT(hProcess != NULL);
    
50. 
    
51.         DWORD dwTemp = 0, dwOldProtect = 0, dwRet = 0, dwWrite = 0;
    
52. 
    
53.         //恢复原API入口
    
54.         VirtualProtectEx(hProcess, pfFunc, 5, PAGE_READWRITE, &dwOldProtect);
    
55.         dwRet = WriteProcessMemory(hProcess, pfFunc, OldCodeA, 5, &dwWrite);
    
56.         if (0 == dwRet || 0 == dwWrite)
    
57.         {
    
58.                 TRACE("啊，写入失败");
    
59.         }
    
60.         VirtualProtectEx(hProcess, pfFunc, 5, dwOldProtect, &dwTemp);
    
61. }
    
62. 
    
63. void Inject()
    
64. {
    
65. 
    
66.         if (!bIsInjected)
    
67.         {
    
68.                 bIsInjected = TRUE;//保证只调用1次
    
69. 
    
70.                 if (pfFunc == NULL)
    
71.                 {
    
72.                         MessageBox(NULL, _T("cannot get Function"), _T("error"), 0);
    
73.                         return;
    
74.                 }
    
75. 
    
76.                 _asm
    
77.                 {
    
78.                         lea edi, OldCodeA
    
79.                         mov esi, pfFunc
    
80.                                 cld
    
81.                                 movsd
    
82.                                 movsb
    
83.                 }
    
84. 
    
85.                 NewCodeA[0] = 0xe9;
    
86.                 _asm
    
87.                 {
    
88.                         lea eax, FunctionAddress
    
89.                         mov ebx, pfFunc
    
90.                                 sub eax, ebx
    
91.                                 sub eax, 5
    
92.                                 mov dword ptr[NewCodeA + 1], eax
    
93.                 }
    
94. 
    
95.                 HookOn();
    
96.         }
    
97. }
    
98. 
    
99. // CHookApiApp 初始化
    
100. 
     
101. BOOL CHookApiApp::InitInstance()
     
102. {
     
103.         CWinApp::InitInstance();
     
104.         hInst = AfxGetInstanceHandle();
     
105.         DWORD dwPid = ::GetCurrentProcessId();
     
106.         hProcess = ::OpenProcess(PROCESS_ALL_ACCESS, 0, dwPid);
     
107. 
     
108.         Inject();
     
109. 
     
110.         return TRUE;
     
111. }
     
112. 
     
113. LRESULT CALLBACK MouseProc(
     
114.         int nCode,      // hook code
     
115.         WPARAM wParam,  // message identifier
     
116.         LPARAM lParam   // mouse coordinates
     
117.         )
     
118. {
     
119.         if (nCode == HC_ACTION)
     
120.         {
     
121.                 //将钩子所在窗口句柄发给主程序
     
122.                 ::SendMessage(g_hWnd, UM_WNDTITLE, wParam, (LPARAM)(((PMOUSEHOOKSTRUCT)lParam)->hwnd));
     
123.         }
     
124.         return CallNextHookEx(hhk, nCode, wParam, lParam);
     
125. }
     
126. 
     
127. 
     
128. //安装钩子
     
129. BOOL WINAPI HookApi(HWND hWnd,LPCWSTR ModuleName,LPCSTR FunctionName,PTR FunctionAddr)
     
130. {
     
131.         //获取函数
     
132.         HMODULE hmod = ::LoadLibrary(ModuleName);
     
133.         oldFunc = GetProcAddress(hmod, FunctionName);
     
134.         pfFunc = (FARPROC)oldFunc;
     
135.         g_hWnd = hWnd;
     
136.         FunctionAddress = FunctionAddr;
     
137.         hhk = ::SetWindowsHookEx(WH_MOUSE, MouseProc, hInst, 0);
     
138.         if (hhk == NULL)
     
139.         {
     
140.                 return FALSE;
     
141.         }
     
142.         else
     
143.         {
     
144.                 return TRUE;
     
145.         }
     
146. }
     
147. 
     
148. //卸载钩子
     
149. VOID WINAPI UnHookApi()
     
150. {
     
151.         HookOff();
     
152. 
     
153.         if (hhk != NULL)
     
154.         {
     
155.                 UnhookWindowsHookEx(hhk);
     
156.                 FreeLibrary(hInst);
     
157.         }
     
158. }
     
159. 
     
160. //dll退出时
     
161. int CHookApiApp::ExitInstance()
     
162. {
     
163.         HookOff();
     
164. 
     
165.         return TRUE;
     
166. }

复制代码

三叶草

然后我在习惯性地按Ctrl+S时,也出现了此对话框:

三叶草

还有一张:

唐凌

你的HookApi函数定义成了

BOOL WINAPI HookApi(HWND hWnd,LPCWSTR ModuleName,LPCSTR FunctionName,PTR FunctionAddr)

其中ModuleName和FunctionName两个，一个用的是unicode字符串，一个用的是ansi字符串。VB6里调用API的时候会把字符串自动转换成ansi。
就是因为字符串编码问题导致你LoadLibrary失败。
如果你要让VB6按字符串传参数，那就必须全部用ansi字符串。换言之就是把ModuleName的类型换成LPCSTR。
然后把LoadLibrary强行指定为LoadLibraryA或者GetModuleHandleA，只接受ansi字符串参数的版本。
如果不想改VC里的代码，那就在VB里把HookApi的代码定义成

Public Declare Function HookApi Lib "D:\HookApi.dll" (ByVal hWnd As Long, ByVal ModuleName As Long, ByVal FunctionName As String, ByVal FnctionAddr As Long) As Boolean

然后这么调用：

Call HookApi(Me.hWnd, StrPtr("user32"), "MessageBoxA", AddressOf My_MessageBox)

三叶草

我按你说的做,结果还是不行,而且...

三叶草

我用我另外一个程序调用了MessageBox,崩了,任务管理器都关不掉的那种

唐凌

三叶草 发表于 2021-7-15 16:50
我用我另外一个程序调用了MessageBox,崩了,任务管理器都关不掉的那种

那就挂调试器看看崩哪里了呗，学一些windbg调试起来就简单多了

三叶草

tangptr@126.com 发表于 2021-7-15 17:01
那就挂调试器看看崩哪里了呗，学一些windbg调试起来就简单多了

啊这,我不会winbdg

Golden Blonde

你HOOK自己进程内的函数为啥要用C写？VB一样可以调用VirtualProtect和WriteProcessMemory。

如果要HOOK其它进程内部的函数，那么地址必须要在其它进程里，不能是你进程里的地址。

三叶草

我用的是全局钩子,VB写不了

唐凌

三叶草 发表于 2021-7-15 20:23
啊这,我不会winbdg

我猜到你不会，所以用了“学”这个字。
https://docs.microsoft.com/en-us ... started-with-windbg
用windbg调试vb6程序的时候别忘了在编译前给项目勾选“创建符号调试信息”，它会额外生成一个pdb文件有助于你用windbg玩源码级调试。

Golden Blonde

三叶草 发表于 2021-7-15 22:50
我用的是全局钩子,VB写不了

你的VC-DLL到底是啥功能？我乍一看是API HOOK，怎么又看到了消息钩子？

系统消息

三叶草 发表于 2021-7-15 20:23
啊这,我不会winbdg

VS可以附加调试到进程，选择附加到VB6IDE进程上，你就可以调试你自己写的dll，可以在源码里面下断点。

系统消息

tangptr@126.com 发表于 2021-7-14 20:07
[md]你的`HookApi`函数定义成了
```C
BOOL WINAPI HookApi(HWND hWnd,LPCWSTR ModuleName,LPCSTR FunctionN ...

VB6还是tlb的方式调用C函数方便，我只需要在tlb内部声明LPCSTR和LPCWSTR，VB6调用就会自动根据参数传ANSI还是Unicode进去。

三叶草

tangptr@126.com 发表于 2021-7-16 03:23
我猜到你不会，所以用了“学”这个字。
https://docs.microsoft.com/en-us/windows-hardware/drivers/deb ...

是这个吗?

三叶草

美俪女神 发表于 2021-7-16 05:27
你的VC-DLL到底是啥功能？我乍一看是API HOOK，怎么又看到了消息钩子？

消息钩子只是个摆设,真正起作用的是Inject()

Golden Blonde

三叶草 发表于 2021-7-16 15:19
消息钩子只是个摆设,真正起作用的是Inject()

你具体要实现什么功能？

三叶草

Hook Api,把线程注入到所有进程中,修改该进程Api的头部,使其跳转到我自己编写的函数中,拦截函数执行

0xAA55

三叶草 发表于 2021-7-19 16:16
Hook Api,把线程注入到所有进程中,修改该进程Api的头部,使其跳转到我自己编写的函数中,拦截函数执行 ...

VC部分竟然写了个类。定睛一看，class CHookApiApp : public CWinApp。为了搞个Hook你这竟然用MFC，这是干屌？

void Inject()，我看到了内联汇编的操作，5字节Hook。这十分令人怀念Windows XP。强烈推荐了解Detours库，我就先不说什么你那个强行Hook的操作过于“线程不安全”了，槽点太多了。

然后我注意到：

FARPROC pfFunc = NULL;//指向原函数地址的远指针

（都1202年了还“FARPROC”，1986年就淘汰了的东西）

在void Inject()里，你判断pfFunc为NULL时弹窗，内容是"cannot get Function"。

转到VB6的代码：

1. Public Declare Function HookApi Lib "D:\HookApi.dll" (ByVal hWnd As Long, ByVal ModuleName As String, ByVal FunctionName As String, ByVal FnctionAddr As Long) As Boolean

复制代码

这是一个经典的VB6调用API时初学者容易遇到的坑。观察你的VC函数原型：

1. BOOL WINAPI HookApi(HWND hWnd,LPCWSTR ModuleName,LPCSTR FunctionName,PTR FunctionAddr);

复制代码

你的ModuleName是宽字符，你的FunctionName不是，但是这两个在你的VB6声明里都是ByVal xxx As String，你的VB6程序无法区分其中两者。要知道：VB6调用API的时候，String类型会受到自动的Unicode转Ansi处理。

因此你的 ModuleName 应该被定义为 ByVal ModuleName As Long ，然后传参的时候，传递你的模块名的字符串指针，使用 StrPtr() 传参，可以避免隐藏的字符串转换过程。