admin 管理员组

文章数量: 887021

--------------------------------------------------------------

VMware+Windgb+Win7内核驱动调试

--------------------------------------------------------------


在被调试机上的注册表中写入下值:

 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Session Manager\Debug Print Filter] 
"DEFAULT"=dword:0000000f

才能在windbg中打印调试信息。


本文主要记录个人安装VMware+Windgb+Win7内核驱动调试的笔记。

 

一、安装环境

 

主机:Windows 7 x64 En U 版

虚拟机:VMware 7.1.4  VM8.0.2 (亲测)

GUestOS(虚拟机): Win7 x64 chs U 版

Windbg: 最新

 

二、虚拟机配置

 

1       打开相应 vmware 虚拟机上的 “Virtaul Machine Settings“

 

先要删除打印机

2       “Hardware ”选项中 ----> 点击“Add" 添加一个串口设备 SeriallPort .

 

 

3        "Next",在 "Serial Port" 里选中 “Output tonamed pipe"

 

 

"next",然后如下设置:



4       

确定之后,回到如下界面,在右脚"Virtual MachineSettings" 页面时,在“I/O Mode” 里选中“Yield CPU on poll“
  



5        

6        Ok之后就设定完毕了。

 

 

三、Windbg设置

 

     下载地址: Windbg

 

      安装之后,设置一个桌面快捷方式,然后,右键->属性,在Target中的引号后面添加如下:-b -kcom:pipe,port=\\.\pipe\com_1,resets=0

得用下面红色字的,上面这些对于真机没用,虚拟机用上面的  机器:  -k com:port=1,baud=115200    真机调试时会出现链接不上的情况, à 可能因为目标机的调试端口 不是  它的通信端口,要在设备管理器中找到它的通信端口是多少,然后在msconfig中的引导项中设置为哪个端口,但是在windbg中还是设置原来的调试端口不变。

 

 

            或者是: -b -k com:port=\\.\pipe\com_1,baud=115200,pipe 【二者似乎皆可】

 

四、GuestOS设置 (就是虚拟机里的系统配置)

 

         适用于win7 vistar  如果感觉黑窗口玩不了 请看 7.这种方法更直观

 

7       在administrator权限下, 进入command line模式,  键入bcdedit命令, 会出现以下界面:



 

然后, 设置端口COM1,baudrate为115200 (除COM1外, 也可以用1394或USB. 1394用起来比COM口快多了, 当然前提是你需要有1394卡及其驱动. 很恶心的是Vista不再支持1394的文件传输协议, 但是用windbg双机调试还是可以的)
命令为:
bcdedit /dbgsettings {serial [baudrate:value][debugport:value] | 1394[channel:value] | usb }


8       
 

接着, 我们需要复制一个开机选项, 以进入OS的debug模式
命令为:
bcdedit /copy {current} /d DebugEnty
DebugPoint为选项名称, 名字可以自己定义. 然后复制得到的ID号.

9       
 

接着增加一个新的选项到引导菜单
bcdedit /displayorder {current} {ID}
这里的{ID}的ID值是刚生成的ID值.

10   
 

激活DEBUG : bcdedit /debug {ID} ON
这里的{ID} 的ID值还是刚才的ID值.

11   
 

12   命令执行成功后, 重新启动机器.

7.或者更简单的图形界面设置:在msconfig界面中,选Boot,再选Advancedoptions,在选择Debug、Debug port、Baud rate都打上钩。如果所示:


13   
 

14   选择DebugEntry[debug]作为等入口。启动后,打开windbg.可以看到类似如下的信息:

14   Microsoft (R) Windows DebuggerVersion 6.11.0001.404 X86 

14   Copyright (c) Microsoft Corporation.All rights reserved. 

14     

14   Opened \\.\pipe\com_1 

14   Waiting to reconnect... 

14   Connected to Windows 7 7600 x86compatible target at (Thu Dec 10 17:46:36.928 2009 (GMT+8)), ptr64 FALSE 

14   Kernel Debugger connectionestablished.  (Initial Breakpointrequested) 

14   Symbol search path is: *** Invalid*** 

14   **************************************************************************** 

14   * Symbol loading may be unreliablewithout a symbol search path.          * 

14   * Use .symfix to have the debuggerchoose a symbol path.                  * 

14   * After setting your symbol path, use.reload to refresh symbol locations. * 

14   **************************************************************************** 

14   Executable search path is:  

14   ********************************************************************* 

14   * Symbols can not be loaded becausesymbol path is not initialized. * 

14   *                                                                  * 

14   * The Symbol Path can be set by:                                    * 

14   *  using the _NT_SYMBOL_PATH environment variable.                 * 

14   *  using the -y <symbol_path> argument when starting the debugger.* 

14   *  using .sympath and .sympath+                                    * 

14   ********************************************************************* 

14   *** ERROR: Symbol file could not befound.  Defaulted to export symbols for ntkrpamp.exe-  

14   Windows 7 Kernel Version 7600 MP (1procs) Free x86 compatible 

14   Product: WinNt, suite: TerminalServerSingleUserTS 

14   Built by:7600.16385.x86fre.win7_rtm.090713-1255 

14   Machine Name: 

14   Kernel base = 0x83e0f000PsLoadedModuleList = 0x83f57810 

14   Debug session time: Thu Dec 1017:46:32.658 2009 (GMT+8) 

14   System Uptime: 0 days0:06:18.429 

14   Break instruction exception - code80000003 (first chance) 

14   ******************************************************************************* 

14   *                                                                            * 

14   *  You are seeing this message because you pressed either                    * 

14   *       CTRL+C (if you run kd.exe) or,                                        * 

14   *       CTRL+BREAK (if you run WinDBG),                                       * 

14   *  on your debugger machine's keyboard.                                      * 

14   *                                                                            * 

14   *                   THIS IS NOT A BUG OR ASYSTEM CRASH                       * 

14   *                                                                            * 

14   * If you did not intend to break intothe debugger, press the "g" key, then   * 

14   * press the "Enter" keynow.  This message might immediatelyreappear.  If it * 

14   * does, press "g" and"Enter" again.                                         * 

14   *                                                                            * 

14   ******************************************************************************* 

14   nt!DbgBreakPointWithStatus+0x4: 

14   83e7a394 cc              int     3 

15    

 

 

 

五、操作方式提示

我发现,如果在GuestOs -win7启动过程中,如果打开了windbg之后,整个系统就像死机,不动了。估计是windbg启动后设定了断点做调试,试试按F5,或者go这样就可以恢复原来的状态

----------------------------------问题及解决办法-----------------------------------------------------------------------------------

Windows7 x64 + VMware + WinDbg双机调试故障解决

源于:http://blog.tianya/blogger/post_read.asp?BlogID=1439846&PostID=38575768

作者:MuseHero   2012-02-07 09:37 星期二 晴

  最近对虚拟机及里面的OS都进行了升级,在配置Windbg双机调试时,出现两个问题。
  在网上搜了搜,第二个问题几乎没有参考资料,就在国外看到过一例出同样问题的,现把解决方法放出来,供有同样麻烦的朋友们参考:
  
  第一个问题:
   现像:打开虚拟机后无法连接,提试无法打开连接端口。
   故障原因:WMWare7.x及以后的版本在添加SerialPort时默认为Serial Port2,即COM2端口,而习惯了用WMWare6.x的朋友们升级7.x时习惯了按旧有设置(COM1)来进行双机调试,就会连接不上了。
  
   解决方案:
   1、在添加Serial Port时将虚拟机硬件配置中的打印机删除,再创建SerialPort时就是SerialPort1了,其它不用改变,直接可以按原有方式进行双调试的设置。
   2、虚拟的硬件设置不变,在虚拟OS中添加调试引导项时(bcdedit里),把端口设为COM2,也是可行的。
   以上两个方案任选其一可解决。
  
  第二个问题:
   现像:在虚拟OS开机引导,加载完ClassPnp驱动后,实机中的WinDbg强制关闭(就是窗口突然没了,进程也结束了)
   故障原因:调试WinDbg时显示故障是“调试目标初始化时出现问题,错误码:0x8000FFFF”。(现在我也没搞明白这是啥子故障)
   解决方案:
   这个故障是在引导过程中发生的,通过排除发现不加载网络驱动则不会出现故障,所以解决方案也就很简单了,在虚拟硬件设置中把网络连接中的“开机连接”去掉,让开机时不连接网络。
 进入虚拟OS后,如果需要使用网络,再手动连接网络,经测试开机后手动连接不会触发故障出现。
  
   第二个问题用笨方法解决了,但原理没有搞清楚,应该是跟虚拟网络有关,有明白原因的朋友还请告诉一下子,谢谢了。
 (后注:用了几天后发现第二个问题的解决方案并不稳定,时好时坏,最后不得不换装Windows7家庭版解决,经测试VMWare里面装Windows7 64位旗舰版时会出这个问题,装家庭版未发现有同样的问题。)

友情提示:
 在设置双机调试时,总是记不住bcdedit的命令,后来才知道用msconfig就可以直接在图形界面设置了,同样记忆力差的朋友可以尝试一下子。

 

本文标签: 内核 VMware Windgb