如下网址给出了解决方法.
​​​http://social.msdn.microsoft.com/Forums/vstudio/en-US/3f7766c1-9352-47f5-963f-137f20acf4cc/win32-modal-dialog-box ​​​
在自定义的窗口类中,增加如下消息处理代码即可.

case WM_GETDLGCODE:
   if(lParam)
   {
        LPMSG lpmsg = (LPMSG)lParam;
        if( lpmsg->message == WM_CHAR)
        {
             return DLGC_WANTCHARS;
        }
   }
   return 0;