[WinAPI] Compile-Option (Incremental Linking)

-
출처 : http://dstein.egloos.com/2335201

첫째. Debug모드일 경우 기본으로 설정되는 컴파일 옵션을 변경하여 코드 전체에 대해 적용하는 방법
C/C++ ->Code Generation의 Basic Runtime Checks의값을 Both (/RTC1, equiv. to /RTCsu)에서 Default로 변경한다.

둘째, 컴파일 지시자를 사용하여 해당 코드에 대해서만 적용하는 방법



또 하나 주의해야 할 사항이 있다.
WriteProcessMemory로 코드를 리모트 프로세스에 쓰기위해 쓸 코드의 주소를 얻어야 하는데.. Debug모드일 경우 이 코드의 주소가 실제 주소가 아닌 해당 코드 주소를 가리키는 JMP문으로 기록되어 있는 경우가 존재한다.
이는 Debug모드일 경우 Link옵션이 Incremental Linking으로 설정되어 있어서 그렇다. 모두 알고 있겠지만 Incremental Linking은 링크 시간을 단축하기 위해 링크시점에 모든 코드의 호출 주소를 변경하지 않고 변경된 코드의 주소만 JMP문으로 변경하는 기능을 수행한다. 따라서 WriteProcessMemory로 기록하는 내용이 실제 코드의 내용이 아니라 JMP문에 해당하는 다른 내용의 코드가 기록된다.

단 해당함수가 static으로 구현되어 있을경우 Incremental Linking으로 설정되어 있더라도 실제 함수의 주소가 코드에 설정된다.
(위의 샘플소스를 보면 static으로 선언되어 있음.)

이설정은 Project의 Linker->General의 Enable Incremental Linking을 NO로 설정하여 해결 할 수 있다.

댓글

댓글 쓰기

이 블로그의 인기 게시물

[WinAPI] 모달리스 다이얼로그 설명

-
이미지
출처 : http://www.winprog.org/tutorial/modeless_dialogs.html Now we take a look at CreateDialog() , DialogBox() 's sister function. The difference is that while DialogBox() implements it's own message loop and does not return untill the dialog is closed, CreateDialog() acts more like a window created with CreateWindowEx() in that it returns immediately and depends on your message loop to pump the messages as it does for your main window. This is termed Modeless , whereas DialogBox() creates Modal dialogs. You can create the dialog resource just like you did for the last dialog example, you might also want to set the "Tool window" extended style to give it's title bar the typical smaller caption of toolbars. The dialog resource I created follows: IDD_TOOLBAR DIALOGEX 0, 0, 98, 52 STYLE DS_MODALFRAME | WS_POPUP | WS_CAPTION EXSTYLE WS_EX_TOOLWINDOW CAPTION "My Dialog Toolbar" FONT 8, "MS Sans Serif" BEGIN PUSHBUTTON "...
자세한 내용 보기

[WinDbg] Debugging a stack overflow

-
참조 : http://msdn.microsoft.com/en-us/library/windows/hardware/ff540620(v=vs.85).aspx Debugging a Stack Overflow 5 out of 11 rated this helpful - Rate this topic A stack overflow is an error that user-mode threads can encounter. There are three possible causes for this error: A thread uses the entire stack reserved for it. This is often caused by infinite recursion. A thread cannot extend the stack because the page file is maxed out, and therefore no additional pages can be committed to extend the stack. A thread cannot extend the stack because the system is within the brief period used to extend the page file. When a function running on a thread allocates local variables, the variables are put on the thread's call stack. The amount of stack space required by the function could be as large as the sum of the sizes of all the local variables. However, the compiler usually performs optimizations that reduce the stack space required by a function. For example, if two...
자세한 내용 보기

[WinDbg] first-chance, second-chance Exception

-
First-chance Exception 이란 디버거에서 프로그램이 실행 중일 때 SEH 같은 Exception 처리 구문이 들어가 있는 코드를 실행 하다가 어떠한 이유에서 던지 Exception 이 일어 났고 그 Exception 에 대한 처리 코드가 존재 하여 처리가 되었음을 디버거에 알리는 것입니다. 이 Exception이 꼭 프로그램에 심각한 오류가 있음을 말하는 것은 아니며 Exception 처리 코드에 의해 해당 Exception이 안전하게 처리가 되었고 계속 실행할 수 있음을 의미 할 수 있습니다.(대개는 대부분 별 문제 없는 경우입니다.) 만약 그런 Exception에 대한 처리가 없는 경우 디버거는 이를 인지 하고 사용자에게 직접 Exception이 났음 을 알리는데 이를 Second Chance Exception 이라고 하고 이것이 우리가 프로그램 디버깅 중 흔히 보는 에러 상황이 되겠습니다. http://support.microsoft.com/kb/105675              __try              {                            bReturn = IsBadReadPtr(buffer, sizeof(buffer));                     ...
자세한 내용 보기