System Call(시스템 콜)

사용자가 프로그램을 실행시키고 파일을 열어 문서 작성 및 수정을 하는 것은 일상에서도 흔히 일어나는 일이다.

이 상황에서 사용자는 프로그램 생성과 파일 작성, 수정에 대한 제어권을 완벽히 가지고 있다고 생각할 수 있다.

사실은, 해당과정은 운영체제에 의해 수행된 것으로 봐야하고 사용자는 단순히 요청을 한 것에 지나지 않는다.

만약 사용자 혹은 사용자 프로그램이 직접 파일에 접근하거나 프로세스를 생성할 수 있는 권한이 있다면 어떻게 될까.

사용자는, 항상 선의를 갖고 행동하지는 않기 때문에 악의를 가진 사용자가 시스템을 망칠 가능성이 존재한다.

따라서 시스템에 위협이 될 가능성이 존재하는 작업에 대해서는 운영체제가 직접 수행하고 사용자 및 사용자 프로그램은 이에 대한 요청만 가능하다. 

이를 시스템 콜이라고 한다.

 

시스템 콜(System Call)

출처: https://www.javatpoint.com/system-calls-in-operating-system

운영체제는 사용자에게 최대한의 자유를 보장해야하며, 그러는 와중에도 시스템에 대한 공격을 대비해야한다.

따라서 운영체제는 유저 모드 권한을 통해 사용자에게 자유를 보장하는 한편,

커널 모드 권한을 통해 시스템에 위협이 될 가능성이 있는 작업을 직접 수행하여 시스템 위협에 대비한다.

시스템 콜은 유저 모드와 커널 모드 사이에서 사용자가 전달하는 주문서인 셈이다.

시스템 콜을 통하면 크게 다음의 이점이 존재한다.

• 시스템에 위협이 될만한 작업을 운영체제가 수행하기 때문에 보안적인 측면에서 이점이 존재
• 프로그래머는 커널 내부의 구현에 대해 알 필요 없이 잘 추상화된 시스템 콜 인터페이스를 호출하기만 하면 되므로 개발 난이도 측면에서 이점이 존재

 

시스템 콜 작동 방식

시스템 콜은 내부적으로 트랩(Trap)을 이용한다.

(트랩의 이해를 위한 포스트: https://one-armed-boy.tistory.com/entry/%EC%9D%B8%ED%84%B0%EB%9F%BD%ED%8A%B8Interrupt)

유저 모드 프로세스에서 시스템 콜 함수를 호출하면, 시스템 콜은 트랩을 발생시킨다.

이 때 기존 프로세스의 정보는 PCB에 저장된 채 커널 모드로 권한이 격상되고, 

호출된 시스템 콜에 대한 작업을 운영체제가 수행한다.

해당 작업은 커널 스택에서 수행되고, 수행이 완료되면 해당 공간을 제거된다.

작업이 완료되면 PCB를 통해 기존 프로세스를 복원하고, 시스템 콜에 대한 결과를 반환하며 작동이 끝난다.

 

시스템 콜의 종류

대표적인 시스템 콜로는 다음이 있다.

• fork()
• wait()
• exec()

위에서 언급한 시스템 콜들의 공통점은 바로 리눅스 쉘의 작동 방식과 연관이 있다는 점인데,

이에 따라 쉘의 작동과 연관지어 이들을 설명하고자 한다.

fork()

fork는 새로운 프로세스를 생성하기 위한 시스템 콜이다.

fork는 특이한 방식으로 프로세스를 생성하는데, 바로 부모 프로세스를 복제하는 방식을 이용한다.

이 때 자식 프로세스는 PID(프로세스 ID), PPID(부모 프로세스 ID), fork 호출에 대한 반환값 외 몇몇의 요소를 제외하면 그 외의 모든 것이 부모 프로세스와 동일하다.

부모 프로세스의 실행컨텍스트마저 복사를 하기 때문에, 부모 프로세스에서 fork를 호출하기 전의 코드는 자식 프로세스에서 다시 실행되지 않고 그 이후의 코드에 대해서만 실행된다.

프로그래머는 일반적으로 fork의 호출 값이 자식과 부모에서 다르다는 점을 통해 분기 처리를 이용하여 다른 코드 흐름을 실행시키는데, 부모 프로세스에서는 fork 호출 값이 생성된 자식 프로세스의 ID를 갖는 한편, 자식 프로세스에서는 0 값이 반환된다.

기존의 fork는 실행 즉시 부모의 메모리를 복사하여 같은 크기의 메모리를 하나 더 할당했기 때문에 비효율이 존재했다.

이를 완화하기 위해 이후에 Copy On Write(COW)라는 기법이 도입되었다.

해당 기법은 fork 시에는 부모와 자식 프로세스가 하나의 메모리 공간을 참조하다가, 부모와 자식이 서로 다른 코드 흐름의 실행되면 그제서야 메모리 공간을 분리하는 것이다. 이를 통하면 불필요한 메모리 분리가 발생하지 않기 때문에 메모리 절약 측면에서 도움이 된다.

wait()

wait는 부모 프로세스에서 자식 프로세스가 종료될 때까지 기다려야되는 상황에서 사용할 수 있는 시스템 콜이다.

이를 호출하면 부모 프로세스는 자식 프로세스가 완료될 때까지 코드를 실행시키지 않고 있다가,

자식 프로세스가 완료되면 그제서야 부모 프로세스의 이후 코드가 실행된다.

exec()

exec은 다른 프로그램을 실행해야할 때 호출되는 시스템 콜이다.

여기서 중요한 것은 다른 프로그램을 실행한다는 것이, 새로운 프로세스를 생성하는 것이 아니라는 점이다.

exec 시스템 콜은 기존 프로세스의 이미지를 새로운 프로세스의 이미지로 대체한다. 따라서 exec 시스템 콜이 호출된 이후의 코드는 실행되지 않고 대체된 프로세스의 코드가 실행된다.

Linux 쉘의 작동

쉘은 사용자의 명령어를 입력 받고 이를 수행한 뒤 결과를 콘솔에 출력해주는 프로그램이다.

이는 다음과 같은 흐름으로 작동한다.

1. 쉘에 명령어를 입력
2. 쉘은 fork를 호출하여 자신의 복사본을 생성
3. 자식 쉘에 exec을 호출하여 사용자가 입력한 명령어로 프로세스 대체
4. 부모 쉘은 wait를 호출하여 명령어의 수행이 완료될 때까지 대기
5. 자식 프로세스가 완료되면 부모 쉘이 다시 작동을 시작하여 반환 값을 출력

 

※ fork, wait, exec 시스템 콜에 대한 예시 코드는 OSTEP 저자의 github에 존재

(https://github.com/remzi-arpacidusseau/ostep-code/blob/master/cpu-api/p3.c)