[CS] 이것이 취업을 위한 컴퓨터 과학이다 - 1. 컴퓨터 구조의 큰 그림

컴퓨터가 이해하는 정보

컴퓨터가 이해하는 정보는 데이터와 명령어

컴퓨터의 명령어는 수행할 동작과 수행할 대상으로 이뤄져 있다.

명령어를 실행하는 주체는 CPU

CPU의 종류에 따라 실행 가능한 세부적인 명령어의 종류와 처리의 양상이 달라질 수 있다.

 

컴퓨터의 핵심 부품

컴퓨터의 핵심 부품에는 CPU(중앙처리장치), 메모리(주기억장치), 캐시 메모리, 보조기억장치, 입출력장치가 있다.

---

 

CPU

컴퓨터가 이해하는 정보인 데이터와 명령어를 읽어 들이고, 해석하고 실행하는 부품

 

CPU의 주요 구성 요소

• 산술논리연산장치(Arithmetic and Logic Unit)
  • 사칙 연산, 논리 연산과 같은 연산을 수행할 회로로 구성되어 있는 일종의 계산기. CPU가 처리할 명령어를 실질적으로 연산하는 요소
• 제어 장치(Control Unit)
  • 명령어를 해석해 제어 신호라는 전기 신호를 내보내는 장치
  • 제어 신호란 부품을 작동시키기 위한 신호
  • CPU가 메모리를 향해 제어 신호를 보내면 메모리를 작동시킬 수 있고, 입출력장치를 향해 제어 신호를 보내면 입출력 장치를 작동시킬 수 있다.
• 레지스터(register)
  • CPU 내부의 작은 임시 저장장치
  • 데이터와 명령어를 처리하는 과정의 중간값을 저장
  • CPU내에는 여러 개의 레지스터가 존재하며, 각기 다른 이름과 역할을 가지고 있다.
  • 가장 중요한 구성요소
  • CPU가 처리하는 명령어는 반드시 레지스터에 저장되기 때문에 레지스터 값만 잘 관찰해도 가장 낮은 단계에서 프로그램 실행 과정을 알 수 있다.

---

 

메모리와 캐시 메모리

 

메모리

• CPU가 읽어 들이고, 해석하고, 실행하는 모든 정보를 저장하는 장치
• 메모리는 실행 중인 프로그램을 구성하는 데이터와 명령어를 저장하는 부품
• 프로그램이 실행되려면 그 프로그램을 이루는 데이터와 명령어가 메모리에 저장되어 있어야 한다.
• CPU가 메모리에 접근할 때 컴퓨터가 빠르게 작동하기 위해서는 CPU가 원하는 정보로 접근하기 위해서는 주소가 필요하다.
• 메모리(RAM)는 휘발성 저장 장치로, 메모리에 저장된 정보는 컴퓨터의 전원이 꺼지면 모두 삭제된다.

 

캐시 메모리

• CPU와 메모리 사이에는 반드시 하나 이상의 캐시 메모리가 있다.
• CPU가 조금이라도 더 빨리 메모리에 저장된 값에 접근하기 위해 사용하는 저장장치
• 캐시 메모리는 CPU안에 위치하기도 하고, CPU밖에 위치하기도 한다.

 

보조기억장치

• 컴퓨터의 전원이 꺼지면 저장된 정보를 잃지 않도록 보조기억장치를 사용합니다.
• 보조기억장치는 전원이 꺼져도 저장된 정보가 사라지지 않는 비휘발성 저장장치
• 하드 디스크 드라이브, 플래시 메모리(SSD, USB메모리), 플로피 디스크와 같은 저장장치
• 메모리가 현재 실행 중인 프로그램을 저장한다면, 보조기억장치는 보관할 프로그램을 저장한다.
• 프로그램을 실행하려면 보조기억장치에 저장된 프로그램을 메모리로 복사한 후 실행해야 합니다.

 

입출력장치

• 컴퓨터 외부에 연결되어 컴퓨터 내부와 정보를 교환하는 장치
• 마우스, 키보드, 마이크는 입력장치, 스피커, 모니터 프린터는 출력장치
• 보조기억장치는 컴퓨터 내부와 정보를 주고받는 방식이 입출력장치와 유사하기 때문에, 둘을 합쳐 주변장치라고 통칭하기도 합니다.

 

메인 보드와 버스

• 컴퓨터의 핵심 부품들을 연결한다.
• 메인보드에 연결된 부품들은 각자의 역할을 적절히 수행하기 위해 서로 정보를 주고받는다.
• 이때 각 컴퓨터 부품들이 정보를 주고 받는 통로를 버스라고 한다.
• 시스템 버스는 컴퓨터 내부에서 CPU(중앙처리장치), 메모리(RAM), 그리고 주변 장치(입출력 장치) 간 데이터를 주고받는 통로입니다. 즉, 컴퓨터 내부에서 데이터를 전송하는 고속 통신 경로이다.

저장장치의 계층 구조

레지스터, 메모리, 캐시 메모리, 보조기억장치들은 다음과 같은 명제를 따른다.
1. CPU와 가까운 저장장치는 빠르고, 멀리 있는 저장장치는 느리다.
2. 속도가 빠른 저장장치는 용량이 적고, 가격이 비싸다.

각각의 저장장치들은 CPU와 가까운 순으로 나열하면 '레지스터 -> 캐시 메모리 -> 메모리 -> 보조기억장치'이다.
이 저장장치들은 CPU와의 거리, 용량과 성능을 기준으로 다음과 같이 계층적 구조를 가지며, 이를 '저장장치 계층 구조'라고 표현한다.

하위 계층에 속한 저장장치는 속도가 느리지만, 저장할 수 있는 용량이 크고 저렴하다. 반면, 상위 계층에 속한 저장장치는 속도는 빠르지만, 저장할 있는 용량이 작고 비싸다. 이처럼 각각의 장단점이 다르기 때문에 계층별 저장장치를 모두 함께 사용하는 것이 일반적이다.

 

---

컴퓨터가 이해하는 정보

• CPU는 기본적으로 0과 1만을 이해할 수 있다. 0과 1을 나타내는 가장 작은 정보의 단위를 비트라고 한다.
• 바이트는 여덟 비트를 묶은 단위. 
• 워드란 CPU가 한 번에 처리할 수 있는 데이터의 크기
• CPU가 한 번에 16비트를 처리할 수 있다면 1 워드는 16비트가 되고, 한 번에 32 비트를 처리할 수 있다면 32비트가 된다.

데이터

• CPU는 컴퓨터 내부에서 2진법을 사용해서 수를 이해한다.
• 컴퓨터가 이해할 수 있는 문자들의 집합은 문자 집합이라고 한다.
• 문자 집합에 속한 문자를 컴퓨터가 이해하는 0과 1로 이루어진 문자 코드로 변환하는 과정을 문자 인코딩이라고 한다.
• 반대로, 0과 1로 표현된 문자를 사람이 이해하는 문자로 변환하는 과정을 문자 디코딩이라 한다.

아스키(ASCII)

• 아스키는 초창기 컴퓨터에서 사용하던 문자 집합 중 하나로, 영어의 알파벳과 아라비아 숫자, 일부 특수 문자를 포함한다.
• 하나의 아스키 문자는 8비트(1바이트)를 사용한다.
• 오류 검출을 위해 사용하는 8비트 중 1비트는 패리티비트이다.
• 아스키 문자에 대응되는 고유한 수를 아스키코드 라고 한다.

유니코드

• 아스키코드로는 모든 한글 조합을 표현할 수 있을 정도로 많은 양이 아니다.
• 유니코드는 한글을 포함한 많은 언어, 특수문자, 화살표 이모티콘까지 코드로 표현할 수 있는 통일된 문자 집합이다.
• 현대 가장 많이 사용되는 표준 문자 집합, 문자 인코딩에 있어 매우 중요한 역할을 한다.
• 인코딩 방법에는 UTF-8, UTF-16, UTF-32등이 있다. 유니코드 문자에 부여된 값을 인코딩하는 방식이다.
• UTF-8, UTF-16, UTF-32는 가변 길이 인코딩 방식이다. 인코딩 된 결과의 길이가 일정하지 않을 수 있다.

 

명령어

• 명령어는 수행할 동작과 수행할 대상으로 이루어져 있다.
• 수행할 대상은 수행할 동작에 사용될 데이터 자체가 될 수도 있고, 동작에 사용될 데이터가 저장된 위치가 될 수도 있다.
• 명령어가 수형핼 동작은 연산 코드라고 한다.
• '동작에 사용될 데이터' 혹은 '동작에 사용될 데이터가 저장된 위치'는 오퍼랜드라고 한다.
• 연산 코드는 연산자, 오퍼랜드는 피연산자라고 한다.
• 오퍼래드 필드에는 숫자나 문자와 같이 연산 코드에 사용될 데이터가 직접 명시되기보다는 많은 경우 연산 코드에 사용될 데이터가 저장된 위치, 즉 메모리 주소나 레지스터의 이름이 명시된다. 그래서 오퍼랜드 필드를 주소 필드라고도 부른다.
• 예를 들어, CPU가 메모리에 접근하여 '100번지의 값에 10을 더하라'라는 명령어를 가져왔다면, 오퍼랜드 필드에 지정된 메모리 주소(100번지)를 통해 메모리에 접근한 후, 해당 값을 인출하여 연산을 수행합니다.
• 대부분의 CPU가 공통적으로 이해하는 대표적인 연산 코드는 데이터 전송, 산술/논리 연산, 제어흐름 변경, 입출력 제어가 있다.

기계어와 어셈블리어

• CPU가 이해할 수 있도록 0과 1로 표현된 정보를 표현한 언어를 기계어라고 한다.
• 어셈블리어는 0과 1로 표현된 기계어를 사람이 이해하기 쉽게 표현한 저수준 프로그래밍 언어이다.

명령어 사이클

• 메모리 안에는 프로그램이 저장되어 있고, 이 프로그램은 여러 명령어로 구성되어 있다. 그리고 CPU는 이 메모리에서 명령어를 인출하고 실행하기를 반복하며 전체 프로그램을 실행해 나간다. 이때 CPU가 명령어를 처리하는 과정에는 일정한 흐름이 있으며, 프로그램 내 각 명령어는 일정한 주기를 따라 실행된다.  이 주기를 명령어 사이클이라고 한다.
• 메모리에 저장된 명령어를 실행하려면, 먼저 해당 명령어를 메모리에서 CPU로 가져와야 한다. 명령어 사이클의 첫 번째 과정에서, 메모리에 있는 명령어를 CPU로 가져오는 단계를 인출 사이클이라고 한다.
• CPU로 가져온 명령어를 실행하는 단계는 실행 사이클이라고 한다.
• CPU는 메모리에 저장된 명령어를 가져와 실행하는 과정을 반복하며 프로그램을 수행한다. 따라서 인출 사이클과 실행 사이클은 계속해서 반복된다.
• 명령어를 실행하기 위해 한번 더 메모리에 접근하는 단계는 간접 사이클이라고 한다.
• 어떤 명령어는 인출과 실행 사이클만으로 실행되고, 어떤 명령어는 인출, 간접 실행 사이클을 모두 거쳐 실행된다.
• 인터럽트를 처리하는 인터럽트 사이클도 있다. 

---

 

CPU

 

1. 레지스터

• CPU안에 있는 작은 임시 저장장치로, 연산 및 데이터 처리를 위해 사용된다.
• CPU는 프로그램을 실행할 때 명령어와 데이터를 메모리(RAM)에서 가져와 처리하는데, RAM은 속도가 비교적 느려 CPU와 직접 데이터를 주고받기에는 비효율적이므로, CPU 내부에 있는 레지스터를 활용하여 데이터를 빠르게 저장하고 처리한다.

1-1. 프로그램 카운터

• 프로그램 카운터는 메모리에서 다음으로 읽어 들일 명령어의 주소를 저장한다.
• 명령어 포인터라고 부르는 CPU도 있다.
• 조건문이거나 리턴문을 실행하는 경우와 같이 프로그램 실행 흐름이 순차적이지 않을 때는 프로그램 카운터 값이 임의의 위치로 변경하게 된다.

1-2. 명령어 레지스터

• 해석할 명령어, 즉 메모리에서 방금 읽어 들인 명령어를 저장하는 레지스터
• CPU내의 제어장치는 명령어 레지스터 속 명령어를 해석한 뒤 ALU(산술논리연산장치)로 하여금 연산하도록 시키거나 다른 부품으로 제어 신호를 보내 해당 부품을 작동시킵니다.

1-3. 범용 레지스터

• 다양하고 일반적인 상황에서 자유롭게 사용할 수 있는 레지스터
• 데이터와 명령어, 주소 모두를 저장할 수 있다.
• CPU안에는 여러 개의 범용 레지스터들이 있다.

1-4. 플래그 레지스터

• 연산의 결과 혹은 CPU 상태에 대한 부가 정보인 플래그 값을 저장하는 레지스터
• 플래그는 CPU가 명령어를 처리하는 과정에서 반드시 참조해야 할 상태 정보를 의미하는 비트

1-5. 스택 포인터

• 메모리에는 실행 중인 프로그램들이 스택 형태로 사용 가능한 주소 공간을 하나 이상 가지고 있다. 
• 스택 포인터란 메모리 내 스택 영역의 마지막으로 스택에 저장된 데이터의 위치를 가리키는 레지스터이자, 스택이 채워진 정도를 나타내는 레지스터

---

 

인터럽트

• CPU의 작업을 방해하는 신호
• 동기 인터럽트는 CPU에 의해 발생하는 인터럽트. 예외라고도 부른다.
• 비동기 인터럽트는 주로 입출력장치에 의해 발생하는 인터럽트. 알림의 역할을 한다.
  • CPU가 프린터와 같은 입출력장치에게 입출력 작업을 부탁하고, 작업을 끝낸 입출력장치가 CPU에게 완료 알림(인터럽트)를 보낸다.
  • 키보드, 마우스 같은 입출력 장치가 어떤 입력을 받아들였을 때, 이를 처리하기 위해 CPU에게 입력 알림(인터럽트)를 보낸다.

작업 완료 여부를 계속해서 확인하는 것은 인터럽트와 대비되는 '폴링'기법이다. 입출력 작업에서 폴링(polling)이란 입출력장치의 상태가 어떤지, 처리할 데이터가 있는지 주기적으로 확인하는 것을 말한다.

 

비동기 인터럽트(하드웨어 인터럽트)

• CPU는 효율적으로 명령어를 처리하기 위해 비동기 인터럽트를 사용한다.
• 하드웨어 인터럽트를 사용하면 CPU는 작업이 끝나기를 기다릴 필요 없이 프린트가 진행되는 동안 온전히 다른 작업을 처리할 수 있게 된다. 
• 비동기 인터럽트는 입출력 완료 여부를 확인하기 위한 CPU 사이클 낭비를 최소화하고, CPU가 다른 일을 수행할 수 있는 시간을 벌어 줌으로써 효율적으로 명령어를 처리할 수 있도록 돕는다.

CPU가 비동기 인터럽트를 처리하는 순서

• 입출력 장치는 CPU에게 인터럽트 요청 신호를 보낸다.
• CPU는 실행 사이클이 끝나고 명령어를 인출하기 전에 항상 인터럽트 여부를 확인한다.
• CPU는 인터럽트 요청을 확인하고, 인터럽트 플래그를 통해 현재 인터럽트를 받아들일 수 있는지 여부를 확인한다.
• 인터럽트를 받아들일 수 있다면 CPU가 지금까지의 작업을 백업한다.
• CPU는 인터럽트 벡터를 참조하여 인터럽트 서비스 루틴을 실행한다.
• 인터럽트 서비스 루틴 실행이 끝남면 4에서 백업해 둔 작업을 복구해 실행을 재개한다.

인터럽트 요청 신호

• 인터럽트는 CPU의 정상적인 실행 흐름을 끊는 것이기 때문에 인터럽트 하기 전에 CPU에게 인터럽트의 가능 여부를 확인해야 합니다. 이를 위한 신호를 인터럽트 요청 신호 라고 한다.

인터럽트 플래그

• CPU가 인터럽트 요청을 수용하기 위해서는 플래그 레지스터의 인터럽트 플래그가 활성화되어 있어야 한다.
• 인터럽트 플래그는 하드웨어 인터럽트를 받아들일지, 무시할지를 결정하는 플래그이다.
• 비동기 인터럽트에는 막을 수 있는 인터럽트, 막을 수 없는 인터럽트가 있다.

인터럽트 서비스 루틴

• CPU가 인터럽트 요청을 받아들이기로 했다면, CPU는 인터럽트 서비스 루틴이라는 프로그램을 실행한다.
• 인터럽트 핸들러라고도 부른다.
• 어떤 인터럽트가 발생했을 때 해당 인터럽트를 어떻게 처리하고 작동해야 할지에 대한 정보로 이루어진 프로그램

인터럽트 벡터

• CPU는 수많은 인터럽트 서비스 루틴들을 구분하기 위해 인터럽트 벡터를 이용한다.
• CPU는 비동기 인터럽트 요청을 보낸 대상으로부터 버스를 통해 인터럽트 벡터를 전달받는다. 인터럽트 벡터가 인터럽트 서비스 루틴의 시작 주소를 포함하고 있기 때문에 CPU 인터럽트 베거를 통해 처음부터 특정 인터럽트 서비스 루틴을 실행할 수 있다.

정리

• CPU가 인터럽트를 처리하는 것은 인터럽트 서비스 루틴을 실행하고, 본래 수행하던 작업으로 다시 되돌아온다는 말이다.
• CPU가 인터럽트 서비스 루틴을 실행하려면 인터럽트 서비스 루틴의 시작 주소를 알아야 하며, 이는 인터럽트 벡터를 통해 알 수 있다.
• CPU는 인터럽트 서비스 루틴을 실행하기 전에 프로그램 카운터 값 등 현재 프로그램을 재개하기 위해 필요한 모든 내용을 메모리 내 스택에 백업한다.
• 인터럽트 서비스 루틴의 시작 주소가 위치한 곳으로 프로그램 카운터 값을 경신하고, 인터럽트 서비스 루틴을 실행한다.
• 인터럽트 서비스 루틴을 처리하고 나면 스택에 저장해 둔 프로그램 카운터 등을 다시 불러온 뒤 이전까지 수행하던 작업을 재개한다.

---

 

예외

• 예외(동기 인터럽트)의 종류에는 폴트, 트랩, 중단, 소프트웨어 인터럽트 등이 있다.
• CPU는 예외가 발생하면 하던 일을 중단하고 해당 예외를 처리한다. 그리고 예외를 처리하고 나면 다시 본래 하던 작업으로 돌아와 실행을 재개한다. CPU가 작업을 되돌아왔을 때 예외가 발생한 명령어부터 실행하느냐, 예외가 발생한 명령어의 다음 명령어부터 실행하느냐에 따라 폴트와 트랩으로 나눌 수 있다.

폴트

• 예외를 처리한 직후에 예외가 발생한 명령어부터 실행을 재개하는 예외
• 프로그램이 실행되기 위해서는 데이터가 반드시 메모리에 저장되어 있어야 하므로 CPU는 폴트를 발생시키고, 보조기억장치로부터 필요한 데이터를 메모리를 가져와 저장하게 된다. CPU는 필요한 데이터를 보조기억장치로부터 메모리로 가지고 왔으므로 다시 실행을 재개해 폴트가 발생한 그 명령어부터 실행해 나갈 것이다. 이처럼 예외가 발생한 명령어부터 실행해 나가는 예외를 폴트 라고 한다.

트랩

• 예외를 처리한 직후에 예외가 발생한 명령어의 다음 명령어부터 실행을 재개하는 예외
• 디버깅의 브레이크 포인트
• 디버깅할 때는 브레이크 포인트를 지정하여 특정 코드가 실행되는 순간에 프로그램을 멈추게 할 수 있으며, 프로그램을 중단시키고 디버깅이 끝나면(트랩을 처리하고 나면) 트랩이 발생한 다음 명령어부터 실행해 나간다.
• 이처럼 예외가 발생한 명령어의 다음 명령어부터 실행을 재개하는 예외를 트랩이라 한다.

중단

• CPU가 실행 중인 프로그램을 강제로 중단시킬 수밖에 없는 오류를 발견했을 때 발생하는 예외

소프트웨어 인터럽트

• 시스템 콜이 발생했을 때 발생하는 예외

 

---

CPU 성능 향상을 위한 설계

 

CPU 클럭 속도

• 클럭은 컴퓨터 내부에서 동작을 동기화하는 주기적인 신호를 의미한다. 컴퓨터의 박자(템포)를 맞추는 역할을 한다.
• 클럭의 '똑-딱-똑-딱' 주기에 맞춰 이 레지스터에서 다른 레지스터로 데이터가 이동하거나 ALU에서 연산이 수행되고, 메모리에 저장된 명령어를 읽어 들인다.
• 클럭 속도는 헤르츠(Hz) 단위로 측정되는데, 이는 클럭이 1초에 몇 번 반복되는지를 나타낸다.
• 클럭 속도가 높아지면 CPU는 명령어 사이클을 더 빠르게 반복하고, 다른 부품들도 그에 발맞춰 더 빠르게 작동한다. 즉, 클럭 속도가 높은 CPU는 일반적으로 성능이 좋다.
• 클럭 속도는 CPU의 속도 단위로 간주되기도 한다.
• 클럭 속도를 필요 이상으로 높이면 컴퓨터의 발열이 심해질 수 있다.

 

멀티코어와 멀티스레드

• 코어란 CPU 내부에서 명령어를 읽고, 해석하며, 실행하는 연산 장치를 의미한다.
• 과거에는 CPU가 하나의 코어만 갖는 것이 일반적이었지만, 현대의 CPU는 여러 개의 코어를 포함할 수 있으며, 각 코어는 독립적으로 명령어를 처리할 수 있다. 이를 통해 동시에 여러 작업을 수행할 수 있도록 설계된 것이 멀티코어 CPU 또는 멀티코어 프로세서이다.

	CPU	코어
정의	컴퓨터의 중앙처리장치	CPU 내부의 개별 연산 장치
역할	프로그램 실행 및 연산 수행	개별 명령어 실행 및 연산 처리
구성 요소	여러 개의 코어, 캐시, 컨트롤러 포함	연산 장치(ALU), 레지스터, 명령어 디코더 포함
종류	싱글코어, 듀얼코어, 쿼드코어, 옥타코어 CPU 등	싱글코어, 멀티코어 (2개 이상)
병렬 처리	CPU 자체는 하나지만, 멀티코어 CPU일 경우 여러 작업을 병렬로 처리 가능	여러 코어가 있으면 각 코어가 동시에 다른 작업을 수행 가능

 

스레드

• 실행 흐름의 단위

하드웨어 스레드

• 하나의 코어가 동시에 처리하는 명령어의 단위

멀티스레드

• 하나의 코어로 여러 명령어를 동시에 처리하는 CPU를 멀티스레드 프로세서, 혹은 멀티스레드 CPU라고 한다.
• 예를 들어 명령어를 읽어 들이고, 해석하고, 실행하는 부품 하나가 한 번에 하나의 명령어를 처리한다면 이는 1 코어 1 스레드 CPU이고, 명령어를 읽어 들이고, 해석하고, 실행하는 부품 2개가 한 번에 4개의 명령어를 처리한다면 2 코어 4 스레드 CPU이다.
  
  

소프트웨어 스레드

• 하나의 프로그램에서 독립적으로 실행되는 단위

병렬성

• 작업을 물리적으로 처리하는 성질

동시성

• 하나의 CPU 또는 멀티코어 환경에서 여러 작업이 동시에 실행되는 것처럼 보이도록 처리하는 방식

 

	동시성	병렬성
개념	여러 작업을 번갈아 가며 실행	여러 작업을 동시에 실행
CPU 활용 방식	하나의 CPU에서 빠르게 전환 (싱글코어 가능)	여러 CPU 또는 코어에서 동시에 실행 (멀티코어 필수)
예시	웹 브라우저가 여러 탭을 빠르게 전환하며 실행	멀티코어 CPU에서 여러 작업을 동시에 처리

 

• 동시성: 한 사람이 여러 업무(이메일 확인, 문서 작성, 전화 응대)를 번갈아 가며 처리
• 병렬성: 여러 사람이 각각 다른 업무를 동시에 처리

 

명령어 병렬 처리 기법

• 명령어 파이프라이닝은 CPU에서 여러 명령어를 겹쳐서 실행하는 방식으로, 명령어 실행을 여러 단계로 나누고, 각 단계를 동시에 수행하여 성능을 향상시키는 기법입니다.
• 즉, 한 명령어가 완료될 때까지 기다리지 않고, 다음 명령어를 동시에 처리하여 CPU의 활용도를 극대화하는 방식
• CPU가 놀지 않고 계속 명령어를 처리하여 성능 향상.
• 클럭 사이클당 더 많은 명령어를 실행 가능.

명령어 실행 과정

1. 명령어 인출
2. 명령어 해석
3. 명령어 실행
4. 결과 저장

 

파이프라이닝 위험

• CPU에서 명령어 파이프라이닝을 수행하는 과정에서 예상치 못한 문제로 인해 실행이 지연되는 현상을 의미
• 즉, 파이프라인이 원활하게 진행되지 못하고 멈추거나 지연되는 상황을 말하며, 이는 CPU 성능 저하를 초래한다.
• 데이터 위험과 제어 위험, 구조적 위험이 있다.

데이터 위험

• 명령어 간의 데이터 의존성에 의해 발생한다. 
• 이전 명령어의 연산 결과가 아직 저장되지 않았는데, 다음 명령어가 그 값을 사용하려 할 때 발생한다.

제어 위험

• 프로그램 카운터의 갑작스러운 변화에 의해 발생
• 예를 들면, 분기(Branch) 명령어(예: if-else, jump 등)로 인해 실행 경로가 바뀔 경우 발생한다.

구조적 위험

• 명령어들을 겹쳐 실행하는 과정에서 서로 다른 명령어가 동시에 ALU, 레지스터 등 과 같은 CPU 부품을 사용하려 할 때 발생한다.
• 자원 위험이라고도 부른다.

---

 

메모리(RAM)

• 컴퓨터에서 실행 중인 프로그램과 데이터를 일시적으로 저장하는 휘발성 메모리
• CPU가 빠르게 데이터를 읽고 쓰기 위해 사용하는 메모리이며, 컴퓨터의 속도와 성능에 큰 영향을 미치는 핵심 요소이다.
• CPU는 보조기억장치에 저장된 프로그램을 가져와 바로 실행할 수 없기 때문에 프로그램을 보관하고 있는 보조기억장치에서 메모리로 복사해 와 실행할 수 있다.
• 그래서 RAM의 용량이 적으면 보조기억장치로부터 실행할 프로그램을 가지고 오는 일이 잦아져 실행 시간이 길어지지만, RAM의 용량이 크면 보조기억장치로부터 많은 데이터를 가져와 미리 RAM에 저장할 수 있기 때문에 많은 프로그램을 동시에 실행하는데 유리하다.

RAM(Random Access Memory)

• 임의 접근(Random Access)이란 저장된 요소에 순차적으로 접근할 필요 없이 임의의 위치에 바로 접근 가능한 방식
• 직접 접근이라고도 부른다.
• RAM의 종류에는 DRAM, SRAM, SDRAM, DDR SDRAM 등이 있다.
  1. DRAM : 시간이 지나면 저장된 데이터가 점차 사라지는 RAM
  2. SRAM : 시간이 지나도 저장된 데이터가 사라지지 않는 RAM. 캐시 메모리 등에 사용된다.
  3. SDRAM : 클럭 신호와 동기화된 DRAM
  4. DDR SDRAM : 대역폭을 넓혀 속도를 빠르게 만든 SDRAM. 대역폭이란 '데이터를 주고받을 길의 너비'

 

메모리에 바이트를 밀어 넣는 순서 - 빅 엔디안과 리틀 엔디안

• 현대의 메모리는 대부분 데이터를 바이트 단위로 저장하고 관리한다.
• 메모리는 데이터를 CPU로부터 바이트 단위로 받아들이지 않고 일반적으로 4바이트(32바이트), 혹은 8바이트(64비트)인 워드 단위로 받아들이다. 
• 그렇게 여러 바이트로 구성된 데이터를 받아들여 여러 주소에 걸쳐 저장한다.
• 즉, 한 주소에 1바이트씩 저장하는 메모리는 4바이트의 데이터를 4개의 주소에 저장하고, 8바이트의 데이터를 8개의 주소에 저장한다.
• 메모리에 바이트를 저장하는 방식은 연속해서 저장하는 바이트를 어떤 순서로 저장하는지에 따라 빅 엔디안과 리틀 엔디안으로 나뉜다.

 

빅 엔디안

• 상위 바이트를 작은 주소에 저장하고, 하위 바이트를 큰 주소에 저장하는 방식.
• 사용 예시: 네트워크 프로토콜(TCP/IP), 일부 RISC 프로세서(예: PowerPC, SPARC)
• 예: 0x12345678을 메모리에 저장할 때

주소:   0x00  0x01  0x02  0x03  
값:     0x12  0x34  0x56  0x78

 

 

리틀 엔디안

• 상위 바이트(MSB)를 큰 주소에, 하위 바이트(LSB)를 작은 주소에 저장하는 방식.
• 숫자의 작은 부분이 먼저 저장됨.
• 사용 예시: x86, x86_64 프로세서(Intel, AMD), ARM(설정 가능)
• 예: 0x12345678을 메모리에 저장할 때

주소:   0x00  0x01  0x02  0x03  
값:     0x78  0x56  0x34  0x12

 

 

캐시 메모리

• CPU와 메모리 사이에 위치한 SRAM 기반의 저장장치이다.
• CPU는 프로그램 실행 과정에서 빈번히 메모리에 접근해야 한다.
• CPU는 매우 빠른 속도로 연산하지만, RAM의 속도는 그에 비해 느리다. 캐시는 이 속도 차이를 줄여 CPU가 RAM에 직접 접근하는 횟수를 최소화한다.
• 캐시는 공간이 매우 제한적이므로, CPU가 최근에 사용했거나 자주 사용하는 데이터를 우선 저장한다.
• 캐시 메모리 종류에는 코어와 가장 가까운 L1 캐시, 그 다음 가까운 캐시 메모리 L2, 그 다음으로 가까운 캐시 메모리 L3 캐시가 있다.

캐시 종류	속도	크기	위치
L1 캐시	가장 빠름	가장 작음(몇 KB)	CPU 코어 내부
L2 캐시	중간 속도	중간 크기(몇 MB)	CPU 코어 내부 또는 외부
L3 캐시	가장 느림(그래도 RAM보다 빠름)	가장 큼(몇 MB~십여 MB)	CPU 내부(모든 코어가 공유)

 

• 캐시 메모리의 크기는 L3 > L2 > L1
• 속도 L1 > L2 > L3
• CPU가 메모리 내에 데이터가 필요하다고 판단하면 우선 L1 캐시 메모리에 해당 데이터가 있는지 알아보고, 없다면 L2, L3 캐시 메모리 순으로 데이터를 검색한다.

캐시 히트(Cache Hit)

• 캐시 메모리가 예측하여 저장한 데이터가 CPU에 의해 실제 사용되는 경우를 캐시 히트라고 한다.
• RAM까지 접근할 필요 없이 빠르게 데이터를 가져올 수 있어 성능 향상.

캐시 미스(Cache Miss)

• CPU가 요청한 데이터가 캐시에 없으면 캐시 미스(Cache Miss) 발생.
• 이 경우, RAM에서 데이터를 가져와야 하므로 속도가 느려짐.
• 가져온 데이터는 캐시에 저장되어 이후 재사용될 수 있음.

캐시 적중률(Cache Hit Rate)

• 캐시가 히트되는 비율

캐시 교체 정책(Cache Replacement Policy)

• 캐시의 공간이 제한적이므로, 새로운 데이터를 저장하기 위해 기존 데이터를 제거해야 할 때가 있음.
• 대표적인 교체 정책:
  • LRU(Least Recently Used) → 가장 오랫동안 사용되지 않은 데이터를 제거.
  • FIFO(First In, First Out) → 먼저 저장된 데이터를 먼저 제거.
  • LFU(Least Frequently Used) → 가장 적게 사용된 데이터를 제거.

 

참조 지역성

• 프로그램이 실행될 때, 특정 데이터나 명령어가 한 번 참조되면 가까운 시점에 다시 참조될 가능성이 높다는 성질을 의미한다.
• 캐시 메모리이 이점을 제대로 활용하려면 CPU가 사용할 법한 데이터를 제대로 예측해서 캐시 적중률을 높여야 한다.
• 캐시 메모리는 참조 지역성의 원리라는 특정한 원칙에 따라 메모리로부터 가져올 데이터를 결정한다.

 

참조 지역성의 두 가지 유형

1. 시간 지역성
   • CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향이 있다.
   • 예시:
     • 반복문에서 같은 변수를 여러 번 사용하는 경우
     • 캐시 메모리가 자주 사용하는 데이터를 저장하는 이유
     • CPU가 명령어를 실행할 때 같은 메모리 주소를 여러 번 접근하는 경우
2. 공간 지역성
   • CPU는 접근한 메모리 공간의 근처에 접근하려는 경향이 있다.
   • 예시:
     • 배열 요소를 순차적으로 접근하는 경우
     • 코드가 메모리에 연속적으로 저장되므로, 다음 명령어도 연속적으로 실행되는 경우
     • 캐시 메모리가 한 번에 블록 단위로 데이터를 가져오는 이유

 

캐시 메모리의 쓰기 정책과 일관성

• CPU가 캐시 메모리에 데이터를 쓸 때는 캐시 메모리에 새롭게 쓰여진 데이터와 메모리 사이의 데이터가 일관성을 유지해야 한다.
• 캐시 메모리는 CPU와 메모리 간 속도 차이를 줄이기 위해 존재하지만, 쓰기 연산을 처리하는 방식에 따라 성능과 데이터 일관성이 달라진다. 

 

캐시 메모리의 쓰기 정책

캐시에서 데이터를 변경할 때, 주기억장치(Main Memory)와 어떻게 동기화할지에 따라 다음과 같은 방식이 있다.

 

1. 즉시 쓰기(Write-Through)

• 특징: 데이터를 캐시에 저장하면서 동시에 메모리에도 즉시 반영하는 방식.
• 장점: 항상 캐시와 메모리가 동일한 값을 유지하므로 데이터 일관성이 보장됨.
• 단점: 모든 쓰기 연산이 메모리까지 전달되므로 속도가 느릴 수 있음.

2. 지연 쓰기 (Write-Back )

• 특징: 캐시에만 먼저 데이터를 저장하고, 메모리는 나중에 변경된 블록이 제거될 때(플러시 될 때) 업데이트하는 방식.
• 장점: 메모리 접근 횟수를 줄여 성능이 향상됨.
• 단점: 캐시와 메모리의 데이터가 다를 수 있어 일관성을 유지하는 추가 메커니즘이 필요함.

3. Write-Around (라이트 어라운드)

• 특징: 쓰기 연산 시 캐시를 거치지 않고, 바로 메모리에 저장하는 방식.
• 장점: 캐시 오염(cache pollution)을 방지할 수 있어 일시적인 데이터(예: 대용량 데이터)를 저장할 때 유리함.
• 단점: 읽기 연산이 많아지면 캐시가 활용되지 않아 성능이 저하될 수 있음.

---

보조기억장치와 입출력장치

• 보조기억장치는 메모리의 휘발성을 보완하는 동시에, 메모리보다 큰 저장 공간을 제공한다.

RAID(Redundant Array of Independent Disks)

• RAID는 여러 개의 하드디스크(HDD) 또는 SSD를 하나의 논리적 드라이브처럼 구성하여 데이터 저장 성능과 안정성을 향상시키는 기술이다.
• 하드디스크(HDD)는 데이터를 저장하는 물리적인 저장 장치로, 데이터를 읽고 쓰는 보조 기억장치이다.
• 자성을 띠는 원형 플래터(디스크) 위에 데이터를 저장하며, 회전하는 디스크를 읽고 쓰는 헤드(Head)를 이용해 데이터를 기록하거나 읽는다.
• 플레시 메모리는 전원을 꺼도 데이터가 유지되는 비휘발성 저장장치로, 데이터를 읽고 쓰는 반도체 기반의 저장장치이다.
  반도체를 이용해 데이터를 저장하며, 빠른 속도와 높은 내구성이 특징이다.
• 보조기억장치의 본분은 전원이 꺼져도 데이터를 안전하게 보관하는 것이고, 또 하나는 CPU가 필요로 하는 정보를 조금이라도 빠른 성능으로 메모리에게 전달하는 것이다.
• 이를 위해 사용하는 기술이 RAID다. 데이터의 안전성 혹은 성능을 확보하기 위해 여러 개의 독립적인 보조기억장치를 마치 하나의 보조기억장치처럼 사용하는 기술이다.

 

RAID의 주요 목표

• 성능 향상 (Performance Boost) → 여러 디스크에 데이터를 나누어 저장하여 읽기/쓰기 속도를 빠르게 함.
• 데이터 안정성 (Fault Tolerance) → 일부 디스크가 고장 나더라도 데이터 손실 없이 복구 가능.
• 스토리지 용량 확장 (Storage Scalability) → 여러 개의 디스크를 묶어 하나의 대용량 스토리지로 사용 가능.

RAID 레벨	설명	장점	단점
RAID 0	데이터를 여러 디스크에 나눠 저장(스트라이핑)	읽기/쓰기 속도 증가	디스크 1개라도 고장 나면 데이터 손실. 저장된 정보가 안전하지 않다.
RAID 1	완전한 복사본을 만들어 저장하는 구성 방식.(미러링)	복구가 간단하고 안정성이 높다.	원본과 복사본을 저장해야하기때문에 저장 용량이 적어진다.
RAID 4	패리티 정보를 저장하는 디스크를 따로 두는 구성 방식.	적은 하드 디스크로도 안정성이 높다.	데이터가 저장될 때마다 패리티를 저장하는 디스크에도 데이터를 쓰게 되므로 병목 현상이 발생한다.
RAID 5 (스트라이핑 + 패리티)	패리티를 분산하여 저장하는 구성 방식	속도와 안정성 균형, RAID 4의 단점인 병목 현상 보완	패리티 계산으로 쓰기 성능 저하된다.
RAID 6 (이중 패리티)	서로 다른 2개의 패리티를 두는 구성 방식. 오류 검출하고 복구할 수 있는 수단이 2개가 생김	높은 안정성	새로운 정보를 저장할때마다 함께 저장할 패리티가 2개이므로 쓰기 속도는 RAID5에 비해 일반적으로 느림
RAID 10 (1+0)	RAID 1(미러링) + RAID 0(스트라이핑) 조합	높은 속도와 높은 안정성	디스크 4개 이상 필요, 저장 효율 낮음

 

• 스트라입 : 줄무늬처럼 분산되어 저장된 데이터
• 스트라이핑 : 분산하여 저장하는 동작
• 패리티 : 오류를 검출할 수 있는 정보

---

입출력 기법

장치 컨트롤러

• CPU와 입출력 장치(I/O 장치) 사이에서 데이터를 제어하고 전송하는 하드웨어 모듈이다.
• CPU는 장치 컨트롤러와 상호작용함으로써 입출력장치를 작동시키는것 또한 CPU가 실행하는 프로그램을 통해 이루어진다.

장치 컨트롤러의 역할

• 입출력 장치와 CPU 간 데이터 전달
• 장치의 동작을 제어하고 상태를 모니터링
• 인터럽트를 발생시켜 CPU에 작업 완료 신호 전달
• DMA(Direct Memory Access)를 사용해 메모리와 직접 데이터 전송

장치 드라이버

• 장치 컨트롤러의 동작을 알고, 장치 컨트롤러가 컴퓨터 내부와 정보를 주고받을 수 있도록 하는 프로그램
• 컴퓨터가 장치 드라이버를 인식하지 못한다면 장치 컨트롤러와 정보를 주고받는 방법을 알수 없으므로 입출력장치를 실행하지 못한다.

CPU와 장치 컨트롤러가 정보를 주고 받는 작업, 입출력 작업을 수행하는 방법에는 3가지가 있다.

 

1. 프로그램 입출력

• 프로그램 속 명령어로 입출력 작업을 수행하는 방법
• 입출력 명령어를 입력하여 실행한다.

2. 인터럽트 기반 입출력(다중 인터럽트)

• 입출력 장치가 데이터를 전송하거나 받을 준비가 되었을 때 CPU에 알리기 위해 인터럽트를 발생시키는 방식이다.
• 이 방식에서는 CPU가 입출력 작업을 기다리는 동안 다른 작업을 수행할 수 있어 시스템 자원을 효율적으로 사용할 수 있다.
• 다중 인터럽트는 키보드, 마우스, 모니터 스피커 등의 입출력 장치를 동시에 사용하는 상황과 같이 인터럽트가 동시에 발생하거나, 순차적으로 발생하는 상황을 처리하는 방법이다. 인터럽트가 여러 입출력장치로부터 동시다발적으로 발생한다. 

 

다중 인터럽트를 처리하는 방법

1. 인터럽트 우선순위 (Interrupt Priority)
   • 인터럽트 우선순위는 어떤 인터럽트가 먼저 처리될지를 결정합니다. 여러 인터럽트가 동시에 발생하면 CPU는 우선순위가 높은 인터럽트부터 처리한다.
   • 예를 들어, 중요한 하드웨어 오류나 시스템에 중요한 인터럽트는 우선순위를 높게 설정하고, 사용자가 입력한 키보드 인터럽트는 우선순위가 낮게 설정할 수 있다.
2. 인터럽트 벡터 (Interrupt Vector)
   • 다중 인터럽트를 효율적으로 처리하려면, 인터럽트 벡터 테이블을 사용하여 각 인터럽트에 대한 처리 루틴을 저장한다.
   • 각 인터럽트는 고유한 주소를 가지며, CPU는 이 주소를 통해 인터럽트 서비스 루틴(ISR)을 찾아서 처리한다.
   • 인터럽트 벡터 테이블은 보통 메모리의 특정 위치에 저장되며, CPU가 인터럽트를 발생시키면 해당 위치를 참조해 적절한 ISR을 실행한다.
3. 인터럽트 마스크 (Interrupt Masking)
   • 특정 인터럽트를 마스킹(Masking)하거나 비활성화하여 우선순위가 높은 인터럽트를 먼저 처리할 수 있도록 한다.
   • 인터럽트 마스크를 사용하면, CPU가 특정 인터럽트를 일시적으로 무시하거나 대기 상태로 만들 수 있습니다. 이 기법은 중요한 작업을 먼저 처리하고, 그 후에 나머지 인터럽트를 처리하는 데 유용하다.

4. 프로그래머블 인터럽트 컨트롤러 (PIC : Programmable Interrupt Controller)

• 컴퓨터 시스템에서 인터럽트 요청을 관리하고 제어하는 하드웨어 장치
• 여러 장치 컨트롤러에 연결되어 있어 장치 컨트롤러에서 보낸 하드웨어 인터럽트 요청들의 우선순위를 판별한뒤, CPU에게 처리해야 할 하드웨어 인터럽트가 무엇인지 알려주는 장치이다.
  
  

3. DMA 입출력

• 프로그램 기반의 입출력과 인터럽트 기반의 입출력에 공통점이 있다면 CPU가 입출력 장치와 메모리간의 데이터 이동을 주도해야 하며, 이동하는 데이터들도 반드시 CPU를 거친다는 점이다.
• 예를 들어, 입출력장치의 데이터를 메모리에 저장하는 경우
  1. CPU는 장치 컨트롤러로부터 데이터를 하나씩 읽어 레지스터에 적재한다.
  2. 적재한 데이터를 하나씩 메모리에 저장한다.
• 이런 방식처럼 모든 데이터가 반드시 CPU를 거쳐야 한다면 CPU의 부담을 커질것이다. 그래서 CPU를 거치지 않고도 입출력장치와 메모리가 상호작용할 수 있는 입출력 방식인 DMA 가 등장했다. DMA는 직접 메모리에 접근할수 있는 입출력 기능이다.

DMA 입출력 과정

1. CPU가 DMA 컨트롤러에게 입출력장치의 주소, 수행할 연산, 연산할 메모리 주소 등의 정보와 함께 입출력 작업을 명령한다.
2. DMA 컨트롤러가 CPU 대신 장치 컨트롤러와 상호작용하며 입출력 작업을 수행한다. 이때 DMA 컨트롤러는 필요한 경우 메모리에 직접 접근하여 정보를 읽거나 쓴다. 입출력 장치와 메모리 사이에 주고받을 데이터가 CPU를 거치지 않는다.
3. DMA 컨트롤러는 입출력 작업이 끄타면 CPU에게 인터럽트를 걸어 작업이 끝났음을 알린다.

CPU 입장에서는 DMA 컨트롤러에게 입출력 작업 명령을 내리고, 인터럽트만 받으면 되기 때문에 입출력 부담을 줄일 수 있다.

 

---

 

GPU(Graphic Processing Unit)

• 그래픽 처리 장치
• 대량의 그래픽 연산을 위해 탄생한 장치
• 최근 GPU의 연산 가능 범위는 CPU의 연산 범위까지 확대되어 딥러닝 연산, 가상 화폐 채굴 등 다양한 분야에 대한 연산이 가능해졌다.

GPU의 특징

• GPU 개별 코어의 성능은 CPU 코어보다 떨어지지만, GPU에는 많게는 수천개의 코어가 포함되어있다.
• 이는 곧 병렬 처리에 용이하다는 장점이 있다.
• 여기서 말하는 병렬 처리는 어떠한 크고 복잡한 문제를 쉽고 간단한 여러 문제로 쪼갠뒤, 쉽고 간단한 문제를 처리할 수 있는 수단을 동시에 동원하여 빠르게 문제를 해결하는 방식이다.
• GPU는 주로 산술 연산과 같이 단순한 연산을 빠르게, 병렬적으로 수행하기 위한 장치이고, CPU는 범용적인 연산을 수행하기 위한 장치이다. GPU가 CPU의 산술 연산을 보조한다는 점에서 GPU를 보조프로세서라고 부르기도 한다.

 

 

 

 

참고

https://product.kyobobook.co.kr/detail/S000214014967

이것이 취업을 위한 컴퓨터 과학이다 with CS 기술 면접 | 강민철 - 교보문고