[MPC/CUDA] 대규모 병렬 컴퓨팅 개요
CUDA를 이용한 병렬 컴퓨팅에 앞서, 병렬 컴퓨팅(Parallel Computing)의 도입 과정과 CPU/GPU의 설계 철학에 대해 잠깐 알아보자. 병렬 컴퓨팅의 도입 과정 2003년 이전에는 싱글 코어(single core) CPU를 사용했다. 싱글 코어는 순차 처리, 단일 계산이며, 계산을 하기 위해 ALU 1개가 모든 계산을 담당하는 구조이다. 폰 노이만 구조이며, 코어는 ALU와 CU로 구성되어 있으며 ALU는 산술, 논리 계산에 사용되고, CU는 ALU의 제어를 담당한다. 2003년 이후, 멀티 코어(multi-core) CPU와 매니 코어(many-core) GPU가 등장했다. 이는 CPU core의 개수가 2~32 이상인 것을 의미한다. 위의 그림과 같이, 멀티 코어는 2개의 ALU가 동..