NPU

두꺼운 곱셈 문제집 한 권을 교실에서 풀어야 한다고 생각해 볼게요. 반장 한 명이 처음부터 끝까지 혼자 푼다면 하루가 꼬박 걸려요. 반 아이들이 한 쪽씩 나눠 맡으면 쉬는 시간 안에 끝날 수도 있어요.

컴퓨터 안에서도 이렇게 일을 나눠요. 온갖 잡일을 도맡는 중앙 처리 장치는 혼자 다 하는 반장에 가까워요. 화면을 그리는 그래픽 장치는 여럿이 한 쪽씩 맡아 푸는 반 아이들에 가깝고요.

인공지능이 푸는 문제는 생김새가 늘 비슷해요. 숫자를 곱해서 더하고, 그 값을 또 곱해서 더하는 일이 끝없이 되풀이돼요. 문제집의 모든 쪽이 같은 종류의 셈으로만 채워져 있는 셈이에요.

그래서 아예 곱셈과 덧셈만 전담하는 학생들로 교실 하나를 새로 꾸렸어요. 이 학생들은 다른 과목은 서툴러도, 맡은 한 과목만큼은 누구보다 빠르게 풀어내요.

나눠 푸는 교실에도 골칫거리가 하나 있어요. 아이들이 한 문제 풀 때마다 교실 밖 창고까지 걸어가 숫자를 꺼내 와야 한다면 어떨까요. 문제 푸는 시간보다 오가는 시간이 더 길어져요.

컴퓨터에서는 이 창고가 기억 장치예요. 멀리 있는 숫자를 부르러 다녀오는 동안에도 전기는 계속 나가요. 이 칩은 계산기와 작은 서랍을 나란히 붙여 두어서, 옆자리로 쪽지를 넘기듯 숫자를 주고받아요.

두 번째 비결은 어림셈이에요. 소수점 아래를 길게 붙들지 않고 짧게 끊어서 계산해요. 사진 속 얼굴을 알아보는 일에서는 자릿수를 조금 줄여도 답이 거의 달라지지 않거든요.

멀리 가지 않고, 자릿수는 짧게 가는 이 두 가지 덕분에 배터리로 도는 손안의 기기에서도 인공지능 계산을 돌릴 수 있어요.

그렇다고 이 칩이 다른 장치를 밀어내지는 않아요. 곱셈만 파고든 학생들에게 국어 문제를 주면 오히려 반장보다 서툴러요. 앱을 띄우고 파일을 정리하는 일은 여전히 중앙 처리 장치의 몫이에요.

그래픽 장치와 어떻게 다른지는 여기서 한 번만 짚을게요. 그래픽 장치는 게임 화면부터 영상 편집까지 여러 과목을 두루 잘하는 무리에 가까워요. 이 칩은 한 과목만 파고든 대신 같은 계산을 훨씬 적은 전기로 끝내요.

휴대폰과 노트북에 들어가는 이 칩은 힘을 쓰는 자리가 정해져 있어요. 큰 인공지능을 처음부터 가르치는 일은 주로 데이터센터의 커다란 장비들이 맡아요. 데이터센터용 인공지능 전용 칩 중에는 이렇게 가르치는 일에 쓰이는 것도 있어요. 이미 다 배운 인공지능이 사진을 다듬거나 목소리를 알아듣는 순간처럼, 정해진 계산을 되풀이하는 자리에서 진가가 드러나요.

그래서 요즘 스마트폰과 일부 신형 노트북의 칩 안에는 이 세 가지 계산 장치가 한 몸으로 들어가 있는 경우가 많아요. 일의 성격을 보고 알맞은 쪽에 넘겨주는 것이 요즘 기기가 일하는 방식이에요.