정의
컴퓨터 화면은 픽셀이라는 아주 작은 네모 칸이 촘촘히 모여 만들어져요. 그래서 대각선이나 곡선을 그리면 가장자리가 계단처럼 어긋나는데, 이를 앨리어싱 또는 계단 현상이라고 불러요. 안티앨리어싱은 그 계단 턱에 중간 밝기의 색을 채워 넣는 기술이에요. 덕분에 조금 떨어져서 보면 경계가 부드럽게 이어져 보여요.
화면의 대각선은 왜 계단이 될까요?
모눈종이를 펼쳐 놓고 칸을 통째로 칠하는 방식으로만 그림을 그린다고 상상해 볼게요. 가로줄과 세로줄은 칸에 딱 맞아떨어지니 자로 잰 듯 깔끔하게 그려져요.
문제는 비스듬한 선이에요. 대각선은 칸의 경계를 가로질러 지나가기 때문에, 어떤 칸은 절반쯤 걸치고 어떤 칸은 모서리만 살짝 스쳐요. 칸을 칠할지 말지 둘 중 하나만 정해야 하니 선은 울퉁불퉁 어긋나요.
컴퓨터 화면도 같은 모눈종이예요. 화면을 이루는 픽셀 하나는 한순간에 한 가지 색만 가질 수 있어요. 걸친 만큼만 조금 칠하는 재주가 없는 것이죠.
그래서 동그라미, 대각선, 비스듬히 기울어진 물체의 테두리에는 계단처럼 각진 톱니가 드러나요. 게임 속 전깃줄이나 난간이 부서진 것처럼 보이는 이유가 여기에 있어요.
중간색을 섞어 눈을 속여요
안티앨리어싱의 아이디어는 단순해요. 칸을 다 칠하거나 아예 비워 두는 대신, 선이 걸친 넓이만큼만 색을 옅게 칠하는 거예요.
검은 대각선이 어떤 픽셀의 절반을 덮었다면 그 픽셀은 검은색과 흰색의 중간인 회색으로 칠해요. 모서리만 살짝 걸친 픽셀은 흰색에 가까운 아주 옅은 회색이 되고요.
우리 눈은 아주 작은 점을 하나하나 따로 구별하지 못하고 주변 색과 뭉뚱그려 받아들여요. 그래서 짙고 옅은 회색이 차례로 늘어선 줄을 보면 뇌가 이를 부드럽게 이어진 한 줄기 선으로 정리해 줘요.
화면을 크게 확대해 보면 테두리는 여전히 계단 모양이에요. 다만 계단 턱마다 중간색이 채워져 있을 뿐이죠. 톱니를 없앤 것이 아니라 눈에 덜 띄도록 감춘 셈이에요.
조금 더 정확히 말하면: 매끈함에는 값이 붙어요
조금 더 정확히 말하면 중간색을 정하는 방법은 한 가지가 아니에요. 가장 이해하기 쉬운 방법은 화면을 실제보다 훨씬 크게 그린 다음, 줄이면서 이웃한 색을 평균 내는 것이에요.
이 방법은 결과가 깨끗한 대신 그려야 할 픽셀이 크게 늘어나 그래픽 장치가 힘들어해요. 그래서 물체의 테두리에 해당하는 부분만 골라내 그곳에서만 꼼꼼히 계산하는 방법이 널리 쓰여요.
앞서 지나간 화면들을 기억해 두었다가 겹쳐서 평균을 내는 방식도 있어요. 계산 부담은 가볍지만 화면이 빠르게 움직일 때 잔상이 남거나 전체가 살짝 뿌옇게 보이기도 해요.
매끈함과 선명함, 그리고 속도는 서로 밀고 당기는 사이예요. 게임 설정에 안티앨리어싱 단계를 고르는 항목이 따로 있는 것도 취향과 성능을 맞바꾸라는 뜻이에요.
흔한 오해
안티앨리어싱을 켜면 화면 해상도가 높아진다.
화면의 픽셀 개수는 그대로예요. 픽셀 수를 늘리는 것이 아니라 경계에 놓인 픽셀의 색만 조절해 매끈해 보이게 만드는 눈속임이에요.
테두리에 계단이 생기는 것은 그래픽카드 성능이 나쁘기 때문이다.
화면이 네모 칸으로 이루어진 이상 값비싼 장치에서도 계단은 생겨요. 성능이 좋으면 계단을 더 정성껏 다듬을 여유가 생기는 것뿐이에요.
일상에서 만나요
문서 편집기에서 글자 획의 가장자리가 옅은 회색으로 살짝 번지며 매끄럽게 읽히는 것
게임 설정에서 안티앨리어싱을 끄면 멀리 있는 전깃줄이나 계단 난간이 톱니처럼 부서져 보이는 것
그러니까 한마디로
픽셀 경계에 중간색을 섞어 넣어, 네모 칸 때문에 생기는 계단 모양 테두리를 눈에 덜 띄게 다듬는 기술이에요.