시중에는 TOPS 단위로 AI 성능을 측정하는 AI 지원 컴퓨터가 넘쳐납니다. 하지만 TOPS라는 용어가 마케팅 팀이 GHz나 AI 지원이라는 라벨 옆에 붙여놓은 그저 만들어낸 약어처럼 들린다면, 충분히 이해할 만합니다.
마이크로소프트가 최신 AI 윈도우 기기의 특징을 설명하기 시작했을 때, 모두가 마치 최고 속도를 향한 새로운 경쟁이라도 되는 양 45 TOPS에 대해 자랑하기 시작했습니다. 그것은 그중 하나입니다. 새로운 AI 기반 컴퓨터를 구매할 때 확인해야 할 사양하지만 그 의미를 실제로 배우기 전까지는 그것이 얼마나 중요한지 깨닫지 못할 것입니다.
로압 스리유에스
TOPS는 실제로 무엇을 측정하는가?
초당 수조 번의 연산이 이루어진다는 것을 간단하게 설명해 드리겠습니다.
TOPS는 초당 수조 번의 연산을 의미하며, 칩이 1초 동안 수행할 수 있는 간단한 연산 횟수를 나타내는 처리량 지표입니다. 인공지능(AI) 분야에서 TOPS는 낮은 정밀도(주로 INT8)의 추론 성능을 설명하는 데 사용됩니다. 이는 많은 실시간 AI 워크로드가 모델 개발에 최적화되면 이 정밀도에서 효율적으로 작동하기 때문입니다.
이를 가장 쉽게 이해하는 방법은 TOPS를 실제 속도를 나타내는 척도가 아닌 AI 처리 능력과 동일시하는 것입니다. 이론적으로 45 TOPS NPU는 이상적인 조건에서 초당 45조 개의 연산을 처리할 수 있지만, 실제 사용 경험은 메모리 대역폭, 프로그램 실행 시간, 드라이버, 그리고 애플리케이션이 가속기를 얼마나 잘 활용하는지에 따라 달라집니다. 그럼에도 불구하고 TOPS는 장치가 처리할 수 있는 AI 워크로드의 종류를 알려주기 때문에 여전히 구매 시 유용한 지표로 사용됩니다.
최소치는 40 TOPS이지만, 45가 이상적인 수치입니다.
40살은 이론상으로는 괜찮지만, 45살은 숨 쉴 공간을 준다.
TOPS가 사소하고 중요하지 않은 정보에서 핵심 마케팅 포인트로 떠오른 이유는 윈도우의 차세대 AI 기능이 클라우드에 의존하는 대신 컴퓨터 내부에 있는 전용 신경 엔진에서 로컬로 실행되도록 설계되었기 때문입니다. 이 엔진은 NPU(신경 처리 장치) 형태로 존재합니다.
NPU는 CPU 및 GPU와는 별개로 AI 워크로드 실행 전용으로 설계된 칩입니다. NPU는 신경망에 사용되는 행렬 또는 텐서 연산을 위해 설계되었지만, 배터리 수명이나 발열 문제를 일으키지 않고 지속적으로 작동할 수 있도록 효율성이 최적화되어 있습니다.
마이크로소프트의 Copilot+ PC 캠페인은 실제로 하나의 기준을 제시하고 있습니다. 이 기기들은 일반적으로 40 TOPS 이상으로 알려진 최소 성능 기준을 충족하는 NPU를 탑재해야 합니다. 노트북 출시 행사나 튜토리얼에서 40 TOPS라는 수치가 반복적으로 언급되는 이유도 바로 이 때문입니다. 단순히 자랑이 아니라, 윈도우의 특정 AI 기능들을 위한 기준인 것입니다.
그렇다면 왜 40 TOPS가 아닌 45 TOPS가 필요할까요? 최소 사양만 갖춘 제품을 구매하는 사람은 아무도 없기 때문입니다. 45 TOPS라는 기준치를 약간 웃도는 성능은 제조사(그리고 사용자)에게 안전망을 제공하여, 기기마다 다를 수 있는 CPU, GPU, RAM 등의 요소를 고려했을 때 AI 기능이 충분히 작동할 수 있도록 해줍니다. 통화 중 실시간 번역과 같은 기능을 네이티브 어시스턴트 작업과 함께 추가하는 등 AI 기능이 누적될수록 더 많은 AI 처리 능력이 필요하게 됩니다. 또한 AI 작업 부하는 시간이 지남에 따라 줄어드는 것이 아니라 오히려 증가하는 경향이 있다는 점에 대한 대비책이기도 합니다.
그래픽 처리 장치(GPU)가 자동으로 승리하지 않는 이유는 무엇입니까?
TFLOPS 수치는 오해를 불러일으킬 수 있습니다.
컴퓨터를 오랫동안 사용해 왔고 그래픽 처리 장치(GPU)에 익숙하다면, GPU가 까다로운 AI 작업 부하를 충분히 처리할 수 있다는 것을 알고 있을 것입니다. 최신 GPU는 텐서 연산의 TOPS와 유사한 용어로 설명되는 인상적인 AI 처리량을 자랑합니다.
문제는 이러한 수치가 마이크로소프트가 구상하는 PC AI 경험으로 자동적으로 이어지지 않는다는 점입니다. 전용 GPU가 항상 켜져 있고 백그라운드에서 AI 기능을 실행한다면 전력 소비와 배터리 수명이 극도로 나빠질 것입니다. 신경 처리 장치(NPU)는 대신 백그라운드 AI 기능을 위한 항상 켜져 있으면서도 저전력으로 작동하는 엔진으로 설계되었습니다. 따라서 이 점을 이해하는 것이 중요합니다. 신경 처리 장치(NPU)와 그래픽 처리 장치(GPU)의 차이점.
TFLOPS와 TOPS 사이의 혼동이 발생하는 지점도 바로 여기입니다. TFLOPS는 일반적으로 부동 소수점 연산 처리량을 나타내며, 이는 그래픽 및 다양한 연산 작업에 매우 중요합니다. 반면 TOPS는 정수/텐서 패턴과 같은 저정밀도 추론 처리량을 나타내는 경우가 많습니다. 이 둘은 서로 바꿔 쓸 수 없으며, 한 컴퓨터의 X TFLOPS와 다른 컴퓨터의 Y TOPS를 비교하여 어느 쪽이 더 우수한지 명확하게 판단할 수 없습니다.
간단히 말해, 전용 그래픽 처리 장치(GPU)는 대규모 AI 작업의 속도를 담당하는 반면, 신경 처리 장치(NPU)는 일상적인 AI 작업이 마치 원래의 것처럼 조용하고 안정적이며 로컬에서 처리되는 것처럼 느껴지도록 만드는 마라톤 선수와 같습니다.
45 TOPS 성능을 갖춘 실제 기기를 구매하는 방법
CPU와 GPU뿐만 아니라 NPU 사양도 확인하세요.
2026년 PC를 평가할 때 TOPS는 중요한 요소이지만, 유일한 고려 사항이 되어서는 안 됩니다. 특히 CPU, GPU, NPU를 합친 마케팅용 수치가 아닌, 신경 처리 장치(NPU)의 TOPS 등급을 확인해야 합니다. Copilot+ 모델 예측은 전적으로 전용 신경 처리 장치의 존재와 성능에 달려 있습니다. 또한, 기대치를 현실적으로 설정하는 것이 중요합니다. TOPS는 최고 성능을 나타내는 지표이며, 실제 성능은 하드웨어 성능뿐 아니라 소프트웨어 지원에도 크게 좌우될 수 있습니다.
오랫동안 우리는 웹 브라우징, 편집, 게임, 코딩, 파일 내보내기 등 우리가 적극적으로 하는 작업을 위해 PC를 구매해 왔습니다. 하지만 이제는 복사, 번역, 요약, 오디오 및 비디오 품질 향상, 클라우드에 의존하지 않고 기기 내 비서 실행 등 백그라운드에서 조용히 처리해 주는 기능 때문에도 PC를 구매합니다.
이 세상에서 45 TOPS는 마법이 아닙니다. 그저 기본 단위 외에 약간의 여유 공간을 더한 실용적인 저울일 뿐입니다. 인공지능 기반 개인용 컴퓨터에 대해서는 걱정하지 마세요.하지만 이 기능은 여기에 있으며, 만약 여러분이 새 PC를 몇 년 동안 사용할 계획이라면, 이 추가 공간은 사양표에서 사소해 보일지 몰라도 장기적으로는 중요한 요소가 될 것입니다.
