✅ AI 토큰이란?
AI 토큰(Token)은 인공지능(AI)이 텍스트를 이해하고 생성할 때 사용하는 가장 작은 처리 단위입니다.
사람이 문장을 읽는 것과 달리 AI는 문장을 단어, 단어의 일부, 숫자, 기호 등 여러 개의 토큰으로 나누어 처리합니다.
예를 들어,
“엔비디아 AI 팩토리”
라는 문장은 AI 내부에서 여러 개의 토큰으로 분리되어 계산됩니다.
✅ AI 토큰은 왜 중요한가?
AI는 질문에 답하거나 글을 작성할 때 토큰을 하나씩 생성합니다.
따라서 AI가 처리하는 토큰이 많을수록 더 많은 연산이 필요하며, 대부분의 AI 서비스는 토큰 사용량을 기준으로 비용을 계산합니다.
✅ 엔비디아가 AI 토큰을 강조하는 이유
엔비디아는 AI 데이터센터를 AI 팩토리(AI Factory)라고 부르며, GPU가 생성하는 토큰의 양이 AI 서비스의 생산성과 수익성을 결정한다고 설명합니다.
그래서 최근 AI 산업에서는 초당 생성 가능한 토큰 수(Tokens per Second)와 토큰당 비용(Cost per Token)이 중요한 성능 지표로 활용되고 있습니다.
✅ 쉽게 이해하기
자동차 공장이 자동차를 생산하듯,
AI 팩토리는 AI 토큰을 생성해 ChatGPT, AI 검색, 이미지 생성 등 다양한 AI 서비스를 제공합니다.
즉, AI 토큰은 AI가 작업한 결과를 나타내는 기본 단위이자 AI 서비스 사용량을 측정하는 기준이라고 이해하면 쉽습니다.
✅ 같이 보면 좋은 글