एक टोकन एक प्रोग्राम का सबसे छोटा तत्व है जो कंपाइलर के लिए सार्थक है। कंपाइलर जो एक प्रोग्राम को सबसे छोटी इकाइयों में तोड़ता है, उन्हें टोकन कहा जाता है और ये टोकन संकलन के विभिन्न चरणों में आगे बढ़ते हैं।
प्रकार
टोकन विभिन्न प्रकारों में वर्गीकृत हैं, जिनका उल्लेख नीचे किया गया है:
- कीवर्ड्स
- आइडेंटिफायर्स
- कंस्टेंट्स
- स्ट्रिंग्स
- विशेष प्रतीक
- ऑपरेटर्स

उदाहरण
नीचे दिया गया C प्रोग्राम आइडेंटिफायर्स, कीवर्ड्स, वेरिएबल्स आदि के उपयोग के लिए है।
#include <stdio.h> int main(){ int a,b,c; printf("enter a and b values: \n"); scanf("%d%d",&a,&b); c=a*b; printf("value of c=%d",c); return 0; }आउटपुट
जब उपरोक्त प्रोग्राम निष्पादित होता है, तो यह निम्नलिखित परिणाम उत्पन्न करता है:
enter a and b values:4 5 value of c=20
उपरोक्त प्रोग्राम में,
- main आइडेंटिफायर है।
- int कीवर्ड है।
- { } डिलीमीटर्स हैं।
- a,b,c वेरिएबल्स हैं।
ये सभी मिलकर टोकन कहलाते हैं।