दस्तावेज़ क्लस्टरिंग एक अनपर्यवेक्षित तरीके से फ़ाइलों को व्यवस्थित करने के लिए महत्वपूर्ण तकनीक है। जब दस्तावेज़ों को पद वेक्टर के रूप में दर्शाया जाता है, तो क्लस्टरिंग विधियों को लागू किया जा सकता है। दस्तावेज़ स्थान लगातार बड़ी आयामता का होता है, कई सौ से हजारों तक।
आयाम के अभिशाप के कारण, पहले दस्तावेज़ों को एक निम्न-आयामी उपस्थान में प्रोजेक्ट करना समझ में आता है जिसमें दस्तावेज़ स्थान की अर्थपूर्ण संरचना स्पष्ट हो जाती है। निम्न-आयामी अर्थपूर्ण क्षेत्रों में, पारंपरिक क्लस्टरिंग एल्गोरिदम का उपयोग किया जा सकता है।
दस्तावेज़ क्लस्टरिंग विश्लेषण के कई तरीके हैं जो इस प्रकार हैं -
स्पेक्ट्रल क्लस्टरिंग - स्पेक्ट्रल क्लस्टरिंग विधि पहले मूल डेटा पर स्पेक्ट्रल एम्बेडिंग (आयाम कमी) करती है, और फिर कम किए गए दस्तावेज़ स्थान पर पारंपरिक क्लस्टरिंग एल्गोरिदम (जैसे k-मीन्स) लागू करती है।
स्पेक्ट्रल क्लस्टरिंग पर काम इसकी अत्यधिक गैर-रैखिक डेटा को संभालने की क्षमता दिखाता है (डेटा स्थान में हर स्थानीय क्षेत्र में उच्च वक्रता है)। अंतर ज्यामिति से इसके शक्तिशाली लिंक इसे फ़ाइल स्थान की मैनिफोल्ड आर्किटेक्चर खोजने में सक्षम बनाते हैं।
इन स्पेक्ट्रल क्लस्टरिंग एल्गोरिदम की सीमा यह है कि वे गैर-रैखिक एम्बेडिंग (आयाम कमी) का उपयोग कर सकते हैं, जो केवल "प्रशिक्षण" डेटा पर दर्शाया गया है। उन्हें एम्बेडिंग समझने के लिए कुछ डेटा बिंदुओं का उपयोग करना होगा। जब डेटा सेट बड़ा होता है, तो इस तरह के एम्बेडिंग को समझना कम्प्यूटेशनली महंगा होता है। यह बड़े डेटा सेट्स पर स्पेक्ट्रल क्लस्टरिंग के सॉफ्टवेयर को प्रतिबंधित करता है।
मिश्रण मॉडल - मिश्रण मॉडल क्लस्टरिंग विधि एक मिश्रण मॉडल के साथ टेक्स्ट डेटा को मॉडल करती है, जिसमें अक्सर बहुपद घटक मॉडल शामिल होते हैं। क्लस्टरिंग में दो चरण शामिल हैं -
यह टेक्स्ट डेटा और किसी भी अतिरिक्त पूर्व ज्ञान के आधार पर मॉडल पैरामीटर्स का अनुमान लगा सकता है।
यह अनुमानित मॉडल पैरामीटर्स के आधार पर क्लस्टर्स का अनुमान लगा सकता है। यह इस बात पर निर्भर करता है कि मिश्रण मॉडल कैसे परिभाषित है, ये विधियां शब्दों और दस्तावेज़ों को एक ही समय में क्लस्टर कर सकती हैं।
प्रोबेबिलिस्टिक लेटेंट सेमेंटिक एनालिसिस (PLSA) और लेटेंट डिरिचलेट एलोकेशन (LDA) ऐसे दृष्टिकोणों के दो उदाहरण हैं। क्लस्टरिंग विधियों का लाभ यह है कि क्लस्टर्स को फ़ाइलों के तुलनात्मक विश्लेषण का समर्थन करने के लिए डिज़ाइन किया जा सकता है।
लेटेंट सेमेंटिक इंडेक्सिंग (LSI) और लोकलिटी प्रिजर्विंग इंडेक्सिंग (LPI) विधियां रैखिक आयाम कमी विधियां हैं। LSI और LPI में परिवर्तन वेक्टर (एम्बेडिंग फ़ंक्शन) प्राप्त करने के लिए उपयोग किया जाता है। ऐसी एम्बेडिंग फ़ंक्शन हर जगह दर्शाए जाते हैं; इस प्रकार, यह एम्बेडिंग फ़ंक्शन को समझने के लिए डेटा के तत्व का उपयोग कर सकता है और कुछ डेटा को निम्न-आयामी स्थान में एम्बेड कर सकता है।
LSI का उद्देश्य वैश्विक पुनर्निर्माण त्रुटि को कम करने के अर्थ में मूल दस्तावेज़ स्थान के लिए सर्वोत्तम उपस्थान सन्निकटन खोजना है। दूसरे शब्दों में, LSI दस्तावेज़ प्रतिनिधित्व के लिए सबसे भेदभावपूर्ण विशेषताओं के बजाय सबसे प्रतिनिधि विशेषताओं को उजागर करना चाहता है। इसलिए, LSI अलग-अलग अर्थ वाले दस्तावेज़ों में भेदभाव करने में इष्टतम नहीं हो सकता है, जो क्लस्टरिंग का अंतिम लक्ष्य है।
