एआई निर्णय मॉडल सामग्री मॉडरेशन क्षेत्र में प्रवेश कर रहे हैं

Thursday 08 October 2026 - 16:40

आर्टिफिशियल इंटेलिजेंस डिजिटल प्लेटफार्मों के एक और क्षेत्र में विस्तार कर रहा है क्योंकि निर्णय मॉडल वास्तविक समय की सामग्री मॉडरेशन के लिए विकसित किए जा रहे हैं। अमेरिका स्थित एआई कंपनी मुसुबि ने PolicyLM-1.7B पेश किया है, जो एक हल्का मॉडल है जिसे ऑनलाइन संदेशों का मूल्यांकन करने के लिए डिज़ाइन किया गया है जो लिखित मॉडरेशन नीतियों के खिलाफ बिना किसी नए प्रशिक्षण चक्र की आवश्यकता के जब भी उन नियमों में परिवर्तन होता है।

खुला वजन के साथ जारी किया गया, 1.7 अरब पैरामीटर वाला मॉडल डेवलपर्स और प्लेटफॉर्म ऑपरेटरों को इसे अपनी खुद की बुनियादी ढांचे पर चलाने और अनुकूलित करने की अनुमति देने के लिए डिज़ाइन किया गया है। इसका मुख्य उद्देश्य सामान्य भाषा में लिखी गई मॉडरेशन नियमों का अनुवाद करना है ताकि उन्हें सीधे उपयोगकर्ता-निर्मित सामग्री पर लागू किया जा सके।

मुसुबि का कहना है कि PolicyLM-1.7B वास्तविक समय में मॉडरेशन निर्णय ले सकता है, कंपनी ने NVIDIA L4 GPU पर संक्षिप्त संदेशों के लिए लगभग 35 मिलीसेकंड और H100 पर लगभग 22 मिलीसेकंड की मध्य प्रसंस्करण समय की रिपोर्ट की है। व्यापक उत्पाद वर्णन का लक्ष्य 50 मिलीसेकंड से कम में निर्णय लेना है।

यह मॉडल पारंपरिक मॉडरेशन वर्गीकर्ताओं से भिन्न है क्योंकि यह ऑपरेटरों को उपयोग के दौरान अपनी नीति निर्देश प्रदान करने की अनुमति देता है। इसका मतलब है कि जब एक प्लेटफॉर्म अपने नियमों को बदलता है, तो उसकी टीमें मौजूदा मॉडल को फिर से प्रशिक्षित करने के बजाय नीति को संशोधित कर सकती हैं।

यह लचीलापन विशेष रूप से ऑनलाइन प्लेटफार्मों के लिए प्रासंगिक हो सकता है जो तेजी से बदलते मॉडरेशन मानकों का सामना कर रहे हैं। उत्पाद और विश्वास-और-सेफ्टी टीमें अपनी विशिष्ट आवश्यकताओं के अनुसार श्रेणियाँ और नियम निर्धारित कर सकती हैं, जबकि मॉडल उन श्रेणियों में आने वाले संदेशों का संकेत देने वाले स्कोर उत्पन्न करता है।

निर्णय मॉडल ने आर्टिफिशियल इंटेलिजेंस उद्योग में बढ़ती ध्यान आकर्षित किया है क्योंकि वे लंबे पाठ उत्पन्न करने के बजाय निर्णय या संभावनाएँ उत्पन्न करने पर ध्यान केंद्रित करते हैं। पूर्वनिर्धारित श्रेणियों तक आउटपुट को सीमित करके, ये सिस्टम सामान्य प्रयोजन के बड़े भाषा मॉडलों की तुलना में तेजी से और कम कंप्यूटिंग संसाधनों के साथ कार्य कर सकते हैं।

PolicyLM-1.7B को 23 श्रेणियों की पूर्वनिर्धारित सुरक्षा वर्गीकरण के साथ भी उपयोग किया जा सकता है, जिसमें हिंसा, उत्पीड़न, धमकी, धोखाधड़ी, गोपनीयता उल्लंघन और अन्य संभावित हानिकारक सामग्री के रूप शामिल हैं। मुसुबि का कहना है कि इस मॉडल का मूल्यांकन 19 भाषाओं में किया गया है, हालांकि इसकी कस्टम-नीति परीक्षण मुख्य रूप से अंग्रेजी में लिखी गई नीतियों से संबंधित है।

यह तकनीक निर्णय-उन्मुख एआई में पहले के कार्यों पर आधारित है। मुसुबि के सह-संस्थापक और मुख्य एआई अधिकारी फिलिप जंकविक ने कंपनी के दृष्टिकोण को 2024 के एक प्रोजेक्ट से जोड़ा है जिसमें GLiNER शामिल है, जो निर्णय मॉडल में वर्तमान रुचि के बढ़ने से पहले विकसित किया गया था। कंपनी अब सामग्री मॉडरेशन को इसी अंतर्निहित दृष्टिकोण के लिए एक व्यावहारिक अनुप्रयोग के रूप में देखती है।

एक ही समय में, मॉडल के डेवलपर्स स्वीकार करते हैं कि यह तकनीक विशेष मॉडरेशन परिदृश्यों के लिए है न कि हर प्रकार के सुरक्षा निर्णय के लिए। इसके मॉडल दस्तावेज़ में नोट किया गया है कि इसे व्यक्तिगत पाठ संदेशों की त्वरित वर्गीकरण के लिए डिज़ाइन किया गया है और इसे विशेष रूप से संवेदनशील मामलों जैसे कि बाल सुरक्षा या आत्म-हानि के लिए एकमात्र सुरक्षा के रूप में कार्य करने के लिए नहीं बनाया गया है।

यह रिलीज ऐसे समय में आई है जब डिजिटल प्लेटफार्मों को उपयोगकर्ता-निर्मित सामग्री की बढ़ती मात्रा का सामना करना पड़ता है और अधिक विस्तृत नियमों को लागू करने का दबाव बढ़ता है। स्वचालित मॉडरेशन उपकरण बड़ी मात्रा में सामग्री को संसाधित करने में मदद कर सकते हैं, जबकि मानव टीमें नीतियों को परिभाषित करने, कठिन मामलों की समीक्षा करने और यह निर्धारित करने के लिए जिम्मेदार रहती हैं कि प्रवर्तन निर्णय कैसे लागू किए जाने चाहिए।

मुसुबि का ओपन-वेट्स दृष्टिकोण भी डेवलपर्स को मॉडल की जांच और तैनात करने की अनुमति देता है, बजाय इसके कि वे केवल एक होस्टेड मॉडरेशन सेवा पर निर्भर रहें। हालांकि, कंपनी के प्रकाशित प्रदर्शन आंकड़े इसके अपने मूल्यांकन से आते हैं, और मॉडल दस्तावेज़ में कहा गया है कि इसे अभी तक लाइव ट्रैफिक पर परीक्षण नहीं किया गया है, जिसका अर्थ है कि इसका वास्तविक विश्व प्रदर्शन बेंचमार्क परिणामों से भिन्न हो सकता है।

लॉन्च एआई विकास में एक व्यापक बदलाव को दर्शाता है, जिसमें छोटे विशेषीकृत मॉडल को त्वरित और कुशलता से संकीर्ण रूप से परिभाषित कार्यों को करने के लिए डिज़ाइन किया गया है। सामग्री मॉडरेशन के लिए, अनुकूलन योग्य नियम, त्वरित वर्गीकरण और स्थानीय तैनाती का संयोजन प्लेटफार्मों को ऑनलाइन सामग्री के बढ़ते जटिल प्रवाह को प्रबंधित करने के लिए एक और उपकरण दे सकता है।