एंथ्रोपिक अपने क्लॉड एआई मॉडल द्वारा उत्पन्न पाठ के लिए एक नई वॉटरमार्किंग प्रणाली पेश करने के लिए तैयार है, जिसका उद्देश्य आगामी यूरोपीय संघ के नियमों का पालन करना है, जो एआई-जनित सामग्री की पहचान को अनिवार्य करते हैं। यह प्रणाली क्लॉड द्वारा पाठ उत्पन्न करते समय किए गए सांख्यिकीय विकल्पों को सूक्ष्म रूप से बदल देगी, जिससे ये परिवर्तन औसत पाठक के लिए अदृश्य होंगे लेकिन उपयुक्त तकनीक के माध्यम से पता लगाने योग्य होंगे।
यह पहल एआई-जनित पाठ की गुणवत्ता पर संभावित प्रभाव को लेकर चिंताएँ उठाती है। आलोचकों का तर्क है कि मॉडल की शब्द-चयन प्रक्रिया में संशोधन करने से इसके सबसे सटीक या प्राकृतिक शब्दों को चुनने की क्षमता बाधित हो सकती है। हालांकि, कंप्यूटर विज्ञान विशेषज्ञों का सुझाव है कि प्रभाव न्यूनतम हो सकता है क्योंकि एआई मॉडल पहले से ही अपने शब्द चयन में अनियमितता को शामिल करते हैं।
विशेषज्ञ बताते हैं कि वॉटरमार्किंग इस अनियमितता को समाप्त नहीं करेगी। इसके बजाय, यह मॉडल के रैंडम विकल्पों को सांख्यिकीय रूप से पूर्वानुमानित बना देगी, जिससे एआई-जनित पाठ की पहचान की जा सकेगी। यह दृष्टिकोण इंटरनेट पर एआई-जनित सामग्री के प्रसार के संबंध में बढ़ती चिंताओं को संबोधित करने का प्रयास करता है।
विशेषज्ञों से यह चेतावनी है कि अगर भविष्य के एआई मॉडल को एआई-जनित सामग्री पर व्यापक रूप से प्रशिक्षित किया जाता है, तो इससे “मॉडल पतन” हो सकता है, जो भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता को संभावित रूप से क्षति पहुंचा सकता है। जैसे-जैसे एआई-जनित सामग्री अधिक प्रचलित होती जा रही है, वॉटरमार्किंग मशीन-लिखित पाठ का पता लगाने के लिए एक महत्वपूर्ण उपकरण के रूप में कार्य कर सकती है, साथ ही भविष्य के एआई प्रशिक्षण डेटा की गुणवत्ता को बनाए रखने में मदद कर सकती है।