एंथ्रोपिक अपने क्लॉड AI मॉडल द्वारा उत्पन्न पाठ के लिए एक नए वॉटरमार्किंग सिस्टम को पेश करने के कगार पर है, जिसका उद्देश्य AI-जनित सामग्री की पहचान के लिए आगामी यूरोपीय संघ के विनियमों का पालन करना है। यह सिस्टम पाठ निर्माण के दौरान क्लॉड द्वारा किए गए विकल्पों में सूक्ष्म सांख्यिकीय संशोधन करके कार्य करेगा। ये बदलाव औसत पाठक के लिए अदृश्य होंगे लेकिन उचित तकनीक का उपयोग करके आसानी से पहचाने जा सकते हैं।
इस वॉटरमार्किंग सिस्टम की शुरुआत ने AI-जनित पाठ की गुणवत्ता पर इसके संभावित प्रभाव के बारे में चर्चाएं छेड़ दी हैं। आलोचकों का तर्क है कि मॉडल के शब्द चयन प्रक्रिया में बदलाव करने से इसकी सबसे सटीक या प्राकृतिक शब्दों को चुनने की क्षमता कम हो सकती है। हालांकि, कंप्यूटर विज्ञान विशेषज्ञ सुझाव देते हैं कि प्रभाव मामूली होगा क्योंकि AI मॉडल पहले से ही शब्दों का चयन करते समय एक हद तक रैंडमनेस का उपयोग करते हैं।
विशेषज्ञों का संकेत है कि वॉटरमार्किंग सिस्टम इस रैंडमनेस को समाप्त नहीं करेगा। इसके बजाय, यह मॉडल के रैंडम विकल्पों को सांख्यिकीय रूप से पूर्वानुमेय बना देगा, जिससे उत्पन्न पाठ की पहचान की जा सके। यह दृष्टिकोण ऑनलाइन AI-जनित सामग्री की बढ़ती मात्रा से संबंधित चिंताओं को कम करने में मदद कर सकता है।
विशेषज्ञ चेतावनी देते हैं कि यदि भविष्य के AI मॉडल व्यापक रूप से AI-जनित सामग्री पर प्रशिक्षित होते हैं, तो “मॉडल पतन” का खतरा हो सकता है, जो भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता को कम कर सकता है। जैसे-जैसे AI-जनित सामग्री अधिक प्रचलित होती जा रही है, वॉटरमार्किंग मशीन-उत्पन्न पाठ की पहचान करने और भविष्य के AI प्रशिक्षण डेटा की गुणवत्ता की रक्षा के लिए एक महत्वपूर्ण उपकरण बन सकता है।