BEWARE: टिकटॉक पर आपत्तिजनक कंटेंट चौंकाने वाली मात्रा में, बच्चों का इस तक पहुंचना बहुत आसान

beware of objectionable content on social media - किशोरों द्वारा उपयोग किये जाने वाले शीर्ष सोशल मीडिया ऐप के रूप में, टिकटॉक पर आपत्तिजनक सामग्री की मौजूदगी युवा उपयोगकर्ताओं को नुकसान पहुंचा सकती है. और जबकि टिकटॉक और नियामक मॉडरेशन की जरूरतों को पूरा करने के लिए संघर्ष कर रहे हैं...

Beware of Objectionable Content on Social Media – इंटरनेट और सोशल मीडिया पर आपत्तिजनक सामग्री लंबे समय से चर्चा का विषय रही है और युवाओं का इससे संपर्क एक निरंतर चिंता का विषय बना हुआ है. टिकटॉक के जबरदस्त उछाल के साथ यह मुद्दा फिर से केंद्र में आ गया है. सामग्री को हल्का करने के प्रयासों के बावजूद, ऐसा लगता है कि टिकटॉक का प्राथमिक ध्यान उपयोगकर्ताओं के लिए एक सुरक्षित वातावरण बनाने की बजाय उपयोगकर्ता की संख्या और इसके इस्तेमाल को अधिकतम करने पर केंद्रित है.

किशोरों द्वारा उपयोग किये जाने वाले शीर्ष सोशल मीडिया ऐप के रूप में, टिकटॉक पर आपत्तिजनक सामग्री की मौजूदगी युवा उपयोगकर्ताओं को नुकसान पहुंचा सकती है. और जबकि टिकटॉक और नियामक मॉडरेशन की जरूरतों को पूरा करने के लिए संघर्ष कर रहे हैं, यह अंततः माता-पिता और उपयोगकर्ताओं पर निर्भर है कि वे इन ऑनलाइन नुकसानों से कैसे निपटें.

टिकटॉक की सामग्री को हल्का करने की प्रक्रिया

टिकटॉक अपने सामुदायिक दिशानिर्देशों का उल्लंघन करने वाली सामग्री की पहचान करने और उसे हटाने के लिए स्वचालित और मानवीय प्रयास दोनों पर निर्भर करता है. इसमें नग्नता, अश्लील साहित्य, आपत्तिजनक यौन सामग्री, गैर-सहमति वाली यौन गतिविधियां, गैर-सहमति वाली अंतरंग तस्वीरें साझा करना और यौन आग्रह शामिल हैं. टिकटॉक के सामुदायिक दिशानिर्देश कहते हैं-

हम युवा लोगों द्वारा यौन गतिविधियों के लिए आकर्षक प्रदर्शन या संकेत, या किसी के द्वारा आपत्तिजनक यौन कथाओं के उपयोग की अनुमति नहीं देते हैं.

हालांकि, टिकटॉक की स्वचालित मॉडरेशन प्रणाली हमेशा सटीक नहीं होती है. इसका मतलब यह है कि एलजीबीटीक्यू+ सामग्री और स्वस्थ यौन शिक्षा सामग्री जैसी लाभकारी सामग्री को गलत तरीके से हटाया जा सकता है, जबकि आपत्तिजनक, हानिकारक सामग्री दरारों से निकल जाती है.

हालांकि टिकटॉक में एल्गोरिदम की कमियों की भरपाई के लिए एक मानवीय समीक्षा प्रक्रिया है, लेकिन यह धीमी और समय लेने वाली है, जिसके कारण देरी होती है. ऐसे में आपत्तिजनक और हानिकारक सामग्री हटाये जाने से पहले युवा उसके संपर्क में आ सकते है.

सामग्री मॉडरेशन ‘एल्गोस्पीक’ जैसी उपयोगकर्ता रणनीति द्वारा और अधिक जटिल है, जिसका उपयोग अनुचित सामग्री का पता लगाने के लिए लगाये गए एल्गोरिदम फिल्टर को ट्रिगर करने से बचने के लिए किया जाता है.

इस मामले में, अल्गोस्पीक में आमतौर पर आपत्तिजनक सामग्री से जुड़े शब्दों और वाक्यांशों को बदलने के लिए इंटरनेट स्लैंग, कोड, व्यंजना या इमोजी का उपयोग शामिल हो सकता है.

कई उपयोगकर्ता अल्गोस्पीक का भी सहारा लेते हैं क्योंकि उन्हें लगता है कि टिकटॉक का एल्गोरिदम मॉडरेशन हाशिये पर रहने वाले समुदायों के लिए पक्षपाती और अनुचित है.

उपयोगकर्ताओं ने दोहरे मानक की सूचना दी है, जिसमें टिकटॉक ने एलजीबीटीक्यू+ समुदाय से संबंधित शैक्षिक सामग्री को दबा दिया है, जबकि हानिकारक सामग्री को सबके लिए उपलब्ध रहने दिया है.

हानिकारक सामग्री दरारों से फिसल जाती है

यौन आधारित कहानियों और कामुक छवियों पर टिकटॉक के दिशानिर्देश अस्पष्ट हैं. और इसकी आयु-सत्यापन प्रक्रिया स्व-रिपोर्ट की गई उम्र पर निर्भर करती है, जिसे उपयोगकर्ता आसानी से इधर-उधर कर सकते हैं.

पोर्नोग्राफी सहित कई टिकटॉक निर्माता, आपत्तिजनक कंटेंट वाले अन्य प्लेटफार्मों पर खुद को और अपनी सामग्री को बढ़ावा देने के लिए मंच का उपयोग करते हैं. उदाहरण के लिए, टिकटॉक बनाने वाली @जेनीएक्सरेटेड विचारोत्तेजक और हाइपरसेक्सुअल सामग्री पोस्ट करती है. वह खुद को ‘डैडीज गर्ल’ कहती है और खुद को अपनी उम्र से छोटी बताती है.

ऐसी सामग्री टिकटॉक पर लोकप्रिय है. यह सेक्स और सहमति के प्रति अस्वास्थ्यकर दृष्टिकोण को बढ़ावा देता है और हानिकारक लिंग रूढ़िवादिता को कायम रखता है, जैसे कि महिलाओं को पुरुषों के प्रति विनम्र होना चाहिए.

मानसिक स्वास्थ्य समस्याओं और अकेलेपन से जूझ रहे युवा लड़के विशेष रूप से टिकटॉक के माध्यम से प्रचारित किये जा रहे विचारों और स्त्री-रोधी विचारों के प्रति संवेदनशील होते हैं.

एंड्रयू टेट और रसेल हार्टले जैसी विवादास्पद हस्तियों को एल्गोरिदम द्वारा दर्शकों की संख्या बढ़ाने और टिकटॉक के व्यावसायिक हितों का समर्थन करने के लिए प्रचारित किया जाना जारी है.

बिजनेस इनसाइडर के अनुसार, अगस्त 2022 तक टेट वाले वीडियो को 13 अरब से अधिक बार देखा जा चुका था.

टेट पर प्रतिबंध लगने के बावजूद यह सामग्री प्रसारित होती रहती है. स्व-घोषित पुरुष अधिकारों के पैरोकार अपनी सामग्री को नारी-विरोधी विमर्श, अति-पुरुषत्व और पदानुक्रमित लिंग भूमिकाओं पर केन्द्रित करते हैं. जो मीम्स और मनोरंजन जैसा प्रतीत हो सकता है वह युवा लड़कों को बलात्कार संस्कृति, घरेलू हिंसा और हानिकारक मर्दानगी के प्रति असंवेदनशील बना सकता है.

टिकटॉक द्वारा आदर्शवादी और कामुक सामग्री को बढ़ावा देना युवा महिलाओं और समलैंगिक युवाओं की आत्म-धारणा के लिए भी हानिकारक है. यह सामग्री अवास्तविक शारीरिक मानकों को चित्रित करती है, जिसकी लोग खुद से तुलना करते हैं, इससे असंतोष बढ़ता है और भोजन संबंधी विकार विकसित होने का खतरा अधिक होता है.

यौन शिक्षा को सशक्त बनाना

अपनी लोकप्रियता के कारण, टिकटॉक सेक्स के बारे में शैक्षिक सामग्री के प्रचार में मदद करने का एक अनूठा अवसर प्रदान करता है. डॉक्टर और स्त्री रोग विशेषज्ञ यौन स्वास्थ्य के बारे में सामग्री साझा करने के लिए #ऑब्जीन जैसे हैशटैग का उपयोग करते हैं, जिसमें सहमति, गर्भनिरोधक और सेक्स से जुड़े भ्रम जैसे विषय शामिल हैं.

उदाहरण के लिए, डॉ अली युवा महिलाओं को मासिक धर्म और जन्म नियंत्रण के बारे में शिक्षित करते हैं. श्रीहा श्रीनिवासन हाई-स्कूल के छात्रों के लिए यौन शिक्षा को बढ़ावा देते हैं और सेक्स मिथकों, सहमति, एसटीआई, पीरियड्स और प्रजनन जैसे विषयों पर चर्चा करते हैं.

मिल्ली इवांस एक गैर-बाइनरी, ऑटिस्टिक सेक्स-एड सामग्री निर्माता हैं जो समावेशी यौन शिक्षा की वकालत करने के लिए टिकटॉक का उपयोग करते हैं. वे घरेलू दुर्व्यवहार, समलैंगिक संबंधों में सहमति, लिंग और यौन पहचान, शरीर-सुरक्षित सेक्स खिलौने और ट्रांस और गैर-बाइनरी अधिकार जैसे विषयों को कवर करती हैं.

ये केवल कुछ उदाहरण हैं कि कैसे टिकटॉक सूचनात्मक, समावेशी और सेक्स-सकारात्मक सामग्री के लिए एक स्थान हो सकता है. हालांकि, इस तरह की सामग्री को अधिक भद्दे और ध्यान खींचने वाले वीडियो के समान दर्शक नहीं मिल सकते हैं, क्योंकि अधिकांश सोशल मीडिया ऐप्स की तरह, टिकटॉक को ज्यादा से ज्यादा लोगों को अपने साथ जोड़ने के लिए अनुकूलित किया गया है.

एक सरसरी निगाह

सोशल मीडिया प्लैटफॉर्म को हानिकारक सामग्री को प्रभावी ढंग से नियंत्रित करने में महत्वपूर्ण चुनौतियों का सामना करना पड़ता है. स्व-विनियमन के लिए प्लैटफॉर्म पर निर्भर रहना पर्याप्त नहीं है, इसलिए नियामक निकायों को इसमें कदम उठाने की आवश्यकता है.

ऑस्ट्रेलिया के ई-सेफ्टी कमिश्नर ने माता-पिता और उपयोगकर्ताओं के लिए दिशानिर्देश और संसाधन प्रदान करके और हानिकारक सामग्री को हटाने के लिए टिकटॉक जैसे प्लेटफार्मों पर दबाव डालकर सक्रिय भूमिका निभाई है. वे सोशल मीडिया पर एआई-जनित बाल यौन शोषण सामग्री को लेकर भी अग्रणी हैं.

जब टिकटॉक की बात आती है, तो हमारे प्रयासों को युवा उपयोगकर्ताओं को मीडिया साक्षरता कौशल से लैस करने में लगाया जाना चाहिए जो उन्हें सुरक्षित रखने में मदद कर सके.

13 वर्ष से कम उम्र के बच्चों के लिए, यह माता-पिता पर निर्भर है कि वह उन्हें इस तरह की सामग्री तक पहुंच की अनुमति देते हैं या नहीं. यह ध्यान देने योग्य है कि टिकटॉक की आयु सीमा 13 वर्ष है, और कॉमन सेंस मीडिया 15 वर्ष से कम उम्र के बच्चों द्वारा इसके उपयोग को प्रोत्साहित नहीं करता है. यदि माता-पिता 13 वर्ष से कम उम्र के बच्चे को इसकी अनुमति देने का निर्णय लेते हैं, तो उन्हें सक्रिय रूप से बच्चे की गतिविधि की निगरानी करनी चाहिए.

हालांकि ऐप्स के उपयोग को प्रतिबंधित करना एक त्वरित समाधान की तरह लग सकता है, लेकिन हमारे शोध में पाया गया है कि सोशल मीडिया प्रतिबंध माता-पिता-बच्चे के रिश्तों में तनाव पैदा कर सकते हैं. बेहतर होगा कि माता-पिता सक्रिय कदम उठाएं जैसे कि खुली चर्चा करना, विश्वास बनाना और खुद को और अपने बच्चों को ऑनलाइन जोखिम के बारे में शिक्षित करना.

(‘द कन्वरसेशन’ में प्रकाशित यह लेख सोनजा पेत्रोविक, द यूनिवर्सिटी ऑफ मेलबर्न, और मिलोवन सैविक, स्विनबर्न यूनिवर्सिटी ऑफ टेक्नोलॉजी द्वारा लिखा गया है)