AI कंटेंटवर केंद्र सरकारची मोठी कारवाई! लेबलिंग सक्तीचे; बनावट फोटो, व्हिडिओ ३ तासांत हटवणे बंधनकारक

एआय कंटेंटबाबत नवीन नियमावली

गेल्या काही दिवसांत सोशल मीडियावर डीपफेक व्हिडिओ, बनावट प्रतिमा आणि खोटे ऑडिओ मोठ्या प्रमाणात व्हायरल होत आहेत. त्यामुळे खरा आणि बनावट कंटेंट यामधील फरक ओळखणे सामान्य वापरकर्त्यांसाठी कठीण झाले आहे. चुकीची माहिती पसरवणे, बदनामी करणे आणि फसवणूक करण्याच्या घटनांमध्येही वाढ झाली आहे. यासाठी हे नवीन बदल करण्यात आले आहेत.

‘सिंथेटिक कंटेंट’ची व्याख्याही स्पष्ट

या पार्श्वभूमीवर, नवीन नियमांद्वारे या धोक्यावर नियंत्रण ठेवण्याचा प्रयत्न करण्यात येत असल्याचा सरकारचा विश्वास आहे. केंद्र सरकारने ‘सिंथेटिक कंटेंट’ची व्याख्याही स्पष्ट केली आहे. संगणक किंवा अल्गोरिदमच्या साहाय्याने तयार केलेले, परंतु पाहताना किंवा ऐकताना खरे वाटणारे ऑडिओ, व्हिडिओ, फोटो किंवा इतर दृश्य स्वरूपातील साहित्य याला ‘सिंथेटिक कंटेंट’ असे म्हटले जाते.

तीन तासांत काढावा लागणार ‘एआय कंटेंट’

नवीन नियमानुसार, सोशल मीडिया प्लॅटफॉर्मसाठी सर्वात मोठा बदल म्हणजे एआयच्या मदतीने तयार करण्यात आलेली अनुचित किंवा बेकायदेशीर सामग्री तीन तासांच्या आत काढून टाकणे आता बंधनकारक करण्यात आले आहे. यापूर्वी ही कालमर्यादा ३६ तासांची होती. याचा अर्थ असा की, जर एखाद्या प्लॅटफॉर्मवर डीपफेक व्हिडिओ, बनावट दस्तऐवज किंवा प्रक्षोभक एआय-आधारित सामग्री प्रसारित होत असल्याचे आढळले, तर संबंधित प्लॅटफॉर्मने तात्काळ कारवाई करून ती सामग्री हटवणे आवश्यक असेल. सरकारच्या मते, अशा सामग्री हटवण्यात होणारा विलंब मोठ्या प्रमाणात नुकसानकारक ठरू शकतो.

… तर गुन्हा दाखल होणार

सरकारने सोशल मीडिया कंपन्यांना आणखी एक महत्त्वाचा आदेश दिला आहे. त्यानुसार, प्रत्येक तीन महिन्यांनी वापरकर्त्यांना नियमांविषयी माहिती देणे बंधनकारक असेल. तसेच, एआयद्वारे तयार केलेली बेकायदेशीर किंवा आक्षेपार्ह सामग्री शेअर केल्यास माहिती तंत्रज्ञान कायदा, नवीन फौजदारी कायदा, पोक्सो कायदा आणि इतर संबंधित कायद्यांनुसार कारवाई होऊ शकते, याची स्पष्ट सूचना वापरकर्त्यांना देणे आवश्यक आहे.

लेबलिंग अनिवार्य

नवीन नियमांनुसार, एआय-निर्मित सामग्रीची ओळख आणि लेबलिंग करणे अनिवार्य करण्यात आले आहे. सोशल मीडिया कंपन्यांनी एआय-जनरेटेड कंटेंट ओळखण्यासाठी आवश्यक तांत्रिक साधने उपलब्ध करून देणे आवश्यक आहे. तसेच, अशा सामग्रीवर स्पष्टपणे लेबल लावणे बंधनकारक असेल. यासोबतच, संबंधित कंटेंटला डिजिटल ओळख किंवा मेटाडेटा जोडणे आवश्यक आहे, जे सहजपणे काढता किंवा बदलता येणार नाही. यामुळे एआय-निर्मित सामग्रीची ओळख करणे अधिक सुलभ होईल आणि चुकीची माहिती पसरवण्यावर नियंत्रण ठेवण्यास मदत होईल.