तंत्रकारण : मनूचे मांजर

थोडक्यात जातीची रूपे काळागणिक बदलत गेली. एआय जन्माला आल्यावर सामाजिक, आर्थिक बदल, वर्चस्वाची गणिते, कौशल्याच्या चाचण्या मोठ्या प्रमाणावर प्रभावित होताहेत. मग जातव्यवस्था, वर्गव्यवस्था एकंदरीत वर्चस्वाची विभागणी तरी मागे कशी राहील? मनुस्मृतीमध्ये समाजाची विभागणी जातीवर आधारित करण्याची रचना मांडली होती. आधुनिक काळात अल्गोरिदमच्या साहाय्याने पूर्वग्रह, तंत्रसुलभता, नवीन कौशल्यरचना या नवीन विभाजन व्यवस्थेचा घेतलेला हा परामर्श!

निरागसतेचा शाप

मनुस्मृतीने केवळ असमानता घोषित केली नाही, तर ती नैसर्गिक, आवश्यक आणि वैश्विकदृष्ट्या न्याय्य का आहे, याची एक संपूर्ण चौकट दिली. त्याचे तर्काधिष्ठित स्पष्टीकरणही दिले, जेणेकरून जातिव्यवस्था ही अपरिहार्य आणि निसर्गदत्त आहे असे वाटू लागले. डॉ. बाबासाहेब आंबेडकर आणि जातिव्यवस्थेविरोधात लढलेल्या सर्व समाजसुधारकांनी जात हे प्रस्थापितांचे शोषणाचे साधन आहे हे उघड केले. प्रत्यक्ष शोषणापेक्षा छुपे आणि धूर्त शोषण जास्त हानिकारक असते. एआय आणि अल्गोरिदम नेमका इथेच हातभार लावतो.

वरवर तटस्थ वाटणाऱ्या आकडेवारीच्या खेळातून एआय प्रस्थापित भेदभाव प्रबळ करते. नोकरीसाठी अर्जांची छाननी करताना एआय उच्चवर्णीयांची मक्तेदारी लक्षात घेऊन दुर्बल घटकांना अकार्यक्षम म्हणून नैसर्गिकरीत्या आणि लक्षात न येता वगळू शकतो. अर्जदाराचे आडनाव, पत्ता, पिन कोड, वस्तीचे नाव, समाजमाध्यमांवरून संकलित केलेला डेटा, भौगोलिक आणि ऐतिहासिक घटक यांच्या संयोगातून अस्तित्वात आलेली लोकसंख्येचे वितरण यांवरून अल्गोरिदमला प्रच्छन्नपणे जात अथवा वर्ग ओळखणे अवघड नाही.

एआयसारखे तंत्रज्ञान निष्पाप म्हणून काम न करता निर्मात्यांच्या हेतू आणि पूर्वग्रहांना बळकट करते. तसेच एआयचा हेतूच मुळात बाजारपेठ केंद्रित व्यवस्थेतून झाला असून उदात्त हेतू वगैरे दुय्यम गोष्टी आहेत. त्यामुळे समाजात अस्तित्वात असणाऱ्या किंवा निर्मात्यांना (वापरकर्त्यांना नव्हे!) अपेक्षित असणाऱ्या आर्थिक आणि सामाजिक सत्तेचा खुंट बळकट करणे हे एआयचे आद्या कर्तव्य! साफिया उमोजा नोबल या ‘अल्गोरिदमची दडपशाही’ या संकल्पनेत म्हणतात की सर्च इंजिन आणि इतर स्वयंचलित प्रणाली निष्पक्ष नसतात, तर त्या बनवणाऱ्यांच्या पूर्वग्रहांनी आणि व्यावसायिक हितसंबंधांनी प्रभावित झालेल्या असतात.

याचा परिणाम डेटा आधारित भेदभावामध्ये होतो, जिथे अल्गोरिदम पद्धतशीरपणे श्वेतवर्णीयांना, आणि पुरुषत्वाला विशेषाधिकार देतात, तर कृष्णवर्णीय तसेच महिला आणि इतर शोषित गटांना चुकीच्या पद्धतीने सादर करतात व बाजूला सारतात. जागतिक स्तरावर मानवी वर्तनाचे वर्गीकरण करणे ही मोठ्या टेक कंपन्यांची प्राथमिक गरज आहे. नफ्यासाठी लोकांच्या वर्तनातून अतिरिक्त माहिती मिळवण्याची कंपन्यांची ही न थांबणारी धडपड, अल्गोरिदमिक दडपशाहीच्या यंत्रणेला थेट खतपाणी घालते. यामुळे, भेदभाव हा सिस्टीममधील एखादी चूक ( bug) राहत नाही, तर तो त्याच्या आर्थिक रचनेचा एक मूलभूत भाग बनतो.

ऐतिहासिक पूर्वग्रह हा भूतकाळातील भग्नावशेष नसून एआय प्रणालींच्या माध्यमातून भविष्याच्या मानगुटीवर बसत आहे. सुमारे १० लाख केसेसचा डेटा विश्लेषित करून उत्तर प्रदेश पोलिसांनी भारतातील पहिल्या एआय आधारित पूर्वानुमित पोलिसिंगच्या ‘त्रिनेत्र’ या व्यासपीठाला प्रशिक्षित केले आहे. मात्र जात आणि वर्गाबद्दल पोलिसांची असणारी दूषित मते समाजाला नवीन नाहीत. परिणामी, हे अल्गोरिदम दलित-आदिवासी बहुल खेडी आणि वस्त्यांना गुन्ह्यांसाठी ‘धोकादायक’ म्हणून चिन्हांकित करण्याची शक्यता आहे. यामुळे एक धोकादायक ‘फीडबॅक लूप’ तयार होऊ शकतो. अल्गोरिदम या भागांकडे पोलिसांचे लक्ष केंद्रित करेल, ज्यामुळे बऱ्याचदा किरकोळ आणि कल्पित गुन्ह्यांसाठी त्या भागात अटकसत्र चालेल आणि यातूनच तो भाग धोकादायक असल्याचे सिद्ध होण्यासाठी अधिकाधिक आकडे मिळतील.

कायद्याच्या आणि नैतिकतेच्या चौकटीबाहेर राहून होणारे हे वर्गीकरण थेट होणाऱ्या भेदभावापेक्षा अधिक धोकादायक आहे. एका बाजूला पारंपरिक भेदभावाला विटाळ, अस्पृश्यतेची मानके, आर्थिक संरचना, सामाजिक नियम इत्यादीच्या माध्यमातून जातसंरचना सयुक्तिक आहे हे पटविण्याचा प्रयत्न केला जातो तर त्याच वेळी या चौकटीमुळे ती कृत्रिम वाटण्याचा धोकादेखील आहे. एआय याच उतरंडींना अल्गोरिदमद्वारे परिवर्तित करते, ज्यामुळे ऐतिहासिक पूर्वग्रह गणितीय भाषेमध्ये रूपांतरित होतो. मशीन भेदभाव करत नाही- ते फक्त गणना करते. आणि यातून निघणारा परिणाम हा पूर्वग्रहापेक्षा व्यापक आहे. एआय संपूर्ण भेदभावाच्या व्यवस्थेसाठी बलगुणक (फोर्स मल्टिप्लायर) म्हणून काम करते.

विषमतेची डिजिटल उतरंड

ब्राह्मण हा समाजातील सर्वात वरिष्ठ घटक मानला जातो! एकेकाळी समाजासाठी धोरणनिर्मितीची जबाबदारीही त्याचीच मानली जात असे! अल्गोरिदमच्या जमान्यात सर्वांत उच्चस्थानी तंत्रज्ञान कंपन्यांचे संस्थापक, प्रमुख भागधारक, तसेच त्यांना वित्तपुरवठा करणारे भांडवलदार आणि संस्थात्मक गुंतवणूकदार हा ‘आहे रे’ वर्ग आहे. हा डिजिटल पुरोहित वर्ग केवळ संपत्तीवर नियंत्रण ठेवत नाही तर अल्गोरिदम प्रणालींचे मूलभूत मापदंड नियंत्रित करतो. कोणत्या समस्यांवर अल्गोरिदमने उपाय शोधावे, कोणत्या मापदंडांना त्यांनी इष्टतम (optimize) करावे आणि वेगवेगळ्या मूल्यांमध्ये कोणती तडजोड करावी, हे तेच ठरवतात. पारंपरिक ब्राह्मणांप्रमाणेच, ते पवित्र ज्ञानाशी असलेल्या त्यांच्या संबंधातून आपली सत्ता मिळवतात.

डिजिटल क्षत्रिय वर्ग म्हणजे अभियंते, डेटा वैज्ञानिक आणि उत्पादन व्यवस्थापक, जे अल्गोरिदम प्रणालींची रचना आणि अंमलबजावणी करतात. हा तांत्रिक वर्ग, पुरोहित वर्गाच्या उद्दिष्टांना ठोस अल्गोरिदम नियमांमध्ये रूपांतरित करण्याची प्रचंड क्षमता बाळगतो. मात्र त्यांची चौकट मर्यादित असते. ते डिजिटल युगाचे योद्धे आहेत, ज्यांची आयुधे सांख्यिकीय तंत्र आणि प्रोग्रामिंग भाषांनी सुसज्ज आहेत. त्यांना चांगले वेतन, प्रतिष्ठित पदे आणि कामात बरीच स्वायत्तता मिळते. तरीही, ते पुरोहित वर्गापेक्षा दुय्यम स्तरावर राहतात. त्यांचे काम नफा आणि वृद्धी यांची कार्यक्षमता राखणे हे आहे. वरिष्ठ वर्गाच्या नैतिकतेचे विश्लेषण त्यांच्या कार्यकक्षेत येत नाही.

तिसरा वैश्यांचा स्तर, हा नागरिकांचा म्हणजेच वापरकर्त्यांचा आहे. ज्यांना सेवा पुरविली जाते आणि महसूल संकलनाचे केंद्रस्थान आहे. तरीही, या प्रणालींसोबतचा त्यांचा संबंध हा मूलभूतपणे ‘शोषणकारक’ आहे. त्यांची वैयक्तिक माहिती, अशा अल्गोरिदम मॉडेल्ससाठी कच्चा माल बनते, ज्यावर त्यांचे कोणतेही नियंत्रण नसते. त्यांच्या वर्तणुकीचे नमुने, अशा प्रणालींसाठी प्रशिक्षण डेटा बनतात, ज्या शेवटी त्यांचेच वर्गीकरण आणि मूल्यांकन करतील. बहुतेक वापरकर्ते या प्रणालीतील त्यांच्या स्थानाबद्दल पूर्णपणे अनभिज्ञ राहतात. ते अल्गोरिदमच्या मध्यस्थीचा अनुभव आधुनिक जीवनाचे एक नैसर्गिक वैशिष्ट्य म्हणून घेतात. जेव्हा या प्रणाली त्यांच्या विरोधात काम करतात, तेव्हा ते त्याला संरचनेतील भेदभावाऐवजी वैयक्तिक अपयश मानतात.

डिजिटल शूद्रांमध्ये वेगवेगळ्या प्लॅटफॉर्मवर काम करणारे असंघटित कामगार आणि डिजिटलायजेशनपासून दूर असणारे लोकसंख्येचे घटक यांचा समावेश होतो. हे गिग कामगार अल्गोरिदम प्रणालींसाठी आवश्यक श्रम पुरवतात मात्र वापरकर्त्यांसाठी आणि अनेकदा या प्रणालींच्या निर्मात्यांसाठी त्यांचे योगदान अर्थपूर्ण राहत नाही. त्यांच्याकडे सहसा नोकरीची सुरक्षितता, लाभ किंवा समृद्धीसाठी कोणताही प्रभावी मार्ग नाही. जे लोक डिजिटल व्यवस्थेच्या बाहेर आहेत त्यांचे जगणे म्हणजे या पुरोहितांच्या आकलनानुसार लादले गेलेले जगणे आहे. त्यांचे नियम झुगारल्यास या वर्गाचे अस्तित्व धोक्यात येते.

धोरणनिर्मिती करणाऱ्या पुरोहितांपासून गिग कामगार असणाऱ्या शूद्रापर्यंत अल्गोरिदमने आधुनिक जातिव्यवस्थेच्या भिंती बांधण्यास सुरुवात केली आहे. जरी यामध्ये वर्ग स्थित्यंतरास वाव असला तरी सगळ्यात धोकादायक आहे या व्यवस्थेचे अदृश्य मार्गाने होणारे बळकटीकरण! डोळे मिटून दूध पिणाऱ्या मांजराला आपल्याकडे कुणाचे लक्ष नाही असे वाटते. मूल्यरहित एआयच्या वापरामुळे नकळत सामाजिक भेदाची उतरंड निर्माण होत आहे. मत्स्यावताराच्या वेळेस, प्रलयानंतर मनूच्या माशाने, जाती-आधारित नवीन जग निर्माण केले होते. अल्गोरिदम म्हणजेच डोळे झाकून भेदभाव करणारे मनूचे मांजर तोच वारसा डिजिटल युगाकडे हस्तांतरित करत आहे.

तंत्रज्ञान आणि राजकारण यांच्या अंत:संबंधाचे विद्यापीठीय संशोधक

phanasepankaj@gmail.com