20 November 2019

News Flash

कृत्रिम प्रज्ञेचा नवलखा हार!

नऊही मोठय़ा एआय कंपन्यांमध्ये तज्ज्ञ मुळात अमेरिकी विद्यापीठांमधून घडलेले आहेत.

नंदा खरे nandakhare46@gmail.com

कृत्रिम प्रज्ञेद्वारे नवे जग घडवू पाहणाऱ्या सहा अमेरिकी आणि तीन चिनी अशा नऊ बडय़ा कंपन्यांबद्दल हे पुस्तक ‘बरेच काही’ सांगते..

लहान मुलाला आपण रंग ओळखायला शिकवत असतो. समजा हिरवा रंग. आपण एकामागून एक हिरव्या वस्तू दाखवतो आणि दर वेळी म्हणतो- ‘हा हिरवा चेंडू’, ‘ही हिरवी चड्डी’, वगैरे. वस्तूंमध्ये हिरवेपणा सोडून काहीही समान नसलेले बरे. आता मूल हिरवा रंग शिकले आहे का, ते तपासायला आपण आणखी काही वस्तू दाखवतो, हिरव्याही आणि इतर रंगांच्याही. मुलाने हिरवा रंग ओळखला, तर आपण ‘शाबास!’ म्हणतो. उलट रंग चुकीचा ओळखला, तर आपण ‘अं:!’ म्हणतो, क्वचित चापटीही मारतो. मानवी ‘लर्निग’ची ही एक प्रमाण पद्धत आहे; एकुलती एक मात्र नाही. या लर्निगने चुका कमी होत जाऊन मूल सुशिक्षित होऊ  लागते. ‘मशीन लर्निग’, ते करू शकणारी न्यूरल नेटवर्क्‍स, आर्टिफिशियल इंटेलिजन्स ऊर्फ कृत्रिम प्रज्ञा वगैरे शब्द मला तरी ढोबळमानाने समानार्थी वाटतात. आणि त्यांचे मूळ आहे उदाहरणांमधून पॅटर्न शिकणे. हे नेमके मानवी लर्निगला समांतर आहे. आपण मशीन लर्निग वगैरेंसाठी ‘एआय’ हे लघुरूप वापरू, बहुवचन ‘एआय’ज्’ असेल.

..आणि एआय’ज्ना पॅटर्न्‍स ओळखायला शिकवणाऱ्या नियमसंचांना ‘अल्गोरिदम्स’ म्हणतात, जी आज तरी प्रामुख्याने मानवी प्रोग्रॅमर्स रचून देतात. आपण आज ‘अ‍ॅप’ या नावाने जे काही वापरतो, ते सारे एआय’ज् असतात. आणि अशी अ‍ॅप्स घडवणाऱ्या आज नऊ  मोठय़ा कंपन्या आहेत. या कंपन्यांवरचे पुस्तक आहे- ‘द बिग नाइन’ आणि लेखिका आहे- एमी वेब! एआय’ज्चा नवलखा हारच हा! लेखिकेने तपासलेल्या सहा कंपन्या अमेरिकी आहेत : गूगल, मायक्रोसॉफ्ट, अ‍ॅपल, फेसबुक, आयबीएम आणि अ‍ॅपल. यांना त्यांच्या आद्याक्षरांवरून लेखिका ‘जी-माफिया’ म्हणते. उरलेल्या तीन कंपन्या चिनी आहेत : बैडू, अलीबाबा आणि टेन्सेंट, ज्यांना ती ‘बॅट’ म्हणते.

पण या दोन गटांमध्ये मोठे फरक आहेत. ‘जी-माफिया’ तत्त्वत: एकमेकांशी स्पर्धा करतात आणि अमेरिकी सरकार या स्पर्धेचे फक्त नियंत्रण करते. ‘बॅट’ कंपन्या मात्र चिनी सरकारचे विभाग वा अवयव असल्याप्रमाणे थेट स्पर्धा न करता एकमेकांशी पूरक व्यवहार करतात. दोन्हींकडचे एआय’ज् रचणारे शास्त्रज्ञ सुरुवातीला तरी नामवंत अमेरिकी विश्वविद्यालयांमध्ये शिकलेले असत. जी-माफिया आजही तिथूनच तज्ज्ञ उचलते, तर बॅटचे तज्ज्ञ तिथूनही व चिनी विद्यापीठांतूनही येतात.

आज एआय’ज्मुळे औद्योगिक क्रांती एका नव्या टप्प्यात शिरते आहे. त्याविषयी..

औद्योगिक क्रांती चार टप्प्यांमधून घडत गेली असे मानतात. पहिला टप्पा होता कोळसा व इतर इंधने जाळून मिळालेल्या ऊर्जेने यंत्रे चालवून मानवोपयोगी वस्तू घडवण्याचा. आज याला औद्योगिक क्रांती- १ किंवा आयआर- १ म्हणतात. पुढे वीज वापरात आली, वरकरणी कमी खर्चात वाहून नेता येणारी. तिने घडवला आयआर- २ टप्पा. आता वस्तूंसोबत काही सेवाही घडू लागल्या; उदा. तार करणे, फोन करणे, इत्यादी. सोबतच किचकट यंत्रे रचायला ‘असेंब्ली लाइन’ प्रणालीही घडल्या. संगणक घडले! असेंब्ली लाइन्सचे नियंत्रण, लेथ-शेपर यंत्रांचे नियंत्रण संगणकांवर सोपवणे म्हणजे आयआर- ३. ‘छापील विद्युत-वलये’ (इंटिग्रेटेड सर्किट बोर्ड्स) वगैरे तंत्रज्ञानाने संगणक लहान झाले. ते वापरून स्वयंचलित उत्पादन प्रणाली रचणे शक्य होऊ  लागले. आधीचे (आजच्या तुलनेत) ‘महाकाय’ संगणक थेट ‘शॉप फ्लोअर’वर जाऊ शकत नसत. नवतंत्रज्ञानामुळे ते शक्य झाले.

आणि एआय’ज् वापरून बऱ्याच क्रिया ‘स्वयंभू’ करणे म्हणजे आयआर- ४. आज या टप्प्याचे दोन भाग करता येतात. (१) वस्तू घडवण्याचे आघाडीचे तंत्रज्ञान म्हणजे ‘त्रिमिती (थ्रीडी) छपाई’ आणि (२) सेवा देणारी ती अ‍ॅप्स- थेट सामान्य माणसांना व कंपन्यांना विकता येणारीही आणि नवनवे एआय’ज् घडवणारीही. या घटकांचा संयोग कळीचा ठरतो : (अ) इंटरनेट ऑफ थिंग्स (ब) डेटा (विदा) क्लाऊड तंत्रज्ञानाद्वारे साठवता येणे (क) एआय किंवा डेटा सायन्स वापरून विश्लेषण करता येणे आणि त्यातून मशिन लर्निगला उपयुक्त इनपुट घडवणे, म्हणजे आयआर- ४!

लेखिका पुस्तकात आयआर- ४ चे नाव घेत नाही, पण स्वयंभू एआय’ज् व त्यांचे जगावर (मुख्यत: अमेरिकेवर) होणारे परिणाम यावर मात्र ती तपशिलांत लिहिते.

मानवी हस्तक्षेपापलीकडे..

संगणकांच्या सुरुवातीच्या काळात ते कितपत विचार करू शकतात, याविषयीच्या चाचण्या (उदा. टय़ुिरग टेस्ट) सुचवल्या जात असत. बुद्धिबळ खेळता येणे ही कसोटी वारंवार सुचवली जात असे. १९९७ मध्ये आयबीएमच्या डीप ब्लू या एआयने तत्कालीन बुद्धिबळ-जगज्जेता गॅरी कास्पारॉव्हला हरवले. वरकरणी(च) बुद्धिबळापेक्षा सोपा खेळ आहे ‘गो’ हा चिनी खेळ, ३००० वर्षे जुना. प्रत्यक्षात बुद्धिबळात दोन्ही खेळाडूंची एकेक चाल झाल्यावर ४०० स्थिती शक्य आहेत, तर गोमध्ये एकेका चालीनंतर १,२८,९६० शक्य स्थिती आहेत! १९७४ पासून गो खेळणारे एआय’ज् रचले जाताहेत, पण फार वर्षे ते माणसांपुढे थिटे ठरत. पुढे एआय’ज्ची एक डीएनएन (डीप न्यूरल नेटवर्क) नावाची आवृत्ती घडली. अशा एका गूगलने खरीदलेल्या ‘डीप माइंड’ नावाच्या डीएनएनने ‘अल्फा गो’ नावाचा गो खेळणारा एआय रचला. त्याला एक लाख खेळांदरम्यानच्या स्थिती दाखवून खेळायला शिकवले गेले. त्याने ठरवलेल्या चाली मात्र एक माणूस चालत असे. आणि २०१४ च्या सुमारास अल्फा गोने एका पेशेवर चिनी खेळाडूला पाच-शून्य असे हरवले. पुढे एक कोणत्याच खेळ-स्थिती न दाखवता स्वत:शीच खेळत शिकवणाऱ्या अल्फा गो-झीरो (किंवा नुसतेच झीरो) एआयची रचना झाली. ७० तास स्वत:शी खेळून, मूळ नियम सोडून काहीही मानवी सूचना नसणारा हा एआय सर्व मानवांना (आणि मानवी साहाय्य लागणाऱ्या अल्फा गोला) हरवू लागला!

एकूण एआय’ज्च्या क्षमतांच्या आजच्या स्थितीबद्दल लेखिकेचे म्हणणे तिच्याच शब्दांत : ‘हो, विचार करणारी यंत्रे मूलभूत नवे विचार करू शकतात. अनुभवांतून शिकल्यानंतर ती यंत्रे (माणसांना अनपेक्षित) वेगळ्या उत्तरांच्या शक्यता आहेत असे ठरवू शकतात. (माणसांनी सुचवलेल्यापेक्षा) वेगळे वर्गीकरण उपयुक्त आहे असे ठरवू शकतात.’

याचा अर्थ असा की, आजवर जे मानले जात असे की एआय’ज् ती रचणाऱ्या माणसांच्या मर्यादांमध्येच कामे करतील, ते आज खरे नाही. आणि हे नवे, स्वयंभू एआय’ज् ‘द बिग नाइन’ कंपन्यांची मूल्यव्यवस्था वापरतील!

एआय जमात

झीरो हा एआय फक्त गो या खेळातच जिंकण्यावर थांबला नाही. तो साधी बुद्धिबळे आणि ‘शोजी’ नावाची चिनी बुद्धिबळेही जगज्जेता दर्जाने खेळू लागला. जिंकणे चांगले (आणि त्याचा व्यत्यास : हरणे वाईट) हे मात्र त्याला रचणाऱ्यांनी शिकवले. गो किंवा बुद्धिबळे यांत हरणे-जिंकणे कोणा व्यक्तीच्या वा समूहांच्या जिवावर उठत नाही. ‘वाटेल ते करून जिंकावे’ ही वृत्ती इतर जागी मात्र अमानुष ठरू शकते. हे अमानुष आहे याची जाण मानव्यविद्याच देऊ  शकतात. जरा तपशिलात पाहू.

नऊही मोठय़ा एआय कंपन्यांमध्ये तज्ज्ञ मुळात अमेरिकी विद्यापीठांमधून घडलेले आहेत. आणि ही विद्यापीठे फारच एकसुरी आहेत. त्यांच्या विद्यार्थ्यांमध्ये प्रभावी प्रमाण गोऱ्या पुरुषांचे आहे. काळे, स्त्रिया, लॅटिनो, आशियाई वगैरे गट आहेतही; पण ते प्रमाणाने लहान, बरेच दुर्बळ आहेत. यांपैकी चिनी विद्यार्थ्यांना चिनी ‘बॅट’ कंपन्यांनी उत्तम वेतने, उत्तम सेवा-शर्ती देऊन उचलले आहे. चिनी विद्यापीठेही त्याच एकसुरीपणावर बेतलेले अभ्यासक्रम शिकवतात. चिनी समाजात काळे-लॅटिनो-गैरचिनी आशियाई नसतात. स्त्रियांबद्दल (लेखिकेच्या मते) चिनी समाज जास्त उदार आहे. पण तिथेही प्रभावी गट चिनी पुरुषांचाच आहे.

आणि एआय शिकणाऱ्या अमेरिकी-चिनी विद्यार्थ्यांना मानव्यविद्या (लिबरल आर्ट्स) शिकवल्या जात नाहीत. विशेष म्हणजे, नीतिशास्त्र शिकवले जात नाही. उलट ‘तसले’ अभ्यासक्रम निवडणे हे लक्ष्यावरून चळणे, फोकस गमावणे मानले जाते. यामागचे कारण म्हणजे ‘द बिग नाइन’ची नोकर-भरती एआय’ज् करतात! हे नोकर-निवड एआय हे अल्फा गो किंवा झीरो दर्जाचे नसतात. त्यांना नीतिविचार महत्त्वाचा न वाटता केवळ संगणकशास्त्र, विदाविज्ञान, एआय विज्ञान यांच्यातले कौशल्यच महत्त्वाचे वाटते. कामगारनिवडीत नीतिविचाराचा मागमूसही नाही.

या त्रुटीमुळे एआय कंपन्यांचे अधिकारी, कर्मचारी वगैरे नीतीबाबत सैल असतात. लेखिका काही उदाहरणे देते, नावे घेऊन. दर उदाहरणात लैंगिक गैरवर्तनासाठी कोण्या अधिकाऱ्याला हाकलले गेले. सोबत दशलक्षांमधली नुकसानभरपाईही दिली गेली; पीडितेला नव्हे, तर गुन्हेगाराला! यात अमेरिकी कायदेबाजपणाही असणार; पण महत्त्वाचा भाग म्हणजे आपला सहकारी ज्या पापासाठी शिक्षा भोगतो आहे, ते पाप ज्येष्ठ अधिकाऱ्यांना क्षम्य वाटते. त्याचे कौशल्य पाहता बडतर्फी ही हलकीशी चापटी ठरते, आणि भरघोस भरपाई मात्र मनापासूनची असते! वरकरणी वाटते की, खर्चीक कोर्टकज्जे टाळण्यासाठी भरपाई दिली; प्रत्यक्षात मात्र ती शिक्षा केल्याबद्दलची दिलगिरी असते.

आणि हे अधिकारी-कर्मचारी संबंधांबद्दल आहे. चुकीच्या एआय निर्णयांमुळे पीडित समाजघटकांचे काय? त्यांना भरपाई मिळणे अशक्यप्राय ठरते. स्टॅन्फर्ड विद्यापीठाची एआय प्रयोगशाळा गूगलची प्रमुख एआय शास्त्रज्ञ फेई-फेई ली ही चालवते. तिचे म्हणणे लेखिका उद्धृत करते : ‘शिक्षिका म्हणून, स्त्री म्हणून, गौरेतर म्हणून, एक आई म्हणून माझी काळजी वाढत जाते आहे. एआय एकूण मानवजातीवर मोठाले परिणाम घडवायच्या बेतात आहे. आणि (त्याबाबतच्या निर्णयांमध्ये) आपण एका पूर्ण पिढीचे विविध ज्ञानशाखांचे तज्ज्ञ आणि पुढारी गमावून बसलो आहोत.. जर आपण खऱ्या शास्त्रज्ञांमधले ‘रंगीत’ लोकांचे, स्त्रियांचे प्रमाण वाढवले नाही तर सारी व्यवस्थाच पूर्वग्रहदूषित होईल. एखाद्या दशकानंतर हे दुरुस्त करणे अवघड होईल; अशक्य होईल.’

एकुणात, एआय’ज् रचणारे पूर्वग्रहदूषित आहेत. ते तसे आहेत, कारण ते वैविध्य नसलेल्या एआय जमातीचे सदस्य आहेत. त्यांची मूल्यव्यवस्था एकसुरी व सदोष आहे. त्यामुळे डेटा-संच आणि अ‍ॅल्गोरिदम्स मूल्यव्यवस्थांचा विचार न करता घडतात आणि वागतात.

चीनी ज्यादा!

लेखिकेच्या लिखाणात एक उघड प्रवाह चीनबद्दलचा आहे. चिनी सरकार आणि बॅट कंपन्यांची एकजूट रूढार्थाने साटय़ालोटय़ाचा भांडवलवाद नसेलही. पण सरकार आणि कंपन्या एकमेकांचे हित पाहतात; नव्हे  विचारविनिमय करून धोरणेही ठरवतात. जसे, अल्फा गो झीरो कहाणीनंतर चीन सरकारने एआय संशोधनाला उत्साहाने चालना देणारे नियमसंच घडवले.

आणि हे आंतरराष्ट्रीय स्पर्धेचाच विचार करून घडत नाही. आपल्या प्रजेवर सीसीटीव्ही-एआय’ज् वापरून पाळत ठेवत प्रजेला आज्ञाधारक बनवण्याचे एक महत्त्वाचे अंगही इथे आहे. चीन एक सोशल क्रेडिट स्कोर किंवा सामाजिक पतगुणांक घडवत आहे. रोंगचेंग या शहरात पथदर्शक प्रकल्प घेतला जात आहे. शहरातल्या सर्व ७.४ लाख प्रौढ प्रजाजनांना प्रत्येकी एक हजार गुण दिले गेले. चांगल्या कृतींसाठी (उदा. शौर्य दाखवणे) काही गुण दिले जातात, तर वाईट कृतींसाठी (उदा. वाहतुकीचे नियम तोडणे) गुण वजा होतात. दर टप्प्यावर नागरिक अ+++ ते ऊ  अशा वर्गात वाटले जातात. ऊ  वर्गाला साध्या नागरी सोयी महागाने मिळतात, तर अ+++ ला स्वस्तात वा फुकट. या तंत्राने सर्व प्रजा आज्ञाधारक होत जाते. कृती तपासणे, गुण आणि वर्ग देणे, सारे सीसीटीव्ही-एआय’ज् करतात. लेखिका सुचवते की, हे कम्युनिझमचे अंग आहे. खरे तर, ते विस्तारवाद-साम्राज्यवाद-हुकूमशाहीचे लक्षण वाटते. आणि भांडवलवादी समाजही पतगुणांक वापरतातच. ‘पैसे’ म्हणतात त्यांना!

रोजीरोटी

संगणक वापरले जाऊ  लागले तेव्हा कामगार संघटना विरोधात होत्या. कारण ते यंत्र रोजगारांवर घाला घालणार होते. तोच प्रकार अत्यंत तीव्र रूपात एआय’ज्च्या वापरामुळे होणार आहे. एआय तज्ज्ञ सांगतात की, एकूण रोजगार कमी होणार नाहीत; पण त्यांचे स्वरूप आणि पेशांमधली प्रमाणे बदलतील.

लेखिका एक मतांचा संच पुरवते. ती सांगते की, सुतार, चर्मकार, प्लंबर व इतर कुशल कामगार लागतच राहतील. सोबतच उच्च व्यवस्थापक, उद्योजक वगैरेही गरजेचेच राहतील. नोकऱ्या नष्ट होतील त्या मध्य-व्यवस्थापक दर्जाच्या. मात्र, एखाद्याची नोकरी जाईल की टिकेल, एवढाच मुद्दा नाही. कोणी कशावर काम करावे, याचा अग्रक्रम, त्यासाठीचे आर्थिक तरतूद हेही एआय’ज् ठरवू लागतील. नवी शैली वा संवेदना आणणारा उद्याचा कलाकार एखाद्या एआयला पुरेसा वाटला नाही म्हणून तो नकाशात येणारच नाही, हेही शक्य आहे. म्हणजे एआय’ज्च माणसांची बहुतेक कामे करू शकतील. मग प्रश्न बदलतात!

आमच्या लहानपणी माणसांच्या तीनच गरजा मूलभूत मानल्या जात : अन्न, वस्त्र आणि निवारा. पुढे क्रमाने आरोग्य, शिक्षण आणि जुजबी करमणूक या गरजाही मूलभूत यादीत आल्या. सातवी एक गरज यायला हवी असे वाटते : हातांना व डोक्याला समाधान देणारे काम! ही मूलभूत वाटणारी गरज एआय’ज्ची मूल्यव्यवस्था स्वीकारू शकेल का?

बरे, लेखिकेच्या यादीत शेती करणे मुळीच नाही. पशुपालन, मासे पकडणेही नाही. थेट ‘अनुभवी शेफ’! माझ्या आकलनात भारतात तरी शेतकरी पदोपदी कळीचे निर्णय घेत असतो. काही संस्था याबद्दल सूचना देणारी नेटवर्क्‍सही घडवतात. जे शेतकरी सदस्य होतील त्यांनी जीपीएस पत्ता सांगायचा. मग नेटवर्क रोजच्या रोज काय करावे, ते सांगते. या प्रकाराचे मूल्यमापन झाले असेल तर ते पाहण्यात नाही. म्हणजे विम्याचे हप्ते, शेअरबाजार ‘खेळणे’ इथपासून कास्तकारीपर्यंतचे निर्णय घेणारे एआय’ज् आहेत. आज पाश्चात्त्य देशांचा प्रवास कॉर्पोरेट शेतीकडे होतो आहे. बलाढय़ कंपन्या मोठय़ा प्रमाणावर शेतजमीन घेणार, तिथे कंत्राटी लोकांकडून शेती करून घेणार, किंवा शेतकऱ्याने कोणते पीक घ्यायचे, हे ती कंपनी ठरवणार. या पाश्र्वभूमीवर एआय सर्व निर्णय घेऊ  शकतात आणि जिथे यंत्रे काम करू शकत नाहीत तिथेच माणसे काम करतील, तेही कोणत्याही निर्णयशक्तीशिवाय. माणसांना समाधानकारक कामे कोण देणार? ते एआय जमातीच्या मूल्यव्यवस्थेत नाही!

या पुस्तकाचा एक विभाग भविष्यात काय होऊ शकेल, याची तीन चित्रे रेखणारा आहे. लेखिका या तीन ‘सिनॅरिओ’ना आशावादी, व्यवहारी आणि निराशावादी असे रंग देते. तिन्ही सिनॅरिओज् अमेरिका-चीन यांच्या प्रभावांच्या प्रमाणांवर आहेत. इतर जगाचे उल्लेख चुकूनमाकून आलेले आहेत. जसे, भारताचा एकच उल्लेख आहे; आणि तोही सिनॅरिओसंदर्भात नाही. जून २०१८ मध्ये भारतही चीनची डेटा-सुरक्षा धोरणे स्वीकारायचा विचार करतो आहे, एवढाच काय तो उल्लेख!

आशावादी सिनॅरिओ

आपल्या कामाच्या मानवजातीसाठीच्या अपार महत्त्वाची जाणीव होऊन जी-माफिया कंपन्या कंपनीनिहाय नीती-समित्या घडवतात. कंपन्यांतली स्पर्धा यांत विकृती आणू शकेल या रास्त धास्तीतून एक सर्व कंपन्यांसाठीची नीती-समितीही घडवली जाते.. नाडीचे ठोके व रक्तदाब मोजणारे मनगटी पट्टे, इतर वैद्यकीय बाबी तपासणारी घरगुती यंत्रे वगैरेंमुळे नागरिकांची तब्येत सतत तपासली जाते. एकूण आयुष्य निरोगी व दीर्घ होते.. जी-माफिया संघ जास्त पारदर्शक कारभार करू लागतो. एआय’ज्मुळे रोजगाराची भीती वाटणे संपून अर्थव्यवस्था सुधार, व्यक्तिगत सुबत्ता यांच्या नव्यानव्या संधी सुचू लागतात. शिक्षण त्यात मदत करू लागते.. अमेरिकेतील प्रगती पाहून इतर लोकशाहीवादी देश तर तिच्या पाठीशी उभे होतातच, पण चीनही अमेरिकी व्यवस्था उसनी घेऊन अखेर खराच ‘बिग नाइन’ महासंघ घडतो!

.. आणि निराशावादी

या सिनॅरिओला लेखिका ‘रेंगाँग झिनेंग वंश’ किंवा ‘रियासत’ म्हणते. रेंगाँग झिनेंग म्हणजे आर्टिफिशियल इंटेलिजन्स ऊर्फ कृत्रिम प्रज्ञा. या सिनॅरिओत चीनच्या नाठाळपणाने सहकार्य, पारदर्शकता, एकमेकांच्या कलाने घेणे, पूर्ण मानवजातीचे हित हे अंतिम ध्येय मानणे वगैरे सारे, सारे विसरले जाते. एक अमानुष ‘बेल्ट अ‍ॅण्ड रोड’ रचना सर्व जगाला कवेत घेते. व्यवहारी सिनॅरिओ आशा-निराशांमध्ये हेलकावत राहण्याचा आहे.

पण एकूण एआय तंत्रज्ञान आणि आज त्याभोवती असणारी कायदेकानूंची चौकट हे सोडता, तिन्ही सिनॅरिओज् नीरस वाटतात. यात अमेरिका-चीन वगळता इतर जगाकडे केलेले ‘टोटल’ दुर्लक्ष महत्त्वाचे आहे!

‘द बिग नाइन : हाऊ द टेक टायटन्स अ‍ॅण्ड देअर थिंकिंग मशिन्स कुड वॉर्प ह्य़ुमॅनिटी’

लेखिका : एमी वेब

प्रकाशक : पब्लिक अफेअर्स बुक्स

पृष्ठे: ३३६, किंमत : १,५९९ रुपये

 

First Published on July 13, 2019 2:04 am

Web Title: the big nine how the tech titans and their thinking machines could warp humanity zws 70
Just Now!
X