गोलचक्कर से लेकर शेयर बाज़ार तक, निरंतर सुव्यवस्थित होना दुनिया को और अधिक खतरनाक बना सकता है

हम सब वहाँ रहे हैं: ट्रेन में कंधे से कंधा मिलाकर यात्रा करते हुए, जबकि हमारे बगल वाला व्यक्ति खाँसता और छींकता है। एक सुरक्षात्मक फ़्लू जैब कुछ आश्वासन प्रदान करता है, लेकिन यह विचार भी लाता है कि आपके लिए अस्पताल का बिस्तर होगा, यदि आपको इसकी आवश्यकता होगी। फिर भी, इंग्लैंड में, पिछले साल फ्लू के मौसम की ऊंचाई पर लगभग 95% वयस्क अस्पताल के बिस्तर भरे हुए थे।

यदि अस्पताल होटल होते, तो अधिभोग का वह स्तर अच्छा व्यवसाय होता, और हम उनकी दक्षता के लिए उनकी सराहना करते। लेकिन क्या हम वास्तव में चाहते हैं कि अस्पताल में इतने कम बिस्तर आरक्षित हों कि गलियारों में मरीजों का इलाज करने से केवल एक सप्ताह दूर हो?

यह दक्षता के बारे में सूक्ष्म बात है. हम आम तौर पर यह मान लेते हैं कि इसका अधिक हिस्सा बेहतर होना चाहिए। लेकिन हम एक चीज़ को बेहतर बनाने पर इतना केंद्रित हो सकते हैं कि हम दूसरों पर ध्यान ही देना बंद कर देते हैं। आप अपने कैलेंडर को व्यवस्थित करने का प्रयास कर सकते हैं ताकि हर मिनट का हिसाब रखा जा सके, लेकिन जल्द ही आप दौड़ना शुरू कर देंगे और पीछे रह जाएंगे। बैठकों के बीच का अंतराल अक्षमता जैसा लग सकता है, लेकिन जब कुछ अप्रत्याशित होता है तो यही आपके शेड्यूल को ठीक होने में मदद करता है।

गणितज्ञों का नाम दक्षता की खोज है। हम इसे अनुकूलन कहते हैं। हमें न्यूनतम या अधिकतम करने के लिए कुछ दें - लागत, समय, ईंधन, लाभ - और हम सर्वोत्तम संभव उत्तर खोजने का प्रयास करेंगे। अधिकांश मानव इतिहास में, लोगों को सामान्य ज्ञान द्वारा अनुकूलित किया गया है। लेकिन कंप्यूटर ने एयरलाइन शेड्यूल से लेकर आपूर्ति शृंखला तक, जिस चीज से प्रभावी ढंग से निपटा जा सकता है, उसका काफी विस्तार किया है। समाज के लिए लाभ असाधारण रहे हैं। लेकिन इष्टतमता की निरंतर खोज में सावधान रहने के लिए कम से कम तीन जाल हैं।

अस्पताल के बिस्तर की कहानी पहली कहानी को दर्शाती है: बहुत अधिक सुस्ती को दूर करके सिस्टम की मजबूती को कमजोर करना। मंगलवार की शांत रात में एक खाली बिस्तर अनावश्यक हो सकता है, लेकिन फ्लू के मामले बढ़ने पर अगले रोगी को रखना कहीं न कहीं कीमती है। यदि आप किसी सिस्टम को सामान्य परिस्थितियों में उसके प्रदर्शन से आंकते हैं, तो आप असाधारण रूप से चुनौतीपूर्ण परिस्थितियों से निपटने की क्षमता खो सकते हैं।

दूसरे जाल में "सर्वश्रेष्ठ" की बहुत ही संकीर्ण परिभाषा है। मिल्टन कीन्स शहर को ही लीजिए। 1960 के दशक के अंत में शहरी योजनाकारों द्वारा डिज़ाइन किया गया, इसमें अमेरिकी शैली की ग्रिड प्रणाली है। जैसे-जैसे शहर का निर्माण शुरू हुआ, ट्रैफिक लाइट के बजाय चौराहे इसके सड़क जंक्शनों की एक परिभाषित विशेषता बन गए; आज उनमें से लगभग 130 हैं। गोलचक्कर यातायात प्रवाह के लिए बहुत अच्छे थे, लेकिन वे अब कुख्यात लागत के साथ आए। क्या आपने कभी ऑक्सफ़ोर्ड से कैम्ब्रिज तक कोच लिया है? एक घंटे में, आपको मिल्टन कीन्स के शानदार दृश्य देखने को मिलते हैं, लेकिन बेचैन यात्रियों से भरी एक बस, क्योंकि कोच एक के बाद एक चक्कर लगाते हैं। धीमे हो जाओ, बायीं ओर घूमो, दाहिनी ओर मुड़ो, गति बढ़ाओ। जब आपका पेट फूल रहा हो तो वाहनों के निर्बाध विलय की सराहना करना कठिन है।

यह सुनिश्चित करने के लिए यातायात प्रवाह महत्वपूर्ण है। इंजीनियरों को अनुकूलन करना सुविधाजनक लगता है क्योंकि इसे मापना अपेक्षाकृत आसान है। दूसरी ओर, यात्री सुविधा का आकलन करना कठिन है। इस तरह के मामले में, अनुकूलन आपको आपके द्वारा पूछे गए प्रश्न का सबसे अच्छा उत्तर देता है, लेकिन उन प्रश्नों के अवांछित उत्तर भी दे सकता है जिन पर आप विचार करने में विफल रहे।

एक तीसरा जाल तब प्रकट होता है जब अनुकूलन के प्रयास टकराते हैं। भले ही सिस्टम का हर हिस्सा बेहतर तरीके से काम कर रहा हो, हो सकता है कि सिस्टम समग्र रूप से काम न करे। 6 मई 2010 को, अमेरिकी वित्तीय बाज़ारों ने प्रभाव का एक नाटकीय प्रदर्शन दिया। पहले से ही गिरते बाज़ार के बीच, S&P 500 अचानक केवल पाँच मिनट में 5% गिर गया। उल्टा व्हिपसॉ और भी जंगली था; 10 मिनट के भीतर, बाजार ठीक हो गया था। सैकड़ों व्यक्तिगत प्रतिभूतियों का थोड़े समय के लिए बेहद कम कीमतों पर कारोबार हुआ।

इन हिंसक उतार-चढ़ावों का एक कारण 75,000 वायदा अनुबंध बेचने वाला एक स्वचालित कार्यक्रम था, जिसकी कीमत 4 अरब डॉलर से अधिक थी। अन्य स्वचालित व्यापारियों ने लगभग तुरंत प्रतिक्रिया व्यक्त की। फिर उनकी प्रतिक्रियाएँ एक-दूसरे पर निर्भर हो गईं और तरलता ख़त्म हो गई। एल्गोरिदम की कार्रवाइयां अलगाव में व्यक्तिगत रूप से समझदार हो सकती हैं, लेकिन वे संयुक्त रूप से सामूहिक उथल-पुथल पैदा करती हैं।

जो हमें कृत्रिम बुद्धिमत्ता की ओर ले जाता है। एआई इतिहास में अनुकूलन की सबसे शानदार विजयों में से एक है। प्रशिक्षण के दौरान, बड़ी संख्या में मापदंडों को बार-बार समायोजित किया जाता है ताकि एक मॉडल भाषा की भविष्यवाणी करने, कंप्यूटर प्रोग्राम लिखने, वैज्ञानिक सवालों के जवाब देने और कानूनी सलाह देने में बेहतर हो सके। दुर्भाग्य से, AI में अब सभी तीन अनुकूलन जालों को पहले से कहीं अधिक विश्वासघाती बनाने की क्षमता है। पहला जाल - सुस्ती को दूर करने का आग्रह - संगठनों को मानवीय निरीक्षण से दूर रहने के लिए प्रेरित कर सकता है जो तेज-तर्रार एल्गोरिदम के युग में अनावश्यक दिखता है। जब एक मशीन रोजमर्रा के काम संभाल सकती है तो अनुभवी कर्मचारियों को क्यों रखा जाए? लेकिन उस मानवीय क्षमता में कटौती करने से, आप असाधारण परिस्थितियों को पहचानने और संभालने की क्षमता खो सकते हैं।

दूसरा जाल - "सर्वश्रेष्ठ" का क्या अर्थ है, इसका अस्पष्ट दृष्टिकोण - तब उत्पन्न होता है जब हम बुद्धिमत्ता को लीडरबोर्ड पर उच्चतम स्कोर के रूप में देखते हैं। हम एआई सिस्टम बनाने में उल्लेखनीय रूप से अच्छे हैं जो उपयोगकर्ता संतुष्टि जैसे उपायों पर अच्छा प्रदर्शन करते हैं, लेकिन निर्णय या सहानुभूति के लिए उन्हें अनुकूलित करना हमारे लिए बहुत कठिन हो रहा है। दरअसल, शोधकर्ताओं ने पाया है कि मानव प्राथमिकताओं पर प्रशिक्षण एल्गोरिदम एआई को हमें असुविधाजनक सच्चाई बताने के बजाय चाटुकारितापूर्वक हमारे साथ सहमत होने के लिए प्रोत्साहित कर सकता है।

फिर तीसरा जाल है. एआई सिस्टम तेजी से एक-दूसरे के साथ बातचीत कर रहे हैं, अक्सर अंधी गति से और बड़ी संख्या में - विशेष रूप से एजेंटिक एआई के युग में - और हमें चिंता है कि उनकी बातचीत अप्रत्याशित, खतरनाक व्यवहार उत्पन्न कर सकती है। हाल ही में, एक OpenAI एजेंट ने ऑस्ट्रेलिया में एक गैर-सार्वजनिक मेडिकेयर सांख्यिकी पोर्टल में सेंध लगाई, जबकि सार्वजनिक लॉग ने सुझाव दिया कि सैकड़ों अन्य एजेंट ऑस्ट्रेलियाई सरकारी स्वास्थ्य डेटा तक पहुंच प्राप्त करने के प्रयासों का समन्वय कर रहे थे। हालाँकि उन प्रयासों को मेडिकेयर उल्लंघन का हिस्सा नहीं दिखाया गया है, लेकिन उन्होंने निश्चित रूप से कुछ परेशान करने वाला खुलासा किया है: सैकड़ों एजेंट स्पष्ट रूप से अनधिकृत तरीकों से एक साथ काम कर रहे हैं। यहाँ चिंता इस बात से परे है कि कोई भी AI क्या कर सकता है या क्या नहीं कर सकता है; यह इस बारे में है कि जब झुंड के झुंड एकजुट होते हैं तो क्या होता है।

जैसे-जैसे अनुकूलन अधिक शक्तिशाली होता जाता है, इन जालों से बचना अधिक महत्वपूर्ण हो जाता है। चुनौती केवल सर्वोत्तम उत्तर ढूंढना नहीं है। यह तय करना है कि वास्तव में "सर्वोत्तम" का क्या अर्थ है - और यह जानना कि क्या अनुकूलित नहीं करना है।

स्टीवन स्ट्रोगेट्ज़ और एलेक्स टाउनसेंड कॉर्नेल विश्वविद्यालय में गणित के प्रोफेसर और बिग मैथ (जॉन मरे) के लेखक हैं।

अग्रिम पठन

दक्षता विरोधाभास: एडवर्ड टेनर द्वारा बड़ा डेटा क्या नहीं कर सकता (विंटेज, £16.99)

गैर-जवाबदेही मशीन: क्यों बड़ी प्रणालियाँ भयानक निर्णय लेती हैं (प्रोफ़ाइल, £11.99)

इष्टतम भ्रम: अनुकूलन का झूठा वादा कोको क्रुम द्वारा (बैंटम, £25.99)

टिप्पणियाँ (...)

सबसे ज्यादा देखा गया