Ten proposals to keep the power and wealth generated by artificial intelligence under people's control, and the manifesto behind them.
No system may decide over a human life without a person who can be held to account, and every people deserves to shape its own future, free from the domination of any empire, state or corporation.
06
The public must always be able to switch off an AI system. The most powerful models need democratic approval before release and a shutdown mechanism tested by an independent authority, which can suspend them at any time. Executives who bring a system to market without these safeguards are personally liable for the harm it causes.
07
When an automated system makes a decision about someone's job, loan, benefits or medical care, that person can challenge it before someone accountable for the outcome. At work, a major AI deployment needs the agreement of workers' representatives, and the people whose jobs are changing have a say in how. In war, no machine may decide to kill, and we back a treaty banning weapons that select and attack human targets on their own.
08
AI gives governments powers no secret police ever had, from cameras that recognise every face in a crowd to software that reads every message. We ban real-time facial recognition in public spaces, mass interception of communications and social scoring, whether a state does it or buys it from a company. Platforms may not track people to target them with ads or political messages. Any use of AI by police or intelligence services needs a judge's authorisation and is reported publicly, and encryption stays strong, without back doors.
09
International law must bind the powerful as firmly as the weak, including our own allies. We end arms sales, dual-use exports and trade privileges for any government whose leaders face an ICC arrest warrant, until the conduct behind the warrant stops. Foreign troops and nuclear weapons leave national soil as a common defence among democracies replaces them. Every country also has to face its own history, from colonial wars to dictatorship.
10
No single country can tax billionaires, govern AI or resist empires on its own. We call for a constituent convention for a federal union of democracies, open to any country that meets independently verified democratic standards; a member that stops meeting them loses its place. A parliament elected directly by citizens would govern defence, foreign policy, AI and the taxation of the largest fortunes. Until then, the rules for AI should be made at the United Nations, where every country has a vote, and middle powers and the global majority should pool their computing power and build open public models together instead of renting from Washington and Beijing.
घोषणापत्र
कृत्रिम बुद्धिमत्ता हम में से हर एक को हमारे उत्पादन का एक न्यायोचित हिस्सा और अपने जीवन पर अधिक अधिकार दे सकती है। इससे बनी दौलत अच्छे वेतन, बुनियादी आय और टिकाऊ सार्वजनिक सेवाओं के लिए भुगतान कर सकती है, और इससे बचे घंटे कम कार्य-सप्ताह बन सकते हैं। हमारे जीवन को आकार देने वाले फैसले उन लोगों के पास रह सकते हैं, जिनसे हम जवाब मांग सकते हैं, और ये प्रणालियाँ हमारे ऊपर फैसले करने के बजाय हमारे लिए काम कर सकती हैं। यह हमें उन समस्याओं को हल करने में भी मदद कर सकती है, जिनका सामना कोई भी देश अकेले नहीं कर सकता, गर्म होते ग्रह से लेकर बीमारियों तक। इसके बजाय, कुछ कंपनियों और सरकारों ने इसे अपने कब्जे में ले लिया है, और वे इसका इस्तेमाल हमारा हिस्सा और हमारी आवाज़ छीनने के लिए कर रही हैं।
हम आशा करते हैं कि यह रास्ता हमें कहाँ ले जाएगा, इस बारे में हम गलत हों, और एक दिन ये शब्द अतिशयोक्ति लगें। साक्ष्य कुछ और ही बताते हैं। दुनिया ऐसे समाज की ओर दौड़ रही है जहाँ तकनीक सत्ता को और अधिक मुट्ठी भर हाथों में, साम्राज्यों और धनकुबेरों के हाथों में, केंद्रित करती है। और यह बेहतर संभावना है, जिसमें हमने अभी इन प्रणालियों पर अपना नियंत्रण पूरी तरह नहीं खोया है।
01
इतिहास की हर बड़ी तकनीक ने सत्ता का पुनर्वितरण किया है, और ऐसा शायद ही कभी मेहनतकश लोगों के पक्ष में हुआ हो। औद्योगिक युग की मशीनों ने कारखाना मालिकों को बहुत पहले ही अमीर बना दिया था; बाद में श्रमिक संगठनों और समाजवादी आंदोलनों ने उन्हें लाभ बाँटने पर मजबूर किया। कृत्रिम बुद्धिमत्ता पहले की हर तकनीक से तेज गति से आगे बढ़ रही है, और इस बार कोई गारंटी नहीं कि बहुसंख्यक लोगों को दूसरा मौका मिलेगा।
मुट्ठी भर निगम, जो केवल अपने संस्थापकों और शेयरधारकों के प्रति जवाबदेह हैं, अब मानवता की बनाई अब तक की सबसे शक्तिशाली तकनीक पर नियंत्रण रखते हैं। इस पर महारत हासिल करने की होड़ में लगे राज्य इसे सार्वजनिक हित का साधन मानने से बहुत पहले वर्चस्व के औजार के रूप में देखते हैं। काम, ऋण, सूचना, कल्याण और युद्ध से जुड़े फैसले उन संस्थाओं से दूर जा रहे हैं जिन्हें लोग जवाबदेह ठहरा सकते हैं। ये फैसले अब ऐसी प्रणालियों के हाथों में जा रहे हैं जिनके भीतर कोई नहीं देख सकता और जिनके मालिकों को किसी ने नहीं चुना।
वे लगातार और अधिक मिलकर काम कर रहे हैं, और इस गठजोड़ का एक नाम है। तकनीकी फासीवाद तब पैदा होता है जब सबसे शक्तिशाली तकनीकों के मालिक ऐसी सरकारों से हाथ मिलाते हैं जो अब लोकतंत्र का सम्मान नहीं करतीं, और निगरानी, सूचना पर नियंत्रण तथा स्वचालित फैसले मुट्ठी भर लोगों को सत्ता में बनाए रखने के औजार बन जाते हैं। यह कोई दूर का खतरा नहीं है, क्योंकि एक से अधिक देशों में सत्ता पहले से इसी तरह चलाई जा रही है।
एक और भी भयावह संभावना है जिसे गंभीर लोग अब खारिज नहीं करते। अपने निर्माताओं से अधिक सक्षम प्रणालियाँ किसी के भी नियंत्रण से बाहर निकल सकती हैं, उन गिने-चुने लोगों के नियंत्रण से भी जिन्होंने उन्हें बनाया है। धनकुबेरों के शासन वाली दुनिया ही काफी बुरी है, लेकिन मानवीय गरिमा की परवाह किए बिना कृत्रिम बुद्धिमत्ता के शासन वाली दुनिया उससे भी बदतर होगी।
02
हमें इस भविष्य की कल्पना करने की जरूरत नहीं, क्योंकि उसकी रूपरेखा रोजमर्रा की जिंदगी में पहले से दिख रही है। वेतन ठहरे हुए हैं, जबकि मुनाफ़े आसमान छू रहे हैं। आवास पहुँच से बाहर होता जा रहा है और बजट के नाम पर सार्वजनिक सेवाओं में कटौती हो रही है, जबकि अमीरों के लिए यही बजट किसी न किसी तरह हमेशा संतुलित हो जाते हैं। अधिक से अधिक काम छोटे-छोटे कार्यों में बाँटा जा रहा है, जिनका समय ऐप तय करते हैं और जिनका मूल्यांकन ऐसे सॉफ्टवेयर करते हैं जो कार्यस्थल पर किसी के प्रति जवाबदेह नहीं हैं।
इसकी सबसे भारी कीमत उन लोगों को चुकानी पड़ती है जो कंपनियों के निदेशक मंडलों से बहुत दूर हैं। हमारे उपकरणों को चलाने वाले खनिज वैश्विक बहुसंख्यक देशों से क्रूर परिस्थितियों में निकाले जाते हैं, और कृत्रिम बुद्धिमत्ता को प्रशिक्षित करने वाले लोगों को अक्सर इसके लिए दिन के कुछ ही डॉलर दिए जाते हैं। इन प्रणालियों को चलाने वाले डेटा केंद्र शहरों जितना पानी और बिजली खपाते हैं, अक्सर ऐसे इलाकों में जहाँ गर्म होती जलवायु पहले ही बिजली व्यवस्था पर दबाव डाल चुकी है और नल सूख रहे हैं।
इस बीच सबसे अमीर लोग पहले की तरह चलते रहते हैं, और आगे क्या होगा, यह तय करने वाले औजारों पर उनका मालिकाना लगातार बढ़ता जाता है। दुनिया भर में बल और धन कानून के प्रति जवाबदेह रहना छोड़ रहे हैं, और वही मुट्ठी भर लोग दोनों से मुनाफ़ा कमा रहे हैं।
अगर हम सत्ता हासिल करने के लिए आगे नहीं बढ़ते, तो यही भविष्य हमारा इंतजार कर रहा है।
03
Human Resistance एक राजनीतिक आंदोलन है, जिसका उद्देश्य कृत्रिम बुद्धिमत्ता से पैदा होने वाली शक्ति और संपदा को जनता के नियंत्रण में रखना है। हम वामपंथी आंदोलन हैं और श्रमिक संगठनों, उपनिवेशवाद विरोधी संघर्षों, समान अधिकारों के अभियानों और लोकतांत्रिक समाजवाद की परंपरा पर चलते हैं। इन सबने मिलकर आठ घंटे का कार्यदिवस, सार्वभौमिक मताधिकार, सार्वजनिक स्वास्थ्य सेवा और औपचारिक साम्राज्यों का अंत हासिल किया। हम इस परंपरा को ऐसे युग में आगे ले जा रहे हैं जिसकी इसके संस्थापक कल्पना भी नहीं कर सकते थे, और हम हर उस व्यक्ति का स्वागत करते हैं जो इसे हमारे साथ आगे ले जाना चाहता है।
हम मानते हैं कि लोकतंत्र मतपेटी तक सीमित नहीं रह सकता। उसे कार्यस्थल, अर्थव्यवस्था और उन तकनीकों तक पहुँचना होगा जो अब इंसानी जीवन को व्यवस्थित करती हैं, क्योंकि जब तक आर्थिक शक्ति मुट्ठी भर हाथों में रहती है, राजनीतिक समानता का अर्थ बहुत कम रह जाता है। हम निरंकुशता के हर रूप को खारिज करते हैं, उस रूप को भी जिसने समाजवाद के नाम पर बोलने की कोशिश की है, क्योंकि स्वतंत्रता और समानता साथ ही बच सकती हैं।
हम अंतरराष्ट्रीयतावादी हैं। पूँजी स्वतंत्र रूप से सरहदें पार करती है और कृत्रिम बुद्धिमत्ता बनाने वाले निगम भी, इसलिए जनता को भी सरहदों के पार संगठित होना होगा। Lagos का एक मजदूर, São Paulo का एक विद्यार्थी, Manila की एक नर्स और Milan का एक शिक्षक सत्ता के उसी केंद्रीकरण का सामना कर रहे हैं, और साथ मिलकर वे उसे तोड़ सकते हैं।
04
हम मानवीय गरिमा के लिए खड़े हैं: इस विश्वास के लिए कि हर व्यक्ति को उस उत्पादन का न्यायसंगत हिस्सा मिलना चाहिए जो हम मिलकर करते हैं, और अपने जीवन को आकार देने वाले फैसलों में अपनी बात कहने का अधिकार होना चाहिए। कृत्रिम बुद्धिमत्ता इन दोनों को दाँव पर लगा रही है।
एक हिस्सा। इन प्रणालियों से पैदा होने वाली संपदा हमारे श्रम, हमारे शब्दों और दशकों के सार्वजनिक शोध पर बनी है। इसे सम्मानजनक वेतन, बुनियादी आय, सार्वजनिक सेवाओं और समय के रूप में हमें वापस मिलना चाहिए। मशीनों से बचने वाले घंटे लोगों के होने चाहिए, देखभाल के लिए, सीखने के लिए, एक-दूसरे के लिए, न कि शेयरधारकों के लिए मुनाफ़े की एक और गुंजाइश। और धनकुबेर पहले ही जिस अपार संपत्ति पर कब्जा कर चुके हैं, उसे भी बाँटना होगा।
एक आवाज़। तकनीक को लोगों और उनके बनाए लोकतांत्रिक संस्थानों के प्रति जवाबदेह रहना चाहिए। कोई भी प्रणाली, चाहे कितनी ही सक्षम हो, किसी इंसान के जीवन पर अंतिम अधिकार नहीं रख सकती। किसी के काम, ऋण, स्वास्थ्य या स्वतंत्रता का फैसला कोई मशीन नहीं कर सकती, जब तक कोई ऐसा इंसान न हो जिसे जवाबदेह ठहराया जा सके। यही बात पूरे जनसमुदायों पर भी लागू होती है। हर व्यक्ति और हर जनसमुदाय को दमन से मुक्त होकर अपना आने वाला कल गढ़ने का अधिकार है, चाहे वह दमन अपनी सरकार से आए, किसी विदेशी ताकत से या ऐसे विशाल निगम से जो किसी के प्रति जवाबदेह न हो। किसी भी सत्ता को, सार्वजनिक हो या निजी, उन लोगों पर राज करने का अधिकार नहीं है जो उसे जवाबदेह नहीं ठहरा सकते।
05
अच्छे इरादे काफी नहीं रहे हैं। बरसों से विशेषज्ञ रिपोर्टें लिखते आए हैं, नागरिक खुले पत्रों पर हस्ताक्षर करते आए हैं और सरकारें ढाँचों के वादे करती आई हैं, जबकि सत्ता का केंद्रीकरण और तेज होता गया। विनम्र विनती करना धीरे-धीरे हारने का एक तरीका बन गया है।
इसलिए हम खुले तौर पर और बिना माफी माँगे सत्ता हासिल करना चाहते हैं, क्योंकि केवल सत्ता ही मानव इतिहास की दिशा बदल सकती है। हमारा मतलब सरहदों के पार संगठित मेहनतकश लोगों की ताकत से है, श्रमिक संगठनों और आंदोलनों की ताकत से, वोटों की ताकत से और इतनी बड़ी संख्या की ताकत से जिसे अनदेखा न किया जा सके।
हम सत्ता के गलियारों के बाहर विरोध और कार्रवाई करेंगे, क्योंकि हमारे पास उनके भीतर बैठे लोगों के हिम्मत जुटाने का इंतजार करने का समय नहीं है। और जहाँ ये गलियारे निरंकुशता की दीवार के पीछे बंद नहीं हैं, वहाँ हम अपनी माँगें उनके भीतर भी ले जाएँगे।
06
एक शक्तिशाली तकनीक, जिस पर धनकुबेरों और साम्राज्यों का मालिकाना है।
हम माँग करते हैं कि इस नए युग की संपदा बाँटी जाए, और हम Terminator Tax से शुरुआत करते हैं: सबसे बड़े कृत्रिम बुद्धिमत्ता और रोबोटिक्स समूहों के राजस्व पर एक कर, ताकि इंसानी श्रम की जगह मशीनें लगाकर मुनाफ़ा कमाने वाले उन चीज़ों का खर्च उठाएँ जो हमें इंसान बनाती हैं, जैसे देखभाल, शिक्षण और समय। इसका एक हिस्सा सार्वभौमिक बुनियादी आय के लिए जाना चाहिए, ताकि किसी की गरिमा इस पर निर्भर न हो कि कोई मशीन उसका काम कर सकती है या नहीं। आज के पैमाने की संपदा राजनीतिक सत्ता का ही दूसरा नाम है, और वह चुनाव, मीडिया तथा नियामकों, सबको खरीदती है। अत्यधिक संपत्ति पर कर लगना चाहिए, डिजिटल युग का बुनियादी ढाँचा सार्वजनिक और साझा स्वामित्व में आना चाहिए, और पैसे तथा राजनीतिक सत्ता के बीच का संबंध टूटना चाहिए, क्योंकि जिस लोकतंत्र में कुछ लोग नतीजा खरीद सकते हैं, वह लोकतंत्र रह ही नहीं गया है।
हम ऐसी तकनीक की माँग करते हैं जो बहुसंख्यक लोगों की सेवा करे। सबसे शक्तिशाली प्रणालियों के लिए लोकतांत्रिक अनुमति और सार्वजनिक निगरानी जरूरी होनी चाहिए, और हर व्यक्ति को किसी स्वचालित फैसले को एक इंसान के सामने चुनौती देने का अधिकार होना चाहिए। कोई भी कंपनी और कोई भी सरकार लाखों जिंदगियों को आकार देने वाली प्रणाली तब तक लागू न कर सके, जब तक वह पहले उन लोगों के प्रति जवाबदेह न हो जिन्हें वह प्रभावित करेगी। और जिन कामगारों की नौकरियाँ ये प्रणालियाँ बदलती हैं, उन्हें इनके इस्तेमाल में अपनी बात कहने का अधिकार होना चाहिए।
और हम हर जनसमुदाय के लिए अपने भविष्य पर अपनी बात कहने का अधिकार माँगते हैं, जिसका मतलब है साम्राज्यों से मुक्त दुनिया। गाजा में इज़राइल का नरसंहार, यूक्रेन में रूस का आक्रमण और सूडान में संयुक्त अरब अमीरात जैसी बड़ी ताकतों से भड़कता युद्ध दिखाते हैं कि जब बल और धन कानून के प्रति जवाबदेह नहीं रहते तो क्या होता है। किसी राज्य को अपने पड़ोसियों को जीतकर अपने अधीन करने का अधिकार नहीं है, और किसी निगम को निदेशक मंडल के कमरे से अरबों जिंदगियों पर शासन करने का अधिकार नहीं है। अंतरराष्ट्रीय कानून को ताकतवरों को उतनी ही मजबूती से बाँधना चाहिए जितनी मजबूती से वह कमजोरों को बाँधता है, चाहे उनके दोस्त कोई भी हों। और वैश्विक बहुसंख्यक देशों को अमीर दुनिया की खदानें, बाजार और श्रम के भंडार मानना अब बंद होना चाहिए।
07
उस दुनिया में एक साधारण सप्ताह की कल्पना करें जिसे हम चाहते हैं। एक नर्स अपनी पाली कागजी काम के बजाय मरीजों के साथ बिताती है, क्योंकि सॉफ्टवेयर उसके लिए काम करता है और उसके श्रमिक संगठन के प्रति जवाबदेह है। एक अनुवादक, जिसका काम बदल गया है, उसे उन भाषाओं से मशीनों की कमाई का हिस्सा मिलता है जो उसके जैसे लोगों ने उन्हें सिखाई थीं। एक परिवार को शुक्रवार की दोपहर फिर अपने लिए मिलती है, क्योंकि स्वचालन के लाभ को मुनाफ़े के बजाय समय में बदला गया। किसी को ऐसी प्रणाली द्वारा ऋण, लाभ या वीजा देने से इनकार नहीं किया जाता जिससे वह सवाल नहीं कर सकता। इस सबके लिए तकनीक पहले से मौजूद है; जो नहीं है, वह यह तय करने की ताकत है कि उसका इस्तेमाल कैसे हो।
वह ताकत किसी सरहद पर नहीं रुकेगी, क्योंकि हमने जिन चीज़ों का वर्णन किया है, उनमें से कोई भी नहीं रुकती। मुट्ठी भर शहरों में बन रही प्रणालियाँ हर महाद्वीप की जिंदगियों को संचालित करेंगी, पूँजी किसी भी संसद की पकड़ से तेज चलती है, और गर्म होता ग्रह पासपोर्ट नहीं देखता। इस बीच हमारे औजार अब भी राष्ट्र-राज्य की सीमा पर आकर खत्म हो जाते हैं। इस सदी की जड़ में यही असंगति है, और कोई देश इसे अकेले नहीं सुलझा पाएगा।
इसलिए हम ऐसे लोकतंत्र की ओर बढ़ रहे हैं जो सरहदों के पार पहुँचे। ऐसे नियम जो हर जगह ताकतवरों को बाँधें, राष्ट्रीय स्तर से ऊपर की ऐसी संस्थाएँ जो सरकारों के बजाय जनता के प्रति जवाबदेह हों, और गरिमा का ऐसा न्यूनतम आधार जो आपका जन्म कहीं भी हुआ हो, कायम रहे। भिन्नताओं से रहित दुनिया नहीं, बल्कि ऐसी दुनिया जहाँ जन्मस्थान का संयोग अब यह तय न करे कि किसी जीवन की क्या कीमत है।
हर व्यक्ति जिसे हम संगठित करते हैं और हर कानून जिसे हम बदलते हैं, उस मंजिल की ओर एक कदम है, और हर कदम अगले को आसान बनाता है। हम ऐसा आंदोलन बना रहे हैं जो सरहदों के पार ताकत ले जा सके, राष्ट्रीय लोकतंत्र की जगह लेकर नहीं, बल्कि उसे एक व्यापक उद्देश्य के प्रति जवाबदेह बनाकर।
एक दिन लोग उन संस्थाओं के लिए प्रतिनिधि चुनेंगे जिनके पास उन ताकतों को नियंत्रित करने का अधिकार होगा जिन्हें कोई देश अकेले नियंत्रित नहीं कर सकता। तब तक हम इस मंजिल को हर उस संस्था में ले जाएँगे जहाँ तक हम पहुँच सकते हैं। हम किसी से अपने देश और दुनिया के बीच चुनाव करने को नहीं कह रहे। हम मुट्ठी भर लोगों को दोनों पर राज नहीं करने देंगे।
हम आशा करते हैं कि हम गलत हों। लेकिन सही होकर बहुत देर कर देने से बेहतर है कि हम संगठित हों और गलत साबित हों।
कृत्रिम बुद्धिमत्ता का भविष्य अगले कुछ वर्षों में तय होगा, और उसे वही तय करेंगे जो संगठित होंगे। आज इसका मतलब मुट्ठी भर कंपनियाँ और उनकी सेवा करने वाली सरकारें हैं।
लेकिन यह हम हो सकते हैं। यह हमें ही होना होगा। प्रतिरोध से जुड़ें।
