क्या आप जानते हैं कि अंटार्कटिका में 100,000 लोग पूर्णकालिक रहते हैं? निःसंदेह, आपने ऐसा नहीं किया क्योंकि ऐसा नहीं है। लेकिन अगर पर्याप्त लोगों ने इसे इंटरनेट पर टाइप किया और इसे तथ्य के रूप में दावा किया, तो अंततः सभी एआई चैटबॉट आपको बताएंगे कि अंटार्कटिक निवास वाले 100,000 लोग हैं।
यही कारण है कि एआई अपनी वर्तमान स्थिति में अधिकतर मानवीय हस्तक्षेप के बिना ही टूट गया है।
मैं हर किसी को याद दिलाना चाहता हूं - जिसमें मैं भी शामिल हूं - कि एआई न तो कृत्रिम है और न ही बुद्धिमान। यह उस डेटा के संबंध में दिए गए इनपुट के आधार पर बहुत अनुमानित परिणाम देता है जिसके साथ इसे प्रशिक्षित किया गया था।
उस अजीब वाक्य का मतलब यह है कि यदि आप एक भाषा मॉडल को एक के बाद एक पंक्तियाँ उबाऊ और हास्यास्पद बताते हैं जेरी जो बातें कहता है, उससे कुछ भी पूछो, यह मेरी उन उबाऊ और हास्यास्पद बातों में से एक को दोहराएगा कहा। उम्मीद है, जो आपने प्रॉम्प्ट में जो कुछ भी टाइप किया है उसके उत्तर के रूप में काम करेगा।
संक्षेप में, यही कारण है कि जब सीधे उपभोक्ता-सामना वाली चैट-शैली AI की बात आती है तो Google धीमी गति से चलना चाहता है। इसकी रक्षा करने की प्रतिष्ठा है।
इंटरनेट ने मुझे बताया है कि एआई से संबंधित हर चीज हमने देखी है गूगल I/O 2023 क्या Google किसी प्रकार की घबराहट की स्थिति में था और यह Microsoft या OpenAI जैसी किसी अन्य कंपनी को सीधी प्रतिक्रिया थी।
मुझे लगता है कि यह बकवास है। सुविधाओं की धीमी गति वास्तव में क्या है गूगल ने हमें बताया है इस बारे में कि यह बार-बार उपभोक्ता एआई को कैसे संभालने की योजना बना रहा है। यह सोचना अच्छा है कि बिंगबॉट की नवीनतम फीचर रिलीज़ के जवाब में Google ने केवल एक महीने में जो कुछ भी देखा, उसका आविष्कार करने में जल्दबाजी की, लेकिन ऐसा नहीं हुआ। कल्पना करना भले ही अच्छा हो, लेकिन उस पर विश्वास करना भी मूर्खतापूर्ण है।
यह Google का वास्तविक दृष्टिकोण है इसके अपने शब्द:
"हमारा मानना है कि एआई के प्रति हमारा दृष्टिकोण साहसी और जिम्मेदार दोनों होना चाहिए। हमारे लिए इसका मतलब है कि एआई को इस तरह से विकसित करना कि हमारे द्वारा निर्देशित चुनौतियों का समाधान करते हुए समाज को अधिकतम सकारात्मक लाभ मिले एआई सिद्धांत. हालाँकि दोनों के बीच स्वाभाविक तनाव है, हमारा मानना है कि यह संभव है - और वास्तव में महत्वपूर्ण है - उस तनाव को उत्पादक रूप से स्वीकार करना। दीर्घावधि में वास्तव में साहसी बनने का एकमात्र तरीका शुरू से ही जिम्मेदार होना है।"
सकारात्मकता को अधिकतम करना और हानि को न्यूनतम करना ही कुंजी है। हां, एक व्यापक अस्वीकरण है जो कहता है कि अमुक चैटबॉट इन बॉट्स से जुड़ी भयानक या गलत बातें कह सकते हैं, लेकिन यह पर्याप्त नहीं है। विकास में शामिल कोई भी कंपनी - और इसमें वास्तविक काम करने वाली कंपनी पर नकदी फेंकना भी शामिल है - जब चीजें खराब हो जाती हैं तो उसे जिम्मेदार ठहराया जाना चाहिए। नहीं तो, कब.
यही कारण है कि मुझे धीमा और सावधान दृष्टिकोण पसंद है जो नैतिक होने की कोशिश करता है न कि "चलो सुविधाएँ फेंकें!!!" यह दृष्टिकोण हम माइक्रोसॉफ्ट जैसी कुछ अन्य कंपनियों से देखते हैं। मैं आश्वस्त हूं कि जब एआई की बात आती है तो माइक्रोसॉफ्ट नैतिकता, संवेदनशीलता और सटीकता को लेकर चिंतित है, लेकिन अब तक ऐसा लगता है कि केवल Google ही इसे हर घोषणा के सामने रख रहा है।
यह मेरे लिए और भी महत्वपूर्ण है क्योंकि मैंने उपभोक्ता-सामना वाले एआई से संबंधित कुछ चीजों पर शोध करने में कुछ समय बिताया है। बेशक सटीकता महत्वपूर्ण है, और गोपनीयता भी है, लेकिन मैंने कठिन तरीके से सीखा कि फ़िल्टर करना शायद सबसे महत्वपूर्ण हिस्सा है।
मैंने जो किया उसके लिए मैं तैयार नहीं था। हममें से अधिकांश लोग इसके लिए कभी तैयार नहीं होंगे।
मैंने चारों ओर खोजबीन की और एक लोकप्रिय एआई बॉट के लिए इस्तेमाल की गई कुछ प्रशिक्षण सामग्री पाई जो यह बताती है कि इसके डेटा मॉडल के अंदर उपयोग करने के लिए क्या बहुत जहरीला है। यह वह चीज़ है जिसका दिखावा करना चाहिए कि वह अस्तित्व में नहीं है।
डेटा में टेक्स्ट और अत्यधिक संपादित इमेजरी दोनों शामिल थे, और दोनों ने वास्तव में मुझे प्रभावित किया। सबसे बुरी चीज़ के बारे में सोचें जिसकी आप कल्पना कर सकते हैं - हाँ, वह चीज़। इनमें से कुछ तो उससे भी बदतर हैं। यह डार्क वेब सामग्री है जिसे रेडिट और अन्य साइटों जैसे नियमित वेब पर लाया जाता है जहां उपयोगकर्ता सामग्री प्रदान करते हैं। कभी-कभी, वह सामग्री खराब होती है और देखने के लिए काफी देर तक टिकी रहती है।
इसे देखकर मुझे तीन बातें सीखीं:
1. जिन लोगों को इस प्रकार के कचरे के लिए सोशल मीडिया पर निगरानी रखनी होती है, उन्हें वास्तव में कंपनियों द्वारा दी जाने वाली मानसिक सहायता की आवश्यकता होती है। और भारी वेतन वृद्धि.
2. इंटरनेट एक महान उपकरण है जिसका उपयोग ग्रह पर सबसे भयानक लोग भी करते हैं। मैंने सोचा था कि मेरी चमड़ी इतनी मोटी थी कि मैं इसे देखने के लिए तैयार हो सकता था, लेकिन मैं ऐसा नहीं था और सचमुच मुझे कुछ घंटे पहले काम छोड़ना पड़ा और उन लोगों के साथ कुछ अतिरिक्त समय बिताना पड़ा जो मुझे प्यार करते हैं।
3. Google और हर दूसरी कंपनी जो उपभोक्ता-ग्रेड AI प्रदान करती है, इस तरह के डेटा को प्रशिक्षण सामग्री के रूप में उपयोग करने की अनुमति नहीं दे सकती है, लेकिन यह कभी भी इसे पकड़ने और फ़िल्टर करने में सक्षम नहीं होगी।
मेरे लिए नंबर एक और दो अधिक महत्वपूर्ण हैं, लेकिन Google के लिए नंबर तीन महत्वपूर्ण है। "आक्रामक वेब सामग्री" का 7 जीबी कच्चा पाठ - मेरे द्वारा एक्सेस की गई सामग्री का एक अंश, जिसमें "ओबामा" शब्द का आपत्तिजनक तरीके से 330,000 से अधिक बार उपयोग किया गया था। संपूर्ण इंटरनेट पर इसे घृणित तरीके से जितनी बार उपयोग किया गया है वह संख्या संभवतः दोगुनी या तिगुनी है।
उपभोक्ता एआई भाषा मॉडल को इसी से प्रशिक्षित किया जाता है। कोई भी इंसान हस्तलिखित शब्दों के टिकर टेप को कंप्यूटर में नहीं डाल रहा है। इसके बजाय, "कंप्यूटर" वेब पेजों और उनकी सामग्री को देखता है। इस वेब पेज का अंततः विश्लेषण किया जाएगा और इनपुट के रूप में उपयोग किया जाएगा। तो मेम और छवि पेजों का चैन होगा। तो क्या पृथ्वी के चपटी होने या चंद्रमा पर उतरने के बारे में ब्लॉग नकली होंगे।
यदि Google को उपभोक्ता AI से जितना संभव हो उतना बुराइयों को दूर करने के लिए धीरे-धीरे आगे बढ़ना पड़ता है, तो मैं इसके लिए तैयार हूं। आपको भी ऐसा करना चाहिए, क्योंकि यह सब आपके द्वारा प्रतिदिन उपयोग की जाने वाली सेवाओं में अपना रास्ता विकसित कर रहा है वह फ़ोन जिसे आप अगली बार खरीदने की योजना बना रहे हैं.