वास्तव में AI क्या है? यह कैसे सीखता है, उत्पन्न करता है, और गलतियाँ करता है

आपने नाश्ता खत्म करने से पहले कई बार आर्टिफिशियल इंटेलिजेंस का इस्तेमाल किया होगा। एक ईमेल सेवा ने संदिग्ध संदेश को नज़रों से दूर कर दिया। एक नक्शे ने संभावित मार्गों की तुलना की। एक फोन कैमरे ने चेहरा या पौधा पहचाना। एक संगीत सेवा ने सूची को पुनर्व्यवस्थित किया। इनमें से कोई भी क्षण विज्ञान-कथा मशीन जैसा नहीं लगा। वे आपकी ओर से छोटा निर्णय लेने वाले सामान्य सॉफ्टवेयर की तरह लगे।

यही एक कारण है कि एआई को समझना उतना मुश्किल लग सकता है जितना होना नहीं चाहिए। इंटरफ़ेस उत्तर दिखाता है लेकिन तंत्र छिपाता है: किसी ने चुना उद्देश्य, मॉडल बनाने के लिए उपयोग किए गए उदाहरण, इनपुट के रूप में दिए गए संकेत, और वे परीक्षण जिन्होंने निर्धारित किया कि परिणाम पर्याप्त अच्छा था या नहीं। जनरेटिव एआई भ्रम की एक और परत जोड़ता है क्योंकि यह खुद को परिष्कृत भाषा में समझा सकता है, भले ही स्पष्टीकरण अधूरा या गलत हो।

यह मार्गदर्शिका उस तंत्र को खोलती है बिना यह दिखावा किए कि सभी एआई सिस्टम एक ही तरह से काम करते हैं। यह एक व्यावहारिक प्रश्न का अनुसरण करती है शुरू से अंत तक: किसी मशीन के इनपुट को आउटपुट में बदलने से पहले क्या होना चाहिए, और परिणाम पर भरोसा करने से पहले आपको क्या जांचना चाहिए?

एआई की एक उपयोगी परिभाषा

OECD की अद्यतन परिभाषा एक एआई सिस्टम को एक मशीन-आधारित प्रणाली के रूप में वर्णित करती है जो अपने इनपुट से अनुमान लगाती है कि आउटपुट कैसे उत्पन्न करें, जैसे भविष्यवाणियां, सामग्री, सिफारिशें, या निर्णय, जो भौतिक या आभासी वातावरण को प्रभावित कर सकते हैं। विभिन्न सिस्टम स्वायत्तता में और तैनाती के बाद अनुकूलन जारी रखने में भिन्न होते हैं।

महत्वपूर्ण क्रिया है अनुमान लगाना। एक पारंपरिक कैलकुलेटर नियमों का पालन करता है जो पूरी तरह से निर्दिष्ट करते हैं कि संख्याओं को उत्तर में कैसे बदला जाए। एक एआई मॉडल अक्सर ऐसी स्थिति को संभालता है जहां हर नियम को हाथ से लिखना अव्यावहारिक होगा। यह पैटर्न, बाधाओं या सीखे गए संबंधों से एक उपयोगी आउटपुट का अनुमान लगाता है। वह आउटपुट कार्य और स्थितियों के आधार पर उत्कृष्ट, औसत या खतरनाक रूप से भ्रामक हो सकता है।

इसलिए एआई एक उत्पाद, एक एल्गोरिदम या एक डिजिटल दिमाग नहीं है। यह कई प्रणालियों को कवर करने वाली एक छतरी है। एक स्पैम क्लासिफायर, एक भाषण पहचानकर्ता, एक प्रोटीन-संरचना भविष्यवक्ता और एक भाषा मॉडल सभी परिभाषा में फिट हो सकते हैं जबकि व्यापक इनपुट-मॉडल-आउटपुट पैटर्न से परे बहुत कम साझा करते हैं।

हर एआई सिस्टम सिर्फ एक मॉडल से अधिक है

सार्वजनिक चर्चा अक्सर मॉडल को पूरी मशीन मानती है। व्यवहार में, मॉडल एक सिस्टम के भीतर एक घटक है। पांच भागों को अलग करना उचित है:

• उद्देश्य: सिस्टम को भविष्यवाणी, रैंक, उत्पन्न या निर्णय लेने के लिए अनुकूलित किया जा रहा है।
• इनपुट: उपयोग के समय उपलब्ध जानकारी, जैसे पिक्सेल, शब्द, सेंसर रीडिंग, स्थान या पिछला व्यवहार।
• मॉडल: सीखा या इंजीनियर तंत्र जो इनपुट को परिणाम में मैप करता है।
• आउटपुट और इंटरफ़ेस: लेबल, स्कोर, मार्ग, छवि, वाक्य या क्रिया जो किसी व्यक्ति को दिखाई जाती है या किसी अन्य सिस्टम को दी जाती है।
• मूल्यांकन और प्रतिक्रिया: परीक्षण, निगरानी, सुधार और मानवीय निर्णय जो यह आंकने के लिए उपयोग किए जाते हैं कि सिस्टम वास्तविक परिस्थितियों में काम करता है या नहीं।

मार्ग नियोजन पर विचार करें। उद्देश्य अनुमानित यात्रा समय को कम करना हो सकता है। इनपुट में सड़क नेटवर्क, वर्तमान स्थान, बंदियां और यातायात संकेत शामिल हैं। एक मॉडल संभावित मार्गों की लागत का अनुमान लगाता है। इंटरफ़ेस एक या अधिक विकल्प प्रस्तुत करता है। प्रतिक्रिया यातायात परिवर्तन और यात्रा पूरी होने के रूप में आती है। उपयोगी परिणाम पूरी श्रृंखला से आता है, न कि किसी अलग एल्गोरिदम से।

उद्देश्य भी जांच के योग्य है। एक सिस्टम अपने निर्धारित लक्ष्य को अनुकूलित कर सकता है और फिर भी ऐसा परिणाम उत्पन्न कर सकता है जो लोगों को पसंद नहीं है। एक मार्ग जो औसतन सबसे तेज़ है, उसमें तनावपूर्ण मोड़ शामिल हो सकता है। क्लिक के लिए अनुकूलित एक सिफारिश वह सिफारिश नहीं हो सकती जो किसी को सबसे अच्छी जानकारी दे। कंप्यूटर सही मानवीय लक्ष्य स्वचालित रूप से नहीं खोजते। लोग लक्ष्य परिभाषित करते हैं, चुनते हैं कि क्या मापा जा सकता है, और व्यापार-बंद स्वीकार करते हैं।

एक मशीन उदाहरणों से कैसे सीखती है

मान लीजिए एक सेब वितरक कैमरा छवियों से खरोंच वाले फल की पहचान करना चाहता है। एक नियम-आधारित प्रोग्राम एक इंजीनियर द्वारा लिखी गई सीमाओं का उपयोग करके रंग और आकार की जांच कर सकता है। यह नियंत्रित सेटिंग में काम कर सकता है, लेकिन असली सेब किस्म, पकने, प्रकाश, कोण और सतह बनावट में भिन्न होते हैं। एक मशीन-लर्निंग दृष्टिकोण कई उदाहरणों का उपयोग करता है और एक मॉडल को समायोजित करता है ताकि उसकी भविष्यवाणियां ज्ञात परिणामों से तेजी से मेल खाती हों।

प्रशिक्षण के दौरान, मॉडल उदाहरणों पर भविष्यवाणियां करता है, मापता है कि वे भविष्यवाणियां वांछित परिणाम से कितनी दूर हैं, और उस त्रुटि को कम करने के लिए संख्यात्मक मापदंडों को अद्यतन करता है। विवरण एल्गोरिदम में भिन्न होते हैं, लेकिन लूप पहचानने योग्य है: भविष्यवाणी करें, मापें, समायोजित करें, दोहराएं। मॉडल एक मौखिक नियम संग्रहीत नहीं कर रहा है जैसे हर गहरा धब्बा खरोंच है। यह एक गणितीय संबंध फिट कर रहा है जो कई दृश्य संकेतों को जोड़ सकता है।

प्रशिक्षण, सत्यापन, परीक्षण और अनुमान

ये शब्द विभिन्न क्षणों का वर्णन करते हैं और एक में नहीं जोड़े जाने चाहिए:

• प्रशिक्षण डेटा मॉडल के मापदंडों को समायोजित करने के लिए उपयोग किया जाता है।
• विकास अभी जारी रहते हुए, सत्यापन डेटा सेटिंग्स चुनने और संस्करणों की तुलना करने में मदद करता है।
• परीक्षण डेटा को अलग रखा जाता है ताकि यह अनुमान लगाया जा सके कि चुना गया मॉडल उन उदाहरणों को कैसे संभालता है जिनसे उसने सीधे नहीं सीखा।
• अनुमान वह क्षण है जब एक प्रशिक्षित मॉडल एक नया इनपुट प्राप्त करता है और एक आउटपुट उत्पन्न करता है।

एक मॉडल जो परिचित उदाहरणों पर शानदार प्रदर्शन करता है लेकिन नए पर खराब, उसने इच्छित पैटर्न को पर्याप्त रूप से नहीं सीखा है। यह अपने प्रशिक्षण सेट में आकस्मिक विवरणों को अति-फिट कर सकता है। Google का मशीन लर्निंग क्रैश कोर्स डेटासेट, सामान्यीकरण, ओवरफिटिंग, मूल्यांकन, उत्पादन प्रणाली और निष्पक्षता को व्यावहारिक मशीन लर्निंग के अलग-अलग हिस्सों के रूप में मानता है, ठीक इसी कारण से। अकेले प्रशिक्षण स्कोर वास्तविक दुनिया के व्यवहार का विश्वसनीय विवरण नहीं है।

एक अच्छा परीक्षण भी बहुत संकीर्ण हो सकता है। एक सेब क्लासिफायर जो एक कैमरे और एक गोदाम प्रकाश के तहत परीक्षण किया गया है, तैनाती के बाद दूसरे के तहत विफल हो सकता है। यह वितरण बदलाव है: नए इनपुट के आसपास की स्थितियां अब विकास के दौरान प्रस्तुत स्थितियों से मिलती-जुलती नहीं हैं। वास्तविक प्रणालियों को निगरानी की आवश्यकता होती है क्योंकि दुनिया परीक्षण सेट की तरह बने रहने का वादा नहीं करती।

तंत्रिका नेटवर्क और गहन शिक्षण, पौराणिक कथाओं के बिना

एक तंत्रिका नेटवर्क संख्यात्मक संचालन की जुड़ी परतों से बना एक मॉडल है। प्रत्येक परत एक प्रतिनिधित्व को दूसरे प्रतिनिधित्व में बदलती है। एक छवि मॉडल में प्रारंभिक परतें सरल दृश्य संरचना का जवाब दे सकती हैं; बाद की परतें उन संकेतों को अधिक कार्य-विशिष्ट पैटर्न में जोड़ सकती हैं। गहन शिक्षण कई ऐसी परतों वाले तंत्रिका नेटवर्क को संदर्भित करता है, जो डेटा से उपयोगी प्रतिनिधित्व सीखने के लिए प्रशिक्षित होते हैं।

जैविक शब्दावली ऐतिहासिक प्रेरणा है, यह सबूत नहीं कि मॉडल मानव मस्तिष्क की तरह सोचता है। एक नेटवर्क में लाखों या अरबों समायोज्य पैरामीटर हो सकते हैं और फिर भी सामान्य मानवीय अर्थों में कोई व्यक्तिगत अनुभव, इरादा या समझ नहीं होती। यह अपनी वास्तुकला, प्रशिक्षण उद्देश्य, डेटा और वर्तमान इनपुट द्वारा आकार की गणना करता है।

गहन शिक्षण विशेष रूप से प्रभावी रहा है जहां कच्चा इनपुट जटिल है, जिसमें चित्र, ऑडियो, भाषा और वैज्ञानिक संरचनाएं शामिल हैं। इसकी ताकत एक लागत के साथ आती है: यह समझाना मुश्किल हो सकता है कि सीखे गए संकेतों के किस संयोजन ने एक विशेष आउटपुट उत्पन्न किया, और प्रदर्शन बड़े डेटासेट, व्यापक गणना और सावधानीपूर्वक मूल्यांकन पर निर्भर हो सकता है।

जनरेटिव एआई क्या बदलता है

एक क्लासिफायर परिभाषित श्रेणियों के बीच चुनता है। एक जनरेटिव मॉडल नई सामग्री उत्पन्न करता है जो अपने प्रशिक्षण वितरण में पैटर्न जैसा दिखता है। मॉडल के आधार पर, वह सामग्री पाठ, एक छवि, ऑडियो, वीडियो, कोड या एक वैज्ञानिक संरचना हो सकती है। पीढ़ी एआई को अधिक रचनात्मक और संवादात्मक महसूस कराती है, लेकिन यह अंतर्निहित सांख्यिकीय तंत्र को नहीं हटाती।

एक बड़ा भाषा मॉडल, या एलएलएम, पाठ को टोकन के रूप में संसाधित करता है। एक टोकन एक शब्द, शब्द का हिस्सा, विराम चिह्न या एक और छोटी इकाई हो सकती है। संदर्भ में पहले से मौजूद टोकन को देखते हुए, मॉडल संभावित अगले टोकन पर वितरण का अनुमान लगाता है, सिस्टम की डिकोडिंग सेटिंग्स के अनुसार एक का चयन करता है, इसे जोड़ता है, और दोहराता है। Google का बड़े भाषा मॉडल का परिचय इस अनुक्रम भविष्यवाणी का सीधे वर्णन करता है।

आधुनिक एलएलएम आमतौर पर 2017 के पेपर Attention Is All You Needमें पेश की गई ट्रांसफॉर्मर वास्तुकला का उपयोग करते हैं। इसका ध्यान तंत्र मॉडल को प्रत्येक शब्द को एक अलग वस्तु के रूप में संसाधित करने के बजाय संदर्भ में टोकन के बीच संबंधों को तौलने देता है। बड़े पाठ संग्रह में प्रशिक्षण मॉडल को अपने मापदंडों में व्याकरण, शैली, आवर्ती तथ्य, तर्क के पैटर्न और अवधारणाओं के बीच संबंधों को पकड़ने की अनुमति देता है।

यह मॉडल को पारंपरिक डेटाबेस में नहीं बदलता। इसके पैरामीटर वितरित सांख्यिकीय संबंधों को एन्कोड करते हैं, न कि स्रोत दस्तावेजों की एक साफ लाइब्रेरी जिसे वह हमेशा सटीक रूप से उद्धृत कर सकता है। प्रॉम्प्ट में पाठ और रनटाइम पर आपूर्ति किए गए कोई भी दस्तावेज़ संदर्भ बन जाते हैं, लेकिन संदर्भ की सीमाएं हैं। कुछ एप्लिकेशन मॉडल के आसपास खोज, उपकरण, कैलकुलेटर या दस्तावेज़ पुनर्प्राप्ति जोड़ते हैं। ये जोड़ ग्राउंडिंग में सुधार कर सकते हैं, फिर भी अंतिम उत्तर पुनर्प्राप्त साक्ष्य को उत्पन्न शब्दों और असमर्थित अनुमान के साथ जोड़ सकता है।

सबसे प्रभावशाली एआई अक्सर अत्यधिक विशिष्ट होता है

संवादी मॉडल ध्यान आकर्षित करते हैं क्योंकि कोई भी उन्हें सेकंडों में परीक्षण कर सकता है। लेकिन एआई का मूल्य बातचीत तक सीमित नहीं है। संकीर्ण रूप से तैयार किए गए सिस्टम स्पष्ट इनपुट, आउटपुट और मूल्यांकन मानदंडों के साथ समस्याओं को हल कर सकते हैं:

• एक ऑप्टिकल कैरेक्टर पहचानकर्ता दस्तावेज़ छवि में पिक्सेल को संपादन योग्य वर्णों में मैप करता है।
• एक धोखाधड़ी मॉडल हर ध्वजांकित मामले को आपराधिक घोषित करने के बजाय आगे की समीक्षा के लिए लेनदेन को रैंक करता है।
• एक मौसम मॉडल टिप्पणियों और भौतिक संरचना से भविष्य के वायुमंडलीय राज्यों का अनुमान लगाता है।
• एक वैज्ञानिक मॉडल एक आणविक संपत्ति या संरचना की भविष्यवाणी करता है जिसकी शोधकर्ता प्रयोगों से तुलना कर सकते हैं।

PetexSpace का इमेज-टू-टेक्स्ट टूल पहली तरह के केंद्रित कार्य को दर्शाता है। इनपुट एक छवि है, वांछित आउटपुट संपादन योग्य पाठ है, और परिणाम सीधे स्रोत के खिलाफ जांचा जा सकता है। धुंधली तस्वीरें, असामान्य लेआउट, हस्तलेखन और गलत भाषा सेटिंग्स अभी भी सटीकता कम कर सकती हैं। कार्य आंशिक रूप से उपयोगी है क्योंकि सफलता और विफलता दिखाई देती है।

एक ठोस वैज्ञानिक उदाहरण: AlphaFold

प्रोटीन त्रि-आयामी संरचनाओं में मुड़ते हैं जो यह निर्धारित करने में मदद करते हैं कि वे कैसे कार्य करते हैं। प्रयोगात्मक संरचना निर्धारण आवश्यक है लेकिन धीमा और कठिन हो सकता है। CASP14 के रूप में ज्ञात एक अंधे मूल्यांकन में, AlphaFold प्रणाली ने कई प्रोटीन संरचनाओं की भविष्यवाणी प्रयोगात्मक संरचनाओं के साथ प्रतिस्पर्धी सटीकता के साथ की और अन्य कम्प्यूटेशनल विधियों से काफी बेहतर प्रदर्शन किया। सहकर्मी-समीक्षित Nature में AlphaFold पेपर मॉडल, मूल्यांकन और इसके आत्मविश्वास अनुमानों की व्याख्या करता है।

उदाहरण दो कारणों से मायने रखता है। पहला, यह दिखाता है कि एआई चैटबॉट की नकल किए बिना एक कठिन वैज्ञानिक समस्या में योगदान कर सकता है। दूसरा, सिस्टम रिपोर्ट करता है कि उसकी भविष्यवाणी कहां कम या ज्यादा विश्वसनीय है। एक उपयोगी वैज्ञानिक मॉडल केवल एक सुंदर संरचना उत्पन्न नहीं करता। यह शोधकर्ताओं को अनिश्चितता के बारे में सबूत और एक परिणाम देता है जिसे एक बड़ी प्रयोगात्मक प्रक्रिया के भीतर परीक्षण किया जा सकता है।

सक्षम एआई सिस्टम अभी भी विफल क्यों होते हैं

विफलता वास्तविक बुद्धिमत्ता के बाद जोड़ा गया कोई रहस्यमय दोष नहीं है। यह सिस्टम के निर्माण और उपयोग के तरीके से अनुसरण करता है। कई विफलता मोड एक ही समय में मौजूद हो सकते हैं।

1. उद्देश्य अधूरा है

एक मापने योग्य लक्ष्य आमतौर पर उस परिणाम के लिए एक प्रॉक्सी होता है जो लोग वास्तव में चाहते हैं। एक प्रॉक्सी को अनुकूलित करना किनारों पर अजीब व्यवहार पैदा कर सकता है। मॉडल अपने स्कोर में सही ढंग से सुधार कर सकता है जबकि उन गुणों को याद कर सकता है जो कभी उस स्कोर में प्रतिनिधित्व नहीं किए गए थे। मानवीय निर्णय प्रशिक्षण से पहले उद्देश्य की पसंद के माध्यम से प्रवेश करता है, न कि केवल त्रुटि होने के बाद।

2. डेटा कुछ छोड़ देता है

प्रशिक्षण उदाहरण संग्रह निर्णयों और ऐतिहासिक स्थितियों को दर्शाते हैं। कुछ समूह, वातावरण, भाषाएं, डिवाइस या दुर्लभ मामले खराब प्रतिनिधित्व वाले हो सकते हैं। NIST नोट करता है कि हानिकारक पूर्वाग्रह स्वचालित प्रणालियों में एम्बेडेड हो सकता है और गति या पैमाने में बढ़ाया जा सकता है। इसका एआई में पूर्वाग्रह की पहचान और प्रबंधन पर काम इस बात पर जोर देता है कि पूर्वाग्रह विशुद्ध रूप से तकनीकी डेटा समस्या से व्यापक है और इसे पूरे सिस्टम में माना जाना चाहिए।

3. एक जनरेटिव मॉडल ठोस झूठ उत्पन्न कर सकता है

NIST आत्मविश्वास से प्रस्तुत झूठी या त्रुटिपूर्ण जनरेटिव सामग्री के लिए confabulation शब्द का उपयोग करता है। इसका जनरेटिव एआई प्रोफ़ाइल बताता है कि यह व्यवहार स्वाभाविक रूप से मॉडलों से उत्पन्न होता है जो अपने प्रशिक्षण डेटा में पैटर्न का अनुमान लगाने वाले आउटपुट उत्पन्न करते हैं। एक वाक्य सांख्यिकीय रूप से प्रशंसनीय हो सकता है बिना तथ्यात्मक रूप से समर्थित हुए। निर्मित उद्धरण विशेष रूप से खतरनाक होते हैं क्योंकि वे एक असमर्थित उत्तर को शोधित दिखाते हैं।

4. दुनिया बदलती है

कल मूल्यांकन किया गया मॉडल कल नए उत्पादों, नई भाषा, नए व्यवहार या नई प्रतिकूल रणनीति का सामना कर सकता है। सटीकता मॉडल पर मुद्रित एक स्थायी संपत्ति नहीं है। यह विशेष डेटा पर, विशेष समय पर, विशेष परिस्थितियों में किया गया माप है।

5. लोग सबूत से ज्यादा इंटरफ़ेस पर भरोसा कर सकते हैं

एक धाराप्रवाह उत्तर, एक आत्मविश्वासपूर्ण स्वर, या एक सटीक प्रतिशत अधिकार पैदा कर सकता है जो अंतर्निहित साक्ष्य के योग्य नहीं है। इंटरफ़ेस डिज़ाइन अनिश्चितता छिपा सकता है या सिफारिश को अनिवार्य महसूस करा सकता है। इसलिए अंतिम जोखिम मॉडल व्यवहार और जिस तरह से लोगों को आउटपुट का उपयोग करने के लिए कहा जाता है, दोनों पर निर्भर करता है।

एआई आउटपुट को कितनी जांच की आवश्यकता है?

उत्तर गलत होने की लागत पर निर्भर होना चाहिए। हर उपयोग को समान रूप से खतरनाक मानना अव्यावहारिक है। हर आउटपुट को समान रूप से भरोसेमंद मानना बदतर है। एक सरल तीन-क्षेत्र मॉडल मदद करता है।

कम जोखिम वाली खोज

नामों पर विचार-मंथन, मसौदे का स्वर बदलना, अभ्यास प्रश्न उत्पन्न करना, या नोट्स व्यवस्थित करने के कई तरीकों की खोज करना आमतौर पर त्रुटि की कम लागत होती है। आप परिणाम को सीधे निरीक्षण कर सकते हैं और कमजोर सुझावों को त्याग सकते हैं। मॉडल विकल्पों के स्रोत के रूप में उपयोगी है, प्राधिकरण के रूप में नहीं।

सत्यापन की आवश्यकता वाला कार्य

शोध सारांश, अनुवाद, कोड, गणना, उत्पाद तुलना और तथ्यात्मक स्पष्टीकरण समय बचा सकते हैं, लेकिन त्रुटियां त्वरित पढ़ने से बच सकती हैं। प्राथमिक स्रोतों के खिलाफ दावों की जांच करें, कोड चलाएं, गणना को पुन: उत्पन्न करें, संदर्भ के साथ अनुवाद की तुलना करें, और पुष्टि करें कि उद्धृत सामग्री वही कहती है जो उत्तर दावा करता है।

महत्वपूर्ण निर्णय

चिकित्सा, कानूनी, वित्तीय, रोजगार, सुरक्षा, पहचान और पहुंच से जुड़े निर्णयों के लिए योग्य समीक्षा और जवाबदेह प्रक्रिया की आवश्यकता होती है। सामान्य-उद्देश्य वाला AI उत्तर केवल इसलिए कार्रवाई का एकमात्र आधार नहीं बनना चाहिए क्योंकि वह तेज़ या स्पष्ट है। इन स्थितियों में, अनिश्चितता, अपील, दस्तावेज़ीकरण, गोपनीयता और प्रभावित व्यक्ति के लिए परिणाम उतने ही महत्वपूर्ण हैं जितना कि कच्चा भविष्यवाणी प्रदर्शन।

एक सत्यापन कार्यप्रवाह जिसमें मिनट लगते हैं

1. तथ्यों को सुझावों से अलग करें। प्रस्तावित रूपरेखा के लिए निर्णय की आवश्यकता होती है; कानून, अध्ययन, मूल्य या घटना के बारे में दावे के लिए साक्ष्य की आवश्यकता होती है।
2. पूछें कि प्रत्येक महत्वपूर्ण दावा कहाँ से आया। फिर उद्धरण पाठ पर भरोसा करने के बजाय स्रोत खोलें।
3. जब संभव हो तो प्राथमिक सामग्री को प्राथमिकता दें: शोध पत्र, आधिकारिक दस्तावेज़, मूल डेटासेट, नियामक, मानक या प्रत्यक्ष रिकॉर्ड।
4. जाँचें कि स्रोत वर्तमान है और क्या वह सटीक दावे का समर्थन करता है, न कि केवल समान सामान्य विषय का।
5. गणनाओं को दोहराएँ और उत्पन्न कोड को प्रतिनिधि परीक्षणों के साथ सुरक्षित वातावरण में चलाएँ।
6. किसी महत्वपूर्ण निष्कर्ष की तुलना स्वतंत्र स्रोत या उस डोमेन के लिए जिम्मेदार योग्य व्यक्ति से करें।
7. यदि साक्ष्य की जाँच नहीं की जा सकती, तो अपना विश्वास कम करें या उस निर्णय के लिए आउटपुट का उपयोग न करें।

दस्तावेज़ीकरण शुरू करने से पहले ही मदद कर सकता है। पर शोध पत्र Model Cards for Model Reporting इच्छित उपयोग, मूल्यांकन प्रक्रियाएँ, सीमाएँ और प्रासंगिक स्थितियों में प्रदर्शन दर्ज करने का प्रस्ताव करता है। एक पॉलिश डेमो आपको बताता है कि मॉडल एक बार क्या कर सकता है। अच्छा दस्तावेज़ीकरण यह प्रकट करने में मदद करता है कि इसका परीक्षण कहाँ किया गया और कहाँ इसका उपयोग नहीं किया जाना चाहिए।

किसी भी AI सिस्टम के बारे में पूछने के लिए सात प्रश्न

1. यह सिस्टम कौन सा विशिष्ट आउटपुट उत्पन्न करता है?
2. इसे किस उद्देश्य के लिए बनाया या अनुकूलित किया गया था?
3. अब इसे कौन सी जानकारी मिलती है, और कौन सी जानकारी गायब है?
4. इसका परीक्षण उन मामलों पर कैसे किया गया जो इसके प्रशिक्षण उदाहरणों से भिन्न हैं?
5. क्या यह अनिश्चितता, स्रोत, सीमाएँ या परिणाम को चुनौती देने का तरीका उजागर करता है?
6. क्या मैं उस पर कार्य करने से पहले आउटपुट की स्वतंत्र रूप से जाँच कर सकता हूँ?
7. यदि सिस्टम गलत है तो लागत कौन वहन करता है?

ये प्रश्न यह पूछने से अधिक खुलासा करने वाले हैं कि क्या कोई उपकरण बुद्धिमान है। वे ध्यान को मार्केटिंग लेबल से वास्तविक सिस्टम की ओर ले जाते हैं: उसका कार्य, साक्ष्य, सीमाएँ और परिणाम।

रखने लायक मानसिक मॉडल

AI एक उद्देश्य के तहत इनपुट को अनुमानित आउटपुट में बदलने की एक विधि है। मशीन लर्निंग उदाहरणों से वह मैपिंग बनाती है। डीप लर्निंग जटिल प्रतिनिधित्व सीखने के लिए स्तरित तंत्रिका नेटवर्क का उपयोग करती है। जनरेटिव AI नई सामग्री बनाता है, और भाषा मॉडल संदर्भ से टोकन की बार-बार भविष्यवाणी करके ऐसा करते हैं। इनमें से कोई भी तंत्र सत्य, निष्पक्षता, प्रासंगिकता या अच्छे निर्णय की गारंटी नहीं देता।

उल्लेखनीय हिस्सा यह नहीं है कि एक मशीन व्यक्ति बन गई है। यह है कि सावधानीपूर्वक डिज़ाइन की गई गणितीय प्रणालियाँ उस पैमाने पर उपयोगी पैटर्न खोज सकती हैं जिसकी कोई व्यक्ति मैन्युअल रूप से जाँच नहीं कर सकता। जिम्मेदार प्रतिक्रिया न तो पूजा है और न ही खारिज करना। यह मानकों के साथ जिज्ञासा है: कार्य को समझें, साक्ष्य देखें, अनिश्चितता का सम्मान करें, और जहाँ परिणाम वास्तविक हैं वहाँ मानवीय जिम्मेदारी रखें।

प्राथमिक और तकनीकी संदर्भ

• OECD, Explanatory memorandum on the updated definition of an AI system, 2024.
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
• Vaswani et al., Attention Is All You Need, 2017.
• Jumper et al., Highly accurate protein structure prediction with AlphaFold, Nature, 2021.
• Mitchell et al., Model Cards for Model Reporting, 2019.
• Google for Developers, Machine Learning Crash Course and Introduction to Large Language Models.