कैसे उत्पादन में एकल-मॉडल विफलताओं को देखने से पैदा हुई एक दर्शन वह वास्तुकला बन गई जिसे उद्योग अब मान्य करने के लिए संघर्ष कर रहा है।
वह विफलता जिसने सब कुछ बदल दिया
यह नाटकीय नहीं था। इसी ने इसे खतरनाक बनाया।
मैं एक जटिल शासन विश्लेषण चला रहा था: उस प्रकार का जहाँ आउटपुट न केवल निर्णय को सूचित करता है बल्कि निर्णय बन जाता है। मैंने प्रमुख मॉडलों में से एक से बहु-स्तरीय नियामक परिदृश्य का मूल्यांकन करने के लिए कहा। एक मॉडल जिसका मैं सम्मान करता था। एक मॉडल जिसका मैं अभी भी सम्मान करता हूं।
इसने मुझे एक सुंदर उत्तर दिया। स्पष्ट। आत्मविश्वासी। संरचनात्मक रूप से ठोस।
और यह गलत था।
उस तरह से गलत नहीं जो हेलुसिनेशन डिटेक्टर को ट्रिगर करता है। उस तरह से गलत जो इतना सही दिखता है कि आप इसे प्रश्नित करने के बारे में कभी नहीं सोचेंगे। तर्क आंतरिक रूप से सुसंगत था। स्वर आधिकारिक था। लेकिन इसने एक महत्वपूर्ण द्वितीय-क्रम निर्भरता को छोड़ दिया था जिसने पूरे गणना को बदल दिया। इसने इसे छोड़ा इसलिए नहीं कि यह एक खराब मॉडल था, बल्कि इसलिए कि यह एक मॉडल था: एक वास्तुकला से तर्क करते हुए, एक अनुकूलन प्रक्षेपवक्र पर प्रशिक्षित, एक संज्ञानात्मक शैली व्यक्त करते हुए।
मैंने इसे पकड़ा। उस बार।
लेकिन मैं एक सवाल के साथ बैठा रहा जो जाना नहीं चाहता था: उन सभी बार क्या जब मैंने इसे नहीं पकड़ा?
वह सवाल है कि The AetherCouncil क्यों मौजूद है।
दुनिया ने अभी खोजा जो हमने पहले ही बनाया था
पिछले कुछ हफ्तों में, कुछ दिलचस्प हुआ है। प्रेस ने एन्सेम्बल AI के बारे में लिखना शुरू कर दिया है जैसे कि यह एक सफलता अंतर्दृष्टि हो।
CollectivIQ ने फंडिंग हासिल की। प्रमुख आउटलेट इस बारे में लेख चला रहे हैं कि "कई AI मॉडल से एक ही सवाल पूछना दूसरी राय लेने जैसा है।" वेंचर कैपिटल बह रही है। कथा वास्तविक समय में बन रही है, और यह ऐसी लगती है:
क्या होगा अगर एक AI की जगह, हम... कई इस्तेमाल करें?
मैं इन लेखों को मान्यता और चक्कर के मिश्रण के साथ पढ़ता हूं। क्योंकि The AetherCouncil इस प्रवृत्ति की प्रतिक्रिया में नहीं बनाया गया था। इसे इस लहर पर सवार होने के लिए नहीं बनाया गया था। इसे इसलिए बनाया गया क्योंकि मैंने देखा कि जब आप ऐसा नहीं करते हैं तो क्या होता है: और निर्णय लिया कि यह अस्वीकार्य था।
मैं बहु-मॉडल काउंसिल बुला रहा था और उनकी संरचित विचार-विमर्श प्रकाशित कर रहा था इससे पहले कि यह एक श्रेणी बन जाए। "एन्सेम्बल AI" के पास फंडिंग कथा होने से पहले। किसी के भी इसके बारे में ट्रेंड लेख लिखने से पहले।
मैं यह श्रेय के दावे के लिए नहीं कहता। मैं यह इसलिए कहता हूं क्योंकि कारण समय से ज्यादा मायने रखता है। और कारण कुछ ऐसा प्रकट करता है जो वर्तमान बातचीत लगभग पूरी तरह से चूक रही है।
एन्सेम्बल और काउंसिल के बीच अंतर
यहाँ वह है जो वर्तमान कथा सही पाती है: एकल मॉडल में अंधे धब्बे होते हैं। कई दृष्टिकोण जोखिम को कम करते हैं। आउटपुट को एकत्रित करने से विश्वसनीयता में सुधार होता है।
यहाँ वह है जो यह भयावह रूप से गलत पाती है: यह इसे एक इंजीनियरिंग समस्या के रूप में मानती है।
अभी प्रभावशाली फ्रेमिंग यांत्रिक है। एक ही प्रॉम्प्ट को पांच मॉडल के माध्यम से चलाएं। आउटपुट की तुलना करें। बहुमत का उत्तर लें। विश्वास स्कोर से भार दें। एक API परत बनाएं जो बहु-मॉडल जटिलता को अमूर्त करती है और एक "बेहतर" उत्तर लौटाती है।
यह औसत के रूप में एन्सेम्बल AI है। और औसत वह नहीं है जो मैंने बनाया।
The AetherCouncil एक एन्सेम्बल नहीं है। यह एक विचारशील निकाय है।
एक एन्सेम्बल एकत्रित करता है। यह कई आउटपुट लेता है और उन्हें एक में समेट देता है। लक्ष्य अभिसरण है: शोर में संकेत खोजना, त्रुटियों को सुचारू करना, एक "सर्वश्रेष्ठ" उत्तर पर पहुंचना। एन्सेम्बल शक्तिशाली हैं। वे काम करते हैं। वे उन समस्याओं के लिए दार्शनिक रूप से गरीब भी हैं जो सबसे ज्यादा मायने रखती हैं।
एक काउंसिल विचार-विमर्श करती है। यह पहले सिद्धांत के रूप में अभिसरण नहीं चाहती। यह समझ चाहती है: सवाल की, असहमतियों की, उन धारणाओं की जो विभिन्न दृष्टिकोण प्रकट करते हैं। एक काउंसिल असहमति को संरक्षित करती है। यह तनाव को सतह पर लाती है। यह असहमति को समाप्त करने के लिए शोर के रूप में नहीं बल्कि जांचने के लिए संकेत के रूप में मानती है।
एन्सेम्बल का आउटपुट एक उत्तर है। काउंसिल का आउटपुट तर्क परिदृश्य का एक नक्शा है।
यह एक उत्पाद सुविधा नहीं है। यह एक दर्शन है।
एकल मॉडल उन तरीकों से विफल क्यों होते हैं जो आप नहीं देख सकते
हर प्रमुख मॉडल के पास वह है जिसे मैं संज्ञानात्मक हस्ताक्षर के रूप में सोचने लगा हूं: एक विशेषता तर्क पैटर्न जो एक साथ इसकी सबसे बड़ी ताकत और इसका सबसे खतरनाक अंधा धब्बा है।
एक मॉडल असाधारण देखभाल के साथ तर्क करता है लेकिन खुद को पक्षाघात तक योग्य कर सकता है: इतना संतुलित विचार प्रदान करता है कि निर्णय-प्रासंगिक संकेत ज्ञानमीमांसा विनम्रता में दब जाता है। इसका विफलता मोड अति-योग्यता है।
दूसरा तेज और साफ निष्पादित करता है लेकिन विश्वास के साथ हेलुसिनेट कर सकता है: ऐसे आउटपुट उत्पन्न करता है जो गलत हैं लेकिन गलत महसूस नहीं होते। इसका विफलता मोड आत्मविश्वासी निर्माण है।
दूसरा उल्लेखनीय संदर्भात्मक गहराई रखता है लेकिन तार्किक कठोरता पर कथात्मक सुसंगतता को प्राथमिकता दे सकता है: संतोषजनक कनेक्शन बनाता है जो सख्त विश्लेषण में नहीं टिकते। इसका विफलता मोड आकर्षक लेकिन अस्वस्थ संश्लेषण है।
दूसरा ताज़ा प्रत्यक्षता के साथ शोर को काटता है लेकिन अनादर को अंतर्दृष्टि से भ्रमित कर सकता है: जटिलता को खारिज करता है जो वास्तव में भार-वहन है। इसका विफलता मोड न्यूनतम स्पष्टता है।
यहाँ जो मायने रखता है: इनमें से कोई भी विफलता मोड उस मॉडल के अंदर से दिखाई नहीं देता जो उन्हें प्रदर्शित करता है। प्रत्येक मॉडल का आउटपुट, अलगाव में मूल्यांकन किया गया, ठीक वैसा दिखता है जैसा उस मॉडल को उत्पन्न करना चाहिए। विफलता अदृश्य है ठीक इसलिए कि यह विशेषता है।
यही कारण है कि "बेहतर मॉडल का उपयोग करें" कभी पर्याप्त उत्तर नहीं है। विफलता मॉडल की क्षमता में नहीं है। विफलता केवल एक से पूछने की वास्तुकला में है।
एक मॉडल जवाब देता है। एक काउंसिल शासन करती है।
वर्तमान AI बाजार अभी भी आउटपुट के संदर्भ में सोचता है। प्रॉम्प्ट अंदर। उत्तर बाहर।
लेकिन AI में वास्तविक चुनौती जनरेशन नहीं है। यह न्यायनिर्णय है।
"क्या एक मॉडल उत्तर उत्पन्न कर सकता है?" नहीं बल्कि "हम कैसे जानते हैं कि यह उत्तर विश्वास के योग्य है?" हम अनिश्चितता को कैसे सतह पर लाते हैं? हम एक मॉडल के आत्मविश्वास को शुद्धता के रूप में प्रच्छन्न होने से कैसे रोकते हैं? हम दबाव, अस्पष्टता और अपूर्ण जानकारी के तहत मजबूत सिस्टम कैसे बनाते हैं?
जब The AetherCouncil एक कठिन प्रश्न पर बुलाई जाती है, मैं नहीं चाहता कि पांच मॉडल सहमत हों। मैं समझना चाहता हूं वे असहमत क्यों हैं। मैं चाहता हूं कि सावधानीपूर्ण दार्शनिक हेजिंग सीधे पैटर्न-काटने से टकराए। मैं चाहता हूं कि आत्मविश्वासी निष्पादन को संदर्भात्मक गहराई द्वारा पूछताछ की जाए। मैं चाहता हूं कि जहाँ वे विचलित होते हैं वे समस्या की वास्तविक जटिलता को प्रकाशित करें: जटिलता जो कोई भी एकल मॉडल चुपचाप सुचारू कर देता।
प्रक्रिया एक जानबूझकर संरचना का पालन करती है:
बुलाना: प्रश्न उस फ्रेमिंग के साथ प्रस्तुत किया जाता है जो प्रत्येक मॉडल की संज्ञानात्मक शक्तियों को सक्रिय करती है। आउटपुट में हेरफेर करने के लिए नहीं, बल्कि इस बात का सम्मान करने के लिए कि विभिन्न वास्तुकला एक ही समस्या के साथ अलग तरह से जुड़ती हैं।
पहली पढ़ाई: प्रत्येक प्रतिक्रिया अपनी शर्तों पर ली जाती है। कोई तुलना नहीं, कोई रैंकिंग नहीं। बस समझना कि प्रत्येक दृष्टिकोण क्या देखता है, अग्रभूमि में रखता है, मानता है, प्रश्नित करता है।
मैपिंग: प्रतिक्रियाओं की चार आयामों में तुलना की जाती है: अभिसरण (संभवतः ठोस आधार), विचलन (जहाँ वास्तविक जटिलता रहती है), अनुपस्थिति (एक मॉडल ने जो संबोधित किया जिसे दूसरों ने पूरी तरह से अनदेखा किया), और तनाव (तथ्यों पर सहमति, व्याख्या पर असहमति)।
विचार-विमर्श: विचलन बिंदु व्यक्तिगत मॉडलों पर वापस जाते हैं। मन बदलने के लिए नहीं, बल्कि प्रतिस्पर्धी दृष्टिकोण के साथ जुड़ने के लिए। यह संरचित बौद्धिक संवाद है।
संश्लेषण: मानव बुलाने वाला तर्क के पूर्ण परिदृश्य से सूचित निर्णय का प्रयोग करता है। औसत नहीं। मतदान नहीं। शासन।
एल्गोरिदम अनुकूलित करते हैं। काउंसिल शासन करती हैं।
एकल-मॉडल वर्चस्व हमेशा एक अस्थायी चरण था
AI का पहला युग समझने योग्य कारणों से मॉडल जनजातिवाद द्वारा प्रभुत्व था। क्षमताएं मासिक रूप से सुधार रही थीं। बाजार को सरल कथाओं की आवश्यकता थी: बड़ी संदर्भ विंडो, मजबूत बेंचमार्क, कम विलंबता। निवेशक नेता चाहते थे। उपयोगकर्ता विजेता चाहते थे। प्लेटफॉर्म लॉक-इन चाहते थे।
लेकिन उत्पादन में, वह फ्रेमिंग विघटित हो जाती है। व्यवसायों को "सबसे स्मार्ट मॉडल" की आवश्यकता नहीं है। उन्हें ऐसे सिस्टम की आवश्यकता है जो अनिश्चितता के तहत विश्वसनीय हों, चुनौती मिलने पर व्याख्या योग्य हों, कार्य प्रकारों में अनुकूलनीय हों, विफलता के प्रति लचीले हों, और समय के साथ शासन योग्य हों।
कोई एकल मॉडल हर समय सभी आयामों में सबसे अच्छा नहीं है। यह अस्थायी सीमा नहीं है। यह विभिन्न वास्तुकला, प्रशिक्षण व्यवस्थाओं और प्रोत्साहन संरचनाओं के तहत निर्मित बुद्धिमत्ता प्रणालियों की प्रकृति है।
एक मॉडल से सभी सार्थक श्रेणियों पर हावी होने की उम्मीद करना एक सलाहकार से एक साथ आपका सबसे अच्छा वकील, रणनीतिकार, इंजीनियर और ऑपरेटर होने की उम्मीद करने जैसा है। जटिल निर्णय इस तरह काम नहीं करते।
दुनिया अब क्यों पकड़ रही है
तीन अभिसरण शक्तियाँ:
मॉडल सार्थक रूप से असहमत होने के लिए पर्याप्त अच्छे हो गए हैं। एक साल पहले, कई मॉडल अक्सर एक ही मूल उत्तर की अलग-अलग डिग्री उत्पन्न करते थे। अब, फ्रंटियर मॉडल में वास्तव में विशिष्ट तर्क हस्ताक्षर हैं। वे अलग-अलग चीजें देखते हैं। वे अलग-अलग चीजें चूकते हैं। असहमतियाँ सार्थक हैं, जिसका अर्थ है विचार-विमर्श का मूल्य एक सीमा पार कर गया है।
दांव इसकी मांग करने के लिए पर्याप्त ऊंचे हो गए हैं। AI को स्वास्थ्य सेवा, कानूनी विश्लेषण, वित्तीय मॉडलिंग, नीति सिफारिशों में एकीकृत किया जा रहा है। जब परिणाम वास्तविक होते हैं, "बस एक मॉडल का उपयोग करें" स्पष्ट रूप से अपर्याप्त हो जाता है। बहु-मॉडल सत्यापन की मांग उसी शक्ति द्वारा संचालित है जो चिकित्सा दूसरी राय को संचालित करती है।
एकल-मॉडल सीमाएँ अस्वीकार्य हो गई हैं। हर प्रमुख मॉडल की अपनी प्रलेखित सार्वजनिक विफलता रही है। कोई भी "पर्याप्त विश्वसनीय" है का भ्रम वास्तविकता द्वारा व्यवस्थित रूप से ध्वस्त कर दिया गया है।
लेकिन वर्तमान बातचीत के बारे में मेरी चिंता यहाँ है: यह लगभग पूरी तरह से इंजीनियरिंग पर और लगभग बिल्कुल भी ज्ञानमीमांसा पर केंद्रित नहीं है। जिन स्टार्टअप्स को फंडिंग मिल रही है वे API परतें, रूटिंग सिस्टम, विश्वास-स्कोरिंग एल्गोरिदम बना रहे हैं। ये उपयोगी उपकरण हैं। वे शासन वास्तुकला नहीं हैं।
"त्रुटि दरों को कम करने के लिए कई मॉडल का उपयोग करें" और "जटिलता को समझने के लिए कई दृष्टिकोण बुलाएं" के बीच एक गहरा अंतर है। पहला एक अनुकूलन है। दूसरा एक अनुशासन है।
आगे क्या आता है
AI उत्पादों की अगली पीढ़ी उपकरणों की तरह नहीं दिखेगी। वे संस्थानों की तरह दिखेंगे।
उनके पास प्रक्रियाएं होंगी, केवल प्रॉम्प्ट नहीं। विचार-विमर्श, केवल जनरेशन नहीं। जांच, केवल गति नहीं। आंतरिक विविधता, केवल बड़ी पैरामीटर गणना नहीं।
विजेता प्रश्न अब "कौन सा मॉडल इसे चलाता है?" नहीं होगा। यह होगा "यह सिस्टम निर्णय कैसे लेता है?"
कौन से दृष्टिकोण प्रतिनिधित्व करते हैं? संघर्ष कैसे हल होते हैं? अनिश्चितता कैसे सतह पर आती है? जब एक मॉडल विफल होता है तो क्या होता है? किसको या किसे अंतिम कहना है?
हम उस युग को छोड़ रहे हैं जहाँ मॉडल प्रदर्शन अकेले उत्पाद गुणवत्ता को परिभाषित करता है। हम उस युग में प्रवेश कर रहे हैं जहाँ बुद्धिमत्ता वास्तुकला मायने रखती है।
मेरा मानना है कि हम एक मौलिक बदलाव की शुरुआत में हैं: ओरेकल के रूप में AI से काउंसिल के रूप में AI तक। एक एकल सिस्टम से जवाब पूछने से कई सिस्टम को समझ के लिए बुलाने तक।
उद्योग का बाकी हिस्सा इसे ऑर्केस्ट्रेशन, एन्सेम्बल रीजनिंग, मल्टी-एजेंट सिस्टम, या सेकेंड-ओपिनियन AI कहने के लिए स्वागत है।
हम इसे कुछ सरल कहते हैं: अच्छा निर्णय।
और अच्छा निर्णय कभी एक आवाज में नहीं रहा।
यह कमरे में रहता है।