यह का एक अंश है एलेक्स हीथ द्वारा स्रोतएआई और तकनीकी उद्योग के बारे में एक समाचार पत्र, सप्ताह में केवल एक बार द वर्ज ग्राहकों के लिए सिंडिकेट किया जाता है।
अमेज़ॅन के एआई प्रमुख का मॉडल बेंचमार्क जुनूनी लोगों के लिए एक संदेश है: लीडरबोर्ड को देखना बंद करें।
“मैं वास्तविक दुनिया की उपयोगिता चाहता हूं। इनमें से कोई भी बेंचमार्क वास्तविक नहीं है,” अमेज़ॅन के एजीआई के एसवीपी रोहित प्रसाद ने लास वेगास में एडब्ल्यूएस री:इन्वेंट में आज की घोषणाओं से पहले मुझे बताया। “वास्तविक बेंचमार्किंग करने का एकमात्र तरीका यह है कि हर कोई समान प्रशिक्षण डेटा के अनुरूप हो और मूल्यांकन पूरी तरह से रोक दिया जाए। ऐसा नहीं हो रहा है। मूल्यांकन स्पष्ट रूप से शोर हो रहा है, और वे इन मॉडलों की वास्तविक शक्ति नहीं दिखा रहे हैं।”
यह एक विरोधाभासी रुख है, जब हर दूसरी एआई प्रयोगशाला इस बात का दावा करने में तत्पर रहती है कि कैसे उनके नए मॉडल तेजी से लीडरबोर्ड पर चढ़ते हैं। यह अमेज़ॅन के लिए भी सुविधाजनक है, यह देखते हुए कि नोवा का पिछला संस्करण, इसका प्रमुख मॉडल, एलएमएरेना पर 79वें स्थान पर था जब प्रसाद और मैंने पिछले सप्ताह बात की थी। फिर भी, बेंचमार्क को खारिज करना केवल तभी काम करता है जब अमेज़ॅन प्रगति कैसी दिखती है इसके बारे में एक अलग कहानी पेश कर सकता है।
“वे इन मॉडलों की वास्तविक शक्ति नहीं दिखा रहे हैं।”
आज की री:इन्वेंट घोषणाओं का केंद्रबिंदु नोवा फोर्ज है, एक ऐसी सेवा जिसके बारे में अमेज़ॅन का दावा है कि कंपनियां अरबों डॉलर खर्च किए बिना कस्टम एआई मॉडल को उन तरीकों से प्रशिक्षित करने देती हैं जो पहले असंभव थे। फोर्ज पते की समस्या वास्तविक है। एआई मॉडल को अनुकूलित करने की कोशिश करने वाली अधिकांश कंपनियों को तीन खराब विकल्पों का सामना करना पड़ता है: एक बंद मॉडल को ठीक करना (लेकिन केवल किनारों पर), खुले वजन वाले मॉडल पर प्रशिक्षण (लेकिन मूल प्रशिक्षण डेटा के बिना और क्षमता प्रतिगमन को जोखिम में डालना, जहां एआई नए डेटा पर विशेषज्ञ बन जाता है लेकिन मूल, व्यापक कौशल को भूल जाता है), या भारी लागत पर खरोंच से एक मॉडल का निर्माण करना।
फोर्ज कुछ और भी प्रदान करता है: पूर्व-प्रशिक्षण, मध्य-प्रशिक्षण और प्रशिक्षण के बाद के चरणों में अमेज़ॅन के नोवा मॉडल चौकियों तक पहुंच। जैसा कि प्रसाद ने कहा, कंपनियां अपने मालिकाना डेटा को प्रक्रिया की शुरुआत में ही इंजेक्ट कर सकती हैं, जब मॉडल की “सीखने की क्षमता उच्चतम होती है”, न कि अंत में मॉडल के व्यवहार में बदलाव करने के बजाय।
“हमने जो किया है वह आपके उपयोग के मामलों के लिए एआई और फ्रंटियर मॉडल विकास को इसकी लागत के कुछ अंश पर लोकतांत्रिक बनाना है [before]”प्रसाद ने कहा। फोर्ज का निर्माण इसलिए किया गया क्योंकि अमेज़ॅन की आंतरिक टीमें अपने डोमेन विशेषज्ञता को स्क्रैच से निर्माण किए बिना बेस मॉडल में इंजेक्ट करने के लिए एक उपकरण चाहती थीं।
उन्होंने कहा, “हमने फोर्ज बनाया क्योंकि हमारी आंतरिक टीमें फोर्ज चाहती थीं।” यह एक परिचित अमेज़ॅन पैटर्न है। AWS की शुरुआत कंपनी के लाभ इंजन बनने से पहले अमेज़ॅन के स्वयं के खुदरा संचालन के लिए निर्मित बुनियादी ढांचे के रूप में हुई थी।
Reddit 23 वर्षों के सामुदायिक मॉडरेशन डेटा पर प्रशिक्षित कस्टम सुरक्षा मॉडल बनाने के लिए फोर्ज का उपयोग कर रहा है। रेडिट के सीटीओ और पहले कर्मचारी क्रिस स्लोवे ने मुझे बताया, “मैंने अभी तक ऐसा कुछ नहीं देखा है।” “हमारे पास एक प्रतिष्ठित इंजीनियर है जो कैंडी की दुकान में एक बच्चे की तरह काम करता है।”
स्लोवे ने कहा कि रेडिट ने पिछले सप्ताह लगातार प्री-ट्रेनिंग कार्य चलाया जो “वास्तव में आशाजनक लग रहा है।” लक्ष्य: एकाधिक विशिष्ट सुरक्षा मॉडलों को एक एकल रेडिट-विशेषज्ञ मॉडल से बदलें जो समुदाय मॉडरेशन की बारीकियों को समझता है, जिसमें कुख्यात व्यक्तिपरक नियम भी शामिल है जो हर जगह सबरेडिट्स में दिखाई देता है: “बेवकूफ मत बनो।”
“एक विशेषज्ञ मॉडल होने से, यह समुदाय को समझने वाला है,” स्लोवे ने कहा। “इससे आपको बहुत अच्छा अंदाज़ा हो जाएगा कि झटका का मतलब क्या है।”
यही वह सूत्र है जिसे अमेज़ॅन चाहता है कि डेवलपर्स आगे बढ़ें: कच्चे आईक्यू अंक नहीं, बल्कि नियंत्रण और विशेषज्ञता।
उन्होंने बताया कि फोर्ज रेडिट को अपने मॉडलों को नियंत्रित करने, एपीआई परिवर्तनों से होने वाले आश्चर्य से बचने, अपने वजन का स्वामित्व बनाए रखने और तीसरे पक्ष के मॉडल प्रदाताओं को संवेदनशील डेटा भेजने से बचने में सक्षम बनाता है। उन्होंने कहा कि Reddit पहले से ही Reddit उत्तर और अन्य उत्पादों के लिए उसी दृष्टिकोण का उपयोग कर रहा है।
जब मैंने स्लोवे से पूछा कि क्या यह मायने रखता है कि नोवा बेंचमार्क पर शीर्ष स्तरीय मॉडल नहीं है, तो वह स्पष्ट था: “इस संदर्भ में, मॉडल की रेडिट विशेषज्ञता क्या मायने रखती है।” यही वह सूत्र है जिसे अमेज़ॅन चाहता है कि डेवलपर्स आगे बढ़ें: कच्चे आईक्यू अंक नहीं, बल्कि नियंत्रण और विशेषज्ञता।
फोर्ज के साथ, अमेज़ॅन एक सुविचारित शर्त लगा रहा है कि मॉडल रेस ने कमोडिटीकरण कर दिया है और यह वह स्थान बनकर सफल हो सकता है जहां कंपनियां विशिष्ट व्यावसायिक समस्याओं के लिए विशेष एआई का निर्माण कर सकती हैं। यह दुनिया का एक बहुत ही AWS-आकार का दृश्य है: बुद्धिमत्ता पर बुनियादी ढाँचा और कच्ची क्षमता पर अनुकूलन। यह रणनीति अमेज़ॅन को ओपनएआई और एंथ्रोपिक के साथ सीधी तुलना से बचने की भी अनुमति देती है, दोनों ने एक बार मॉडल स्तर पर प्रतिस्पर्धा करने की उम्मीद की थी।
फोर्ज वास्तव में अग्रणी है या सिर्फ चतुर स्थिति, यह निश्चित रूप से डेवलपर के अपनाने पर निर्भर करता है। अमेज़ॅन इस बात पर जोर देता है कि मॉडल रेस, जैसा कि व्यापक रूप से समझा जाता है, कोई फर्क नहीं पड़ता। यदि यह सच हो जाता है, तो स्कोरबोर्ड कुछ अधिक शांत और गेम के लिए कठिन हो जाता है: क्या एआई मॉडल वास्तव में वास्तविक दुनिया में उपयोगिता प्रदान करते हैं।