Asana ने AI निष्पादन की लागत 76 गुना कैसे घटाई

Asana ने घोषणा की कि StackAI के ब्राउज़र संचालन को स्वचालित करने वाले AI के परीक्षण में, उसने अपने पहले के प्रोडक्शन सेटअप की तुलना में अनुमानित मॉडल लागत को 76वें हिस्से तक घटाया और प्रोसेसिंग को 5 गुना तेज़ किया। GPT‑6.1 Sol और ब्राउज़िंग इतिहास प्रबंधन को अनुकूलित करने वाले सेटअप में, एक निष्पादन की औसत लागत 0.47 डॉलर रही और इसमें लगभग 4 मिनट लगे।

लागत को 76वें हिस्से तक घटाने की उपलब्धि सिर्फ़ मॉडल बदलने से नहीं मिली

इस आंकड़े में ध्यान देने वाली बात यह है कि तुलना केवल मॉडलों के प्रदर्शन की नहीं, बल्कि मॉडल और प्रोसेसिंग व्यवस्था के मेल से मिले नतीजे की है। ब्राउज़र एजेंट ऐसा AI होता है जो वेब पेज पढ़कर जानकारी जुटाने और फ़ॉर्म भरने जैसे काम करता है। Asana, अधिग्रहित StackAI के ज़रिये ऐसे कामों को स्वचालित करने की सुविधा देता है।

परीक्षण में सार्वजनिक डेमो कैटलॉग से 32 किताबों के बारे में, हर किताब के लिए 6 जानकारियाँ जुटाई गईं। चार मॉडलों और कई सेटिंग्स को कुल 144 बार आज़माया गया। शुरुआत में इस्तेमाल किए गए मॉडल B की अनुमानित लागत प्रति निष्पादन 36.21 डॉलर या उससे अधिक थी, लेकिन प्रोसेसिंग व्यवस्था में बदलाव भर से यह घटकर 1.24 डॉलर हो गई। इसके बाद, GPT‑6.1 Sol वाले अनुकूलित सेटअप में यह 0.47 डॉलर रही।

यानी मॉडल B का इस्तेमाल जारी रखते हुए भी लागत करीब 29वें हिस्से तक घटाई जा सकती थी। 76वें हिस्से तक लागत घटाने के दावे के पीछे, मॉडल चुनने से पहले प्रोसेसिंग डिज़ाइन में किए गए सुधारों की बड़ी भूमिका थी।

बचत की कुंजी AI को दिए जाने वाले ब्राउज़िंग इतिहास में थी

पहले के सेटअप में स्थिर निर्देशों जैसी चीज़ें कैश की जाती थीं, लेकिन जमा होते पेज के मुख्य पाठ और स्क्रीनशॉट का इतिहास कैश में शामिल नहीं था। कैश वह व्यवस्था है जिसमें पहले प्रोसेस किए गए इनपुट का दोबारा इस्तेमाल किया जाता है। अगर इतिहास का दोबारा इस्तेमाल न हो सके, तो हर बार AI को कॉल करने पर पिछली जानकारी फिर से भेजनी पड़ती है और उसका शुल्क देना पड़ता है।

इसके अलावा, लगभग हर चरण में पुरानी छवियाँ हटा दी जाती थीं और पाठ को छोटा कर दिया जाता था। इतिहास बार-बार बदलता रहता था, इसलिए सिर्फ़ कैश जोड़ने से खास फायदा मिलने की संभावना कम थी। बहुत अधिक जानकारी मिटाने से पहले देखे जा चुके पेजों पर दोबारा जाना भी पड़ सकता है।

इसलिए इतिहास को बनाए रखने की सीमा 120,000 से बढ़ाकर 480,000 अक्षर कर दी गई और ब्राउज़िंग इतिहास को भी कैश में शामिल किया गया। स्क्रीनशॉट के मामले में, 20 तक जमा करने के बाद सिर्फ़ सबसे नया स्क्रीनशॉट रखने की व्यवस्था अपनाई गई। हर बार इतिहास को व्यवस्थित करने के बजाय, उसे एक साथ व्यवस्थित करने से पुराना इतिहास बिना बदले लंबे समय तक इस्तेमाल किया जा सका।

ज़्यादा जानकारी रखने पर भी लागत घट सकती है

AI को दी जाने वाली जानकारी कम करने से लागत घटती है। इस परीक्षण के नतीजे बताते हैं कि एजेंट की लागत को सिर्फ़ इस सोच से नहीं समझा जा सकता। जानकारी को बनाए रखकर उसका दोबारा इस्तेमाल करना और अनावश्यक रूप से फिर से जाँचने की ज़रूरत घटाना, कुल प्रोसेसिंग को सस्ता बना सकता है।

GPT‑6.1 Sol में, इतिहास बनाए रखने की सीमा बढ़ाने के बाद कैश और छवि प्रबंधन में सुधार करने से प्रति निष्पादन अनुमानित मॉडल लागत 1.97 डॉलर से घटकर 0.47 डॉलर हो गई। अनुकूलन के बाद, 89% इनपुट कैश से मिले और इस हिस्से का शुल्क, कैश का इस्तेमाल न करने की तुलना में 5% था।

इतिहास की मात्रा से यह भी प्रभावित हुआ कि काम पूरा हुआ या नहीं। GPT‑6.1 Sol में, कम इतिहास सीमा वाली सेटिंग में 18 में से 3 निष्पादनों में जवाब तैयार हो सका, जबकि बड़ी सीमा वाली सेटिंग में सभी 18 निष्पादनों में जवाब तैयार हुआ। परीक्षण में इन सभी 18 मामलों में सही जवाब मिला।

सुधार के सुझावों को आज़माने के काम में भी AI का इस्तेमाल किया गया

ब्राउज़र को वास्तव में संचालित करने वाले GPT‑6.1 Sol से अलग, जाँच और सुधार के लिए Codex का GPT‑6 Astra इस्तेमाल किया गया। इसने कोड की संरचना की जाँच की, इतिहास प्रबंधन की समस्याएँ पहचानीं, प्रयोगों के लिए कोड को फिर से व्यवस्थित किया और कई सेटिंग्स का समानांतर परीक्षण किया।

इसका मतलब यह नहीं कि इसमें इंसानों की कोई भूमिका नहीं थी। StackAI के CTO Frank Hidalgo ने सुझावों की समीक्षा की और तय किया कि किन बदलावों का परीक्षण किया जाए। प्रयोगों के रिकॉर्ड और आउटपुट की अलग मॉडल सत्रों में भी समीक्षा की गई और उन्हें Asana के विकास मंच Command में दर्ज किया गया। बदलाव टिकट और पुल रिक्वेस्ट की प्रक्रिया से गुज़रने के बाद प्रोडक्शन वातावरण में लागू किए गए।

Hidalgo के मुताबिक, जिस जाँच में हाथ से काम करने पर 1–2 महीने लगते, वह लगभग 1 सप्ताह में पूरी हो गई। इस अवधि की तुलना उनका अपना अनुमान है; यह उसी काम को केवल इंसानों से करवाने वाला नियंत्रित प्रयोग नहीं था।

इसे अपनाने का निर्णय लेते समय लागत और काम पूरा होने की दर—दोनों देखें

यहाँ बताई गई 0.47 डॉलर की राशि अनुमानित मॉडल लागत है, कुल लागत नहीं; इसमें श्रम और सिस्टम संचालन की लागत शामिल नहीं है। इसके अलावा, तुलना के कुछ आधारभूत सेटअप निष्पादन की संख्या की सीमा तक पहुँच गए थे और काम पूरा नहीं कर पाए थे, इसलिए 36.21 डॉलर या उससे अधिक और 22.5 मिनट या उससे अधिक के आंकड़े न्यूनतम हैं। मुख्य तुलनात्मक आंकड़े हर सेटअप के 3 निष्पादनों का औसत हैं और लागत में इसी अनुपात की कमी हर तरह के वेब कार्य पर लागू नहीं की जा सकती।

अनुकूलित सेटअपों की आपस में तुलना करें तो मॉडल C की लागत 0.66 डॉलर और समय 3.5 मिनट था, जबकि GPT‑6.1 Sol की लागत 0.47 डॉलर और समय लगभग 4 मिनट था। इस काम में Sol सस्ता था, लेकिन मॉडल C ने काम कम समय में पूरा किया—यानी कम लागत और अधिक गति के मामले में दोनों की रैंकिंग अलग थी।

Asana ने ये बदलाव StackAI की ब्राउज़र संचालन सुविधा में लागू कर दिए हैं। आगे चलकर, कंपनी इस परीक्षण को मंच के मूल्यांकन फीचर में शामिल करने की योजना बना रही है, ताकि ग्राहक और आंतरिक टीमें अलग-अलग सेटिंग्स की लागत, निष्पादन समय और जवाबों की गुणवत्ता की तुलना कर सकें।