हमारा काम और P16

P16 फ़्रांस का वह कार्यक्रम है, जिसका नेतृत्व Inria करता है और जिसे France 2030 का समर्थन प्राप्त है, और जो AI के लिए संप्रभु, खुली और इंटरऑपरेबल सॉफ़्टवेयर लाइब्रेरियाँ विकसित करता है। हमारी लाइब्रेरी और हमारे उत्पाद इन्हीं उद्देश्यों पर चलते हैं, और हम इसका समर्थन पाने का इरादा रखते हैं।

P16 संक्षेप में

सितंबर 2024 में कृत्रिम बुद्धिमत्ता की राष्ट्रीय रणनीति के अंतर्गत शुरू हुआ P16, अपना नाम AI त्वरण रणनीति के उपाय 16 से लेता है। इसका उद्देश्य ऐसी सॉफ़्टवेयर लाइब्रेरियों के ज़रिए फ़्रांस और यूरोप की तकनीकी स्वायत्तता को मज़बूत करना है जो डेटा और मॉडल के पूरे चक्र को सँभालती हैं। Inria अपने AI कार्यक्रम के माध्यम से इसे चलाता है, पाँच वर्षों में लगभग 80 लाख यूरो के साथ।

  • तीन प्राथमिक कार्य: डेटा की इंटरऑपरेबिलिटी, उसकी तैयारी, और मॉडल का प्रशिक्षण और निष्पादन।
  • ऐसी लाइब्रेरियाँ जिन्हें डिजिटल कॉमन्स के रूप में विकसित, व्यापक रूप से वितरित और अनुरक्षित किया जाता है।
  • उद्योग तक हस्तांतरण का मार्ग, जिसमें भरोसेमंद, किफ़ायती और एम्बेडेड AI पर शोध भी शामिल है।
  • सॉफ़्टवेयर घटक, जिन्हें उनकी गुणवत्ता, परिपक्वता, व्यापकता और डिजिटल संप्रभुता के लिए उनके महत्व के आधार पर चुना जाता है।

हमारे काम और P16 के उद्देश्यों के मिलन-बिंदु

हर पंक्ति P16 के बताए एक उद्देश्य को उससे जोड़ती है जो हम पहले ही प्रकाशित कर चुके हैं।

P16 का उद्देश्यCydral Technology के प्रकाशन
संप्रभु और खुली लाइब्रेरियाँDlib-Transformer-extensions, फ़्रांस में मानक C++14 में लिखी गई और Boost Software License 1.0 के अंतर्गत प्रकाशित, जिसकी शृंखला में कोई Python परिवेश नहीं है।
इंटरऑपरेबिलिटीGGUF फ़ॉर्मेट से पढ़े गए मॉडल, OpenAI इंटरफ़ेस का पालन करने वाला और OpenAPI से वर्णित स्थानीय इंटरफ़ेस, और अपने ऑफ़िस फ़ॉर्मेट में पढ़े-लिखे जाने वाले दस्तावेज़।
डेटा की तैयारीएक बाइट-पेयर एन्कोडिंग टोकनाइज़र, कॉर्पस और डेटासेट के टूल, और Pseudalis, जो दस्तावेज़ों से व्यक्तिगत डेटा हटाता है, इससे पहले कि वे किसी मॉडल या प्रॉम्प्ट तक पहुँचें।
मॉडल का प्रशिक्षण और निष्पादनLoRA और DoRA के साथ फ़ाइन-ट्यूनिंग, डिस्टिलेशन, प्रूनिंग, और प्रोसेसर, Intel के NPU और GPU तथा NVIDIA ग्राफ़िक्स प्रोसेसर के लिए इंजन।
किफ़ायती AIक्वांटाइज़्ड वेट, इंटीजर कर्नेल और सॉफ़्टवेयर से बढ़ाई गई GPU मेमोरी: 4 अरब पैरामीटर का मल्टीमोडल मॉडल 8 GB मेमोरी वाले लैपटॉप पर उत्तर देता है।
भरोसेमंद AIस्थानीय निष्पादन, हस्ताक्षरित अपडेट, GDPR के अनुच्छेद 25 और 32 के अंतर्गत प्रतिवर्ती स्यूडोनिमाइज़ेशन, और ऐसी रिपोर्टें जो हर विधि की सीमाएँ बताती हैं।
एम्बेडेड AIप्रोसेसर के NPU और इंटीग्रेटेड GPU की ओर भेजे गए ऑपरेशन, और एक ही प्रोग्राम में कंपाइल किए गए मॉडल।
कंपनियों तक हस्तांतरणदो इंस्टॉल किए जाने वाले उत्पाद, Albireo और Pseudalis, जो अपने Community संस्करणों में निःशुल्क हैं और किसी दूसरे ब्रांड के अंतर्गत वितरण के लिए खुले हैं।

उसके चयन मानदंडों के सामने

सॉफ़्टवेयर की गुणवत्ता

हर विधि के लिए टेस्ट, चलाए जा सकने वाले उदाहरण और एक शोध रिपोर्ट, जो कोड के साथ रखी जाती है।

परिपक्वता

इंस्टॉलर के साथ जारी किए गए संस्करण, हस्ताक्षरित अपडेट चैनल और हैश से जाँचा गया मॉडल कैटलॉग।

व्यापकता

एक ही लाइब्रेरी मॉडल के पूरे जीवन को सँभालती है, किसी प्रकाशित मॉडल के इम्पोर्ट से उसके डिस्टिलेशन तक, टेक्स्ट और चित्र दोनों के लिए।

संप्रभुता

कोड, मॉडल और कुंजियाँ उन मशीनों पर रहती हैं जिन पर उनके मालिकों का नियंत्रण है, और हर घटक को पढ़ा, जाँचा और होस्ट किया जा सकता है।

अपेक्षित सहयोग

Cydral Technology आज P16 का साझेदार नहीं है और उसे कोई सार्वजनिक वित्त नहीं मिलता। हमारा इरादा लाइब्रेरी को कार्यक्रम के सामने रखने और वहाँ इंजीनियरिंग सहयोग, पहचान और, यदि संभव हो, वित्त पाने का है। इससे लाइब्रेरी का लंबे समय तक रखरखाव हो सकेगा और वह अधिक यूरोपीय कंपनियों तक पहुँचेगी।

इस बीच हर दूसरा सहयोग भी स्वागत योग्य है: किसी फ़ीचर को प्रायोजित करना, रोडमैप को वित्त देना या उत्पादों का वितरण करना।

स्रोत

P16 और France 2030 का नाम यहाँ सार्वजनिक कार्यक्रमों का वर्णन करने के लिए लिया गया है। उनके उल्लेख का अर्थ यह नहीं है कि Inria या फ़्रांसीसी राज्य Cydral Technology का अनुमोदन करते हैं।