तज्ञांचे मिश्रण

Oppo ने बुधवारी आपल्या स्मार्टफोनसाठी डिझाइन केलेले नवीन ऑन-डिव्हाइस आर्टिफिशियल इंटेलिजेंस (AI) वैशिष्ट्य जाहीर केले. प्रक्रियेचा वेग सुधारत उर्जेचा वापर लक्षणीयरीत्या कमी करण्यासाठी तज्ञांचे मिश्रण (MoE) AI आर्किटेक्चर लागू करण्याची फर्मची योजना आहे. स्मार्टफोन आणि तत्सम उपकरणांसाठी तंत्रज्ञान विकसित करण्यासाठी Oppo ने आघाडीच्या चिपसेट उत्पादकांसोबत सहकार्य केले. तथापि, या तंत्रज्ञानाने कोणते आगामी स्मार्टफोन सुसज्ज असतील हे उघड केले नाही. फर्मने अलीकडेच नवीन AI वैशिष्ट्यांसह ColorOS 15 चे अनावरण केले आणि त्याची फ्लॅगशिप Find X8 मालिका 24 ऑक्टोबर रोजी लॉन्च केली जाईल.

Oppo ने स्मार्टफोनसाठी ऑन-डिव्हाइस MoE AI आर्किटेक्चरचे अनावरण केले

कंपनीने शेअर केले तपशील स्मार्टफोनसाठी त्याच्या नवीन इन-हाउस तंत्रज्ञानाचा. MoE आर्किटेक्चर नवीन नाही, आणि AI फर्म Mixtral द्वारे लोकप्रिय केले गेले आहे, ज्याने अनेक मुक्त-स्रोत MoE-आधारित AI मॉडेल जारी केले आहेत.

मोठ्या लँग्वेज मॉडेल्स (LLM) च्या विपरीत, ज्यात एक प्रचंड केंद्रीकृत प्रणाली आहे आणि मोठ्या प्रमाणात AI कार्ये करू शकतात, MoE आर्किटेक्चर लहान भाषा मॉडेल्स (SLMs) वर अवलंबून आहे. हे SLM एका विशिष्ट कार्यात माहिर आहेत आणि लहान परंतु अधिक संबंधित डेटासेटमुळे ते उच्च अचूकतेसह आणि गतीसह करू शकतात.

ऑन-डिव्हाइस मिश्रण-तज्ञ-एआय आर्किटेक्चर अंमलबजावणी
फोटो क्रेडिट: Oppo

MoE आर्किटेक्चरमध्ये, बॅकएंडमध्ये एकाधिक SLM एकत्र जोडलेले असतात आणि फ्रंटएंडवर एक समक्रमित इंटरफेस देतात. जेव्हा जेव्हा वापरकर्ता एखाद्या कार्याची विनंती करतो तेव्हा सिस्टम ते हाताळण्यासाठी सर्वात सक्षम SLM ला नियुक्त करते. परिणामी, प्रणाली समांतर प्रक्रिया करण्यास सक्षम आहे आणि एकाच वेळी अनेक कार्ये पार पाडत असूनही, प्रक्रियेच्या गतीवर लक्षणीय परिणाम होत नाही.

SLM च्या वापरासह जोडलेल्या समांतर प्रक्रियेमुळे वीज वापर कमी होतो. ओप्पोने दावा केला आहे की या आर्किटेक्चरची ऑन-डिव्हाइस अंमलबजावणी करण्याचा मार्ग सापडला आहे, ज्यामुळे जलद AI प्रक्रिया तसेच बॅटरीचे आयुष्य सुधारेल.

अंतर्गत चाचणीच्या आधारे, चीनी स्मार्टफोन निर्मात्याने दावा केला आहे की MoE-आधारित AI सिस्टीम पारंपारिक पर्यायापेक्षा 40 टक्के वेगाने AI कार्यांवर प्रक्रिया करू शकतात.

Oppo ने हे देखील हायलाइट केले की ऑन-डिव्हाइस MoE आर्किटेक्चर वापरकर्त्यांना अधिक गोपनीयता देईल कारण सर्व्हरवर कमी एआय कार्यांवर प्रक्रिया करणे आवश्यक आहे. याचा अर्थ असा होतो की डेटा स्थानिक पातळीवर संग्रहित केला जातो आणि केवळ वापरकर्त्याला त्यात प्रवेश असतो.