Gemini Nano

Gemini Nano আপনাকে নেটওয়ার্ক কানেকশন বা ক্লাউডে ডেটা না পাঠিয়েই সমৃদ্ধ জেনারেটিভ AI অভিজ্ঞতা প্রদান করতে দেয়। অন-ডিভাইস AI হল এমন ব্যবহারের ক্ষেত্রে একটি দুর্দান্ত সমাধান যেখানে কম খরচ এবং গোপনীয়তা সুরক্ষা আপনার প্রাথমিক উদ্বেগ।

অন-ডিভাইস ব্যবহারের ক্ষেত্রে, আপনি Google-এর Gemini Nano ফাউন্ডেশন মডেলের সুবিধা নিতে পারেন। Gemini Nano, Android-এর AICore সিস্টেম সার্ভিসে চলে, যা কম ইনফারেন্স লেটেন্সি চালু করতে ডিভাইসের হার্ডওয়্যার ব্যবহার করে এবং মডেল আপ-টু-ডেট রাখে।

ML Kit GenAI API

ML Kit-এর GenAI API, Gemini Nano-এর ক্ষমতাকে কাজে লাগিয়ে আপনার অ্যাপকে অন-ডিভাইস জেনারেটিভ AI টাস্ক সম্পন্ন করতে সাহায্য করে। এই APIগুলি AICore-এর উপরে তৈরি করা হয়েছে, এটি একটি Android সিস্টেম পরিষেবা যা GenAI ফাউন্ডেশন মডেলের অন-ডিভাইস এক্সিকিউশন চালু করে, যাতে উন্নত অ্যাপ কার্যকারিতা এবং লোকালি ডেটা প্রসেস করার মাধ্যমে ব্যবহারকারীর গোপনীয়তা উন্নত করার মতো ফিচারগুলি সহজতর করা যায়। আরও জানুন।

মূল ফিচার

ML Kit তার GenAI ক্ষমতাকে নিম্নলিখিত বিভাগে সাজায়:

কাস্টম জেনারেশন ও এজেন্ট

কাস্টম ব্যবহারের ক্ষেত্রে সরাসরি Gemini Nano ফাউন্ডেশন মডেলের সাথে কাজ করুন:

  • সরাসরি মডেল অ্যাক্সেস (GenerativeModel ক্লাস ব্যবহার করে): কাস্টম শুধু-টেক্সট বা মাল্টিমোডাল প্রম্পট থেকে টেক্সট বা টাইপ করা স্ট্রাকচার্ড আউটপুট জেনারেট করুন অথবা USER ও MODEL ভূমিকা এবং sessionId ভ্যালু সহ List<Content> অবজেক্ট ব্যবহার করে সরাসরি আপনার নিজের মাল্টি-টার্ন চ্যাট ইতিহাস ম্যানেজ করুন।
  • এজেন্টিক ওয়ার্কফ্লো (AgentRunner ক্লাস ব্যবহার করে): GenerativeModel ক্লাসের উপরে তৈরি, মাল্টি-টার্ন সেশন ম্যানেজমেন্ট (ইন-মেমরি কথোপকথনের ইতিহাস সহ) এবং মাল্টি-স্টেপ টুল-কলিং লুপ অটোমেট করে।

স্পিচ ও অডিও

অন-ডিভাইস স্পিচ অডিও ট্রান্সক্রাইব, অনুবাদ ও সিন্থেসাইজ করুন:

টেক্সট ও ছবি সংক্রান্ত টাস্ক

হাই-লেভেল ইন্টারফেসের মাধ্যমে সাধারণ ভিশন, লেখা ও সার্চ টাস্কের জন্য অপ্টিমাইজ করা টাস্ক-নির্দিষ্ট API ব্যবহার করুন:

  • ছবির বিবরণ: প্রদত্ত ছবির একটি সংক্ষিপ্ত বিবরণ তৈরি করুন।
  • সারসংক্ষেপ: বুলেটযুক্ত তালিকা হিসেবে নিবন্ধ বা কথোপকথনের সারসংক্ষেপ তৈরি করুন।
  • প্রুফরিডিং: ছোট চ্যাট মেসেজ প্রুফরিড করুন।
  • আবার লেখা: ছোট চ্যাট মেসেজ অন্য টোন বা স্টাইলে আবার লেখা।
  • সিম্যান্টিক সার্চ: Embedding API ব্যবহার করে টেক্সট ও ছবির জন্য ভেক্টর এম্বেডিং জেনারেট করুন এবং অর্থ অনুযায়ী কন্টেন্ট খুঁজতে AndroidX AppSearch-এর সাথে সেগুলি পেয়ার করুন।

AICore-এর মাধ্যমে আর্কিটেকচার

সিস্টেম-লেভেল মডিউল হিসেবে, ডিভাইসে ইনফারেন্স রান করার জন্য আপনি একাধিক API-এর মাধ্যমে AICore অ্যাক্সেস করেন। এছাড়াও, AICore-এ বেশ কিছু বিল্ট-ইন নিরাপত্তা ফিচার আছে, যা আমাদের নিরাপত্তা ফিল্টারের মাধ্যমে পুঙ্খানুপুঙ্খ মূল্যায়ন নিশ্চিত করে। নিম্নলিখিত ডায়াগ্রাম থেকে বোঝা যাবে যে ডিভাইসে Gemini Nano চালানোর জন্য কোনও অ্যাপ কীভাবে AICore অ্যাক্সেস করে।

একটি ডায়াগ্রাম যেখানে দেখানো হয়েছে যে কীভাবে একটি Android অ্যাপ AICore অ্যাক্সেস করতে Google AI Edge SDK ব্যবহার করে, যেখানে Gemini Nano, LoRA এবং নিরাপত্তা ফিচার ম্যানেজ করা হয় এবং হার্ডওয়্যার অ্যাক্সিলারেটরে চালানো হয়।
ছবি ১. AICore আপনার অ্যাপ এবং Gemini Nano মডেলের মধ্যে ইন্টারফেস হিসেবে কাজ করে, অন-ডিভাইস হার্ডওয়্যার ব্যবহার করার সময় মডেল আপডেট ও নিরাপত্তা ম্যানেজ করে।

ব্যবহারকারীর ডেটা ব্যক্তিগত ও সুরক্ষিত রাখা

অন-ডিভাইস জেনারেটিভ AI স্থানীয়ভাবে প্রম্পট এক্সিকিউট করে, সার্ভার কলের প্রয়োজনীয়তা দূর করে। এটি নেটওয়ার্ক লেটেন্সি সরিয়ে দিলেও, ইনফারেন্স স্পিড ডিভাইসের হার্ডওয়্যারের উপর নির্ভর করে। এই পদ্ধতি ডিভাইসে সংবেদনশীল ডেটা রেখে গোপনীয়তা উন্নত করে, অফলাইন কার্যকারিতা চালু করে এবং ইনফারেন্সের খরচ কমায়।

AICore Private Compute Core নীতি মেনে চলে, যার মধ্যে নিম্নলিখিত গুরুত্বপূর্ণ বৈশিষ্ট্যগুলি রয়েছে:

  • সীমাবদ্ধ প্যাকেজ বাইন্ডিং: AICore বেশিরভাগ অন্যান্য প্যাকেজ থেকে আলাদা করা থাকে, নির্দিষ্ট সিস্টেম প্যাকেজের জন্য সীমিত ব্যতিক্রম সহ। এই অনুমোদিত তালিকায় কোনও পরিবর্তন শুধুমাত্র সম্পূর্ণ Android OTA আপডেটের সময় করা যাবে।
  • পরোক্ষ ইন্টারনেট অ্যাক্সেস: AICore-এর সরাসরি ইন্টারনেট অ্যাক্সেস নেই। মডেল ডাউনলোড সহ সব ইন্টারনেট অনুরোধ, ওপেন-সোর্স Private Compute Services কম্প্যানিয়ন APK-এর মাধ্যমে রাউট করা হয়। Private Compute Services-এর মধ্যে থাকা API-কে অবশ্যই তার গোপনীয়তা-কেন্দ্রিক প্রকৃতি স্পষ্টভাবে প্রদর্শন করতে হবে।

এছাড়াও, AICore-কে এমনভাবে তৈরি করা হয়েছে যাতে প্রতিটি অনুরোধ আলাদাভাবে প্রসেস করা যায় এবং ব্যবহারকারীর গোপনীয়তা সুরক্ষিত রাখতে, ইনপুট ডেটা বা প্রসেস করার পরে পাওয়া আউটপুটের কোনও রেকর্ড স্টোর করা হয় না। আরও জানতে Gemini Nano-এর জন্য গোপনীয়তা ও নিরাপত্তা সংক্রান্ত ভূমিকা ব্লগ পোস্টটি পড়ুন।

AICore-এর একটি বিস্তারিত আর্কিটেকচার ডায়াগ্রাম যা অনুরোধের ফ্লো দেখাচ্ছে: API সারফেস, নিরাপত্তা সিগন্যাল সহ ইনপুট প্রসেসিং, ফিচার কনফিগারেশন, মডেল ওয়েট ও LoRA সহ রানটাইম এবং নিরাপত্তা সিগন্যাল সহ আউটপুট প্রসেসিং। এছাড়াও, এটি Private Compute Services-এর মাধ্যমে মডেল ডাউনলোড দেখায়।
ছবি ২. AICore আর্কিটেকচার ইনপুট ও আউটপুটের নিরাপত্তা, অনুরোধ প্রসেস করা এবং মডেলের ওয়েট ম্যানেজ করে, যাতে অন-ডিভাইস AI-এর জন্য একটি সুরক্ষিত পরিবেশ প্রদান করা যায়।

AICore-এর মাধ্যমে AI ফাউন্ডেশন মডেল অ্যাক্সেস করার সুবিধা

AICore, Android OS-কে AI ফাউন্ডেশন মডেল প্রদান ও ম্যানেজ করার সুবিধা দেয়। এর ফলে আপনার অ্যাপে এইসব বড় মডেল ব্যবহার করার খরচ উল্লেখযোগ্যভাবে কমে যায়, প্রধানত নিম্নলিখিত কারণে:

  • সহজে ডেপ্লয় করা: AICore, Gemini Nano-এর ডিস্ট্রিবিউশন ম্যানেজ করে এবং ভবিষ্যতের আপডেটগুলি হ্যান্ডেল করে। আপনাকে নেটওয়ার্কের মাধ্যমে বড় মডেল ডাউনলোড বা আপডেট করা নিয়ে চিন্তা করতে হবে না, এমনকি আপনার অ্যাপের ডিস্ক ও রানটাইম মেমরি বাজেটের উপরও কোনও প্রভাব পড়বে না।
  • অ্যাক্সিলারেটেড ইনফারেন্স: AICore ইনফারেন্স অ্যাক্সিলারেট করতে অন-ডিভাইস হার্ডওয়্যার ব্যবহার করে। আপনার অ্যাপ প্রতিটি ডিভাইসে সেরা পারফর্ম্যান্স পায় এবং আপনাকে আন্ডারলাইং হার্ডওয়্যার ইন্টারফেস নিয়ে চিন্তা করতে হয় না।

হাইব্রিড ইনফারেন্স কখন ব্যবহার করতে হবে

যদিও Gemini Nano অফলাইন এবং গোপনীয়তা-সংবেদনশীল টাস্কের জন্য আদর্শ, তবুও এতে টোকেন সীমা, ডিভাইস হার্ডওয়্যার সীমাবদ্ধতা এবং মডেলের ক্ষমতার সীমার মতো অন-ডিভাইস সীমাবদ্ধতা রয়েছে। এইসব পরিস্থিতিতে, আপনি লোকাল ডিভাইস ও ক্লাউডের মধ্যে AI ওয়ার্কলোড ব্যালেন্স করতে হাইব্রিড ইনফারেন্স ব্যবহার করতে পারেন।

সব ডিভাইস জুড়ে ব্যবহারকারীর অভিজ্ঞতা একই রকম রাখতে এবং জটিল কোয়েরি ম্যানেজ করতে, আপনি Firebase AI Logic Hybrid API ব্যবহার করতে পারেন। এটি আপনার অ্যাপকে নিম্নলিখিত কাজগুলি করতে দেয়:

  • ফল ব্যাক গ্রেসফুলি: ব্যবহারকারীর ডিভাইসে Gemini Nano উপলভ্য না থাকলে বা কাজ না করলে, ক্লাউডে Gemini Flash বা Gemini Pro মডেলে অটোমেটিক অনুরোধ পাঠান।
  • নিরাপত্তা এনফোর্স করা: Firebase App Check (এবং এর অ্যাটেস্টেশন প্রদানকারী, যেমন Play Integrity) ব্যবহার করে ক্লাউড ইনফারেন্স সুরক্ষিত রাখুন এবং সংবেদনশীল সিস্টেম প্রম্পট সার্ভার-সাইডে রাখুন।