Google AI Edge SDK সহ জেমিনি ন্যানো৷

সমর্থিত অ্যান্ড্রয়েড-চালিত ডিভাইসগুলিতে , আপনি নেটওয়ার্ক সংযোগ বা ক্লাউডে ডেটা প্রেরণের প্রয়োজন ছাড়াই সমৃদ্ধ জেনারেটিভ এআই অভিজ্ঞতা সরবরাহ করতে পারেন। অন-ডিভাইস AI হল ব্যবহারের ক্ষেত্রে একটি দুর্দান্ত সমাধান যেখানে কম লেটেন্সি, কম খরচ এবং গোপনীয়তা সুরক্ষা আপনার প্রাথমিক উদ্বেগ।

অন-ডিভাইস ব্যবহারের ক্ষেত্রে, আপনি Google এর জেমিনি ন্যানো ফাউন্ডেশন মডেলের সুবিধা নিতে পারেন। যদিও এটি ক্লাউডে চলমান অন্যান্য জেমিনি মডেলের তুলনায় ছোট, আপনি জেমিনি ন্যানোকে সূক্ষ্ম-টিউন করতে পারেন বিশেষ কার্য সম্পাদনের পাশাপাশি এর বৃহত্তর অংশগুলি সম্পাদন করতে। জেমিনি ন্যানো অ্যান্ড্রয়েডের AICore সিস্টেম পরিষেবাতে চলে , যা ডিভাইস হার্ডওয়্যারকে কম অনুমান লেটেন্সি সক্ষম করতে সুবিধা দেয় এবং মডেলটিকে আপ-টু-ডেট রাখে।

Gemini Nano API এবং AICore-এ অ্যাক্সেস Google AI Edge SDK দ্বারা প্রদান করা হয়। Google AI Edge হল অন-ডিভাইস ML-এর জন্য টুলগুলির একটি বিস্তৃত স্যুট। গুগল এআই এজ সম্পর্কে আরও জানুন ।

স্থাপত্য

একটি সিস্টেম-স্তরের মডিউল হিসাবে, আপনি ডিভাইসে অনুমান চালানোর জন্য API-এর একটি সিরিজের মাধ্যমে AICore অ্যাক্সেস করেন। এছাড়াও, AICore-এর বেশ কিছু অন্তর্নির্মিত নিরাপত্তা বৈশিষ্ট্য রয়েছে, যা আমাদের নিরাপত্তা ফিল্টারগুলির বিরুদ্ধে পুঙ্খানুপুঙ্খ মূল্যায়ন নিশ্চিত করে। নিচের চিত্রে দেখানো হয়েছে যে কীভাবে একটি অ্যাপ AICore অ্যাক্সেস করে জেমিনি ন্যানো ডিভাইসে চালানোর জন্য।

ব্যবহারকারীর ডেটা গোপন ও সুরক্ষিত রাখুন

অন-ডিভাইস জেনারেটিভ এআই স্থানীয়ভাবে প্রম্পট চালায়, সার্ভার কলগুলিকে দূর করে। এই পদ্ধতিটি ডিভাইসে সংবেদনশীল ডেটা রেখে গোপনীয়তা বাড়ায়, অফলাইন কার্যকারিতা সক্ষম করে এবং অনুমান খরচ কমায়।

AICore নিম্নলিখিত মূল বৈশিষ্ট্যগুলির সাথে ব্যক্তিগত কম্পিউট মূল নীতিগুলি মেনে চলে:

সীমাবদ্ধ প্যাকেজ বাইন্ডিং : নির্দিষ্ট সিস্টেম প্যাকেজগুলির জন্য সীমিত ব্যতিক্রম সহ AICore অন্যান্য প্যাকেজগুলি থেকে বিচ্ছিন্ন। এই অনুমোদিত তালিকার যেকোনো পরিবর্তন শুধুমাত্র সম্পূর্ণ Android OTA আপডেটের সময় ঘটতে পারে।

পরোক্ষ ইন্টারনেট অ্যাক্সেস : AICore-এর সরাসরি ইন্টারনেট অ্যাক্সেস নেই। মডেল ডাউনলোড সহ সমস্ত ইন্টারনেট অনুরোধ, ওপেন-সোর্স প্রাইভেট কম্পিউট সার্ভিসের সহচর APK-এর মাধ্যমে রুট করা হয়। প্রাইভেট কম্পিউট সার্ভিসের মধ্যে API গুলিকে তাদের গোপনীয়তা-কেন্দ্রিক প্রকৃতি স্পষ্টভাবে প্রদর্শন করতে হবে।

অতিরিক্তভাবে, AICore প্রতিটি অনুরোধকে বিচ্ছিন্ন করার জন্য তৈরি করা হয়েছে এবং ব্যবহারকারীর গোপনীয়তা রক্ষা করার জন্য ইনপুট ডেটা বা ফলস্বরূপ আউটপুটগুলির কোনও রেকর্ড সংরক্ষণ করে না। আরও জানতে জেমিনি ন্যানো-এর জন্য গোপনীয়তা এবং নিরাপত্তার একটি ভূমিকা ব্লগ পোস্টটি পড়ুন।

AICore এর সাথে AI ফাউন্ডেশন মডেল অ্যাক্সেস করার সুবিধা

AICore Android OS কে AI ফাউন্ডেশন মডেল প্রদান ও পরিচালনা করতে সক্ষম করে। এটি আপনার অ্যাপে এই বড় মডেলগুলি ব্যবহার করার খরচ উল্লেখযোগ্যভাবে হ্রাস করে, প্রধানত নিম্নলিখিত কারণে:

স্থাপনের সহজতা : AICore জেমিনি ন্যানো বিতরণ পরিচালনা করে এবং ভবিষ্যতের আপডেটগুলি পরিচালনা করে। আপনাকে নেটওয়ার্কের মাধ্যমে বড় মডেলগুলি ডাউনলোড বা আপডেট করার বিষয়ে চিন্তা করতে হবে না, বা আপনার অ্যাপের ডিস্ক এবং রানটাইম মেমরি বাজেটের উপর প্রভাব ফেলবে না।

ত্বরিত অনুমান : AICore অনুমানকে ত্বরান্বিত করতে ডিভাইসে হার্ডওয়্যারের সুবিধা দেয়। আপনার অ্যাপটি প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পায় এবং আপনাকে অন্তর্নিহিত হার্ডওয়্যার ইন্টারফেস সম্পর্কে চিন্তা করতে হবে না।

সমর্থিত কার্যকারিতা

AICore নিম্নলিখিত ডিভাইস এবং পদ্ধতি সমর্থন করে:

• সমর্থিত ডিভাইস : AICore বর্তমানে Pixel 9 সিরিজের ডিভাইসে পাওয়া যাচ্ছে, Google Pixel 8 সিরিজ ডিভাইস সহ Pixel 8 ¹ এবং Pixel 8a ² , Samsung S24 সিরিজ ডিভাইস, Samsung Z Fold6, Samsung Z Flip6, Realme GT 6, Motorola Edge 50 Ultra, Motorola Razr 50 Ultra, Xiaomi 14T/Pro, এবং Xiaomi MIX Flip।
• সমর্থিত পদ্ধতি : AICore বর্তমানে Gemini Nano-এর জন্য টেক্সট মোডালিটি সমর্থন করে।

অতিরিক্ত ডিভাইস এবং পদ্ধতি সমর্থন সক্রিয় বিনিয়োগের ক্ষেত্র।

কেস ব্যবহার করুন

ক্লাউড সার্ভারের তুলনায় মোবাইল ডিভাইসের রিসোর্স সীমাবদ্ধতার কারণে, অন-ডিভাইস জেনারেটিভ এআই মডেলগুলি দক্ষতা এবং আকারের উপর ফোকাস করে ডিজাইন করা হয়েছে। এই অপ্টিমাইজেশানটি আরও সাধারণীকৃত অ্যাপ্লিকেশনগুলির তুলনায় নির্দিষ্ট, সু-সংজ্ঞায়িত কাজগুলিকে অগ্রাধিকার দেয়৷ উপযুক্ত ব্যবহারের ক্ষেত্রে অন্তর্ভুক্ত:

• টেক্সট রিফ্রেসিং : টেক্সটের টোন এবং স্টাইল পরিবর্তন করুন (যেমন, নৈমিত্তিক থেকে আনুষ্ঠানিক)।
• স্মার্ট উত্তর : একটি চ্যাট থ্রেডের মধ্যে প্রাসঙ্গিকভাবে প্রাসঙ্গিক প্রতিক্রিয়া তৈরি করুন।
• প্রুফরিডিং : বানান এবং ব্যাকরণগত ত্রুটি সনাক্ত করুন এবং সংশোধন করুন।
• সংক্ষিপ্তকরণ : দীর্ঘ নথিকে সংক্ষিপ্ত সারাংশে সংকুচিত করুন (অনুচ্ছেদ বা বুলেট পয়েন্ট)।

সর্বোত্তম কর্মক্ষমতা জন্য, প্রম্পটিং কৌশল ডকুমেন্টেশন পড়ুন. এই ব্যবহারের ক্ষেত্রে সরাসরি অন্বেষণ করতে, আমাদের নমুনা অ্যাপ ডাউনলোড করুন এবং জেমিনি ন্যানো নিয়ে পরীক্ষা শুরু করুন।

জেমিনি ন্যানো বেশ কয়েকটি Google অ্যাপ ব্যবহার করে। কিছু উদাহরণ অন্তর্ভুক্ত:

• টকব্যাক: অ্যান্ড্রয়েডের অ্যাক্সেসিবিলিটি অ্যাপ টকব্যাক দৃষ্টি প্রতিবন্ধী ব্যবহারকারীদের জন্য চিত্রের বর্ণনা উন্নত করতে জেমিনি ন্যানো-এর মাল্টিমোডাল ইনপুট ক্ষমতাগুলিকে কাজে লাগায়৷
• পিক্সেল ভয়েস রেকর্ডার: পিক্সেল ভয়েস রেকর্ডার অ্যাপটি একটি ডিভাইসের সংক্ষিপ্তকরণ বৈশিষ্ট্যকে পাওয়ার জন্য জেমিনি ন্যানো এবং AICore ব্যবহার করে। রেকর্ডার দলটি দীর্ঘ রেকর্ডিং সমর্থন করার জন্য সর্বশেষ জেমিনি ন্যানো মডেল গ্রহণ করেছে এবং উচ্চ মানের সারাংশ সরবরাহ করেছে।
• Gboard: Gboard স্মার্ট রিপ্লাই সঠিক স্মার্ট উত্তর প্রদান করতে AICore-এর সাথে ডিভাইসে জেমিনি ন্যানো ব্যবহার করে।