Google AI Edge SDK

Google AI Edge SDK ডেভেলপারদের জন্য পরীক্ষামূলক অ্যাক্সেসের অনুমতি দেয় যারা জেমিনি ন্যানো-এর মাধ্যমে ডিভাইসে AI সক্ষমতা সহ তাদের অ্যাপের উন্নতি পরীক্ষা করতে চায়।

AICore এর মাধ্যমে আর্কিটেকচার

একটি সিস্টেম-স্তরের মডিউল হিসাবে, আপনি ডিভাইসে অনুমান চালানোর জন্য API-এর একটি সিরিজের মাধ্যমে AICore অ্যাক্সেস করেন। এছাড়াও, AICore-এর বেশ কিছু অন্তর্নির্মিত নিরাপত্তা বৈশিষ্ট্য রয়েছে, যা আমাদের নিরাপত্তা ফিল্টারগুলির বিরুদ্ধে পুঙ্খানুপুঙ্খ মূল্যায়ন নিশ্চিত করে। নিচের চিত্রে দেখানো হয়েছে যে কীভাবে একটি অ্যাপ AICore অ্যাক্সেস করে জেমিনি ন্যানো ডিভাইসে চালানোর জন্য।

Google AI Edge SDK, AICore, এবং Gemini Nano.
চিত্র 1. Google AI Edge SDK, AICore, এবং Gemini Nano.

ব্যবহারকারীর ডেটা গোপন ও সুরক্ষিত রাখুন

অন-ডিভাইস জেনারেটিভ এআই স্থানীয়ভাবে প্রম্পট চালায়, সার্ভার কলগুলিকে দূর করে। এই পদ্ধতিটি ডিভাইসে সংবেদনশীল ডেটা রেখে গোপনীয়তা বাড়ায়, অফলাইন কার্যকারিতা সক্ষম করে এবং অনুমান খরচ কমায়।

AICore নিম্নলিখিত মূল বৈশিষ্ট্যগুলির সাথে ব্যক্তিগত কম্পিউট মূল নীতিগুলি মেনে চলে:

  • সীমাবদ্ধ প্যাকেজ বাইন্ডিং : নির্দিষ্ট সিস্টেম প্যাকেজগুলির জন্য সীমিত ব্যতিক্রম সহ AICore অন্যান্য প্যাকেজগুলি থেকে বিচ্ছিন্ন। এই অনুমোদিত তালিকার যেকোনো পরিবর্তন শুধুমাত্র সম্পূর্ণ Android OTA আপডেটের সময় ঘটতে পারে।
  • পরোক্ষ ইন্টারনেট অ্যাক্সেস : AICore-এর সরাসরি ইন্টারনেট অ্যাক্সেস নেই। মডেল ডাউনলোড সহ সমস্ত ইন্টারনেট অনুরোধ, ওপেন-সোর্স প্রাইভেট কম্পিউট সার্ভিসের সহচর APK-এর মাধ্যমে রুট করা হয়। প্রাইভেট কম্পিউট সার্ভিসের মধ্যে API গুলিকে তাদের গোপনীয়তা-কেন্দ্রিক প্রকৃতি স্পষ্টভাবে প্রদর্শন করতে হবে।

অতিরিক্তভাবে, AICore প্রতিটি অনুরোধকে বিচ্ছিন্ন করার জন্য তৈরি করা হয়েছে এবং ব্যবহারকারীর গোপনীয়তা রক্ষা করার জন্য ইনপুট ডেটা বা ফলস্বরূপ আউটপুটগুলির কোনও রেকর্ড সংরক্ষণ করে না। আরও জানতে জেমিনি ন্যানো-এর জন্য গোপনীয়তা এবং নিরাপত্তার একটি ভূমিকা ব্লগ পোস্টটি পড়ুন।

AICore আর্কিটেকচারের চিত্র
চিত্র 2. AICore আর্কিটেকচার

AICore এর সাথে AI ফাউন্ডেশন মডেল অ্যাক্সেস করার সুবিধা

AICore Android OS কে AI ফাউন্ডেশন মডেল প্রদান ও পরিচালনা করতে সক্ষম করে। এটি আপনার অ্যাপে এই বড় মডেলগুলি ব্যবহার করার খরচ উল্লেখযোগ্যভাবে হ্রাস করে, প্রধানত নিম্নলিখিত কারণে:

  • স্থাপনের সহজতা : AICore জেমিনি ন্যানো বিতরণ পরিচালনা করে এবং ভবিষ্যতের আপডেটগুলি পরিচালনা করে। আপনাকে নেটওয়ার্কের মাধ্যমে বড় মডেলগুলি ডাউনলোড বা আপডেট করার বিষয়ে চিন্তা করতে হবে না, বা আপনার অ্যাপের ডিস্ক এবং রানটাইম মেমরি বাজেটের উপর প্রভাব ফেলবে না।
  • ত্বরিত অনুমান : AICore অনুমানকে ত্বরান্বিত করতে ডিভাইসে হার্ডওয়্যারের সুবিধা দেয়। আপনার অ্যাপটি প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পায় এবং আপনাকে অন্তর্নিহিত হার্ডওয়্যার ইন্টারফেস সম্পর্কে চিন্তা করতে হবে না।

সমর্থিত কার্যকারিতা

  • সমর্থিত ডিভাইস : Google AI Edge SDK সহ Gemini Nano Pixel 9 সিরিজের ডিভাইসে পরীক্ষা-নিরীক্ষার জন্য উপলব্ধ।
  • সমর্থিত পদ্ধতি : AICore জেমিনি ন্যানো-এর জন্য টেক্সট মোডালিটি সমর্থন করে।

অতিরিক্ত ডিভাইস এবং পদ্ধতি সমর্থন সক্রিয় বিনিয়োগের ক্ষেত্র।

কেস ব্যবহার করুন

ক্লাউড সার্ভারের তুলনায় মোবাইল ডিভাইসের রিসোর্স সীমাবদ্ধতার কারণে, অন-ডিভাইস জেনারেটিভ এআই মডেলগুলি দক্ষতা এবং আকারের উপর ফোকাস করে ডিজাইন করা হয়েছে। এই অপ্টিমাইজেশানটি আরও সাধারণীকৃত অ্যাপ্লিকেশনগুলির তুলনায় নির্দিষ্ট, সু-সংজ্ঞায়িত কাজগুলিকে অগ্রাধিকার দেয়৷ উপযুক্ত ব্যবহারের ক্ষেত্রে অন্তর্ভুক্ত:

  • টেক্সট রিফ্রেসিং : টেক্সটের টোন এবং স্টাইল পরিবর্তন করুন (যেমন, নৈমিত্তিক থেকে আনুষ্ঠানিক)।
  • স্মার্ট উত্তর : একটি চ্যাট থ্রেডের মধ্যে প্রাসঙ্গিকভাবে প্রাসঙ্গিক প্রতিক্রিয়া তৈরি করুন।
  • প্রুফরিডিং : বানান এবং ব্যাকরণগত ত্রুটি সনাক্ত করুন এবং সংশোধন করুন।
  • সংক্ষিপ্তকরণ : দীর্ঘ নথিকে সংক্ষিপ্ত সারাংশে সংকুচিত করুন (অনুচ্ছেদ বা বুলেট পয়েন্ট)।

সর্বোত্তম কর্মক্ষমতা জন্য, প্রম্পটিং কৌশল ডকুমেন্টেশন পড়ুন. এই ব্যবহারের ক্ষেত্রে সরাসরি অন্বেষণ করতে, আমাদের নমুনা অ্যাপ ডাউনলোড করুন এবং জেমিনি ন্যানো নিয়ে পরীক্ষা শুরু করুন।

জেমিনি ন্যানো বেশ কয়েকটি Google অ্যাপ ব্যবহার করে। কিছু উদাহরণ অন্তর্ভুক্ত:

  • টকব্যাক: অ্যান্ড্রয়েডের অ্যাক্সেসিবিলিটি অ্যাপ টকব্যাক দৃষ্টি প্রতিবন্ধী ব্যবহারকারীদের জন্য চিত্রের বর্ণনা উন্নত করতে জেমিনি ন্যানো-এর মাল্টিমোডাল ইনপুট ক্ষমতাগুলিকে কাজে লাগায়৷
  • পিক্সেল ভয়েস রেকর্ডার: পিক্সেল ভয়েস রেকর্ডার অ্যাপটি একটি ডিভাইসের সংক্ষিপ্তকরণ বৈশিষ্ট্যকে পাওয়ার জন্য জেমিনি ন্যানো এবং AICore ব্যবহার করে। রেকর্ডার দলটি দীর্ঘ রেকর্ডিং সমর্থন করার জন্য সর্বশেষ জেমিনি ন্যানো মডেল গ্রহণ করেছে এবং উচ্চ মানের সারাংশ সরবরাহ করেছে।
  • Gboard: Gboard স্মার্ট রিপ্লাই সঠিক স্মার্ট উত্তর প্রদান করতে AICore-এর সাথে ডিভাইসে জেমিনি ন্যানো ব্যবহার করে।