Google AI Edge SDK

গুগল এআই এজ এসডিকে জেমিনি ন্যানোর মাধ্যমে ডিভাইসে থাকা এআই ক্ষমতা ব্যবহার করে তাদের অ্যাপের বর্ধিতকরণ পরীক্ষা করার জন্য ডেভেলপারদের পরীক্ষামূলক অ্যাক্সেসের অনুমতি দেয়।

AICore এর মাধ্যমে স্থাপত্য

একটি সিস্টেম-স্তরের মডিউল হিসেবে, আপনি ডিভাইসে ইনফারেন্স চালানোর জন্য API-এর একটি সিরিজের মাধ্যমে AICore অ্যাক্সেস করতে পারেন। এছাড়াও, AICore-এ বেশ কয়েকটি অন্তর্নির্মিত সুরক্ষা বৈশিষ্ট্য রয়েছে, যা আমাদের সুরক্ষা ফিল্টারগুলির বিরুদ্ধে একটি পুঙ্খানুপুঙ্খ মূল্যায়ন নিশ্চিত করে। নিম্নলিখিত চিত্রটি কীভাবে একটি অ্যাপ ডিভাইসে জেমিনি ন্যানো চালানোর জন্য AICore অ্যাক্সেস করে তা রূপরেখা দেয়।

গুগল এআই এজ এসডিকে, এআইকোর এবং জেমিনি ন্যানো।
চিত্র ১. গুগল এআই এজ এসডিকে, এআইকোর এবং জেমিনি ন্যানো।

ব্যবহারকারীর তথ্য গোপন এবং সুরক্ষিত রাখুন

অন-ডিভাইস জেনারেটিভ এআই স্থানীয়ভাবে প্রম্পট কার্যকর করে, সার্ভার কলগুলি দূর করে। এই পদ্ধতিটি ডিভাইসে সংবেদনশীল ডেটা রেখে গোপনীয়তা বৃদ্ধি করে, অফলাইন কার্যকারিতা সক্ষম করে এবং অনুমান খরচ হ্রাস করে।

AICore নিম্নলিখিত মূল বৈশিষ্ট্যগুলি সহ প্রাইভেট কম্পিউট কোর নীতিগুলি মেনে চলে:

  • সীমাবদ্ধ প্যাকেজ বাইন্ডিং : AICore অন্যান্য বেশিরভাগ প্যাকেজ থেকে আলাদা, নির্দিষ্ট সিস্টেম প্যাকেজের জন্য সীমিত ব্যতিক্রম ছাড়া। এই অনুমোদিত তালিকায় যেকোনো পরিবর্তন শুধুমাত্র একটি সম্পূর্ণ Android OTA আপডেটের সময়ই ঘটতে পারে।
  • পরোক্ষ ইন্টারনেট অ্যাক্সেস : AICore-এর সরাসরি ইন্টারনেট অ্যাক্সেস নেই। মডেল ডাউনলোড সহ সমস্ত ইন্টারনেট অনুরোধ ওপেন-সোর্স প্রাইভেট কম্পিউট সার্ভিসেস কম্প্যানিয়ন APK-এর মাধ্যমে পাঠানো হয়। প্রাইভেট কম্পিউট সার্ভিসেসের মধ্যে থাকা API গুলিকে স্পষ্টভাবে তাদের গোপনীয়তা-কেন্দ্রিক প্রকৃতি প্রদর্শন করতে হবে।

উপরন্তু, AICore প্রতিটি অনুরোধকে আলাদা করার জন্য তৈরি করা হয়েছে এবং ব্যবহারকারীর গোপনীয়তা রক্ষা করার জন্য ইনপুট ডেটা বা প্রক্রিয়াকরণের পরে প্রাপ্ত আউটপুটগুলির কোনও রেকর্ড সংরক্ষণ করে না। আরও জানতে "জেমিনি ন্যানোর গোপনীয়তা এবং সুরক্ষার ভূমিকা" ব্লগ পোস্টটি পড়ুন।

AICore স্থাপত্যের চিত্রণ
চিত্র ২। AICore স্থাপত্য

AICore-এর মাধ্যমে AI ফাউন্ডেশন মডেলগুলি অ্যাক্সেস করার সুবিধা

AICore অ্যান্ড্রয়েড অপারেটিং সিস্টেমকে AI ফাউন্ডেশন মডেল সরবরাহ এবং পরিচালনা করতে সক্ষম করে। এটি আপনার অ্যাপে এই বৃহৎ মডেলগুলি ব্যবহারের খরচ উল্লেখযোগ্যভাবে হ্রাস করে, মূলত নিম্নলিখিত কারণে:

  • স্থাপনার সহজতা : AICore জেমিনি ন্যানোর বিতরণ পরিচালনা করে এবং ভবিষ্যতের আপডেটগুলি পরিচালনা করে। নেটওয়ার্কের মাধ্যমে বড় মডেলগুলি ডাউনলোড বা আপডেট করার বিষয়ে আপনাকে চিন্তা করতে হবে না, অথবা আপনার অ্যাপের ডিস্ক এবং রানটাইম মেমোরি বাজেটের উপর প্রভাব ফেলবে না।
  • ত্বরিত অনুমান : AICore অনুমান ত্বরান্বিত করার জন্য ডিভাইসের হার্ডওয়্যার ব্যবহার করে। আপনার অ্যাপটি প্রতিটি ডিভাইসে সেরা পারফরম্যান্স পায় এবং আপনাকে অন্তর্নিহিত হার্ডওয়্যার ইন্টারফেস সম্পর্কে চিন্তা করতে হবে না।

সমর্থিত কার্যকারিতা

  • সমর্থিত ডিভাইস : গুগল এআই এজ এসডিকে সহ জেমিনি ন্যানো পিক্সেল ৯ সিরিজের ডিভাইসগুলিতে পরীক্ষার জন্য উপলব্ধ।
  • সমর্থিত মোডালিটি : AICore জেমিনি ন্যানোর জন্য টেক্সট মোডালিটি সমর্থন করে।

অতিরিক্ত ডিভাইস এবং মোডালিটি সাপোর্ট সক্রিয় বিনিয়োগের ক্ষেত্র।

ব্যবহারের ক্ষেত্রে

ক্লাউড সার্ভারের তুলনায় মোবাইল ডিভাইসের রিসোর্সের সীমাবদ্ধতার কারণে, অন-ডিভাইস জেনারেটিভ এআই মডেলগুলি দক্ষতা এবং আকারের উপর জোর দিয়ে ডিজাইন করা হয়েছে। এই অপ্টিমাইজেশনটি আরও সাধারণ অ্যাপ্লিকেশনের চেয়ে নির্দিষ্ট, সুনির্দিষ্ট কাজগুলিকে অগ্রাধিকার দেয়। উপযুক্ত ব্যবহারের ক্ষেত্রে অন্তর্ভুক্ত:

  • টেক্সট রিফ্রেজিং : টেক্সটের স্বর এবং স্টাইল পরিবর্তন করুন (যেমন, ক্যাজুয়াল থেকে ফর্মাল)।
  • স্মার্ট রিপ্লাই : একটি চ্যাট থ্রেডের মধ্যে প্রাসঙ্গিকভাবে প্রাসঙ্গিক প্রতিক্রিয়া তৈরি করুন।
  • প্রুফরিডিং : বানান এবং ব্যাকরণগত ত্রুটিগুলি সনাক্ত করুন এবং সংশোধন করুন।
  • সারসংক্ষেপ : দীর্ঘ নথিগুলিকে সংক্ষিপ্ত সারসংক্ষেপে (অনুচ্ছেদ বা বুলেট পয়েন্ট) রূপান্তর করুন।

সর্বোত্তম কর্মক্ষমতার জন্য, প্রম্পটিং কৌশল ডকুমেন্টেশন দেখুন।

জেমিনি ন্যানো বেশ কয়েকটি গুগল অ্যাপ ব্যবহার করে। এর কিছু উদাহরণ হল:

  • টকব্যাক: অ্যান্ড্রয়েডের অ্যাক্সেসিবিলিটি অ্যাপ টকব্যাক দৃষ্টি প্রতিবন্ধী ব্যবহারকারীদের জন্য ছবির বর্ণনা উন্নত করতে জেমিনি ন্যানোর মাল্টিমোডাল ইনপুট ক্ষমতা ব্যবহার করে।
  • পিক্সেল ভয়েস রেকর্ডার: পিক্সেল ভয়েস রেকর্ডার অ্যাপটি ডিভাইসে সারসংক্ষেপণ বৈশিষ্ট্যটি শক্তিশালী করার জন্য জেমিনি ন্যানো এবং AICore ব্যবহার করে। রেকর্ডার টিম দীর্ঘ রেকর্ডিং সমর্থন করার জন্য এবং উচ্চমানের সারসংক্ষেপ সরবরাহ করার জন্য সর্বশেষ জেমিনি ন্যানো মডেলটি গ্রহণ করেছে।
  • জিবোর্ড: জিবোর্ড স্মার্ট রিপ্লাই সঠিক স্মার্ট উত্তর প্রদানের জন্য AICore-এর সাথে ডিভাইসে থাকা জেমিনি ন্যানো ব্যবহার করে।