Android पर Firebase की पुष्टि और फ़ंक्शन का इस्तेमाल करके, Cloud Vision की मदद से इमेज में मौजूद टेक्स्ट की पहचान करें

अपने ऐप्लिकेशन से Google Cloud API को कॉल करने के लिए, आपको एक इंटरमीडिएट REST API बनाना होगा. यह एपीआई, अनुमति देने की प्रोसेस को मैनेज करता है. साथ ही, एपीआई पासकोड जैसी सीक्रेट वैल्यू को सुरक्षित रखता है. इसके बाद, आपको अपने मोबाइल ऐप्लिकेशन में कोड लिखना होगा, ताकि इस इंटरमीडिएट सेवा को पुष्टि की जा सके और इससे कम्यूनिकेट किया जा सके.

इस REST API को बनाने का एक तरीका यह है कि Firebase Authentication और Functions का इस्तेमाल किया जाए. इससे आपको Google Cloud API के लिए, मैनेज किया गया सर्वरलेस गेटवे मिलता है. यह गेटवे, अनुमति देने की प्रोसेस को मैनेज करता है. साथ ही, इसे पहले से बने एसडीके की मदद से, आपके मोबाइल ऐप्लिकेशन से कॉल किया जा सकता है.

इस गाइड में, इस तकनीक का इस्तेमाल करके अपने ऐप्लिकेशन से Cloud Vision API को कॉल करने का तरीका बताया गया है. इस तरीके से, सभी पुष्टि किए गए उपयोगकर्ता, आपके Cloud प्रोजेक्ट के ज़रिए, Cloud Vision की बिल की जाने वाली सेवाओं को ऐक्सेस कर पाएंगे, इसलिए आगे बढ़ने से पहले यह तय कर लें कि आपके इस्तेमाल के उदाहरण के लिए, अनुमति देने का यह तरीका सही है या नहीं.

शुरू करने से पहले

अपना प्रोजेक्ट कॉन्फ़िगर करना

  1. अगर आपने पहले से ही, अपने Android प्रोजेक्ट में Firebase नहीं जोड़ा है.

  2. अगर आपने अपने प्रोजेक्ट के लिए, क्लाउड पर आधारित एपीआई को पहले से चालू नहीं किया है, तो अब ऐसा करें:

    1. Firebase कंसोल में, Firebase ML API वाला पेज खोलें.

    2. अगर आपने अपने प्रोजेक्ट को, इस्तेमाल के हिसाब से पैसे चुकाने वाले Blaze प्लान में अपग्रेड नहीं किया है, तो ऐसा करने के लिए अपग्रेड करें पर क्लिक करें. आपको अपग्रेड करने के लिए सिर्फ़ तब कहा जाएगा, जब आपका प्रोजेक्ट Blaze प्लान पर नहीं होगा.

      सिर्फ़ Blaze प्लान वाले प्रोजेक्ट, क्लाउड पर आधारित एपीआई का इस्तेमाल कर सकते हैं.

    3. अगर क्लाउड पर आधारित एपीआई पहले से चालू नहीं हैं, तो क्लाउड पर आधारित एपीआई चालू करें पर क्लिक करें.
  3. Cloud Vision API:
      को ऐक्सेस करने की अनुमति न देने के लिए, अपने मौजूदा Firebase API पासकोड कॉन्फ़िगर करें:
    1. Cloud Console का क्रेडेंशियल पेज खोलें.
    2. सूची में मौजूद हर एपीआई पासकोड के लिए, बदलाव करने वाला व्यू खोलें. इसके बाद, पासकोड की पाबंदियां वाले सेक्शन में, सूची में मौजूद सभी एपीआई जोड़ें. हालांकि, इसमें Cloud Vision API को शामिल न करें.

कॉल किए जा सकने वाले फ़ंक्शन को डिप्लॉय करना

इसके बाद, वह Cloud फ़ंक्शन डिप्लॉय करें जिसका इस्तेमाल, अपने ऐप्लिकेशन और Cloud Vision API के बीच ब्रिज बनाने के लिए किया जाएगा. functions-samples रिपॉज़िटरी में, एक उदाहरण दिया गया है . इसका इस्तेमाल किया जा सकता है.

डिफ़ॉल्ट रूप से, इस फ़ंक्शन के ज़रिए Cloud Vision API को ऐक्सेस करने पर, सिर्फ़ आपके ऐप्लिकेशन के पुष्टि किए गए उपयोगकर्ता ही Cloud Vision API को ऐक्सेस कर पाएंगे. अलग-अलग ज़रूरतों के हिसाब से, फ़ंक्शन में बदलाव किया जा सकता है.

फ़ंक्शन को डिप्लॉय करने के लिए:

  1. functions-samples repo को क्लोन करें या डाउनलोड करें. इसके बाद, Node-1st-gen/vision-annotate-image डायरेक्ट्री पर जाएं: 
    git clone https://github.com/firebase/functions-samples
cd Node-1st-gen/vision-annotate-image
  2. डिपेंडेंसी इंस्टॉल करें: 
    cd functions
npm install
cd ..
  3. अगर आपके पास Firebase CLI नहीं है, तो इसे इंस्टॉल करें.
  4. vision-annotate-image डायरेक्ट्री में, Firebase प्रोजेक्ट शुरू करें. पूछे जाने पर, सूची में अपना प्रोजेक्ट चुनें. 
    firebase init
  5. फ़ंक्शन को डिप्लॉय करें: 
    firebase deploy --only functions:annotateImage

अपने ऐप्लिकेशन में Firebase Auth जोड़ना

ऊपर डिप्लॉय किया गया कॉल किया जा सकने वाला फ़ंक्शन, आपके ऐप्लिकेशन के उन उपयोगकर्ताओं के किसी भी अनुरोध को अस्वीकार कर देगा जिनकी पुष्टि नहीं की गई है. अगर आपने ऐसा नहीं किया है, तो आपको अपने ऐप्लिकेशन में Firebase Auth जोड़ना होगा.

अपने ऐप्लिकेशन में ज़रूरी डिपेंडेंसी जोड़ना

  • अपने मॉड्यूल (ऐप्लिकेशन-लेवल) की Gradle फ़ाइल (आम तौर पर <project>/<app-module>/build.gradle.kts या <project>/<app-module>/build.gradle) में, Firebase (क्लाइंट) और gson Android लाइब्रेरी के लिए, Cloud Functions की डिपेंडेंसी जोड़ें: 
    implementation("com.google.firebase:firebase-functions:22.1.1")
implementation("com.google.code.gson:gson:2.8.6")

    • अब इमेज में टेक्स्ट की पहचान की जा सकती है.

    1. इनपुट इमेज तैयार करना

    Cloud Vision को कॉल करने के लिए, इमेज को base64 कोड में बदली गई स्ट्रिंग के तौर पर फ़ॉर्मैट किया जाना चाहिए. सेव की गई फ़ाइल के यूआरआई से इमेज प्रोसेस करने के लिए:
    1. इमेज को Bitmap ऑब्जेक्ट के तौर पर पाएं:

      Kotlin

      var bitmap: Bitmap = MediaStore.Images.Media.getBitmap(contentResolver, uri)

      Java

      Bitmap bitmap = MediaStore.Images.Media.getBitmap(getContentResolver(), uri);
    2. ज़रूरत पड़ने पर, बैंडविथ बचाने के लिए इमेज को छोटा करें. Cloud Vision के लिए, सुझाए गए इमेज साइज़ देखें.

      Kotlin

      private fun scaleBitmapDown(bitmap: Bitmap, maxDimension: Int): Bitmap {
    val originalWidth = bitmap.width
    val originalHeight = bitmap.height
    var resizedWidth = maxDimension
    var resizedHeight = maxDimension
    if (originalHeight > originalWidth) {
        resizedHeight = maxDimension
        resizedWidth =
            (resizedHeight * originalWidth.toFloat() / originalHeight.toFloat()).toInt()
    } else if (originalWidth > originalHeight) {
        resizedWidth = maxDimension
        resizedHeight =
            (resizedWidth * originalHeight.toFloat() / originalWidth.toFloat()).toInt()
    } else if (originalHeight == originalWidth) {
        resizedHeight = maxDimension
        resizedWidth = maxDimension
    }
    return Bitmap.createScaledBitmap(bitmap, resizedWidth, resizedHeight, false)
}

      Java

      private Bitmap scaleBitmapDown(Bitmap bitmap, int maxDimension) {
    int originalWidth = bitmap.getWidth();
    int originalHeight = bitmap.getHeight();
    int resizedWidth = maxDimension;
    int resizedHeight = maxDimension;

    if (originalHeight > originalWidth) {
        resizedHeight = maxDimension;
        resizedWidth = (int) (resizedHeight * (float) originalWidth / (float) originalHeight);
    } else if (originalWidth > originalHeight) {
        resizedWidth = maxDimension;
        resizedHeight = (int) (resizedWidth * (float) originalHeight / (float) originalWidth);
    } else if (originalHeight == originalWidth) {
        resizedHeight = maxDimension;
        resizedWidth = maxDimension;
    }
    return Bitmap.createScaledBitmap(bitmap, resizedWidth, resizedHeight, false);
}

      Kotlin

      // Scale down bitmap size
bitmap = scaleBitmapDown(bitmap, 640)

      Java

      // Scale down bitmap size
bitmap = scaleBitmapDown(bitmap, 640);
    3. बिटमैप ऑब्जेक्ट को base64 कोड में बदली गई स्ट्रिंग में बदलें:

      Kotlin

      // Convert bitmap to base64 encoded string
val byteArrayOutputStream = ByteArrayOutputStream()
bitmap.compress(Bitmap.CompressFormat.JPEG, 100, byteArrayOutputStream)
val imageBytes: ByteArray = byteArrayOutputStream.toByteArray()
val base64encoded = Base64.encodeToString(imageBytes, Base64.NO_WRAP)

      Java

      // Convert bitmap to base64 encoded string
ByteArrayOutputStream byteArrayOutputStream = new ByteArrayOutputStream();
bitmap.compress(Bitmap.CompressFormat.JPEG, 100, byteArrayOutputStream);
byte[] imageBytes = byteArrayOutputStream.toByteArray();
String base64encoded = Base64.encodeToString(imageBytes, Base64.NO_WRAP);
      4. Bitmap ऑब्जेक्ट से दिखाई जाने वाली इमेज सीधी होनी चाहिए. इसके लिए, उसे घुमाने की ज़रूरत नहीं होनी चाहिए.

    2. टेक्स्ट की पहचान करने के लिए, कॉल किए जा सकने वाले फ़ंक्शन को लागू करना

    किसी इमेज में टेक्स्ट की पहचान करने के लिए, कॉल किए जा सकने वाले फ़ंक्शन को लागू करें. इसके लिए, a JSON Cloud Vision का अनुरोध पास करें.

    1. सबसे पहले, Cloud Functions का कोई इंस्टेंस शुरू करें:

      Kotlin 

      private lateinit var functions: FirebaseFunctions
// ...
functions = Firebase.functions

      Java 

      private FirebaseFunctions mFunctions;
// ...
mFunctions = FirebaseFunctions.getInstance();

    2. फ़ंक्शन को लागू करने के लिए कोई तरीका तय करें:

      Kotlin 

      private fun annotateImage(requestJson: String): Task<JsonElement> {
    return functions
        .getHttpsCallable("annotateImage")
        .call(requestJson)
        .continueWith { task ->
            // This continuation runs on either success or failure, but if the task
            // has failed then result will throw an Exception which will be
            // propagated down.
            val result = task.result?.data
            JsonParser.parseString(Gson().toJson(result))
        }
}

      Java 

      private Task<JsonElement> annotateImage(String requestJson) {
    return mFunctions
            .getHttpsCallable("annotateImage")
            .call(requestJson)
            .continueWith(new Continuation<HttpsCallableResult, JsonElement>() {
                @Override
                public JsonElement then(@NonNull Task<HttpsCallableResult> task) {
                    // This continuation runs on either success or failure, but if the task
                    // has failed then getResult() will throw an Exception which will be
                    // propagated down.
                    return JsonParser.parseString(new Gson().toJson(task.getResult().getData()));
                }
            });
}

    3. JSON अनुरोध बनाएं. Cloud Vision API, टेक्स्ट की पहचान करने के दो तरीके इस्तेमाल करता है: TEXT_DETECTION और DOCUMENT_TEXT_DETECTION. इन दोनों तरीकों के बीच का अंतर जानने के लिए, Cloud Vision OCR के दस्तावेज़ देखें.

      Kotlin 

      // Create json request to cloud vision
val request = JsonObject()
// Add image to request
val image = JsonObject()
image.add("content", JsonPrimitive(base64encoded))
request.add("image", image)
// Add features to the request
val feature = JsonObject()
feature.add("type", JsonPrimitive("TEXT_DETECTION"))
// Alternatively, for DOCUMENT_TEXT_DETECTION:
// feature.add("type", JsonPrimitive("DOCUMENT_TEXT_DETECTION"))
val features = JsonArray()
features.add(feature)
request.add("features", features)

      Java 

      // Create json request to cloud vision
JsonObject request = new JsonObject();
// Add image to request
JsonObject image = new JsonObject();
image.add("content", new JsonPrimitive(base64encoded));
request.add("image", image);
//Add features to the request
JsonObject feature = new JsonObject();
feature.add("type", new JsonPrimitive("TEXT_DETECTION"));
// Alternatively, for DOCUMENT_TEXT_DETECTION:
//feature.add("type", new JsonPrimitive("DOCUMENT_TEXT_DETECTION"));
JsonArray features = new JsonArray();
features.add(feature);
request.add("features", features);

      ज़रूरत पड़ने पर, भाषा का पता लगाने में मदद करने के लिए, भाषा के हिंट दें (इस्तेमाल की जा सकने वाली भाषाएं देखें):

      Kotlin 

      val imageContext = JsonObject()
val languageHints = JsonArray()
languageHints.add("en")
imageContext.add("languageHints", languageHints)
request.add("imageContext", imageContext)

      Java 

      JsonObject imageContext = new JsonObject();
JsonArray languageHints = new JsonArray();
languageHints.add("en");
imageContext.add("languageHints", languageHints);
request.add("imageContext", imageContext);

    4. आखिर में, फ़ंक्शन को लागू करें:

      Kotlin 

      annotateImage(request.toString())
    .addOnCompleteListener { task ->
        if (!task.isSuccessful) {
            // Task failed with an exception
            // ...
        } else {
            // Task completed successfully
            // ...
        }
    }

      Java 

      annotateImage(request.toString())
        .addOnCompleteListener(new OnCompleteListener<JsonElement>() {
            @Override
            public void onComplete(@NonNull Task<JsonElement> task) {
                if (!task.isSuccessful()) {
                    // Task failed with an exception
                    // ...
                } else {
                    // Task completed successfully
                    // ...
                }
            }
        });

    3. पहचाने गए टेक्स्ट के ब्लॉक से टेक्स्ट निकालना

    अगर टेक्स्ट की पहचान करने की प्रोसेस पूरी हो जाती है, तो टास्क के नतीजे में, BatchAnnotateImagesResponse का JSON रिस्पॉन्स मिलेगा. टेक्स्ट के एनोटेशन, fullTextAnnotation ऑब्जेक्ट में देखे जा सकते हैं.

    text फ़ील्ड में, पहचाने गए टेक्स्ट को स्ट्रिंग के तौर पर पाया जा सकता है. उदाहरण के लिए:

    Kotlin 

    val annotation = task.result!!.asJsonArray[0].asJsonObject["fullTextAnnotation"].asJsonObject
System.out.format("%nComplete annotation:")
System.out.format("%n%s", annotation["text"].asString)

    Java 

    JsonObject annotation = task.getResult().getAsJsonArray().get(0).getAsJsonObject().get("fullTextAnnotation").getAsJsonObject();
System.out.format("%nComplete annotation:%n");
System.out.format("%s%n", annotation.get("text").getAsString());

    इमेज के अलग-अलग हिस्सों के बारे में भी जानकारी पाई जा सकती है. हर block, paragraph, word, और symbol के लिए, उस हिस्से में पहचाना गया टेक्स्ट और उस हिस्से के बाउंडिंग कोऑर्डिनेट पाए जा सकते हैं. उदाहरण के लिए:

    Kotlin 

    for (page in annotation["pages"].asJsonArray) {
    var pageText = ""
    for (block in page.asJsonObject["blocks"].asJsonArray) {
        var blockText = ""
        for (para in block.asJsonObject["paragraphs"].asJsonArray) {
            var paraText = ""
            for (word in para.asJsonObject["words"].asJsonArray) {
                var wordText = ""
                for (symbol in word.asJsonObject["symbols"].asJsonArray) {
                    wordText += symbol.asJsonObject["text"].asString
                    System.out.format(
                        "Symbol text: %s (confidence: %f)%n",
                        symbol.asJsonObject["text"].asString,
                        symbol.asJsonObject["confidence"].asFloat,
                    )
                }
                System.out.format(
                    "Word text: %s (confidence: %f)%n%n",
                    wordText,
                    word.asJsonObject["confidence"].asFloat,
                )
                System.out.format("Word bounding box: %s%n", word.asJsonObject["boundingBox"])
                paraText = String.format("%s%s ", paraText, wordText)
            }
            System.out.format("%nParagraph: %n%s%n", paraText)
            System.out.format("Paragraph bounding box: %s%n", para.asJsonObject["boundingBox"])
            System.out.format("Paragraph Confidence: %f%n", para.asJsonObject["confidence"].asFloat)
            blockText += paraText
        }
        pageText += blockText
    }
}

    Java 

    for (JsonElement page : annotation.get("pages").getAsJsonArray()) {
    StringBuilder pageText = new StringBuilder();
    for (JsonElement block : page.getAsJsonObject().get("blocks").getAsJsonArray()) {
        StringBuilder blockText = new StringBuilder();
        for (JsonElement para : block.getAsJsonObject().get("paragraphs").getAsJsonArray()) {
            StringBuilder paraText = new StringBuilder();
            for (JsonElement word : para.getAsJsonObject().get("words").getAsJsonArray()) {
                StringBuilder wordText = new StringBuilder();
                for (JsonElement symbol : word.getAsJsonObject().get("symbols").getAsJsonArray()) {
                    wordText.append(symbol.getAsJsonObject().get("text").getAsString());
                    System.out.format("Symbol text: %s (confidence: %f)%n", symbol.getAsJsonObject().get("text").getAsString(), symbol.getAsJsonObject().get("confidence").getAsFloat());
                }
                System.out.format("Word text: %s (confidence: %f)%n%n", wordText.toString(), word.getAsJsonObject().get("confidence").getAsFloat());
                System.out.format("Word bounding box: %s%n", word.getAsJsonObject().get("boundingBox"));
                paraText.append(wordText.toString()).append(" ");
            }
            System.out.format("%nParagraph:%n%s%n", paraText);
            System.out.format("Paragraph bounding box: %s%n", para.getAsJsonObject().get("boundingBox"));
            System.out.format("Paragraph Confidence: %f%n", para.getAsJsonObject().get("confidence").getAsFloat());
            blockText.append(paraText);
        }
        pageText.append(blockText);
    }
}