Computer >> कंप्यूटर ट्यूटोरियल >  >> प्रोग्रामिंग >> Python

Boto3 का उपयोग करके AWS Glue में मौजूद सभी ट्रिगर्स के माध्यम से पेजिनेट करना


समस्या कथन: आपके खाते में बनाए गए AWS Glue Data Catalog से सभी ट्रिगर्स के माध्यम से पेजिनेट करने के लिए पायथन में boto3 लाइब्रेरी का उपयोग करें।

समस्या हल करने का दृष्टिकोण/एल्गोरिदम

  • चरण 1: boto3 और botocore एक्सेप्शन आयात करें ताकि एक्सेप्शन संभाले जा सकें।

  • चरण 2: max_items, page_size और starting_token इस फ़ंक्शन के लिए वैकल्पिक पैरामीटर हैं।

    • max_items वापस लौटने वाले कुल रिकॉर्ड की संख्या दर्शाता है। यदि उपलब्ध रिकॉर्ड की संख्या > max_items, तो पेजिनेशन फिर से शुरू करने के लिए रिस्पांस में NextToken प्रदान किया जाएगा।

    • page_size प्रत्येक पृष्ठ का आकार दर्शाता है।

    • starting_token पेजिनेट करने में मदद करता है, और यह पिछले रिस्पांस से NextToken का उपयोग करता है।

  • चरण 3: boto3 लाइब्रेरी का उपयोग करके AWS सत्र बनाएं। सुनिश्चित करें कि डिफ़ॉल्ट प्रोफ़ाइल में region_name उल्लिखित है। यदि नहीं, तो सत्र बनाते समय स्पष्ट रूप से region_name पास करें।

  • चरण 4: Glue के लिए AWS क्लाइंट बनाएं।

  • चरण 5: get_triggers का उपयोग करके सभी ट्रिगर्स का विवरण रखने वाला एक paginator ऑब्जेक्ट बनाएं।

  • चरण 6: paginate फ़ंक्शन कॉल करें और max_items, page_size और starting_token को PaginationConfig पैरामीटर के रूप में पास करें।

  • चरण 7: यह max_size और page_size के आधार पर रिकॉर्ड की संख्या लौटाता है।

  • चरण 8: पेजिनेट करते समय यदि कुछ गलत होता है तो सामान्य एक्सेप्शन को संभालें।

उदाहरण कोड

उपयोगकर्ता खाते में बनाए गए सभी ट्रिगर्स के माध्यम से पेजिनेट करने के लिए निम्न कोड का उपयोग करें:

import boto3
from botocore.exceptions import ClientError

def paginate_through_triggers(max_items=None, page_size=None, starting_token=None):
    session = boto3.session.Session()
    glue_client = session.client('glue')
    try:
        paginator = glue_client.get_paginator('get_triggers')
        response = paginator.paginate(PaginationConfig={
            'MaxItems': max_items,
            'PageSize': page_size,
            'StartingToken': starting_token
        })
        return response
    except ClientError as e:
        raise Exception("boto3 client error in paginate_through_triggers: " + e.__str__())
    except Exception as e:
        raise Exception("Unexpected error in paginate_through_triggers: " + e.__str__())

page_itr = paginate_through_triggers(2, 5)
for page in page_itr:
    print(page['Triggers'])

आउटपुट

[{'Name': 'file-passed', 'WorkflowName': 'data-tx', 'Type': 'CONDITIONAL', 'State': 'ACTIVATED', 'Actions': [{'JobName': 'data-event'}], 'Predicate': {'Logical': 'ANY', 'Conditions': [{'LogicalOperator': 'EQUALS', 'JobName': 'data-worker', 'State': 'SUCCEEDED'}]}}, {'Name': 'file-passed-to-acc', 'WorkflowName': 'tick-data', 'Type': 'CONDITIONAL', 'State': 'ACTIVATED', 'Actions': [{'JobName': 'tick-data'}], 'Predicate': {'Logical': 'ANY', 'Conditions': [{'LogicalOperator': 'EQUALS', 'JobName': 'tick-data', 'State': 'SUCCEEDED'}]}}]

महत्वपूर्ण सुधार नोट

मूल कोड में त्रुटि: उदाहरण में paginate_through_tables कॉल किया गया है लेकिन फ़ंक्शन का नाम paginate_through_triggers है। उपरोक्त कोड में इसे ठीक कर दिया गया है।

Glue ट्रिगर प्रकार

  • SCHEDULED: समय-आधारित (cron अभिव्यक्ति)

  • CONDITIONAL: अन्य जॉब्स/क्रॉलर्स की स्थिति के आधार पर

  • ON_DEMAND: मैन्युअल रूप से ट्रिगर किया गया

  • EVENT: इवेंट-आधारित (EventBridge के माध्यम से)

ट्रिगर संरचना

  • Name: ट्रिगर नाम

  • Type: ट्रिगर प्रकार

  • State: CREATED, ACTIVATED, DEACTIVATED

  • Actions: क्रियाओं की सूची (JobName, Arguments, Timeout, आदि)

  • Predicate: शर्ती ट्रिगर्स के लिए शर्तें (Logical: AND/OR/ANY, Conditions सूची)

  • WorkflowName: संबद्ध वर्कफ़्लो (यदि कोई हो)

IAM अनुमति

glue:GetTriggers अनुमति आवश्यक है।


  1. - Boto3 का उपयोग करके AWS Glue डेटा कैटलॉग से सभी डेटाबेस का विवरण कैसे प्राप्त करें?

    समस्या विवरण - Python में boto3 लाइब्रेरी का उपयोग करके सभी डेटाबेस की परिभाषा पुनर्प्राप्त करें।उदाहरण - सभी डेटाबेस की परिभाषा पुनर्प्राप्त करें।इस समस्या को हल करने का दृष्टिकोण/एल्गोरिदमचरण 1 - अपवादों को संभालने के लिए boto3 और botocore एक्सेप्शन्स आयात करें।चरण 2 - कोई पैरामीटर नहीं है।चरण 3 -

  1. - Boto3 का उपयोग करके AWS Glue डेटा कैटलॉग से टेबल कैसे डिलीट करें?

    समस्या विवरण - Python में boto3 लाइब्रेरी का उपयोग करके अपने अकाउंट में बनी टेबल को डिलीट करें।उदाहरण - डेटाबेस test से टेबल security डिलीट करें जो आपके अकाउंट में बनी है।इस समस्या को हल करने का दृष्टिकोण/एल्गोरिदमचरण 1 - अपवादों को संभालने के लिए boto3 और botocore एक्सेप्शन्स आयात करें।चरण 2 - पैरा

  1. - Boto3 का उपयोग करके AWS Glue डेटा कैटलॉग से क्रॉलर कैसे डिलीट करें?

    समस्या विवरण - Python में boto3 लाइब्रेरी का उपयोग करके अपने अकाउंट में बने क्रॉलर को डिलीट करें।उदाहरण - अपने अकाउंट में बने क्रॉलर Portfolio को डिलीट करें।इस समस्या को हल करने का दृष्टिकोण/एल्गोरिदमचरण 1 - अपवादों को संभालने के लिए boto3 और botocore एक्सेप्शन्स आयात करें।चरण 2 - पैरामीटर crawler_n