इस लेख में, हम देखेंगे कि AWS खाते में मौजूद क्रॉलर के शेड्यूलर को कैसे अपडेट किया जाए।
उदाहरण
समस्या कथन: क्रॉलर के शेड्यूलर को अपडेट करने के लिए पायथन में boto3 लाइब्रेरी का उपयोग करें।
इस समस्या को हल करने के लिए दृष्टिकोण/एल्गोरिदम
चरण 1: अपवादों को संभालने के लिए boto3 और botocore अपवाद आयात करें।
चरण 2: crawler_name और scheduler इस फ़ंक्शन में आवश्यक पैरामीटर हैं।
scheduler का प्रारूप cron(cron_expression) होना चाहिए। Cron_Expression को (15 12 * * ? *) के रूप में लिखा जा सकता है, यानी क्रॉलर हर दिन 12:15 UTC पर चलेगा।
चरण 3: boto3 लाइब्रेरी का उपयोग करके AWS सत्र बनाएं। सुनिश्चित करें कि डिफ़ॉल्ट प्रोफ़ाइल में region_name उल्लिखित है। यदि नहीं, तो सत्र बनाते समय स्पष्ट रूप से region_name पास करें।
चरण 4: glue के लिए AWS क्लाइंट बनाएं।
चरण 5: अब update_crawler_schedule फ़ंक्शन का उपयोग करें और पैरामीटर crawler_name को CrawlerName और scheduler को Schedule के रूप में पास करें।
चरण 6: यह प्रतिक्रिया मेटाडेटा लौटाता है और क्रॉलर की शेड्यूल स्थिति को अपडेट करता है।
चरण 7: क्रॉलर के शेड्यूलर को अपडेट करते समय यदि कुछ गलत हुआ तो सामान्य अपवाद को संभालें।
उदाहरण कोड
निम्न कोड क्रॉलर के शेड्यूलर को अपडेट करता है -
import boto3
from botocore.exceptions import ClientError
def update_scheduler_of_a_crawler(crawler_name, scheduler):
session = boto3.session.Session()
glue_client = session.client('glue')
try:
response = glue_client.update_crawler_schedule(CrawlerName=crawler_name, Schedule=scheduler)
return response
except ClientError as e:
raise Exception("boto3 client error in update_scheduler_of_a_crawler: " + e.__str__())
except Exception as e:
raise Exception("Unexpected error in update_scheduler_of_a_crawler: " + e.__str__())
print(update_scheduler_of_a_crawler("Data Dimension", "cron(15 12 * * ? *)"))
आउटपुट
{'ResponseMetadata': {'RequestId': '73e50130-*****************8e', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Sun, 28 Mar 2021 07:26:55 GMT', 'content-type': 'application/x-amz-json-1.1', 'content-length': '2', 'connection': 'keep-alive', 'x-amzn-requestid': '73e50130-***************8e'}, 'RetryAttempts': 0}}
