কোড

এই স্ক্রিপ্টটি মেটাডেটা নিরীক্ষণের জন্য উপযোগী। স্ক্রিপ্টটি একাধিক enterprise† জিওডাটাবেস জুড়ে চালানো যেতে পারে এবং এই কলামগুলির সাথে একটি আউটপুট CSV ফাইল তৈরি করবে: 'জিওডাটাবেস', 'ফিচার ডেটাসেট', 'ফিচার ক্লাস', 'স্পেশিয়াল রেফারেন্স', 'রো কাউন্ট', 'কলাম কাউন্ট', 'মেটাডাটাডেট', 'বিবরন', 'মেটাডাটা' সারাংশ', 'মেটাডেটা ক্রেডিট', 'মেটাডেটা অ্যাক্সেস সীমাবদ্ধতা'।

এই স্ক্রিপ্টটি ব্যবহার করতে, আপনাকে আপনার SDE সংযোগ ফাইলগুলিতে নির্দেশ করতে লাইন 19 পরিবর্তন করতে হবে।

import csv
import os

from arcpy import Describe
from arcpy import env
from arcpy import GetCount_management
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy import metadata as md

# the output CSV file name
output_csv_file = 'enterprise_gdbs_results.csv'

# or use this to make the output CSV file name the same as the script name
# output_csv_file = os.path.basename(__file__).replace('.py','.csv')

# change this path to use your SDE connection files
sde_connection_files = 'c:/gis/sde_connection_files'

with open(output_csv_file,'w',newline='') as csv_file:
    csv_writer = csv.writer(csv_file, delimiter=',')
    column_headers = [
        'Geodatabase', 'Feature Dataset', 'Feature Class', 
        'Spatial Reference', 'Row Count', 'Column Count', 
        'Metadata Title', 'Metadata Description', 'Metadata Summary',
        'Metadata Credits', 'Metadata Access Constraints'
    ]
    
    csv_writer.writerow(column_headers)

    for (folder, dirs, files) in os.walk(sde_connection_files):
        for file in files:
            if(not file.startswith('_') and file.endswith('.sde')):
                geodatabase = file.split('@')[1]

                wksp = os.path.join(folder,file)
                env.workspace = wksp

                datasets = ListDatasets(feature_type='feature')
                datasets = [''] + datasets if datasets is not None else []

                for dataset in datasets:
                    for feature_class in ListFeatureClasses(dataset):
                        desc = Describe(feature_class)
                        spatial_reference = desc.SpatialReference.factoryCode
                        count = GetCount_management(feature_class)[0]
                        column_count = len(ListFields(feature_class))
                        metadata = md.Metadata(feature_class)

                        row = [
                            geodatabase,dataset,feature_class,
                            spatial_reference,count,column_count,
                            metadata.title,metadata.description,
                            metadata.summary,metadata.credits,
                            metadata.accessConstraints    
                        ]

                        print(row)
                        
                        csv_writer.writerow(row)

এই স্ক্রিপ্টটি মেটাডেটা নিরীক্ষণের জন্য উপযোগী। স্ক্রিপ্টটি একাধিক ফাইল জিওডাটাবেস† জুড়ে চালানো যেতে পারে, এবং এই কলামগুলির সাথে একটি আউটপুট CSV ফাইল তৈরি করবে: 'শেষ পরিবর্তিত', 'ফাইল জিওডাটাবেস', 'ফিচার ডেটাসেট', 'ফিচার ক্লাস', 'স্পেশিয়াল রেফারেন্স', 'রো কাউন্ট', 'কলাম', 'বর্ননা', 'TitleMtada' 'মেটাডেটা সারাংশ', 'মেটাডেটা ক্রেডিট', 'মেটাডেটা অ্যাক্সেস সীমাবদ্ধতা'।

import csv
import os
import time

from arcpy import Describe
from arcpy import env
from arcpy import GetCount_management
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy import metadata as md

folder = r'...'
log = open('log.txt', 'w')
output_csv_file = os.path.basename(__file__).replace('.py','.csv')

with open(output_csv_file,'w',newline='') as csv_file:
    csv_writer = csv.writer(csv_file, delimiter=',')
    column_headers = [
        'Last Modified','File Geodatabase', 'Feature Dataset', 'Feature Class', 
        'Spatial Reference', 'Row Count', 'Column Count', 
        'Metadata Title', 'Metadata Description', 'Metadata Summary',
        'Metadata Credits', 'Metadata Access Constraints'
    ]
    
    csv_writer.writerow(column_headers)

    for (folder, dirs, files) in os.walk(folder):
        if(folder.endswith('.gdb')):
            print(folder)

            last_modified = '???'

            try:
                last_modified = time.ctime(max(os.stat(root).st_mtime for root,_,_ in os.walk(folder)))
            except:
                msg = 'Error getting last modified date for {}'.format(folder)
                print(msg)
                log.write('{}\n'.format(msg))
                pass

            fgdb = folder
            env.workspace = fgdb

            datasets = []

            try:
                datasets = ListDatasets(feature_type='feature')
                datasets = [''] + datasets if datasets is not None else []
            except:
                msg = 'Error getting datasets for {}'.format(folder)
                print(msg)
                log.write('{}\n'.format(msg))
                pass

            for dataset in datasets:
                for feature_class in ListFeatureClasses(dataset):
                    desc = Describe(feature_class)
                    spatial_reference = desc.SpatialReference.factoryCode
                    count = GetCount_management(feature_class)[0]
                    column_count = len(ListFields(feature_class))
                
                    metadata = None
                    row = []

                    try:
                        metadata = md.Metadata(feature_class)
                        row = [
                            last_modified,
                            fgdb,dataset,feature_class,
                            spatial_reference,count,column_count,
                            metadata.title,metadata.description,
                            metadata.summary,metadata.credits,
                            metadata.accessConstraints    
                        ]
                    except:
                        row = [
                            last_modified,
                            fgdb,dataset,feature_class,
                            spatial_reference,count,column_count,
                            'error','error','error','error','error'    
                        ]
                        pass

                    csv_writer.writerow(row)

log.close()

কখনও কখনও যখন ডেটা শেফফাইল থেকে ফিচার ক্লাসে রূপান্তরিত হয়, বা জিওপ্রসেসিং টুল চালানোর সময় যত্ন না নেওয়া হয়, ফিচার ক্লাসগুলি অপ্রয়োজনীয় ক্ষেত্রগুলির সাথে শেষ হতে পারে৷ উদাহরণস্বরূপ, একটি বৈশিষ্ট্য শ্রেণিতে "OBJECTID" নামক একটি ক্ষেত্র থাকতে পারে এবং একই বৈশিষ্ট্য শ্রেণিতে "OBJECTID_1" নামে আরেকটি ক্ষেত্র থাকতে পারে৷ এই ক্ষেত্রগুলির মধ্যে একটি বৈশিষ্ট্য শ্রেণীর জন্য OID ক্ষেত্র হওয়া উচিত, তবে, কখনও কখনও এটিও স্পষ্ট হয় না যে কোন OBJECTID ক্ষেত্রটি সঠিক। নীচের এই স্ক্রিপ্টটি কোন ক্ষেত্রটি OID ক্ষেত্র তা জানার প্রয়োজন নেই কারণ ক্ষেত্রটি মুছে ফেলা না গেলে লাইন 35 ব্যর্থ হবে এবং স্ক্রিপ্টটি চলতে থাকবে। নীচের স্ক্রিপ্টটি দেখায় দুটি ভিন্ন উপায়ে ফিল্ডের নাম চেক করা যেতে পারে, যেমন ক্ষেত্র নামটি লাইন 10-এর তালিকায় অন্তর্ভুক্ত করা যেতে পারে, অথবা 33 লাইনে "OBJECTID" দিয়ে ক্ষেত্রের নামটি উপসর্গ করা যেতে পারে৷ এই স্ক্রিপ্টের জন্য, মুছে ফেলা ক্ষেত্রগুলি একটি CSV ফাইলে আউটপুট হয়৷ আউটপুট CSV ফাইলের নামটি পাইথন স্ক্রিপ্টের মতোই - লাইন 12 দেখুন। স্ক্রিপ্ট চালানোর আগে, লাইন 35 মন্তব্য করা, স্ক্রিপ্টটি চালানো এবং কোন ক্ষেত্রগুলি মুছে ফেলা হবে তা দেখতে আউটপুট CSV ফাইলটি পরীক্ষা করা ভাল। এছাড়াও, একবার ক্ষেত্রটি মুছে ফেলা হলে, এটি পুনরুদ্ধার করা যাবে না, তাই সন্দেহ থাকলে, ফাইল জিওডাটাবেসগুলি প্রথমে ব্যাক আপ করা উচিত।

import csv
import os

from arcpy import env
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy.management import DeleteField

fields_to_delete = ['objectid', 'objectid_1', 'objectid_12', 'shape_le_1', 'shape_leng', 'shape_length', 'shape__length', 'shape__area']
input_folder = r'...'
output_csv_file = os.path.basename(__file__).replace('.py','.csv')

with open(output_csv_file, 'w', newline='') as csv_file:
    csv_writer = csv.writer(csv_file)
    csv_writer.writerow(['File Geodatabase','Feature Dataset', 'Feature Class', 'Field'])

    for (folder, dirs, files) in os.walk(input_folder):
        if(folder.endswith('.gdb')):
            file_geodatabase = folder
            print('Processing {}'.format(file_geodatabase))

            env.workspace = file_geodatabase

            feature_datasets = ListDatasets(feature_type='feature')
            feature_datasets = [''] + feature_datasets if feature_datasets is not None else []

            for feature_dataset in feature_datasets:
                feature_classes = ListFeatureClasses(feature_dataset=feature_dataset)

                for feature_class in feature_classes:
                    for field in ListFields(feature_class):
                        if field.name.lower() in fields_to_delete or field.name.lower().startswith('objectid'):
                            try:
                                DeleteField(feature_class, field.name)
                                csv_writer.writerow([file_geodatabase, feature_dataset, feature_class, field.name])
                            
                            except:
                                pass

মানচিত্র পরিষেবা বা বৈশিষ্ট্য পরিষেবাগুলি প্রকাশ করার আগে, বৈশিষ্ট্য শ্রেণীর ব্যাপ্তিগুলি প্রথমে পুনঃগণনা করা ভাল অনুশীলন৷ এর কারণ মাঝে মাঝে বৈশিষ্ট্য শ্রেণীর ব্যাপ্তি ভুল হতে পারে। ফিচার ক্লাসের ব্যাপ্তি ভুল হওয়ার কারণ হতে পারে এমন বেশ কিছু জিনিস রয়েছে, যার মধ্যে রয়েছে ডেটার উপর জিওপ্রসেসিং কাজ চালানো যা ডেটার পরিধি পরিবর্তন করে এবং ডেটা ইম্পোর্ট করার সময় ফিচার ক্লাস এক্সটেনটও ভুল হতে পারে কারণ প্রাথমিক ফিচার ক্লাস এক্সটেন্যান্ট ডেটার একটি উপসেটের উপর ভিত্তি করে গণনা করা হতে পারে। প্রথম সহজ উপায় ফিচার ক্লাস এক্সটেনট ভুল তা হল জুম-টু-লেয়ার বোতামে ক্লিক করার সময়, মানচিত্রটি সঠিক মাত্রায় জুম করে না। আরেকটি চিহ্ন যে স্তরের সীমাটি ভুল তা হল স্তরটি সঠিকভাবে রেন্ডার হয় না। উদাহরণস্বরূপ, একটি বড় জিওজেএসএন ফাইল আমদানি করার সময়, সেই বৈশিষ্ট্য শ্রেণীর জন্য সীমা পুনঃগণনা করা না হওয়া পর্যন্ত এটি আর্কজিআইএস প্রোতে সঠিকভাবে রেন্ডার নাও হতে পারে৷

import os

from arcpy import env
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy.management import RecalculateFeatureClassExtent

input_folder = r'...'

for (folder, dirs, files) in os.walk(input_folder):
    if(folder.endswith('.gdb')):
        env.workspace = folder

        feature_datasets = ListDatasets(feature_type='feature')
        feature_datasets = [''] + feature_datasets if feature_datasets is not None else []

        for feature_dataset in feature_datasets:
            feature_classes = ListFeatureClasses(feature_dataset=feature_dataset)

            for feature_class in feature_classes:
                print('{}\t{}\t{}'.format(folder, feature_dataset, feature_class))
                RecalculateFeatureClassExtent(feature_class)

এই স্ক্রিপ্টটি আপনার কাছে কতগুলি শেফফাইল আছে তা বোঝার জন্য একটি ডিরেক্টরিতে সমস্ত শেফফাইল তালিকাভুক্ত করার জন্য, যাতে সেগুলি ফাইল জিওডাটাবেস বা এন্টারপ্রাইজ জিওডাটাবেসের বৈশিষ্ট্য ক্লাসে স্থানান্তরিত হতে পারে। মনে রাখবেন যে শেফফাইলগুলি সাধারণত বিভিন্ন কারণে এড়ানো উচিত। শেফফাইল বিন্যাসটি একটি খুব পুরানো বিন্যাস এবং স্থানিক ডেটা ভাগ করার জন্য আরও ভাল ফর্ম্যাট রয়েছে। শেপফাইলগুলির দুর্বল কম্প্রেশন থাকে এবং যখন শেফফাইলে ডেটা রপ্তানি করা হয়, তখন ক্ষেত্রের নামগুলি দশটি অক্ষরে ছোট হয়ে যায়, যা মূল ক্ষেত্রের নামটি কী ছিল তা অনুমান করা কঠিন করে তুলতে পারে। শেফফাইলগুলি ব্যবহার করার আগে জিওডাটাবেস বৈশিষ্ট্য ক্লাস, জিওপ্যাকেজ, জিওজসন বা অন্যান্য ফর্ম্যাটগুলি ব্যবহার করুন৷

import csv
import os

# change the input folder here for the directory you want to search
input_folder = r'\\...\...'

# change the file name here to the output file you want
results_file = 'shapefiles.csv'

extns = ['.aih', '.ain', '.atx', '.cpg', '.dbf', '.fbn', '.fbx', '.ixs', '.mxs', '.prj', '.sbn', '.sbx', '.shp', '.shx', '.xml']

with open(results_file, 'w', newline='') as csvfile:
    csvwriter = csv.writer(csvfile)
    column_headers = ['Folder','Shapefile'] + extns
    csvwriter.writerow(column_headers)

    for (folder, dirs, files) in os.walk(input_folder):
        for file in files:
            if(file.endswith('.shp')):
                shapefile_name = file.replace('.shp','')

                line = [folder,shapefile_name]

                for extn in extns:
                    file_path = os.path.join(folder,'{}{}'.format(shapefile_name,extn))
                    file_exists = 'Y' if os.path.exists(file_path) else 'N'
                    line.append(file_exists)
                
                csvwriter.writerow(line)

এই স্ক্রিপ্টটি MXDs (ArcMap ফাইল) এবং APRXs (ArcGIS Pro ফাইল) এর জন্য স্তরের তথ্য তালিকাভুক্ত করে। ফলাফলগুলি একটি CSV ফাইলে আউটপুট হয় এবং এতে এই কলামগুলি থাকে:

দ্রষ্টব্য যে ArcMap Python 2 ব্যবহার করে এবং ArcGIS Pro Python 3 ব্যবহার করে, তাই স্ক্রিপ্টটি পাইথন 3-এর সাথে কাজ করার জন্য আমরা একটি MXDPR ফাইলের নিচে AMXDPR-এ রূপান্তর করি। এই APRX শুধুমাত্র মেমরিতে রয়েছে এবং ডিস্কে সংরক্ষণ করা হবে না (কিন্তু প্রয়োজনে ডিস্কে সংরক্ষণ করা যেতে পারে)।

এটি চালানোর জন্য নিচের লাইন 5 এবং 7 পরিবর্তন করুন এবং ম্যানুয়ালি একটি ফাঁকা APRX তৈরি করুন যা মেমরিতে ক্লোন করা যেতে পারে (লাইন 7)

import csv
import os

from arcpy.mp import ArcGISProject

directory = r'\\...\...'
blank_aprx = r'\\...\...\temp.aprx'
results_file = os.path.basename(__file__).replace('.py','.csv')

# create a CSV file
with open(results_file, 'w', newline='') as csvfile:
    csvwriter = csv.writer(csvfile)

    # write out the column headers in the CSV file
    csvwriter.writerow(['File Path','Folder','File Name','File Type','Map / Data Frame','Layer Name','Layer Source','Is Broken','Definition Query'])

    # loop through all of the folders and files in the input directory
    for folder, dirs, files in os.walk(directory):
        for file in files:
            file_path = os.path.join(folder,file)
            
            # check if it is an MXD file - we need to convert the MXD to APRX (in-memory) because we cannot use Python 3 with MXDs
            if file.endswith('.mxd'):     
                file_type = 'mxd'
                aprx = ArcGISProject(blank_aprx)
                aprx.importDocument(file_path)

            #  check if it is an APRX file
            elif file.endswith('.aprx'):
                file_type = 'aprx'
                aprx = ArcGISProject(file_path)
            
            else:
                # file is not an MXD or APRX, so skip the loop below
                continue

            # list all layers within the 'maps' (for APRXs), or 'data frames' (for MXDs)
            for map in aprx.listMaps():
                for layer in map.listLayers():
                    # if the layer is not a group layer and has a data source
                    if layer.supports('dataSource'):
                        # check if the layer is broken
                        isBroken = layer.isBroken if layer.supports('isBroken') else 'n/a'
                        # check if the layer has a definition query (the WHERE clause in a normal SQL statement - definition queries use SQL)
                        definitionQuery = layer.definitionQuery if layer.supports('definitionQuery') else 'n/a'
                        line = [file_path, folder, file, file_type, map.name, layer.name, layer.dataSource, isBroken, definitionQuery]

                        # write the results to CSV
                        csvwriter.writerow(line)

            # delete the in-memory aprx
            del aprx

print('Results file: {}'.format(results_file))

এই স্ক্রিপ্টটি সমস্ত পরিষেবার জন্য পরিষেবার তথ্য তালিকাভুক্ত করে এবং ফলাফলগুলি CSV-এ আউটপুট করে৷ CSV-এর কলাম শিরোনামগুলি নীচে তালিকাভুক্ত করা হয়েছে:

স্ক্রিপ্ট চালানোর আগে, লাইন 22 থেকে 31 এ প্যারামিটার পরিবর্তন করুন।

import csv
import json
import requests

def getToken(url, params):
    response = requests.post(url, params)
    token = json.loads(response.text)['token']
    return token

def fetchUrl(url):
    params = {
        'f': 'json',
        'token': token
    }

    response = requests.post(url, params)
    data = json.loads(response.text)

    return data

web_adaptor = 'arcgis' # web adaptor or load balancer 
token_url = 'https://{}/portal/sharing/rest/generateToken'.format(map_server)

params = {
    'f': 'json',
    'referer': 'https://.../portal/sharing/rest/generateToken',
    'username': 'portaladmin',
    'password': '**************'
}

token = getToken(token_url, params)

''' 
    ArcGIS Admin URL - we are using the admin URL, not the 
    Services Directory URL because the Services Directory will 
    only list the services that are started/running.  We also
    want to know about the stopped services.
'''
admin_url = 'https://{}/{}/admin/services'.format(map_server,web_adaptor)

params = {
    'f': 'json',
    'token': token
}

response = requests.get(admin_url, params)
data = json.loads(response.text)

folders = data['folders']
foldersToExclude = ['System','Utilities']

for folder in foldersToExclude:
    folders.remove(folder)

services = data['services'] 

with open('map_service_info.csv', 'w', newline='') as csv_file:
    csv_writer = csv.writer(csv_file)

    column_names = ['Map Server', 'Folder', 'Service name', 'Service type', 'URL', 'Published By', 'Path', 'Service Description', 'Copyright Info']
    csv_writer.writerow(column_names)

    for service in services:
        folder = ''
        service_name = service['serviceName']
        service_type = service['type']
        url = '{}/{}.{}'.format(admin_url,service_name,service_type)
       
        service_info = fetchUrl(url)
        service_description = service_info['description']
        user_name = service_info['properties']['userName'] if 'userName' in service_info['properties'] else ''
        copyright_info = service_info['properties']['copyright'] if 'copyright' in service_info['properties'] else ''
        path = service_info['properties']['path'] if 'path' in service_info['properties'] else ''

        row = [map_server, folder, service_name, service_type, url, user_name, path, service_description, copyright_info]
        csv_writer.writerow(row)

    for folder in folders:
        url = '{}/{}'.format(admin_url,folder)
        folder_info = fetchUrl(url)

        for service in folder_info['services']:
            folder = folder_info['folderName']
            service_name = service['serviceName']
            service_type = service['type']
            url = '{}/{}/{}.{}'.format(admin_url, folder, service_name, service_type, url)

            service_info = fetchUrl(url)
            service_description = service_info['description']
            user_name = service_info['properties']['userName'] if 'userName' in service_info['properties'] else ''
            copyright_info = service_info['properties']['copyright'] if 'copyright' in service_info['properties'] else ''
            path = service_info['properties']['path'] if 'path' in service_info['properties'] else ''

            row = [map_server, folder, service_name, service_type, url, user_name, path, service_description, copyright_info]
            csv_writer.writerow(row)