कोड

ही स्क्रिप्ट मेटाडेटा ऑडिट करण्यासाठी उपयुक्त आहे. स्क्रिप्ट एकाधिक enterprise† जिओडेटाबेसेसमध्ये चालविली जाऊ शकते आणि या स्तंभांसह एक आउटपुट CSV फाइल तयार करेल: 'जिओडेटाबेस', 'वैशिष्ट्य डेटासेट', 'वैशिष्ट्य वर्ग', 'स्थानिक संदर्भ', 'पंक्ती संख्या', 'स्तंभ संख्या', 'मेटाडेटा', 'वर्णन', 'मेटाडेटा' सारांश', 'मेटाडेटा क्रेडिट्स', 'मेटाडेटा ऍक्सेस मर्यादा'.

ही स्क्रिप्ट वापरण्यासाठी, तुम्हाला तुमच्या SDE कनेक्शन फाइल्सकडे निर्देश करण्यासाठी लाइन 19 बदलणे आवश्यक आहे.

import csv
import os

from arcpy import Describe
from arcpy import env
from arcpy import GetCount_management
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy import metadata as md

# the output CSV file name
output_csv_file = 'enterprise_gdbs_results.csv'

# or use this to make the output CSV file name the same as the script name
# output_csv_file = os.path.basename(__file__).replace('.py','.csv')

# change this path to use your SDE connection files
sde_connection_files = 'c:/gis/sde_connection_files'

with open(output_csv_file,'w',newline='') as csv_file:
    csv_writer = csv.writer(csv_file, delimiter=',')
    column_headers = [
        'Geodatabase', 'Feature Dataset', 'Feature Class', 
        'Spatial Reference', 'Row Count', 'Column Count', 
        'Metadata Title', 'Metadata Description', 'Metadata Summary',
        'Metadata Credits', 'Metadata Access Constraints'
    ]
    
    csv_writer.writerow(column_headers)

    for (folder, dirs, files) in os.walk(sde_connection_files):
        for file in files:
            if(not file.startswith('_') and file.endswith('.sde')):
                geodatabase = file.split('@')[1]

                wksp = os.path.join(folder,file)
                env.workspace = wksp

                datasets = ListDatasets(feature_type='feature')
                datasets = [''] + datasets if datasets is not None else []

                for dataset in datasets:
                    for feature_class in ListFeatureClasses(dataset):
                        desc = Describe(feature_class)
                        spatial_reference = desc.SpatialReference.factoryCode
                        count = GetCount_management(feature_class)[0]
                        column_count = len(ListFields(feature_class))
                        metadata = md.Metadata(feature_class)

                        row = [
                            geodatabase,dataset,feature_class,
                            spatial_reference,count,column_count,
                            metadata.title,metadata.description,
                            metadata.summary,metadata.credits,
                            metadata.accessConstraints    
                        ]

                        print(row)
                        
                        csv_writer.writerow(row)

ही स्क्रिप्ट मेटाडेटा ऑडिट करण्यासाठी उपयुक्त आहे. स्क्रिप्ट एकाधिक file geodatabases† वर चालविली जाऊ शकते, आणि या स्तंभांसह एक आउटपुट CSV फाइल तयार करेल: 'अंतिम सुधारित', 'फाइल जिओडेटाबेस', 'वैशिष्ट्य डेटासेट', 'वैशिष्ट्य वर्ग', 'स्थानिक संदर्भ', 'रो काउंट', 'स्तंभ गणन', 'वर्णन' 'मेटाडेटा सारांश', 'मेटाडेटा क्रेडिट्स', 'मेटाडेटा प्रवेश मर्यादा'.

import csv
import os
import time

from arcpy import Describe
from arcpy import env
from arcpy import GetCount_management
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy import metadata as md

folder = r'...'
log = open('log.txt', 'w')
output_csv_file = os.path.basename(__file__).replace('.py','.csv')

with open(output_csv_file,'w',newline='') as csv_file:
    csv_writer = csv.writer(csv_file, delimiter=',')
    column_headers = [
        'Last Modified','File Geodatabase', 'Feature Dataset', 'Feature Class', 
        'Spatial Reference', 'Row Count', 'Column Count', 
        'Metadata Title', 'Metadata Description', 'Metadata Summary',
        'Metadata Credits', 'Metadata Access Constraints'
    ]
    
    csv_writer.writerow(column_headers)

    for (folder, dirs, files) in os.walk(folder):
        if(folder.endswith('.gdb')):
            print(folder)

            last_modified = '???'

            try:
                last_modified = time.ctime(max(os.stat(root).st_mtime for root,_,_ in os.walk(folder)))
            except:
                msg = 'Error getting last modified date for {}'.format(folder)
                print(msg)
                log.write('{}\n'.format(msg))
                pass

            fgdb = folder
            env.workspace = fgdb

            datasets = []

            try:
                datasets = ListDatasets(feature_type='feature')
                datasets = [''] + datasets if datasets is not None else []
            except:
                msg = 'Error getting datasets for {}'.format(folder)
                print(msg)
                log.write('{}\n'.format(msg))
                pass

            for dataset in datasets:
                for feature_class in ListFeatureClasses(dataset):
                    desc = Describe(feature_class)
                    spatial_reference = desc.SpatialReference.factoryCode
                    count = GetCount_management(feature_class)[0]
                    column_count = len(ListFields(feature_class))
                
                    metadata = None
                    row = []

                    try:
                        metadata = md.Metadata(feature_class)
                        row = [
                            last_modified,
                            fgdb,dataset,feature_class,
                            spatial_reference,count,column_count,
                            metadata.title,metadata.description,
                            metadata.summary,metadata.credits,
                            metadata.accessConstraints    
                        ]
                    except:
                        row = [
                            last_modified,
                            fgdb,dataset,feature_class,
                            spatial_reference,count,column_count,
                            'error','error','error','error','error'    
                        ]
                        pass

                    csv_writer.writerow(row)

log.close()

कधीकधी जेव्हा डेटा शेपफाईल्समधून फीचर क्लासमध्ये रूपांतरित केला जातो किंवा जिओप्रोसेसिंग टूल्स चालवताना काळजी न घेतल्यास, फीचर क्लास रिडंडंट फील्डसह समाप्त होऊ शकतात. उदाहरणार्थ, वैशिष्ट्य वर्गामध्ये "OBJECTID" नावाचे फील्ड असू शकते आणि त्याच वैशिष्ट्य वर्गामध्ये "OBJECTID_1" नावाचे दुसरे फील्ड असू शकते. वैशिष्ट्य वर्गासाठी यापैकी एक फील्ड OID फील्ड असले पाहिजे, तथापि, काहीवेळा हे देखील स्पष्ट होत नाही की कोणते OBJECTID फील्ड योग्य आहे. खालील स्क्रिप्टला OID फील्ड कोणते फील्ड आहे हे माहित असणे आवश्यक नाही कारण फील्ड हटवणे शक्य नसल्यास लाइन 35 अयशस्वी होईल आणि स्क्रिप्ट चालू राहील. खालील स्क्रिप्ट फील्डचे नाव तपासण्याचे दोन भिन्न मार्ग दाखवते, म्हणजे फील्डचे नाव लाईन 10 वरील यादीमध्ये समाविष्ट केले जाऊ शकते किंवा फील्डचे नाव ओळ 33 वर "OBJECTID" सह प्रीफिक्स केले जाऊ शकते. या स्क्रिप्टसाठी, हटविलेले फील्ड CSV फाइलमध्ये आउटपुट केले जातात. आउटपुट CSV फाइलचे नाव Python स्क्रिप्ट सारखेच आहे - लाइन 12 पहा. स्क्रिप्ट चालवण्यापूर्वी, ओळ 35 वर टिप्पणी करणे, स्क्रिप्ट चालवणे आणि कोणती फील्ड हटवली जातील हे पाहण्यासाठी आउटपुट CSV फाइल तपासणे चांगली कल्पना आहे. तसेच, एकदा फील्ड हटवल्यानंतर, ते पुनर्प्राप्त केले जाऊ शकत नाही, त्यामुळे शंका असल्यास, फाइल जिओडेटाबेसचा प्रथम बॅकअप घ्यावा.

import csv
import os

from arcpy import env
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy.management import DeleteField

fields_to_delete = ['objectid', 'objectid_1', 'objectid_12', 'shape_le_1', 'shape_leng', 'shape_length', 'shape__length', 'shape__area']
input_folder = r'...'
output_csv_file = os.path.basename(__file__).replace('.py','.csv')

with open(output_csv_file, 'w', newline='') as csv_file:
    csv_writer = csv.writer(csv_file)
    csv_writer.writerow(['File Geodatabase','Feature Dataset', 'Feature Class', 'Field'])

    for (folder, dirs, files) in os.walk(input_folder):
        if(folder.endswith('.gdb')):
            file_geodatabase = folder
            print('Processing {}'.format(file_geodatabase))

            env.workspace = file_geodatabase

            feature_datasets = ListDatasets(feature_type='feature')
            feature_datasets = [''] + feature_datasets if feature_datasets is not None else []

            for feature_dataset in feature_datasets:
                feature_classes = ListFeatureClasses(feature_dataset=feature_dataset)

                for feature_class in feature_classes:
                    for field in ListFields(feature_class):
                        if field.name.lower() in fields_to_delete or field.name.lower().startswith('objectid'):
                            try:
                                DeleteField(feature_class, field.name)
                                csv_writer.writerow([file_geodatabase, feature_dataset, feature_class, field.name])
                            
                            except:
                                pass

नकाशा सेवा किंवा वैशिष्ट्य सेवा प्रकाशित करण्यापूर्वी, प्रथम वैशिष्ट्य वर्गाच्या विस्तारांची पुनर्गणना करणे चांगले आहे. कारण अधूनमधून फीचर क्लासची मर्यादा चुकीची असू शकते. अशा अनेक गोष्टी आहेत ज्यामुळे फीचर क्लासचा विस्तार चुकीचा होऊ शकतो, ज्यामध्ये डेटाची व्याप्ती बदलणाऱ्या डेटावर जीओप्रोसेसिंग टास्क चालवणे आणि डेटा इंपोर्ट करताना फीचर क्लास एक्सटंट देखील चुकीचा असू शकतो कारण इंपोर्ट केलेल्या डेटाच्या सबसेटच्या आधारे प्रारंभिक फीचर क्लास एक्सटंटची गणना केली जाऊ शकते. फीचर क्लासचा विस्तार चुकीचा आहे हे पाहण्याचा पहिला सोपा मार्ग म्हणजे झूम-टू-लेयर बटणावर क्लिक केल्यावर, नकाशा योग्य मर्यादेपर्यंत झूम होत नाही. लेयरची मर्यादा चुकीची असल्याचे आणखी एक चिन्ह म्हणजे लेयर योग्यरित्या प्रस्तुत होत नाही. उदाहरणार्थ, मोठी GeoJSON फाईल आयात करताना, त्या वैशिष्ट्य वर्गासाठी मर्यादेची पुनर्गणना होईपर्यंत ती ArcGIS Pro मध्ये योग्यरीत्या प्रस्तुत होणार नाही.

import os

from arcpy import env
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy.management import RecalculateFeatureClassExtent

input_folder = r'...'

for (folder, dirs, files) in os.walk(input_folder):
    if(folder.endswith('.gdb')):
        env.workspace = folder

        feature_datasets = ListDatasets(feature_type='feature')
        feature_datasets = [''] + feature_datasets if feature_datasets is not None else []

        for feature_dataset in feature_datasets:
            feature_classes = ListFeatureClasses(feature_dataset=feature_dataset)

            for feature_class in feature_classes:
                print('{}\t{}\t{}'.format(folder, feature_dataset, feature_class))
                RecalculateFeatureClassExtent(feature_class)

ही स्क्रिप्ट तुमच्याकडे किती शेपफाईल्स आहेत हे समजून घेण्यास मदत करण्यासाठी निर्देशिकेत सर्व शेपफाईल्स सूचीबद्ध करण्यासाठी आहे, जेणेकरून ते फाइल जिओडेटाबेस किंवा एंटरप्राइझ जिओडेटाबेसमधील वैशिष्ट्य वर्गांमध्ये स्थलांतरित केले जाऊ शकतात. लक्षात घ्या की शेपफाईल्स सहसा अनेक कारणांसाठी टाळल्या पाहिजेत. शेपफाईल फॉरमॅट हे खूप जुने स्वरूप आहे आणि स्थानिक डेटा सामायिक करण्यासाठी बरेच चांगले स्वरूप आहेत. शेपफाईल्समध्ये खराब कॉम्प्रेशन असते आणि जेव्हा शेपफाईल्समध्ये डेटा एक्सपोर्ट केला जातो तेव्हा फील्डची नावे दहा वर्णांपर्यंत कापली जातात, ज्यामुळे मूळ फील्ड नाव काय होते याचा अंदाज लावणे कठीण होऊ शकते. शेपफाईल्स वापरण्याचा विचार करण्यापूर्वी जिओडेटाबेस वैशिष्ट्य वर्ग, जिओपॅकेज, जिओजसन किंवा इतर फॉरमॅट्स वापरा.

import csv
import os

# change the input folder here for the directory you want to search
input_folder = r'\\...\...'

# change the file name here to the output file you want
results_file = 'shapefiles.csv'

extns = ['.aih', '.ain', '.atx', '.cpg', '.dbf', '.fbn', '.fbx', '.ixs', '.mxs', '.prj', '.sbn', '.sbx', '.shp', '.shx', '.xml']

with open(results_file, 'w', newline='') as csvfile:
    csvwriter = csv.writer(csvfile)
    column_headers = ['Folder','Shapefile'] + extns
    csvwriter.writerow(column_headers)

    for (folder, dirs, files) in os.walk(input_folder):
        for file in files:
            if(file.endswith('.shp')):
                shapefile_name = file.replace('.shp','')

                line = [folder,shapefile_name]

                for extn in extns:
                    file_path = os.path.join(folder,'{}{}'.format(shapefile_name,extn))
                    file_exists = 'Y' if os.path.exists(file_path) else 'N'
                    line.append(file_exists)
                
                csvwriter.writerow(line)

ही स्क्रिप्ट MXDs (ArcMap फाइल्स) आणि APRXs (ArcGIS Pro फाइल्स) साठी लेयर माहिती सूचीबद्ध करते. परिणाम CSV फाईलचे आउटपुट आहेत आणि त्यात हे स्तंभ आहेत:

लक्षात घ्या की ArcMap Python 2 वापरते आणि ArcGIS Pro Python 3 वापरते, त्यामुळे स्क्रिप्टला पायथन 3 सोबत काम करण्यासाठी आम्ही खाली AMXDPR फाइलमध्ये AMXDPR मध्ये रूपांतरित करतो. हे APRX फक्त मेमरीमध्ये आहे आणि डिस्कवर सेव्ह केले जाणार नाही (परंतु आवश्यक असल्यास डिस्कवर सेव्ह केले जाऊ शकते).

हे चालवण्यासाठी खाली ओळी 5 आणि 7 बदला आणि मॅन्युअली एक रिक्त APRX तयार करा जी मेमरीमध्ये क्लोन केली जाऊ शकते (लाइन 7).

import csv
import os

from arcpy.mp import ArcGISProject

directory = r'\\...\...'
blank_aprx = r'\\...\...\temp.aprx'
results_file = os.path.basename(__file__).replace('.py','.csv')

# create a CSV file
with open(results_file, 'w', newline='') as csvfile:
    csvwriter = csv.writer(csvfile)

    # write out the column headers in the CSV file
    csvwriter.writerow(['File Path','Folder','File Name','File Type','Map / Data Frame','Layer Name','Layer Source','Is Broken','Definition Query'])

    # loop through all of the folders and files in the input directory
    for folder, dirs, files in os.walk(directory):
        for file in files:
            file_path = os.path.join(folder,file)
            
            # check if it is an MXD file - we need to convert the MXD to APRX (in-memory) because we cannot use Python 3 with MXDs
            if file.endswith('.mxd'):     
                file_type = 'mxd'
                aprx = ArcGISProject(blank_aprx)
                aprx.importDocument(file_path)

            #  check if it is an APRX file
            elif file.endswith('.aprx'):
                file_type = 'aprx'
                aprx = ArcGISProject(file_path)
            
            else:
                # file is not an MXD or APRX, so skip the loop below
                continue

            # list all layers within the 'maps' (for APRXs), or 'data frames' (for MXDs)
            for map in aprx.listMaps():
                for layer in map.listLayers():
                    # if the layer is not a group layer and has a data source
                    if layer.supports('dataSource'):
                        # check if the layer is broken
                        isBroken = layer.isBroken if layer.supports('isBroken') else 'n/a'
                        # check if the layer has a definition query (the WHERE clause in a normal SQL statement - definition queries use SQL)
                        definitionQuery = layer.definitionQuery if layer.supports('definitionQuery') else 'n/a'
                        line = [file_path, folder, file, file_type, map.name, layer.name, layer.dataSource, isBroken, definitionQuery]

                        # write the results to CSV
                        csvwriter.writerow(line)

            # delete the in-memory aprx
            del aprx

print('Results file: {}'.format(results_file))

ही स्क्रिप्ट सर्व सेवांसाठी सेवा माहिती सूचीबद्ध करते आणि परिणाम CSV वर आउटपुट करते. CSV मधील स्तंभ शीर्षलेख खाली सूचीबद्ध आहेत:

स्क्रिप्ट चालवण्यापूर्वी, 22 ते 31 पर्यंत पॅरामीटर्स बदला.

import csv
import json
import requests

def getToken(url, params):
    response = requests.post(url, params)
    token = json.loads(response.text)['token']
    return token

def fetchUrl(url):
    params = {
        'f': 'json',
        'token': token
    }

    response = requests.post(url, params)
    data = json.loads(response.text)

    return data

web_adaptor = 'arcgis' # web adaptor or load balancer 
token_url = 'https://{}/portal/sharing/rest/generateToken'.format(map_server)

params = {
    'f': 'json',
    'referer': 'https://.../portal/sharing/rest/generateToken',
    'username': 'portaladmin',
    'password': '**************'
}

token = getToken(token_url, params)

''' 
    ArcGIS Admin URL - we are using the admin URL, not the 
    Services Directory URL because the Services Directory will 
    only list the services that are started/running.  We also
    want to know about the stopped services.
'''
admin_url = 'https://{}/{}/admin/services'.format(map_server,web_adaptor)

params = {
    'f': 'json',
    'token': token
}

response = requests.get(admin_url, params)
data = json.loads(response.text)

folders = data['folders']
foldersToExclude = ['System','Utilities']

for folder in foldersToExclude:
    folders.remove(folder)

services = data['services'] 

with open('map_service_info.csv', 'w', newline='') as csv_file:
    csv_writer = csv.writer(csv_file)

    column_names = ['Map Server', 'Folder', 'Service name', 'Service type', 'URL', 'Published By', 'Path', 'Service Description', 'Copyright Info']
    csv_writer.writerow(column_names)

    for service in services:
        folder = ''
        service_name = service['serviceName']
        service_type = service['type']
        url = '{}/{}.{}'.format(admin_url,service_name,service_type)
       
        service_info = fetchUrl(url)
        service_description = service_info['description']
        user_name = service_info['properties']['userName'] if 'userName' in service_info['properties'] else ''
        copyright_info = service_info['properties']['copyright'] if 'copyright' in service_info['properties'] else ''
        path = service_info['properties']['path'] if 'path' in service_info['properties'] else ''

        row = [map_server, folder, service_name, service_type, url, user_name, path, service_description, copyright_info]
        csv_writer.writerow(row)

    for folder in folders:
        url = '{}/{}'.format(admin_url,folder)
        folder_info = fetchUrl(url)

        for service in folder_info['services']:
            folder = folder_info['folderName']
            service_name = service['serviceName']
            service_type = service['type']
            url = '{}/{}/{}.{}'.format(admin_url, folder, service_name, service_type, url)

            service_info = fetchUrl(url)
            service_description = service_info['description']
            user_name = service_info['properties']['userName'] if 'userName' in service_info['properties'] else ''
            copyright_info = service_info['properties']['copyright'] if 'copyright' in service_info['properties'] else ''
            path = service_info['properties']['path'] if 'path' in service_info['properties'] else ''

            row = [map_server, folder, service_name, service_type, url, user_name, path, service_description, copyright_info]
            csv_writer.writerow(row)