కోడ్

ఈ స్క్రిప్ట్ మెటాడేటాను ఆడిట్ చేయడానికి ఉపయోగపడుతుంది. స్క్రిప్ట్‌ని బహుళ enterprise జియోడాటాబేస్‌లలో అమలు చేయవచ్చు మరియు ఈ నిలువు వరుసలతో అవుట్‌పుట్ CSV ఫైల్‌ను సృష్టిస్తుంది: 'జియోడాబేస్', 'ఫీచర్ డేటాసెట్', 'ఫీచర్ క్లాస్', 'స్పేషియల్ రిఫరెన్స్', 'రో కౌంట్', 'టైటిల్‌మెట్‌టాడా', 'డిస్క్రిప్షన్' 'మెట్‌టాడా' 'వివరణ 'మెటాడేటా సారాంశం', 'మెటాడేటా క్రెడిట్‌లు', 'మెటాడేటా యాక్సెస్ పరిమితులు'.

ఈ స్క్రిప్ట్‌ని ఉపయోగించడానికి, మీరు మీ SDE కనెక్షన్ ఫైల్‌లను సూచించడానికి లైన్ 19ని మార్చాలి.

import csv
import os

from arcpy import Describe
from arcpy import env
from arcpy import GetCount_management
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy import metadata as md

# the output CSV file name
output_csv_file = 'enterprise_gdbs_results.csv'

# or use this to make the output CSV file name the same as the script name
# output_csv_file = os.path.basename(__file__).replace('.py','.csv')

# change this path to use your SDE connection files
sde_connection_files = 'c:/gis/sde_connection_files'

with open(output_csv_file,'w',newline='') as csv_file:
    csv_writer = csv.writer(csv_file, delimiter=',')
    column_headers = [
        'Geodatabase', 'Feature Dataset', 'Feature Class', 
        'Spatial Reference', 'Row Count', 'Column Count', 
        'Metadata Title', 'Metadata Description', 'Metadata Summary',
        'Metadata Credits', 'Metadata Access Constraints'
    ]
    
    csv_writer.writerow(column_headers)

    for (folder, dirs, files) in os.walk(sde_connection_files):
        for file in files:
            if(not file.startswith('_') and file.endswith('.sde')):
                geodatabase = file.split('@')[1]

                wksp = os.path.join(folder,file)
                env.workspace = wksp

                datasets = ListDatasets(feature_type='feature')
                datasets = [''] + datasets if datasets is not None else []

                for dataset in datasets:
                    for feature_class in ListFeatureClasses(dataset):
                        desc = Describe(feature_class)
                        spatial_reference = desc.SpatialReference.factoryCode
                        count = GetCount_management(feature_class)[0]
                        column_count = len(ListFields(feature_class))
                        metadata = md.Metadata(feature_class)

                        row = [
                            geodatabase,dataset,feature_class,
                            spatial_reference,count,column_count,
                            metadata.title,metadata.description,
                            metadata.summary,metadata.credits,
                            metadata.accessConstraints    
                        ]

                        print(row)
                        
                        csv_writer.writerow(row)

ఈ స్క్రిప్ట్ మెటాడేటాను ఆడిట్ చేయడానికి ఉపయోగపడుతుంది. స్క్రిప్ట్‌ను బహుళ ఫైల్ జియోడాటాబేస్‌లలో రన్ చేయవచ్చు, మరియు ఈ నిలువు వరుసలతో అవుట్‌పుట్ CSV ఫైల్‌ను సృష్టిస్తుంది: 'చివరిగా సవరించబడింది', 'ఫైల్ జియోడాటాబేస్', 'ఫీచర్ డేటాసెట్', 'ఫీచర్ క్లాస్', 'స్పేషియల్ రిఫరెన్స్', 'కోలమ్ కౌంట్', 'కోలమ్ కౌంట్' 'మెటాడేటా వివరణ', 'మెటాడేటా సారాంశం', 'మెటాడేటా క్రెడిట్‌లు', 'మెటాడేటా యాక్సెస్ పరిమితులు'.

import csv
import os
import time

from arcpy import Describe
from arcpy import env
from arcpy import GetCount_management
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy import metadata as md

folder = r'...'
log = open('log.txt', 'w')
output_csv_file = os.path.basename(__file__).replace('.py','.csv')

with open(output_csv_file,'w',newline='') as csv_file:
    csv_writer = csv.writer(csv_file, delimiter=',')
    column_headers = [
        'Last Modified','File Geodatabase', 'Feature Dataset', 'Feature Class', 
        'Spatial Reference', 'Row Count', 'Column Count', 
        'Metadata Title', 'Metadata Description', 'Metadata Summary',
        'Metadata Credits', 'Metadata Access Constraints'
    ]
    
    csv_writer.writerow(column_headers)

    for (folder, dirs, files) in os.walk(folder):
        if(folder.endswith('.gdb')):
            print(folder)

            last_modified = '???'

            try:
                last_modified = time.ctime(max(os.stat(root).st_mtime for root,_,_ in os.walk(folder)))
            except:
                msg = 'Error getting last modified date for {}'.format(folder)
                print(msg)
                log.write('{}\n'.format(msg))
                pass

            fgdb = folder
            env.workspace = fgdb

            datasets = []

            try:
                datasets = ListDatasets(feature_type='feature')
                datasets = [''] + datasets if datasets is not None else []
            except:
                msg = 'Error getting datasets for {}'.format(folder)
                print(msg)
                log.write('{}\n'.format(msg))
                pass

            for dataset in datasets:
                for feature_class in ListFeatureClasses(dataset):
                    desc = Describe(feature_class)
                    spatial_reference = desc.SpatialReference.factoryCode
                    count = GetCount_management(feature_class)[0]
                    column_count = len(ListFields(feature_class))
                
                    metadata = None
                    row = []

                    try:
                        metadata = md.Metadata(feature_class)
                        row = [
                            last_modified,
                            fgdb,dataset,feature_class,
                            spatial_reference,count,column_count,
                            metadata.title,metadata.description,
                            metadata.summary,metadata.credits,
                            metadata.accessConstraints    
                        ]
                    except:
                        row = [
                            last_modified,
                            fgdb,dataset,feature_class,
                            spatial_reference,count,column_count,
                            'error','error','error','error','error'    
                        ]
                        pass

                    csv_writer.writerow(row)

log.close()

కొన్నిసార్లు డేటా షేప్‌ఫైల్‌ల నుండి ఫీచర్ క్లాస్‌లకు మార్చబడినప్పుడు లేదా జియోప్రాసెసింగ్ సాధనాలను అమలు చేస్తున్నప్పుడు జాగ్రత్త తీసుకోకపోతే, ఫీచర్ తరగతులు అనవసరమైన ఫీల్డ్‌లతో ముగుస్తాయి. ఉదాహరణకు, ఫీచర్ క్లాస్‌లో "OBJECTID" అనే ఫీల్డ్ ఉండవచ్చు మరియు అదే ఫీచర్ క్లాస్‌లో "OBJECTID_1" అని పిలువబడే మరొక ఫీల్డ్ ఉండవచ్చు. ఈ ఫీల్డ్‌లలో ఒకటి ఫీచర్ క్లాస్ కోసం OID ఫీల్డ్ అయి ఉండాలి, అయితే, కొన్నిసార్లు ఏ OBJECTID ఫీల్డ్ సరైనదో కూడా స్పష్టంగా తెలియకపోవచ్చు. ఫీల్డ్‌ను తొలగించలేకపోతే 35వ పంక్తి విఫలమవుతుంది మరియు స్క్రిప్ట్ అమలులో కొనసాగుతుంది కాబట్టి ఈ దిగువన ఉన్న స్క్రిప్ట్‌కు OID ఫీల్డ్ ఏ ఫీల్డ్ అని తెలుసుకోవాల్సిన అవసరం లేదు. ఫీల్డ్ పేరును తనిఖీ చేయడానికి దిగువన ఉన్న స్క్రిప్ట్ రెండు విభిన్న మార్గాలను చూపుతుంది, అనగా ఫీల్డ్ పేరును లైన్ 10లోని జాబితాలో చేర్చవచ్చు లేదా ఫీల్డ్ పేరును లైన్ 33లో "OBJECTID"తో ప్రిఫిక్స్ చేయవచ్చు. ఈ స్క్రిప్ట్ కోసం, తొలగించబడిన ఫీల్డ్‌లు CSV ఫైల్‌కి అవుట్‌పుట్ చేయబడతాయి. అవుట్‌పుట్ CSV ఫైల్ పేరు పైథాన్ స్క్రిప్ట్ పేరు అదే పేరు - లైన్ 12 చూడండి. స్క్రిప్ట్‌ను అమలు చేయడానికి ముందు, లైన్ 35ని వ్యాఖ్యానించడం, స్క్రిప్ట్‌ను అమలు చేయడం మరియు ఏ ఫీల్డ్‌లు తొలగించబడతాయో చూడడానికి అవుట్‌పుట్ CSV ఫైల్‌ను తనిఖీ చేయడం మంచిది. అలాగే, ఫీల్డ్‌ని తొలగించిన తర్వాత, దాన్ని తిరిగి పొందడం సాధ్యం కాదు, కాబట్టి అనుమానం ఉంటే, ఫైల్ జియోడాటాబేస్‌లను ముందుగా బ్యాకప్ చేయాలి.

import csv
import os

from arcpy import env
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy import ListFields
from arcpy.management import DeleteField

fields_to_delete = ['objectid', 'objectid_1', 'objectid_12', 'shape_le_1', 'shape_leng', 'shape_length', 'shape__length', 'shape__area']
input_folder = r'...'
output_csv_file = os.path.basename(__file__).replace('.py','.csv')

with open(output_csv_file, 'w', newline='') as csv_file:
    csv_writer = csv.writer(csv_file)
    csv_writer.writerow(['File Geodatabase','Feature Dataset', 'Feature Class', 'Field'])

    for (folder, dirs, files) in os.walk(input_folder):
        if(folder.endswith('.gdb')):
            file_geodatabase = folder
            print('Processing {}'.format(file_geodatabase))

            env.workspace = file_geodatabase

            feature_datasets = ListDatasets(feature_type='feature')
            feature_datasets = [''] + feature_datasets if feature_datasets is not None else []

            for feature_dataset in feature_datasets:
                feature_classes = ListFeatureClasses(feature_dataset=feature_dataset)

                for feature_class in feature_classes:
                    for field in ListFields(feature_class):
                        if field.name.lower() in fields_to_delete or field.name.lower().startswith('objectid'):
                            try:
                                DeleteField(feature_class, field.name)
                                csv_writer.writerow([file_geodatabase, feature_dataset, feature_class, field.name])
                            
                            except:
                                pass

మ్యాప్ సేవలు లేదా ఫీచర్ సేవలను ప్రచురించే ముందు, ముందుగా ఫీచర్ క్లాస్ ఎక్స్‌టెన్స్‌లను మళ్లీ లెక్కించడం మంచి పద్ధతి. ఎందుకంటే అప్పుడప్పుడు ఫీచర్ క్లాస్ పరిధి తప్పుగా ఉండవచ్చు. డేటా యొక్క పరిధిని మార్చే డేటాపై జియోప్రాసెసింగ్ టాస్క్‌లను అమలు చేయడంతో సహా ఫీచర్ క్లాస్ పరిధిని తప్పుగా మార్చే అనేక అంశాలు ఉన్నాయి మరియు డేటాను దిగుమతి చేసేటప్పుడు ఫీచర్ క్లాస్ పరిధి కూడా తప్పు కావచ్చు ఎందుకంటే దిగుమతి చేయబడిన డేటా యొక్క ఉపసమితి ఆధారంగా ప్రారంభ ఫీచర్ క్లాస్ పరిధిని లెక్కించి ఉండవచ్చు. జూమ్-టు-లేయర్ బటన్‌పై క్లిక్ చేసినప్పుడు ఫీచర్ క్లాస్ పరిధిని చూడడానికి మొదటి సులభమైన మార్గం తప్పు, మ్యాప్ సరైన స్థాయిలో జూమ్ చేయదు. లేయర్ విస్తీర్ణం తప్పు అని చెప్పడానికి మరొక సంకేతం, లేయర్ సరిగ్గా రెండర్ కాకపోవడం. ఉదాహరణకు, ఒక పెద్ద GeoJSON ఫైల్‌ని దిగుమతి చేస్తున్నప్పుడు, ఆ ఫీచర్ క్లాస్‌కు ఎంత మేరకు తిరిగి లెక్కించబడే వరకు అది ArcGIS ప్రోలో సరిగ్గా రెండర్ కాకపోవచ్చు.

import os

from arcpy import env
from arcpy import ListDatasets
from arcpy import ListFeatureClasses
from arcpy.management import RecalculateFeatureClassExtent

input_folder = r'...'

for (folder, dirs, files) in os.walk(input_folder):
    if(folder.endswith('.gdb')):
        env.workspace = folder

        feature_datasets = ListDatasets(feature_type='feature')
        feature_datasets = [''] + feature_datasets if feature_datasets is not None else []

        for feature_dataset in feature_datasets:
            feature_classes = ListFeatureClasses(feature_dataset=feature_dataset)

            for feature_class in feature_classes:
                print('{}\t{}\t{}'.format(folder, feature_dataset, feature_class))
                RecalculateFeatureClassExtent(feature_class)

మీ వద్ద ఎన్ని షేప్‌ఫైల్‌లు ఉన్నాయో అర్థం చేసుకోవడంలో సహాయపడటానికి డైరెక్టరీలో అన్ని షేప్‌ఫైల్‌లను జాబితా చేయడం కోసం ఈ స్క్రిప్ట్ రూపొందించబడింది, కాబట్టి అవి ఫైల్ జియోడాటాబేస్‌లు లేదా ఎంటర్‌ప్రైజ్ జియోడాబేస్‌లలోని ఫీచర్ క్లాస్‌లకు తరలించబడతాయి. షేప్‌ఫైల్‌లు సాధారణంగా అనేక కారణాల వల్ల నివారించబడాలని గమనించండి. షేప్‌ఫైల్ ఫార్మాట్ చాలా పాత ఫార్మాట్ మరియు ప్రాదేశిక డేటాను భాగస్వామ్యం చేయడానికి చాలా మెరుగైన ఫార్మాట్‌లు ఉన్నాయి. షేప్‌ఫైల్‌లు పేలవమైన కుదింపును కలిగి ఉంటాయి మరియు షేప్‌ఫైల్‌లకు డేటాను ఎగుమతి చేసినప్పుడు, ఫీల్డ్ పేర్లు పది అక్షరాలకు కత్తిరించబడతాయి, ఇది అసలు ఫీల్డ్ పేరు ఏమిటో ఊహించడం కష్టతరం చేస్తుంది. షేప్‌ఫైల్‌లను ఉపయోగించడాన్ని పరిగణించే ముందు జియోడాటాబేస్ ఫీచర్ తరగతులు, జియోప్యాకేజీలు, జియోజ్‌సన్ లేదా ఇతర ఫార్మాట్‌లను ఉపయోగించండి.

import csv
import os

# change the input folder here for the directory you want to search
input_folder = r'\\...\...'

# change the file name here to the output file you want
results_file = 'shapefiles.csv'

extns = ['.aih', '.ain', '.atx', '.cpg', '.dbf', '.fbn', '.fbx', '.ixs', '.mxs', '.prj', '.sbn', '.sbx', '.shp', '.shx', '.xml']

with open(results_file, 'w', newline='') as csvfile:
    csvwriter = csv.writer(csvfile)
    column_headers = ['Folder','Shapefile'] + extns
    csvwriter.writerow(column_headers)

    for (folder, dirs, files) in os.walk(input_folder):
        for file in files:
            if(file.endswith('.shp')):
                shapefile_name = file.replace('.shp','')

                line = [folder,shapefile_name]

                for extn in extns:
                    file_path = os.path.join(folder,'{}{}'.format(shapefile_name,extn))
                    file_exists = 'Y' if os.path.exists(file_path) else 'N'
                    line.append(file_exists)
                
                csvwriter.writerow(line)

ఈ స్క్రిప్ట్ MXDలు (ArcMap ఫైల్‌లు) మరియు APRXs (ArcGIS ప్రో ఫైల్‌లు) కోసం లేయర్ సమాచారాన్ని జాబితా చేస్తుంది. ఫలితాలు CSV ఫైల్‌కి అవుట్‌పుట్ చేయబడ్డాయి మరియు ఈ నిలువు వరుసలను కలిగి ఉంటాయి:

ArcMap Python 2ని ఉపయోగిస్తుందని గమనించండి మరియు ArcGIS 3 స్క్రిప్ట్‌ని పొందడానికి Pyతో పని చేయడానికి Pyని ఉపయోగిస్తుంది. MXD ఫైల్‌లు, మేము దిగువ స్క్రిప్ట్‌లో MXDని APRXకి మారుస్తాము. ఈ APRX మెమరీలో మాత్రమే ఉంది మరియు డిస్క్‌లో సేవ్ చేయబడదు (కానీ అవసరమైతే డిస్క్‌లో సేవ్ చేయవచ్చు).

దీన్ని అమలు చేయడానికి 5 మరియు 7 పంక్తులను మార్చండి మరియు మాన్యువల్‌గా మెమరీలోకి క్లోన్ చేయగల ఖాళీ APRXని సృష్టించండి (లైన్ 7).

import csv
import os

from arcpy.mp import ArcGISProject

directory = r'\\...\...'
blank_aprx = r'\\...\...\temp.aprx'
results_file = os.path.basename(__file__).replace('.py','.csv')

# create a CSV file
with open(results_file, 'w', newline='') as csvfile:
    csvwriter = csv.writer(csvfile)

    # write out the column headers in the CSV file
    csvwriter.writerow(['File Path','Folder','File Name','File Type','Map / Data Frame','Layer Name','Layer Source','Is Broken','Definition Query'])

    # loop through all of the folders and files in the input directory
    for folder, dirs, files in os.walk(directory):
        for file in files:
            file_path = os.path.join(folder,file)
            
            # check if it is an MXD file - we need to convert the MXD to APRX (in-memory) because we cannot use Python 3 with MXDs
            if file.endswith('.mxd'):     
                file_type = 'mxd'
                aprx = ArcGISProject(blank_aprx)
                aprx.importDocument(file_path)

            #  check if it is an APRX file
            elif file.endswith('.aprx'):
                file_type = 'aprx'
                aprx = ArcGISProject(file_path)
            
            else:
                # file is not an MXD or APRX, so skip the loop below
                continue

            # list all layers within the 'maps' (for APRXs), or 'data frames' (for MXDs)
            for map in aprx.listMaps():
                for layer in map.listLayers():
                    # if the layer is not a group layer and has a data source
                    if layer.supports('dataSource'):
                        # check if the layer is broken
                        isBroken = layer.isBroken if layer.supports('isBroken') else 'n/a'
                        # check if the layer has a definition query (the WHERE clause in a normal SQL statement - definition queries use SQL)
                        definitionQuery = layer.definitionQuery if layer.supports('definitionQuery') else 'n/a'
                        line = [file_path, folder, file, file_type, map.name, layer.name, layer.dataSource, isBroken, definitionQuery]

                        # write the results to CSV
                        csvwriter.writerow(line)

            # delete the in-memory aprx
            del aprx

print('Results file: {}'.format(results_file))

ఈ స్క్రిప్ట్ అన్ని సేవలకు సంబంధించిన సేవా సమాచారాన్ని జాబితా చేస్తుంది మరియు ఫలితాలను CSVకి అందిస్తుంది. CSVలోని నిలువు వరుస శీర్షికలు దిగువ జాబితా చేయబడ్డాయి:

స్క్రిప్ట్‌ని అమలు చేయడానికి ముందు, పరామితులను లైన్లు 22 నుండి 31కి మార్చండి.

import csv
import json
import requests

def getToken(url, params):
    response = requests.post(url, params)
    token = json.loads(response.text)['token']
    return token

def fetchUrl(url):
    params = {
        'f': 'json',
        'token': token
    }

    response = requests.post(url, params)
    data = json.loads(response.text)

    return data

web_adaptor = 'arcgis' # web adaptor or load balancer 
token_url = 'https://{}/portal/sharing/rest/generateToken'.format(map_server)

params = {
    'f': 'json',
    'referer': 'https://.../portal/sharing/rest/generateToken',
    'username': 'portaladmin',
    'password': '**************'
}

token = getToken(token_url, params)

''' 
    ArcGIS Admin URL - we are using the admin URL, not the 
    Services Directory URL because the Services Directory will 
    only list the services that are started/running.  We also
    want to know about the stopped services.
'''
admin_url = 'https://{}/{}/admin/services'.format(map_server,web_adaptor)

params = {
    'f': 'json',
    'token': token
}

response = requests.get(admin_url, params)
data = json.loads(response.text)

folders = data['folders']
foldersToExclude = ['System','Utilities']

for folder in foldersToExclude:
    folders.remove(folder)

services = data['services'] 

with open('map_service_info.csv', 'w', newline='') as csv_file:
    csv_writer = csv.writer(csv_file)

    column_names = ['Map Server', 'Folder', 'Service name', 'Service type', 'URL', 'Published By', 'Path', 'Service Description', 'Copyright Info']
    csv_writer.writerow(column_names)

    for service in services:
        folder = ''
        service_name = service['serviceName']
        service_type = service['type']
        url = '{}/{}.{}'.format(admin_url,service_name,service_type)
       
        service_info = fetchUrl(url)
        service_description = service_info['description']
        user_name = service_info['properties']['userName'] if 'userName' in service_info['properties'] else ''
        copyright_info = service_info['properties']['copyright'] if 'copyright' in service_info['properties'] else ''
        path = service_info['properties']['path'] if 'path' in service_info['properties'] else ''

        row = [map_server, folder, service_name, service_type, url, user_name, path, service_description, copyright_info]
        csv_writer.writerow(row)

    for folder in folders:
        url = '{}/{}'.format(admin_url,folder)
        folder_info = fetchUrl(url)

        for service in folder_info['services']:
            folder = folder_info['folderName']
            service_name = service['serviceName']
            service_type = service['type']
            url = '{}/{}/{}.{}'.format(admin_url, folder, service_name, service_type, url)

            service_info = fetchUrl(url)
            service_description = service_info['description']
            user_name = service_info['properties']['userName'] if 'userName' in service_info['properties'] else ''
            copyright_info = service_info['properties']['copyright'] if 'copyright' in service_info['properties'] else ''
            path = service_info['properties']['path'] if 'path' in service_info['properties'] else ''

            row = [map_server, folder, service_name, service_type, url, user_name, path, service_description, copyright_info]
            csv_writer.writerow(row)