هدف اصلی این مرحله: تضمین حریم خصوصی شهروندان (PII Protection) و تبدیل دادههای بیساختار به لایههای استاندارد و بدون خطای GIS جهت انطباق بر نظامهای ۹گانه مطالعات شهری. در این مرحله، کلیه دادههای خام کالبدی، مکانی، متنی و چندرسانهای گردآوریشده در گام دوم، پیش از ورود به موتورهای پردازش آماری و الگوریتمهای NLP، استخراج، اصلاح هندسی، یکپارچهسازی و گمنامسازی میشوند.
۰
🗺️ نمای کلی خط فرآیند ۳ مرحلهای آمادهسازی دادههای مکانی (ETL)
⚙️
خط فرآیند ۳ مرحلهای آمادهسازی دادههای مکانی (ETL Pipeline)
گام ۱
استخراج دادههای خام
خروجی API · تجمیع کاغذی · فایل صوتی
گام ۲
استانداردسازی هندسی
CRS · توپولوژی · نرمالسازی متن
گام ۳
گمنامسازی و ماسکسازی
PII · شبکه ۵۰×۵۰m · حد آستانه
خروجی
تولید GeoJSON
لایه پاکسازیشده · Geodatabase
۱
🛠️ تشریح تفصیلی گامبهگام مراحل ۳ گانه اجرایی
گام ۱: استخراج یکپارچه دادههای خام
Data Extraction Protocolدر این گام، کلیه دادههای پراکنده از بسترهای دیجیتال و میدانی استخراج و در پایگاه داده متمرکز مشاور (Staging Database) بارگذاری میشوند:
-
استخراج دادههای برخط (Digital Extraction):
- خروجیگیری مستقیم از دیتابیس پیشخوان برخط شهری در قالب فایلهای
GeoJSON،KML/KMZو جداولPostGIS - شامل لایههای نقطهای (Map Places)، خطی (Map Routes)، پلیگونی (Map Areas) و بودجهریزی جغرافیایی
- خروجیگیری مستقیم از دیتابیس پیشخوان برخط شهری در قالب فایلهای
-
استخراج و دیجیتالسازی دادههای میدانی (Analog-to-Digital Conversion):
- ورود نقشه پایههای کاغذی کارگاههای مساجد و پیمایشهای Walkshop به محیط GIS از طریق زمینمرجعسازی (Georeferencing)
- دیجیتالکردن عارضههای دستی رسمشده توسط گروههای بیصدا و تبدیل آنها به لایههای برداری (Vector Layers)
-
پیادهسازی فایلهای صوتی و متون روایی:
- پیادهسازی متنی (Transcription) صوتهای مصاحبههای عمیق (KIIs)
- ثبت آنها در جداول متنی متصل به نقاط مکانی
گام ۲: استانداردسازی کالبدی، هندسی و متنی
Standardization Protocolدادههای خام شهروندان معمولاً دارای خطاهای هندسی، ناهمخوانی مختصاتی و شلوغیهای متنی هستند. اصلاح آنها طی ۴ فرآیند تخصصی انجام میشود:
-
یکپارچهسازی سیستم مختصات (CRS Unification):
- تبدیل کلیه لایهها به سیستم مختصات جهانی
WGS 84 (EPSG:4326)برای لایههای وب - تبدیل به سیستم
UTM Zone (EPSG:32638/32639)برای محاسبات مساحت و طول در GIS
- تبدیل کلیه لایهها به سیستم مختصات جهانی
-
تصحیح توپولوژی و اصلاح خطاهای هندسی (Topology Correction):
- اصلاح چندضلعیها (Polygons): رفع گرههای متقاطع خودی (Self-intersecting)، حذف حفرههای ناخواسته و بستن پلیگونها با توابع
ST_MakeValidوST_Buffer(geom, 0) - اصلاح خطوط (Lines): متصلکردن خطوط گسسته شبکه معابر ترجیحی و چسباندن آنها به معابر اصلی با تابع
ST_SnapToGrid
- اصلاح چندضلعیها (Polygons): رفع گرههای متقاطع خودی (Self-intersecting)، حذف حفرههای ناخواسته و بستن پلیگونها با توابع
-
نرمالسازی زبانی و متنی (Text Normalization):
- یکسانسازی کاراکترهای فارسی و عربی (تبدیل «ك» به «ک» و «ي» به «ی»)
- حذف حروف زائد، کلمات بیارزش (Stop Words) و ایموجیهای غیرمرتبط
-
تخصیص کد یکتای ۱۶ رقمی و نگاشت بر نظامها:
- الصاق شناسه ۱۶ رقمی پیگیری به تمام عارضهها
- الصاق کد اولیه یکی از نظامهای ۹گانه مطالعاتی به هر رکورد
گام ۳: گمنامسازی مکانی و ماسکسازی اطلاعات هویتی
Spatial Anonymization & PII Maskingبرای حفظ امنیت شهروندان و جلوگیری از امکان شناسایی آدرس دقیق مسکونی افراد بر اساس نظرات ثبتشده، پروتکل گمنامسازی در دو سطح پیادهسازی میشود:
🔐
سطوح دوگانه گمنامسازی و حفظ حریم خصوصی
سطح ۱: ماسکسازی هویتی (PII)
- حذف نام، کد ملی و شماره همراه
- حذف آدرس دقیق پلاک مسکونی
- جایگزینی با کد یکتای ۱۶ رقمی
سطح ۲: گمنامسازی مکانی
- شبکه ششضلعی ۵۰×۵۰ متری
- انتقال نقطه به مرکز سلول (Centroid)
- حذف سلولهای زیر ۳ پاسخ (Threshold)
-
ماسکسازی هویتی (PII Scrubbing):
- جداسازی و پاکسازی کامل نام و نام خانوادگی، شماره تماس، کد ملی و IP دستگاه کاربر از خصوصیات (Attributes) لایه مکانی
- نمایش عمومی دادهها صرفاً با کد یکتای ۱۶ رقمی و اطلاعات کلی دموگرافیک (مثلاً: "زن، ۳۴ ساله، ساکن زون ۲")
-
شبکهبندی موزاییکی ۵۰×۵۰ متری (50m Hexagonal Grid Aggregation):
- عدم نمایش نقطه دقیق منزل شهروند: اگر شهروندی نقطهای را دقیقاً روی پلاک مسکونی خود رها کرده باشد، سیستم موقعیت مکانی نقطه را به مرکز ثقل (Centroid) سلول ششضلعی ۵۰×۵۰ متری آن محدوده منتقل میکند
- این کار بدون آسیب زدن به دقت تحلیلهای محلهای، امکان ردیابی خانه شهروند را کاملاً از بین میبرد
-
اعمال حد آستانه تجمیع (Privacy Threshold Guard):
- در صورتی که در یک سلول شبکهای، تعداد نظرات کمتر از ۳ پاسخ باشد، دادههای آن سلول فقط در تحلیلهای کلان محله نمایش داده میشود و بهصورت منفرد منتشر نخواهد شد تا هویت فرد قابل حدس نباشد
۲
📅 برنامه اجرایی، زمانبندی و جدول نقشها (SOP و RACI)
این مرحله ظرف مدت ۷ روز کاری طبق جدول زمانبندی و تفکیک مسئولیتهای زیر اجرا میشود:
📅
جدول زمانبندی و مراحل SOP آمادهسازی دادهها (۷ روز)
A
استخراج دادهها
روز ۱ و ۲- استخراج فایلهای خام
- زمینمرجعسازی نقشه کاغذی
B
استانداردسازی
روز ۳ و ۴- تصحیح توپولوژی و هندسهها
- یکسانسازی سیستم مختصات
C
گمنامسازی
روز ۵ و ۶- ماسکسازی PII هویتی
- اجرای شبکه ۵۰×۵۰ متری
D
خروجی و تحویل
روز ۷- خروجیگیری نهایی GeoJSON
- تحویل به تیم NLP و KDE
ماتریس مسئولیتهای اجرایی (RACI Matrix)
| زیرفرآیند عملیاتی مرحله اول | متخصص ارشد GIS | مدیر دیتابیس (DBA) | راهبر تسهیلگران | ناظر راه و شهرسازی |
|---|---|---|---|---|
| ۱. استخراج دادههای خام و زمینمرجعسازی | R | A | C | I |
| ۲. یکپارچهسازی CRS و تصحیح توپولوژی | A / R | C | I | I |
| ۳. ماسکسازی PII و حذف دادههای هویتی | C | A / R | C | I |
| ۴. شبکهبندی ۵۰×۵۰m و گمنامسازی مکانی | A / R | C | I | I |
| ۵. ممیزی نهایی و تحویل لایه به خط پردازش | R | C | I | A / R |
📌
راهنمای RACI:
R = Responsible (انجامدهنده اصلی)،
A = Accountable (پاسخگوی نهایی)،
C = Consulted (مشاورهدهنده)،
I = Informed (مطلعشونده).
۳
💾 نمونه الگوی داده خام در برابر داده استاندارد و گمنامشده
۱. داده خام ورودی (دارای مخاطره حریم خصوصی و خطای هندسی)
{
"type": "Feature",
"geometry": { "type": "Point", "coordinates": [45.7583912, 36.7641203] },
"properties": {
"CitizenName": "علی محمدی",
"PhoneNumber": "0914141****",
"ExactAddress": "محله مجبورسو، کوچه شهید احمدی، پلاک ۱۲",
"Comment": "كوچه ما تاريكه و معتادها جمع ميشن!!",
"RawStatus": "Uncleaned"
}
}
۲. داده پس از استانداردسازی و گمنامسازی (آماده پردازش)
{
"type": "Feature",
"geometry": {
"type": "Point",
"coordinates": [45.7585000, 36.7641000]
},
"properties": {
"TrackingCode16Digit": "MHB-1405-9982-1044",
"GridCellID": "HEX-50M-MHB-8821",
"TargetSystem": "System6_Infrastructure_and_Traffic",
"DemographicCohort": "Male_30_to_50_Resident",
"CleanedNormalizedText": "کوچه ما تاریکه و معتادها جمع میشن",
"SpatialAccuracy": "Anonymized_To_50m_Centroid",
"IsPiiMasked": true,
"TopologyStatus": "Valid_EPSG4326"
}
}
🎯 وجه تمایز داده استاندارد: تمامی متادادههای هویتی (نام، شماره تماس، آدرس دقیق) حذف شده و جایگزین آنها کد ۱۶ رقمی پیگیری، شناسه سلول شبکه ششضلعی و گروه دموگرافیک کلی شده است. علاوه بر این، متن نرمالسازی شده و کد نظام ۹گانه به آن الصاق شده است.
✅
💡 نتیجهگیری عملیاتی
✅
اجرای دقیق این مرحله تضمین میکند که تمامی ورودیهای مردمی با رعایت کامل اخلاق پژوهش و قوانین حریم خصوصی، به لایههای کاملاً سالم، یکدست و آماده برای محاسبات آمار فضایی و تحلیلهای هوشمند الگوریتمی در گام سوم تبدیل شوند.
➡️
مرحله بعدی: پس از اتمام این مرحله (استخراج، استانداردسازی و گمنامسازی مکانی)، دادهها به مرحله دوم: پردازش هوشمند متون، تحلیل احساسات مکانمند و نگاشت بر نظامهای ۹گانه تحویل داده میشوند.