گام ۳: تلفیق داده‌ها — مرحله اول از خط تولید ETL

🛠️ مرحله اول: استخراج، استانداردسازی و گمنام‌سازی مکانی

خط تولید اصلی پالایش داده‌ها (Data ETL & Pre-processing Pipeline) — تبدیل داده‌های خام شهروندان به لایه‌های استاندارد، سالم و بدون خطای GIS با تضمین کامل حریم خصوصی.

گام‌های ETL ۳ سطوح گمنام‌سازی ۲ مدت زمان اجرا ۷ روز ارکان اجرایی ۴
🧬
هدف اصلی این مرحله: تضمین حریم خصوصی شهروندان (PII Protection) و تبدیل داده‌های بی‌ساختار به لایه‌های استاندارد و بدون خطای GIS جهت انطباق بر نظام‌های ۹گانه مطالعات شهری. در این مرحله، کلیه داده‌های خام کالبدی، مکانی، متنی و چندرسانه‌ای گردآوری‌شده در گام دوم، پیش از ورود به موتورهای پردازش آماری و الگوریتم‌های NLP، استخراج، اصلاح هندسی، یکپارچه‌سازی و گمنام‌سازی می‌شوند.
۰

🗺️ نمای کلی خط فرآیند ۳ مرحله‌ای آماده‌سازی داده‌های مکانی (ETL)

⚙️ خط فرآیند ۳ مرحله‌ای آماده‌سازی داده‌های مکانی (ETL Pipeline)
📥
گام ۱
استخراج داده‌های خام
خروجی API · تجمیع کاغذی · فایل صوتی
📐
گام ۲
استانداردسازی هندسی
CRS · توپولوژی · نرمال‌سازی متن
🛡️
گام ۳
گمنام‌سازی و ماسک‌سازی
PII · شبکه ۵۰×۵۰m · حد آستانه
💾
خروجی
تولید GeoJSON
لایه پاک‌سازی‌شده · Geodatabase
۱

🛠️ تشریح تفصیلی گام‌به‌گام مراحل ۳ گانه اجرایی

📥

گام ۱: استخراج یکپارچه داده‌های خام

Data Extraction Protocol
گام ۱ از ۳

در این گام، کلیه داده‌های پراکنده از بسترهای دیجیتال و میدانی استخراج و در پایگاه داده متمرکز مشاور (Staging Database) بارگذاری می‌شوند:

  1. استخراج داده‌های برخط (Digital Extraction):
    • خروجی‌گیری مستقیم از دیتابیس پیشخوان برخط شهری در قالب فایل‌های GeoJSON، KML/KMZ و جداول PostGIS
    • شامل لایه‌های نقطه‌ای (Map Places)، خطی (Map Routes)، پلیگونی (Map Areas) و بودجه‌ریزی جغرافیایی
  2. استخراج و دیجیتال‌سازی داده‌های میدانی (Analog-to-Digital Conversion):
    • ورود نقشه پایه‌های کاغذی کارگاه‌های مساجد و پیمایش‌های Walkshop به محیط GIS از طریق زمین‌مرجع‌سازی (Georeferencing)
    • دیجیتال‌کردن عارضه‌های دستی رسم‌شده توسط گروه‌های بی‌صدا و تبدیل آن‌ها به لایه‌های برداری (Vector Layers)
  3. پیاده‌سازی فایل‌های صوتی و متون روایی:
    • پیاده‌سازی متنی (Transcription) صوت‌های مصاحبه‌های عمیق (KIIs)
    • ثبت آن‌ها در جداول متنی متصل به نقاط مکانی
📐

گام ۲: استانداردسازی کالبدی، هندسی و متنی

Standardization Protocol
گام ۲ از ۳

داده‌های خام شهروندان معمولاً دارای خطاهای هندسی، ناهمخوانی مختصاتی و شلوغی‌های متنی هستند. اصلاح آن‌ها طی ۴ فرآیند تخصصی انجام می‌شود:

  1. یکپارچه‌سازی سیستم مختصات (CRS Unification):
    • تبدیل کلیه لایه‌ها به سیستم مختصات جهانی WGS 84 (EPSG:4326) برای لایه‌های وب
    • تبدیل به سیستم UTM Zone (EPSG:32638/32639) برای محاسبات مساحت و طول در GIS
  2. تصحیح توپولوژی و اصلاح خطاهای هندسی (Topology Correction):
    • اصلاح چندضلعی‌ها (Polygons): رفع گره‌های متقاطع خودی (Self-intersecting)، حذف حفره‌های ناخواسته و بستن پلیگون‌ها با توابع ST_MakeValid و ST_Buffer(geom, 0)
    • اصلاح خطوط (Lines): متصل‌کردن خطوط گسسته شبکه معابر ترجیحی و چسباندن آن‌ها به معابر اصلی با تابع ST_SnapToGrid
  3. نرمال‌سازی زبانی و متنی (Text Normalization):
    • یکسان‌سازی کاراکترهای فارسی و عربی (تبدیل «ك» به «ک» و «ي» به «ی»)
    • حذف حروف زائد، کلمات بی‌ارزش (Stop Words) و ایموجی‌های غیرمرتبط
  4. تخصیص کد یکتای ۱۶ رقمی و نگاشت بر نظام‌ها:
    • الصاق شناسه ۱۶ رقمی پیگیری به تمام عارضه‌ها
    • الصاق کد اولیه یکی از نظام‌های ۹گانه مطالعاتی به هر رکورد
🛡️

گام ۳: گمنام‌سازی مکانی و ماسک‌سازی اطلاعات هویتی

Spatial Anonymization & PII Masking
گام ۳ از ۳

برای حفظ امنیت شهروندان و جلوگیری از امکان شناسایی آدرس دقیق مسکونی افراد بر اساس نظرات ثبت‌شده، پروتکل گمنام‌سازی در دو سطح پیاده‌سازی می‌شود:

🔐 سطوح دوگانه گمنام‌سازی و حفظ حریم خصوصی
🎭

سطح ۱: ماسک‌سازی هویتی (PII)

  • حذف نام، کد ملی و شماره همراه
  • حذف آدرس دقیق پلاک مسکونی
  • جایگزینی با کد یکتای ۱۶ رقمی
🗺️

سطح ۲: گمنام‌سازی مکانی

  • شبکه شش‌ضلعی ۵۰×۵۰ متری
  • انتقال نقطه به مرکز سلول (Centroid)
  • حذف سلول‌های زیر ۳ پاسخ (Threshold)
  1. ماسک‌سازی هویتی (PII Scrubbing):
    • جداسازی و پاک‌سازی کامل نام و نام خانوادگی، شماره تماس، کد ملی و IP دستگاه کاربر از خصوصیات (Attributes) لایه مکانی
    • نمایش عمومی داده‌ها صرفاً با کد یکتای ۱۶ رقمی و اطلاعات کلی دموگرافیک (مثلاً: "زن، ۳۴ ساله، ساکن زون ۲")
  2. شبکه‌بندی موزاییکی ۵۰×۵۰ متری (50m Hexagonal Grid Aggregation):
    • عدم نمایش نقطه دقیق منزل شهروند: اگر شهروندی نقطه‌ای را دقیقاً روی پلاک مسکونی خود رها کرده باشد، سیستم موقعیت مکانی نقطه را به مرکز ثقل (Centroid) سلول شش‌ضلعی ۵۰×۵۰ متری آن محدوده منتقل می‌کند
    • این کار بدون آسیب زدن به دقت تحلیل‌های محله‌ای، امکان ردیابی خانه شهروند را کاملاً از بین می‌برد
  3. اعمال حد آستانه تجمیع (Privacy Threshold Guard):
    • در صورتی که در یک سلول شبکه‌ای، تعداد نظرات کمتر از ۳ پاسخ باشد، داده‌های آن سلول فقط در تحلیل‌های کلان محله نمایش داده می‌شود و به‌صورت منفرد منتشر نخواهد شد تا هویت فرد قابل حدس نباشد
۲

📅 برنامه اجرایی، زمان‌بندی و جدول نقش‌ها (SOP و RACI)

این مرحله ظرف مدت ۷ روز کاری طبق جدول زمان‌بندی و تفکیک مسئولیت‌های زیر اجرا می‌شود:

📅 جدول زمان‌بندی و مراحل SOP آماده‌سازی داده‌ها (۷ روز)
A

استخراج داده‌ها

روز ۱ و ۲
  • استخراج فایل‌های خام
  • زمین‌مرجع‌سازی نقشه کاغذی
B

استانداردسازی

روز ۳ و ۴
  • تصحیح توپولوژی و هندسه‌ها
  • یکسان‌سازی سیستم مختصات
C

گمنام‌سازی

روز ۵ و ۶
  • ماسک‌سازی PII هویتی
  • اجرای شبکه ۵۰×۵۰ متری
D

خروجی و تحویل

روز ۷
  • خروجی‌گیری نهایی GeoJSON
  • تحویل به تیم NLP و KDE

ماتریس مسئولیت‌های اجرایی (RACI Matrix)

زیرفرآیند عملیاتی مرحله اول متخصص ارشد GIS مدیر دیتابیس (DBA) راهبر تسهیل‌گران ناظر راه و شهرسازی
۱. استخراج داده‌های خام و زمین‌مرجع‌سازی R A C I
۲. یکپارچه‌سازی CRS و تصحیح توپولوژی A / R C I I
۳. ماسک‌سازی PII و حذف داده‌های هویتی C A / R C I
۴. شبکه‌بندی ۵۰×۵۰m و گمنام‌سازی مکانی A / R C I I
۵. ممیزی نهایی و تحویل لایه به خط پردازش R C I A / R
📌
راهنمای RACI: R = Responsible (انجام‌دهنده اصلی)، A = Accountable (پاسخگوی نهایی)، C = Consulted (مشاوره‌دهنده)، I = Informed (مطلع‌شونده).
۳

💾 نمونه الگوی داده خام در برابر داده استاندارد و گمنام‌شده

❌ ۱. داده خام ورودی (دارای مخاطره حریم خصوصی و خطای هندسی)
{ "type": "Feature", "geometry": { "type": "Point", "coordinates": [45.7583912, 36.7641203] }, "properties": { "CitizenName": "علی محمدی", "PhoneNumber": "0914141****", "ExactAddress": "محله مجبورسو، کوچه شهید احمدی، پلاک ۱۲", "Comment": "كوچه ما تاريكه و معتادها جمع ميشن!!", "RawStatus": "Uncleaned" } }
✅ ۲. داده پس از استانداردسازی و گمنام‌سازی (آماده پردازش)
{ "type": "Feature", "geometry": { "type": "Point", "coordinates": [45.7585000, 36.7641000] }, "properties": { "TrackingCode16Digit": "MHB-1405-9982-1044", "GridCellID": "HEX-50M-MHB-8821", "TargetSystem": "System6_Infrastructure_and_Traffic", "DemographicCohort": "Male_30_to_50_Resident", "CleanedNormalizedText": "کوچه ما تاریکه و معتادها جمع میشن", "SpatialAccuracy": "Anonymized_To_50m_Centroid", "IsPiiMasked": true, "TopologyStatus": "Valid_EPSG4326" } }
🎯 وجه تمایز داده استاندارد: تمامی متاداده‌های هویتی (نام، شماره تماس، آدرس دقیق) حذف شده و جایگزین آن‌ها کد ۱۶ رقمی پیگیری، شناسه سلول شبکه شش‌ضلعی و گروه دموگرافیک کلی شده است. علاوه بر این، متن نرمال‌سازی شده و کد نظام ۹گانه به آن الصاق شده است.
✅

💡 نتیجه‌گیری عملیاتی

✅
اجرای دقیق این مرحله تضمین می‌کند که تمامی ورودی‌های مردمی با رعایت کامل اخلاق پژوهش و قوانین حریم خصوصی، به لایه‌های کاملاً سالم، یکدست و آماده برای محاسبات آمار فضایی و تحلیل‌های هوشمند الگوریتمی در گام سوم تبدیل شوند.
➡️
مرحله بعدی: پس از اتمام این مرحله (استخراج، استانداردسازی و گمنام‌سازی مکانی)، داده‌ها به مرحله دوم: پردازش هوشمند متون، تحلیل احساسات مکان‌مند و نگاشت بر نظام‌های ۹گانه تحویل داده می‌شوند.