الدور
تعريف ما يفعله الوكيل وما لا يفعله.
الثقة قبل التوسع
الحوكمة جزء من المنتج، وليست سياسة تُكتب بعد الإطلاق.
كل ادعاء حساس يحتاج دليلًا، وكل بيانات لها غرض وصلاحية، وكل مخرج حرج له شخص معروف يراجعه ويعتمده.
05
حد أمان أساسي
قاعدة أمان غير قابلة للتفاوض
لا يرسل LLM أوامر إلى القواطع أو مرحلات الحماية أو SCADA/PLC، ولا يغير إعدادات الحماية. أي تكامل OT يبدأ للقراءة فقط، في منطقة معزولة، وتحت مراجعة هندسية وأمنية.
SDAIA · PDPL · NCA
تحويل مبادئ SDAIA وPDPL وNCA إلى ضوابط داخل التصميم
| المبدأ | السياق | التطبيق | النتيجة |
|---|---|---|---|
| تحديد الغرض | تصنيف كل مجموعة بيانات | غرض مسموح لكل وكيل | رفض الاستخدام خارج الغرض |
| تقليل البيانات | المهمة تحتاج حقولًا محددة | لا يُرسل الملف كاملًا | أقل بيانات تكفي للمخرج |
| التحكم في الوصول | قسم وعميل ومشروع وسرية | RBAC وعزل | سجل وصول قابل للتدقيق |
| قابلية التدقيق | سؤال ومصدر ونموذج ومخرج | تسجيل الاعتماد النهائي | إعادة بناء سبب القرار |
| عزل OT | لا LLM في مسار التحكم | موصلات قراءة فقط | تقسيم ومراجعة NCA |
| أمن السحابة | تصنيف ومتطلبات الجهة | استضافة وتكامل مناسب | ضوابط NCA المطبقة |
| الإشراف البشري | قانوني ومالي وهندسي وتفتيش | اسم معتمد وصلاحية واضحة | لا إصدار حرج بلا توقيع |
قبل السماح بالوصول
المعيار الإلزامي لكل وكيل
المصادر المسموح بها
الأولوية والحداثة والنطاق.
قاعدة عدم وجود دليل
يقول “يحتاج تحقق” ولا يكمل بالتخمين.
قاعدة الاستشهاد
كل ادعاء حساس له صفحة أو قسم أو سجل.
تعارض المصادر
يعرض التعارض بدل الاختيار الصامت.
الاعتماد
ما يحتاج توقيعًا بشريًا قبل اعتباره نهائيًا.
بنية المخرج
جداول أو أقسام أو JSON ثابت للأنظمة.
السرية
لا سياق من عميل أو مشروع آخر.
حدود السلامة
لا OT commands ولا تغيير إعدادات ولا اعتماد تفتيش آلي.
التصعيد
متى يدخل القانوني أو المهندس أو QA أو المالية.
بوابة الإنتاج
اختبارات ما قبل الإنتاج
01
Golden Set من حالات واقعية بعد حماية البيانات.
02
أسئلة بلا إجابة للتأكد من رفض الاختلاق.
03
دقة الاستشهاد: هل يدعم المصدر الادعاء فعلًا؟
04
اختبارات تسرب البيانات بين المشاريع.
05
Prompt Injection في ملفات الموردين.
06
اختبارات الأدوار والصلاحيات.
07
Regression عند تغيير النموذج أو التعليمات أو الفهرس.
من العام إلى OT
تصنيف البيانات المقترح
| التصنيف | أمثلة | سياسة الاستخدام | الضابط |
|---|---|---|---|
| عام | الموقع والكتيبات وملخصات عامة | وكلاء عامة | مع تحقق المصدر |
| داخلي | قوالب وSOP ودروس مستفادة | مساحة العمل الداخلية | حسب الدور |
| سري للعميل | تقارير ورسومات وPO ومشروع | عزل عميل/مشروع | سجلات وصول |
| مقيد | مالي وقانوني وشخصي واعتمادات | أقل بيانات + RBAC صارم | اعتماد إلزامي |
| حساس OT | SCADA وRelay Settings وشبكة التحكم | قراءة فقط ومعزول | لا مسار تحكم توليدي |
سجل المخاطر
المخاطر الرئيسية ومعالجتها داخل التشغيل
| المخاطرة | مثال | المعالجة | بوابة الثقة |
|---|---|---|---|
| هلوسة | حد اختبار أو متطلب غير موجود | RAG موثوق + No Evidence | اعتماد مهندس |
| إصدار قديم | Manual أو مواصفة منسوخة | Metadata + Latest Approved | تنبيه الإصدار |
| تسرب بين العملاء | بيانات مشروع تظهر لآخر | Tenant isolation + RBAC | اختبارات تسرب |
| حقن تعليمات | PDF مورد خبيث | المستند بيانات لا تعليمات | فلترة واختبار |
| مخاطر OT | ربط غير آمن مع SCADA | Read-only gateway + segmentation | اعتماد أمني وهندسي |
| انحياز للأتمتة | ثقة بلا مراجعة | ثقة وأدلة ظاهرة | Sign-off إلزامي |
| ضعف البيانات | نتائج غير موحدة عبر سنوات | توحيد + Data Quality Score | لا ML قبل الجاهزية |
| تبنٍ ضعيف / تكلفة متضخمة | خطوات إضافية أو نموذج كبير لكل مهمة | دمج في المسار + Model routing | قياس استخدام وتكلفة |
الثقة هي شرط السرعة، لا عدوها.
عندما يعرف الموظف والعميل من أين جاءت الإجابة، ومن يملك الاعتماد، وأين تقف حدود النظام؛ يمكن زيادة الاستخدام بثقة بدل إبطائه بعد حادثة.