سياسة سلامة الذكاء الاصطناعي

تقدّم ProBase Solutions منصة أعمال موجّهة للمؤسسات السعودية تعتمد على الذكاء الاصطناعي لأتمتة المحادثات وخدمة العملاء عبر واتساب والقنوات الرقمية. ونحن ندرك أنّ تبنّي هذه التقنية في بيئة الأعمال يتطلّب التزامًا واضحًا بالمسؤولية والشفافية والأمان. تحدّد هذه السياسة المبادئ والضوابط التي نتبعها لضمان استخدام آمن وعادل وموثوق للذكاء الاصطناعي، وتنطبق على جميع منتجاتنا وخدماتنا والمزايا المبنية على النماذج اللغوية والتوليدية.

نلتزم في تصميم وتشغيل أنظمتنا بالأنظمة واللوائح السعودية ذات الصلة، ومن أبرزها نظام حماية البيانات الشخصية (PDPL) الصادر عن الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA)، إضافةً إلى المبادئ الأخلاقية للذكاء الاصطناعي الصادرة عن الهيئة، ومتطلبات الجهات التنظيمية مثل الهيئة العامة للزكاة والضريبة (ZATCA) فيما يتّصل بالبيانات الضريبية والفوترة الإلكترونية.

1. مبادئ الاستخدام المسؤول

تنطلق ممارساتنا من مجموعة مبادئ ثابتة توجّه كل قرار تصميمي وتشغيلي يتعلّق بالذكاء الاصطناعي، ونعتبرها أساسًا غير قابل للتنازل عند تطوير أي ميزة جديدة:

• المنفعة للعميل: نوظّف الذكاء الاصطناعي لخدمة أهداف العمل المشروعة فقط، لا لأغراض تضرّ بالمستخدمين أو المجتمع.
• المساءلة: تبقى المسؤولية النهائية عن القرارات بشريّة، ولا نُحمّل النظام مسؤولية لا يمكن مساءلة جهة عنها.
• الشفافية: نوضّح متى وأين يُستخدم الذكاء الاصطناعي، وحدود قدراته، واحتمالية الخطأ.
• الأمان والموثوقية: نُخضع الأنظمة للاختبار قبل الإطلاق وأثناء التشغيل لرصد السلوك غير المتوقّع.
• الخصوصية بالتصميم: نراعي حماية البيانات منذ المراحل الأولى للتصميم، لا كإجراء لاحق.
• الإنصاف: نسعى إلى معاملة متكافئة للمستخدمين بصرف النظر عن خلفياتهم.

2. الإنسان في الحلقة للقرارات الحسّاسة

نؤمن بأنّ الذكاء الاصطناعي أداة مساعِدة لاتّخاذ القرار وليس بديلًا عن الحكم البشري في المسائل ذات الأثر الجوهري. ولذلك نطبّق مبدأ الإنسان في الحلقة (Human-in-the-loop) بحيث يُشترط تدخّل موظّف مخوّل قبل تنفيذ أي إجراء حسّاس. ومن نماذج هذه القرارات:

• إلغاء أو استرداد المدفوعات والتعديلات المالية على حسابات العملاء.
• إنهاء العقود أو إيقاف الخدمات أو حظر المستخدمين بشكل دائم.
• أي إجراء يترتّب عليه أثر قانوني أو تنظيمي، بما في ذلك ما يتّصل ببيانات الفوترة لدى ZATCA.
• التعامل مع الشكاوى الحسّاسة أو البلاغات المتعلّقة بالخصوصية والبيانات الشخصية.
• تصعيد الحالات التي يعبّر فيها المستخدم عن ضائقة أو طلب يتجاوز نطاق الأتمتة.

وفي هذه الحالات يقتصر دور النظام على التوصية أو التهيئة، بينما يبقى التنفيذ مرهونًا بمراجعة بشرية واعية ومسؤولة.

3. حواجز الحماية (Guardrails)

نُحيط نماذجنا التوليدية بطبقات من حواجز الحماية التقنية والتشغيلية للحدّ من المخرجات غير المرغوبة وضمان بقاء النظام ضمن النطاق المخصّص له. وتشمل هذه الحواجز:

• تقييد النطاق: توجيه المساعد للإجابة ضمن سياق أعمال العميل ومعرفته المعتمدة، ورفض الانحراف إلى مواضيع خارجة.
• تصفية المحتوى: ضوابط لرصد ومنع المحتوى المسيء أو العنيف أو غير اللائق في المدخلات والمخرجات.
• الحماية من حقن الأوامر (Prompt Injection): آليات للتقليل من محاولات التلاعب بسلوك النموذج عبر تعليمات خبيثة.
• التحقّق من الإجراءات: ربط أي عملية تنفيذية بصلاحيات محدّدة وعتبات تتطلّب تأكيدًا.
• الحدّ من الهلوسة: اعتماد إجابات مستندة إلى مصادر معرفة موثوقة (RAG) بدل التوليد الحرّ عند الإمكان.
• سجلّات تدقيق: تدوين التفاعلات والإجراءات لإتاحة المراجعة اللاحقة والتحقيق عند الحاجة.

4. الاستخدامات المحظورة

نمنع منعًا باتًّا استخدام منصّتنا أو قدرات الذكاء الاصطناعي فيها لأي من الأغراض التالية، ونحتفظ بحقّ تعليق الخدمة فورًا عند رصد أيّ مخالفة:

• انتحال الهوية بقصد الخداع أو الاحتيال أو التضليل المالي.
• إنشاء أو نشر محتوى مضلّل أو مزيّف (Deepfakes) أو معلومات كاذبة بقصد الإضرار.
• إرسال رسائل عشوائية (Spam) أو حملات تواصل غير مرخّصة تخالف ضوابط القنوات والأنظمة.
• المراقبة الجماعية أو تتبّع الأفراد دون أساس نظامي ومشروع.
• التمييز ضدّ الأفراد أو الفئات على أساس محظور نظامًا.
• تقديم استشارات طبية أو قانونية أو مالية حاسمة دون إشراف مختصّ مرخّص.
• أي نشاط مخالف للأنظمة السعودية أو حقوق الملكية الفكرية أو الأمن الوطني.

5. الشفافية بأنّ الردود مولّدة بالذكاء الاصطناعي

نلتزم بمبدأ الإفصاح الواضح، فلا نسعى إلى إيهام المستخدم بأنّه يتحدّث إلى إنسان حين يكون المساعد آليًا. ونُتيح للعملاء أدوات للإفصاح المناسب ضمن تجاربهم، وتتضمّن ممارساتنا:

• تعريف المساعد الآلي بنفسه أو الإشارة إلى طبيعته الآلية عند بدء المحادثة حيثما كان ذلك مناسبًا.
• إتاحة خيار التصعيد إلى موظّف بشري بسهولة عند رغبة المستخدم.
• توضيح أنّ الردود قد تحتوي على أخطاء وأنّها لا تُغني عن المراجعة في الأمور الجوهرية.
• عدم إخفاء حدود النظام أو المبالغة في قدراته في أي مادة تسويقية أو تشغيلية.

6. خصوصية بيانات التدريب

نضع خصوصية بيانات عملائنا في صميم نموذج تشغيلنا. لا نستخدم بيانات العملاء أو بيانات المستخدمين النهائيين لتدريب نماذج ذكاء اصطناعي عامة أو مشتركة، ولا نشاركها مع أطراف لهذا الغرض. وتقوم سياستنا على المبادئ التالية:

• تبقى بيانات كل عميل معزولة ومخصّصة لخدمته وحده، ولا تُستخدم لتحسين خدمة عميل آخر.
• عند الاستعانة بمزوّدي نماذج خارجيين، نعتمد ترتيبات تعاقدية تمنع استخدام بياناتنا في تدريبهم.
• نقلّل من البيانات المرسلة إلى النماذج إلى الحدّ اللازم لإنجاز المهمة فقط (تقليل البيانات).
• نطبّق ضوابط تشفير وحوكمة وصول على البيانات أثناء النقل والتخزين، بما يتوافق مع متطلبات PDPL.
• تُحفظ البيانات داخل المملكة أو في نطاقات معتمدة وفق المتطلبات التنظيمية المعمول بها.

وفي حال رغبة عميل في تمكين تحسينات مخصّصة تستند إلى بياناته الخاصة، فإنّ ذلك يتمّ بموافقة صريحة وضمن نطاق حسابه فقط، دون أن يتسرّب أثره إلى نماذج عامة.

7. التحيّز والإنصاف

ندرك أنّ النماذج اللغوية قد تعكس تحيّزات موجودة في بيانات تدريبها، ونعمل بشكل استباقي على تقليل هذا الأثر لضمان معاملة عادلة لجميع المستخدمين. وتشمل جهودنا:

• مراعاة السياق اللغوي والثقافي العربي والسعودي في تصميم تجارب المساعد وتقييم مخرجاته.
• اختبار الأنظمة على حالات متنوّعة لرصد أي تفاوت في جودة الاستجابة بين الفئات.
• مراجعة دورية للتعليمات والقوالب الموجّهة للنموذج للحدّ من اللغة المتحيّزة أو الإقصائية.
• إتاحة قنوات للإبلاغ عن مخرجات تبدو غير منصفة، ومعالجتها ضمن دورة تحسين مستمرّة.

ومع ذلك، لا يمكن ضمان خلوّ أي نظام ذكاء اصطناعي تمامًا من التحيّز، ولذلك نعتبر الإنصاف هدفًا مستمرًّا نقيسه ونحسّنه باستمرار لا حالة نهائية ثابتة.

8. الدقّة وحدود النظام

تُولّد النماذج اللغوية إجاباتها استنادًا إلى أنماط احتمالية، وقد تُنتج أحيانًا معلومات غير دقيقة أو غير مكتملة تُعرف بـالهلوسة. ولذلك:

• نُسند الإجابات إلى مصادر معرفة معتمدة لدى العميل كلما أمكن لرفع الدقّة.
• نوصي بعدم الاعتماد على مخرجات المساعد كمصدر وحيد في القرارات المالية أو القانونية أو التنظيمية.
• نراقب جودة الردود بشكل مستمرّ ونحدّث الضوابط بناءً على الأخطاء المرصودة.

9. آليات التصحيح والإبلاغ

نوفّر قنوات واضحة تتيح للعملاء والمستخدمين الإبلاغ عن أي مخرجات خاطئة أو ضارة أو غير منصفة، ونلتزم بالتعامل معها بجدّية وضمن مهل زمنية معقولة. وتتضمّن آلية المعالجة:

• الاستقبال: تسجيل البلاغ عبر البريد info@probasesolutions.com أو القنوات المخصّصة داخل المنصّة.
• التقييم: مراجعة الحالة من فريق مختصّ لتحديد طبيعة الخلل وأثره.
• التصحيح: اتخاذ إجراء فوري لإيقاف الضرر، يليه تعديل الضوابط أو القوالب أو مصادر المعرفة لمنع التكرار.
• الإبلاغ المرتدّ: إفادة المُبلِّغ بالنتيجة عند الاقتضاء، والاحتفاظ بسجلّ للتحسين المستمرّ.

وفي الحالات التي تمسّ البيانات الشخصية، نعالج البلاغ وفق متطلبات نظام حماية البيانات الشخصية، ونتعاون مع الجهات التنظيمية المختصّة عند الحاجة.

10. الإشراف البشري والحوكمة

لا نترك أنظمة الذكاء الاصطناعي تعمل دون رقابة. نطبّق نموذج حوكمة يضمن إشرافًا بشريًّا مستمرًّا على دورة حياة النموذج من التصميم حتى التشغيل، ويشمل:

• مراجعة المزايا الجديدة المعتمدة على الذكاء الاصطناعي قبل إطلاقها لتقييم مخاطرها.
• تحديد أدوار ومسؤوليات واضحة لمتابعة أداء الأنظمة وسلامتها.
• مراقبة تشغيلية لرصد السلوك الشاذّ والتدخّل عند الحاجة.
• تحديث السياسات والضوابط بما يواكب تطوّر التقنية والمتطلبات التنظيمية في المملكة.

11. الأمان وحماية البيانات

تتكامل سلامة الذكاء الاصطناعي مع منظومة الأمن السيبراني لدينا. نتبع ممارسات متوافقة مع معايير معترف بها مثل ISO 27001 و SOC 2 في إدارة أمن المعلومات، دون أن يُفهم ذلك على أنّه ادّعاء بحيازة شهادة بعينها ما لم يُذكر صراحةً. وتشمل ضوابطنا التشفير، وإدارة الصلاحيات وفق مبدأ الحدّ الأدنى، والمراقبة المستمرّة، ومواءمة الممارسات مع متطلبات PDPL والأطر الصادرة عن الجهات المختصّة في المملكة.

12. التحديثات على هذه السياسة

قد نحدّث هذه السياسة من حين لآخر لتعكس تطوّر منتجاتنا والتغيّرات التنظيمية وأفضل الممارسات في مجال سلامة الذكاء الاصطناعي. وعند إجراء تغييرات جوهرية، سنُحدّث تاريخ النسخة أعلى الصفحة ونُخطر العملاء عبر القنوات المناسبة. ويُعدّ استمرار استخدام خدماتنا بعد نشر التحديث قبولًا بالنسخة المحدّثة.

13. التواصل معنا

لأي استفسار أو بلاغ يتعلّق بسلامة الذكاء الاصطناعي أو لطلب توضيح حول هذه السياسة، يُرجى التواصل معنا عبر البريد الإلكتروني info@probasesolutions.com. نلتزم بالردّ على البلاغات المتعلّقة بالسلامة والخصوصية ضمن مهلة معقولة، وبالتعاون الشفّاف مع عملائنا والجهات التنظيمية لضمان استخدام مسؤول وآمن للذكاء الاصطناعي.