بقلم تيسير المثلوثي
ترجمة وتحرير مريم الحمد
دخل قانون الذكاء الصناعي للاتحاد الأوروبي حيز التنفيذ هذا الشهر، فهو يهدف إلى تعزيز “تطوير ونشر الذكاء الصناعي لأغراض آمنة داخل الاتحاد الأوروبي”.
لقد تمت الإشادة بهذا القانون، الذي تم اعتماده في وقت سابق من هذا العام، باعتباره خطوة كبيرة إلى الأمام في تنظيم التعامل مع الذكاء الصناعي داخل دول الاتحاد، حيث يهدف إلى الحد من المخاطر التي تشكلها أنظمة الذكاء الاصطناعي وحظر الأنظمة التي تعتبر خطيرة منها وفرض ضوابط صارمة للتطبيقات الخطرة.
يثير الاعتماد المتزايد على الذكاء الصناعي من أجل اتخاذ قرارات الاستهداف مخاوف أخلاقية خطيرة، حيث يؤدي التحديد السريع والواسع النطاق للأهداف غالباً الكثير من الأخطاء!
وفي الوقت الذي تسعى فيه دول الاتحاد من خلال هذا التشريع إلى حماية مواطنين دول الاتحاد الأوروبي، إلا أنه لا يرقى إلى مستوى معالجة الآثار الدولية، خاصة فيما يتعلق بتقنيات الذكاء الصناعي المستخدمة في من قبل الاحتلال الإسرائيلي للأراضي الفلسطينية والإبادة الجماعية المستمرة في غزة، والتي يتم فيها استخدام الذكاء الصناعي لأغراض المراقبة والهجمات والسيطرة على السكان.
منذ بداية الحرب الإسرائيلية على غزة وظهور الأدلة المتزايدة على استخدام إسرائيل لأنظمة الذكاء الصناعي لأغراض الحرب، قام مركز “حملة”، وهي منظمة تدافع عن الحقوق الرقمية للفلسطينيين موجودة في إسرائيل، بفحص التأثير المحتمل لقانون الذكاء الصناعي للاتحاد الأوروبي على نشر الذكاء الاصطناعي في إسرائيل وعواقبه على حقوق الإنسان الفلسطيني، لا سيما في مجالات المراقبة وإنفاذ القانون والحرب الإلكترونية.
وفقاً لورقة تقدير موقف أصدرها المركز، فإن “الحكومة الإسرائيلية تنشر أنظمة الذكاء الصناعي لدعم احتلالها للأرض الفلسطينية المحتلة والسيطرة على تحركات الفلسطينيين وإخضاعهم للمراقبة”.
وعلى الأرض، يواجه الفلسطينيون تدخلات يومية من قبل تقنيات الذكاء الصناعي الإسرائيلية، مثل أنظمة التعرف على الوجه والكاميرات الذكية وأجهزة الاستشعار وخوارزميات الشرطة التنبؤية، حيث تؤدي جميعها إلى انتهاك حقوق الفلسطينيين في الخصوصية وعدم التمييز وحرية الحركة.
سيء السمعة!
لقد سلطت الحرب الإسرائيلية الحالية على غزة الضوء على الاستخدام المتصاعد للذكاء الصناعي في الحرب الالكترونية، مثل أنظمة “Gospel” و”Lavender” و”Where’s Daddy؟”، وهي الأنظمة التي ساهمت في تفاقم ارتفاع معدل الضحايا بين المدنيين في القطاع، حيث ساهمت هذه الأنظمة التكنولوجية، إلى جانب انخفاض الرقابة البشرية، في ارتفاع عدد الضحايا وتدمير المنازل.
ويثير الاعتماد المتزايد على الذكاء الصناعي من أجل اتخاذ قرارات الاستهداف مخاوف أخلاقية خطيرة، حيث يؤدي التحديد السريع والواسع النطاق للأهداف غالباً الكثير من الأخطاء!
يشتهر المجمع الصناعي العسكري الإسرائيلي بتطوير ونشر وتصدير هذه التقنيات الذكية، ولذلك يختبرها داخل الأراضي الفلسطينية المحتلة، كما تستورد إسرائيل تقنيات الذكاء الصناعي من شركات مقرها الاتحاد الأوروبي، مما يعزز احتلالها وقمعها الممنهج للفلسطينيين.
وبالعودة إلى قانون الذكاء الصناعي الأوروبي، فهو يصنف أنظمة الذكاء الصناعي حسب المخاطر، فيحظر تلك التي تنطوي على مخاطر غير مقبولة، مثل استخدام تقنيات مموهة أو استغلال نقاط الضعف، كما يفرض القانون متطلبات صارمة على الأنظمة عالية المخاطر، مثل التعرف على الوجه والشرطة التنبؤية.
المفارقة هي أنه برغم ذلك يعفي تقنيات الذكاء الصناعي المستخدمة للأغراض العسكرية أو الدفاعية أو الأمن القومي من قوانينه رغم أضرارها الكبيرة على حقوق الإنسان!
إضافة إلى ذلك، فقد تغاضى القانون عن تنظيم تصدير أنظمة الذكاء الصناعي التي تصنعها شركات الاتحاد الأوروبي إلى دول خارج الاتحاد الأوروبي، بما فيها إسرائيل، وهذا يعني أن شركات الاتحاد الأوروبي يمكنها بيع تقنيات الذكاء الصناعي، سواء المحظورة أو الخاضعة لرقابة شديدة داخل الاتحاد الأوروبي، إلى إسرائيل دون ضمانات كافية.
من هنا، يتم تصدير أنظمة التعرف على الوجه والشرطة التنبؤية وأنظمة الذكاء الصناعي المستخدمة في الحرب الالكترونية إلى إسرائيل بكل بساطة، مما يؤدي إلى تفاقم انتهاكات حقوق الإنسان ضد الفلسطينيين.
يجب على صناع السياسات ومنظمات المجتمع المدني والشركات العمل معاً لتطوير المعايير الأخلاقية للذكاء الصناعي وحماية حقوق الفئات السكانية الضعيفة، بمن فيهم الفلسطينيون، في مواجهة التقنيات المتقدمة
على سبيل المثال، أدى الاستهداف العسكري الإسرائيلي القائم على الذكاء الصناعي، خلال الحرب الحالية على غزة، إلى سقوط عدد كبير من الضحايا بين المدنيين بسبب اختيار الأنظمة للأهداف!
وفي الضفة الغربية المحتلة، يؤدي الاستخدام المكثف لتكنولوجيا التعرف على الوجه إلى تقييد حركة الفلسطينيين، مما ينتهك حقوقهم في الخصوصية وحرية الحركة.
استثناءات واسعة
يقدم القانون أيضاً دلالات مثيرة للقلق فيما يتعلق بالأمن القومي وتطبيقات إنفاذ القانون، فعلى الرغم من دعوات المجتمع المدني لحظر التقنيات التي تقتحم الخصوصية، مثل التعرف على الوجه والشرطة التنبؤية، إلا أن القانون يصنفها على أنها عالية المخاطر فقط بدلاً من حظرها بشكل كامل.
وفي التطبيق، يمكن لوكالات إنفاذ القانون في الاتحاد الأوروبي استخدام تقنية التعرف على الوجه عن بعد في الأماكن العامة في ظل ظروف محددة، مثل منع التهديدات الوشيكة أو تحديد موقع الضحايا، إلا أن هذه الشروط قابلة للتأويل واحتمال إساءة استخدامها تحت ستار الأمن ومكافحة الإرهاب!
علاوة على ذلك، يتم إعفاء وكالات إنفاذ القانون من نشر تفاصيل أنظمة الذكاء الصناعي التي تستخدمها، مما يقلل من المساءلة والمحاسبة، حيث تقوض هذه الاستثناءات الواسعة من الضمانات والضوابط المقصودة من القانون لحماية الأمن القومي، مما يهدد بإساءة استخدام تقنيات الذكاء الصناعي ضد النشطاء الفلسطينيين والمؤيدين لفلسطين داخل دول الاتحاد الأوروبي.
هناك العديد من الإجراءات الضرورية التي يجب على صانعي السياسات في الاتحاد الأوروبي ومنظمات المجتمع المدني ومقدمي خدمات الذكاء الصناعي الالتفات لها لتقليل المخاطر.
من المهم توسيع نطاق قانون الاتحاد الأوروبي حول الذكاء الصناعي من حيث تنظيم تصدير أنظمة الذكاء الصناعي إلى دول خارج الاتحاد الأوروبي، وضمان عدم مساهمة التقنيات المصنوعة في الاتحاد الأوروبي في انتهاكات حقوق الإنسان في الخارج، ويشمل ذلك وضع ضمانات على الأنظمة عالية المخاطر وحظر تصدير تقنيات الذكاء الصناعي المحظورة داخل الاتحاد الأوروبي.
تطوير الرقابة الأخلاقية
ينبغي أيضاً فرض المزيد من تدابير الشفافية والمساءلة، مثل اشتراط إجراء تقييمات الأثر على حقوق الإنسان وإتاحتها للجمهور وحظر التقنيات التي تقتحم الخصوصية مثل الشرطة التنبؤية والتعرف على الوجه.
من الضروري كذلك تضييق الاستثناءات المتعلقة بالأمن القومي وإنفاذ القانون من خلال وضع مبادئ واضحة وآليات مراقبة لضمان عدم انتهاك أنظمة الذكاء الصناعي المعدة لأغراض أمنية للحقوق الأساسية للإنسان.
تشكل حماية الحقوق الرقمية الفلسطينية أولوية رئيسية أخرى، حيث ينبغي لصناع السياسات في الاتحاد الأوروبي ومنظمات المجتمع المدني الدفاع عن هذه الحقوق من خلال ضمان عدم ترسيخ تقنيات الذكاء الصناعي للاحتلال والقمع من خلال مراقبة نشر الذكاء الصناعي في الأراضي المحتلة ومحاسبة الشركات على دورها في انتهاكات حقوق الإنسان.
علاوة على ذلك، يشكل تعزيز تطوير الذكاء الصناعي الأخلاقي أهمية بالغة، بحيث تتبنى الشركات مبادئ تعطي الأولوية لحقوق الإنسان والشفافية، ويشمل ذلك إجراء تقييمات شاملة للمخاطر والتواصل مع أصحاب المصلحة والتأكد من أن التكنولوجيا لا تساهم في انتهاكات حقوق الإنسان.
يعد قانون الذكاء الصناعي للاتحاد الأوروبي خطوة مهمة نحو تنظيم الذكاء الصناعي والتخفيف من مخاطره، إلا أن نطاق أحكامها الحالية لا ترقى إلى مستوى معالجة التحديات المعقدة التي تفرضها تقنيات الذكاء الصناعي في سياقات مثل الاحتلال الإسرائيلي للأراضي الفلسطينية.
يجب على صناع السياسات ومنظمات المجتمع المدني والشركات العمل معاً لتطوير المعايير الأخلاقية للذكاء الصناعي وحماية حقوق الفئات السكانية الضعيفة، بمن فيهم الفلسطينيون، في مواجهة التقنيات المتقدمة.
للاطلاع على النص الأصلي من (هنا)
