ذكر زاك كامبل في مقال نشره على صحيفة «ذي إنترسبت» أن الاتحاد الأوروبي يموّل مشروعًا لتطوير طائرات مسيّرة (درون) يقودها الذكاء الاصطناعي، ومصممة لحراسة حدود أوروبا من موجات الهجرة وغيرها ذاتيًّا. ويقول: تخيل أنك تتجول عبر الغابات بالقرب من الحدود، وفجأة تسمع صوتًا آليًا، مثل نحلة عملاقة. لقد رصدتك طائرتا درون (أو الطائرات المسيّرة) واقتربتا لتفحصك والحصول على نظرة قريبة.

ويشرح أن الهوائيات على كل من الطائرات، وعلى مركبة أرضية قريبة ذاتية القيادة تلتقط ترددات الراديو القادمة من الهاتف الخلوي في جيبك، ثم يرسلون الإشارات إلى خادم مركزي، والذي يحدد بدوره موقعك بدقة، ويعيد إرسال هذه البيانات إلى الطائرات، لتتحرك وتقترب باتجاهك أكثر.

«إيكونوميست»: ماذا لو فتحت كل الدول حدودها أمام المهاجرين؟ الأرقام تجيبك

تحدد الكاميرات وأجهزة الاستشعار الأخرى الموجودة على هذه الروبوتات أنك إنسان وتحاول التأكد من نواياك. هل أنت تهديد؟ هل تعبر الحدود بطريقة غير مشروعة؟ هل لديك بندقية؟ هل تحركاتك تدل على أنك تشارك في أعمال إرهابية أو جريمة منظمة؟ ترسل الآلات الطيارة خلاصات فيديو إلى مشغلها البشري، حارس الحدود في مكتب على بعد أميال، والذي يتحقق من مقاطع الفيديو ويقرر أنك لست تهديدًا. يضغط حارس الحدود زرًّا، وتفك الطائرات الارتباط عنك وتستمر في دوريتها.

بحسب زاك كامبل، هذا ليس خيالًا علميًّا. يقول زاك في مقال نشره على صحيفة «ذي إنترسبت» إن الاتحاد الأوروبي يموّل مشروعًا لتطوير طائرات مسيّرة يقودها الذكاء الاصطناعي ومصممة لحراسة حدود أوروبا ذاتيًّا. ستعمل الطائرات بدون طيار في أسراب، وستنسق وتتبادل وتوثق المعلومات المؤيدة في ما بينها وما بين أسطول من الطائرات المسيّرة، والطائرات الصغيرة الثابتة الجناحين، والمركبات الأرضية، والغواصات والقوارب. يقول مطورو المشروع المعروف باسم Roborder أو روبوردر إن الروبوتات ستكون قادرة على تحديد البشر، وتقرر بشكل مستقل ما إذا كانوا يمثلون تهديدًا أم لا. إذا قرروا أنك قد ارتكبت جريمة، فسيخطرون شرطة الحدود.

كيف حفزت موجات الهجرة التكنولوجيا الأمنية؟

يذكر الكاتب أن الرئيس دونالد ترامب قد استخدم شبح المجرمين الذين يعبرون الحدود الجنوبية لإثارة المشاعر السياسية القومية وتنشيط قاعدته الانتخابية. وفي أوروبا، بعد عامين من ذروة أزمة الهجرة التي جلبت أكثر من مليون شخص جديد إلى القارة، معظمهم من الشرق الأوسط وأفريقيا، ما تزال الهجرة قضية ساخنة، حتى مع انخفاض عدد الوافدين الجدد.

فازت الأحزاب السياسية في جميع أنحاء الاتحاد الأوروبي بالانتخابات على برامج مناهضة للمهاجرين وسنت سياسات حدودية متزايدة في التقييد والتشديد على المعابر. يخشى دعاة الخصوصية، أخلاقيات التكنولوجيا أن تقوم شركة روبوردر والمشاريع المشابهة بمهمة الاستعانة بشكل مفرط بمصادر خارجية غير بشرية لأداء أعمال تنفيذ القانون، والتي يمكن بسهولة استخدامها كأسلحة ضد الأشخاص في المناطق الحدودية.

Embed from Getty Images

قال نويل شاركي، وهو أستاذ فخري في علم الروبوتات والذكاء الاصطناعي بجامعة شيفيلد بالمملكة المتحدة وواحد من مؤسسي اللجنة الدولية لمراقبة الأسلحة الآلية، وهي منظمة غير ربحية تعمل ضد الاستخدام العسكري للروبوتات، لصحيفة «ذي إنترسبت» قال: «إن تطوير هذه الأنظمة هو خطوة مظلمة في مساحات الخطر الأخلاقي».

يسرد شاركي أمثلة للطائرات بدون طيار الموجودة حاليًا في السوق: روبوتات الطيران المزودة بصاعقات ورذاذ الفلفل، والرصاص المطاطي، وأسلحة أخرى، ويحذر من تداعيات الجمع بين تلك التكنولوجيا وصنع القرار القائم على الذكاء الاصطناعي واستخدامها في المناطق الحدودية المشحونة سياسيًّا. كما يقول «إنها مسألة وقت فقط قبل أن تتمكن طائرة بدون طيار من اتخاذ إجراءات لمنع الناس».

قد يكون مطورو روبوردر قد انتهكوا أيضًا شروط تمويلهم. وفقًا للوثائق المتعلقة بالمشروع التي جرى الحصول عليها من خلال أنظمة الشفافية في الاتحاد الأوروبي، تمول هذه المبادرة في الغالب من خلال منحة الاتحاد الأوروبي للبحوث والابتكار بقيمة 8 ملايين يورو مخصصة للمشاريع غير العسكرية حصريًّا، لكن مطوري روبوردر يعترفون بأن أجزاء من نظامهم المقترح تتضمن تكنولوجيا عسكرية، أو يمكن تحويلها بسهولة للاستخدام العسكري.

ماذا عن الحدود الأخلاقية لهذه التكنولوجيا؟

جانب كبير من تفاصيل تطوير روبوردر يبقى قيد السرّية، لكن بحسب المقال، حصلت «ذي إنترسبت» على تقارير داخلية تتعلق بالاعتبارات الأخلاقية والمخاوف المتعلقة بالبرنامج. نقحت تلك الوثائق بشكل غير صحيح وكشف عنها بالكامل دون قصد.

Embed from Getty Images

في أحد التقارير، سعى مطورو روبوردر إلى معالجة المعايير الأخلاقية المرتبطة بتمويل الاتحاد الأوروبي. نظر المطورون فيما إذا كان من الممكن تعديل عملهم أو تعزيزه لإيذاء البشر، وما الذي يمكن أن يحدث إذا «انتهى الأمر بأي تقنية أو معرفة طورتها في المشروع الأيدي الخاطئة». ذكر المطورون جانب القضايا الأخلاقية عندما «يستخدم البحث المعلومات أو المواد أو التقنيات المصنفة، المواد الخطرة أو المقيدة، وإذا كانت النتائج المحددة للبحث يمكن أن تشكل خطرًا على المشاركين أو على المجتمع ككل».

جادل مطورو روبوردر بأن هذه المخاوف الأخلاقية لا تنطبق على عملهم، قائلين إن هدفهم الوحيد هو تطوير التكنولوجيا الجديدة واختبارها، وأنها لن تباع أو تنقل خارج الاتحاد الأوروبي خلال دورة حياة المشروع. لكن في المقابلات التي أجريت مع «ذي إنترسبت»، أقر مطورو المشاريع بأن تقنيتهم يمكن إعادة بيعها وبيعها، حتى خارج أوروبا، بعد انتهاء دورة المشروع الأوروبية، والتي من المتوقع أن تحدث في العام المقبل.

بعيدًا عن مشروع روبوردر، يذكر المقال أن تقارير الأخلاقيات المقدمة إلى المفوضية الأوروبية تشير إلى سؤال أكبر: عندما يتعلق الأمر بالتكنولوجيا الجديدة مع إمكانية استخدامها ضد الأشخاص المستضعفين في أماكن بها القليل من الحماية لحقوق الإنسان، من الذي يقرر ما ينبغي لنا وينبغي ألا نطوره؟

من يدعم هذا المشروع؟ ومن يعمل معهم؟

حصل مشروع روبوردر على منحة تمويل في عام 2017، وشرع في تطوير نموذج أولي قابل للتسويق -«مجموعة من الروبوتات لدعم مراقبة الحدود»- بحلول منتصف عام 2020. يأمل مطوروه في بناء وتجهيز مجموعة من الطائرات الجوية والبحرية والبرية التي يمكن دمجها وإرسالها في مهام حرس الحدود، والبحث عن «التهديدات» بشكل مستقل على أساس المعلومات المقدمة من المشغلين البشريين، كما صرح ستيفانوس فروشيديس، مدير مشروع روبوردر.

Embed from Getty Images

سوف تستخدم الطائرات المسيّرة كاميرات ضوئية، وأشعة تحت الحمراء، وحرارية، ورادارات، وأجهزة استشعار تردد الراديو لتحديد التهديدات على طول الحدود. وسيستخدم ترددات الهاتف الخلوي لتحديد موقع الأشخاص المشتبه في قيامهم بنشاط إجرامي، وسوف تحدد الكاميرات البشر، والبنادق، والمركبات، والأشياء الأخرى. وقال كوستاس يوانيديس، المدير الفني لشركة روبوردر: «الهدف الرئيسي هو الحصول على أكبر عدد ممكن من المستشعرات في الميدان لمساعدة أفراد الدوريات».

سيختبر المنتج النهائي من قبل شرطة الحدود في العديد من الدول الأوروبية، بما في ذلك البرتغال والمجر واليونان، لكن المشروع أيضًا أثار اهتمامًا كبيرًا في القطاع الخاص. «في النهاية، من المؤكد أن لدينا شركات ترغب في استغلال ذلك تجاريًّا»، هذا ما قاله فروشيديس لـ«ذي إنترسبت»: «قد يستغلون النتيجة بأكملها أو بجزء منها، ووفقًا لذلك يمكنهم استغلال هذا في أوروبا، ولكن أيضًا خارج أوروبا».

في اتفاقية المنحة الخاصة بهم، أخبر مطورو روبوردر المفوضية الأوروبية أنهم لم يتوقعوا أي صادرات من التكنولوجيا الخاصة بهم خارج الاتحاد الأوروبي. لكن في المقابلات، أخبر المطورون «ذي إنترسبت» أن الشركات المشاركة في المشروع ستفتح أبوابها لبيع تكنولوجيتها خارج أوروبا. وفقًا لمتحدث رسمي من برنامج المنح الذي يمول روبوردر، هورايزون 2020، لا يوجد ما يمكن لمؤيدي روبوردر في الاتحاد الأوروبي القيام به للتحكم في مكان أو كيف تستخدم التكنولوجيا التي جرى تمويلها في النهاية.

المستندات التي حصلت عليها «ذي إنترسبت» تُظهر استجابة روبوردر لبعض المخاوف الأخلاقية حول المشروع، ولكن ليس حول التقنية نفسها. في مطلب المنحة، أقر مطورو روبوردر بأن أبحاثهم «قد تستغلها منظمات إجرامية ومجرمين عند التخطيط لارتكاب أعمال خطيرة أو إرهاب» لكنهم كتبوا أن اتحاد الشركات العامة والخاصة التي تطور التكنولوجيا سيعمل على الحفاظ على أمن بياناتهم. تضم هذه المجموعة شركات تصنيع طائرات مسيّرة، وعدة دوائر شرطة وطنية، وحرس وطني، ووزارة دفاع، وسلطة للموانئ، وشركة للدفاع الإلكتروني، وشركة متخصصة في تطوير معدات الحرب الإلكترونية، وأخرى توفر «تحليلات تنبؤية» لقوات الشرطة الأوروبية.

أما بالنسبة للتعديل المحتمل للتكنولوجيا للعملاء في المستقبل، فكانت الإجابات أقل وضوحًا. لن يعلق المطورون على احتمال المبيعات العسكرية بعد انتهاء دورة المشروع. أضاف المطورون أن عملهم قد تأخر لأن أحد شركاء اتحاد الشركات، شركةTekever ، الشركة البرتغالية للطائرات المسيّرة، تركت المشروع. بحسب المقال، رفض المتحدثون باسم روبوردر و Tekeverو Horizon 2020أو هورايزون 2020 شرح سبب المغادرة.

كيف ستستخدم هذه الطائرات في المستقبل؟

تدعم هورايزون 2020 العديد من المشاريع الموجهة للأمن، لكنها تؤكد أن «فقط الأبحاث التي تركز حصريًّا على التطبيقات المدنية هي مؤهلة للتمويل». مول برنامج المنح مسبقًا مشروعًا يستخدم الذكاء الاصطناعي لاكتشاف ما إذا كان المسافرون يكذبون أثناء مرورهم بمعابر الحدود الأوتوماتيكية.

Embed from Getty Images

ومع ذلك، فإن الوثائق التي حصلت عليها «ذي إنترسبت» تسلط الضوء على تصريحات غير متسقة حول الاستخدامات العسكرية المحتملة لـروبوردر. وفقًا لأحد التقارير، ليس للمشروع إمكانية «الاستخدام المزدوج» أو النشر العسكري والمدني. بعد 10 صفحات، عندما سئل عما إذا كان عملهم يتضمن عناصر يمكن عدها ذات استخدام مزدوج وفقًا للمعايير الأوروبية، أجاب مطورو روبوردر أن ذلك ممكن.

عين مشروع روبوردر مستشارًا، وهو راينهارد هوتر، كمستشار أخلاقيات خارجية للمشروع، وفقًا لوثيقة أخرى من برنامج هورايزون 2020 نشرت عن غير قصد من قبل المفوضية الأوروبية. في تقريره، كتب هوتر أن «روبوردر ينطوي على تكنولوجيا ذات إمكانات عسكرية»، وأن «نتائج هذا المشروع من الممكن استخدامها مرة أخرى في قطاع الدفاع. أي نشاط مزدوج الاستخدام في المشروع. وبعبارة أخرى، يمكن استخدامه لأغراض عسكرية، ولكن لن يتم استخدامه بهذه الطريقة في نطاق روبوردر». رفض هوتر التحدث إلى «ذي إنترسبت».

قد يكون عدم وضوح الخطوط الفاصلة بين التطوير العسكري والمدني بواسطة برنامج تمويل الاتحاد الأوروبي متعمدًا. في دليل 2014 حول التمويل الأوروبي للمشاريع ذات الاستخدام المزدوج، تلاحظ المفوضية الأوروبية أن اللائحة المنشئة لـهورايزون 2020 تنص على أن لجميع المشروعات الممولة «تركيزًا حصريًّا» على التنمية المدنية، لكن الوثيقة تقول أيضًا إن «أجزاء كبيرة من البحث الممول له أهمية بالنسبة للدفاع، ويمكن أن يؤدي إلى التقنيات التي ستستخدمها الجهات الفاعلة الدفاعية».

ذهب مؤلفو دراسة عام 2016 بتكليف من لجنة الأمن والدفاع الفرعية التابعة للبرلمان الأوروبي إلى أبعد من ذلك، بحجة أنه ينبغي إعادة تفسير فقرة هورايزون 2020 بشأن التنمية المدنية الخالصة لتشمل البحوث الدفاعية. من أجل التنافس مع التطور التكنولوجي في الولايات المتحدة، دعا مؤلفو الدراسة إلى إنشاء معادل أوروبي لـDARPA، وهي وكالة مشاريع الأبحاث المتقدمة للدفاع الأمريكية، التي ساهم عملها في تطوير الإنترنت، ونظام تحديد المواقع العالمي GPS، وغيرها من التقنيات. في خطاب ألقاه عام 2017، نادى الرئيس الفرنسي إيمانويل ماكرون بضرورة تشكيل وكالة أوروبية للابتكار في سياق DARPA نفسه.

قال متحدث باسم البرلمان الأوروبي إن تقرير 2016 لا يمثل آراء البرلمان الأوروبي أو لجنته الفرعية للأمن والدفاع، ولم يستخدم لتطوير أي تشريع محدد. رفضت متحدثة باسم هورايزون 2020 فكرة وجود أي غموض في نوع المشاريع التي يمولها الاتحاد الأوروبي، وقالت: «المفوضية الأوروبية لا تمول الأبحاث المخصصة للاستخدام العسكري».

الدرون موجودة منذ سنوات.. ما الجديد في هذا المشروع؟

الطائرات التي تنوي روبوردر استخدامها هي تقنية شائعة. ما سيكون رائدًا للشركات المعنية هو نظام وظيفي يسمح لأسراب الطائرات بدون طيار بالعمل بشكل مستقل، وفي انسجام تام لتحديد الأهداف تحديدًا موثوقًا. غالبًا ما تكون قدرة الذكاء الاصطناعي على اكتشاف التهديدات غير دقيقة، وفقًا لباحثي الروبوتات، لذا فإن أي نظام يمكنه تحديد الأشخاص، والسيارات، والأسلحة تحديدًا صحيحًا وثابتًا من بين أمور أخرى سيكون بمثابة تقدم كبير ومربح.

Embed from Getty Images

أوضح المدير الفني لشركة روبوردر يوانيديس أن كاميرات الطائرات المسيّرة لن تستخدم تقنية التعرف إلى الوجه ضمن نطاق المشروع، كما أنها لن تكون قادرة على تحديد أي خصائص بشرية، مثل الطول، أو الوزن، أو العمر، أو لون البشرة، أو الجنس. وأضاف لن يحدد النظام سوى أن «هذا الكائن إنساني، لا شيء أكثر من ذلك».

ومع ذلك، اعترف يوانيديس أن إضافة التعرف إلى الوجه إلى نظام روبوردر في وقت لاحق سيكون «ممكنًا من الناحية التكنولوجية». وعندما سأله الكاتب عن تسليح نظام روبوردر للعمل ضد البشر، أجاب بحزم: «لا، لا تملك الروبوتات أي سلطة لاتخاذ أي إجراء ضد أي شخص. إنه مجرد مراقبة وإصدار تنبيهات».

لكن أستاذ الروبوتات في المملكة المتحدة شاركلي يقول إن هناك خطًا رفيعًا بين استخدام الروبوتات لمراقبة الحدود واستخدامها لفرض الحدود. وقال إن تسليح طائرة المسيّرة أمر سهل نسبيًّا، مستشهدًا بحالة مراهق كونيتيكت عام 2015 الذي جهز طائرة مسيّرة بمسدس وقاذف اللهب. بحسب المقال، يقلق شاركلي من تداعيات تطوير النظم الإلية للقيام بدوريات على الحدود، بما في ذلك كيفية استخدام هذا النظام من قبل دولة تتعامل مع تدفق كبير من الناس.

يقول شاركلي: «السؤال هنا، إلى أين يتجه هذا العمل؟ لا يقترح المشروع الحالي تسليحهم، ولكن سيكون من المغري للغاية تسليحهم بالنسبة للبلدان إذا حدثت نقطة تحول في الهجرات الجماعية». تتفق هانا كوشمان، وهي باحثة في منظمة ليبرتي لحقوق الإنسان في المملكة المتحدة، مع تلك المخاوف. إذ قالت للصحيفة: «هناك مخاوف عميقة من حقوق الإنسان والحرية المدنية مع هذه التكنولوجيا. بمجرد تطوير هذه التقنية، يُنظر إليها بوصفها حلًّا، ورد فعل على التقشف، وطريقة لأداء وظيفة بكفاءة وتكلفة أقل، ويتم طرح ذلك دون استشارة مناسبة وتمحيص تشريعي».

كما قالت كوشمان: «لا يتعلق الأمر فقط بتخفيف مخاطر حقوق الإنسان، بل يتعلق الأمر كذلك بما إذا كان يجب علينا استخدام هذه التكنولوجيا في المقام الأول».

مترجم: لماذا قد تكون الهجرة إلى أمريكا قرارًا سيئًا؟

هذا المقال مترجمٌ عن المصدر الموضَّح أعلاه؛ والعهدة في المعلومات والآراء الواردة فيه على المصدر لا على «ساسة بوست».

عرض التعليقات
s