الرغبة في تنظيم التكنولوجيات الجديدة أمر مفهوم، إلا أنها قد تؤدي أحيانًا لعواقب سلبية وغير مقصودة.
نشر أولًا على جلوبال فويسز.
مع انتقال رئاسة مجموعة العشرين من الهند إلى البرازيل في ديسمبر/كانون الأول 2023، برز التحول الرقمي كقضية محورية لكلا البلدين، مع احتلال شركات التكنولوجيا الكبرى والذكاء الاصطناعي صدارة المحادثات والمداولات، سواء من حيث فوائدها أو تنظيماتها. لكن هل هذا الحماس لتسخير فوائد الذكاء الاصطناعي لصالح اقتصاداتها وضمان السيطرة على الاستخدامات الناشئة للذكاء الاصطناعي يطغى على شيء آخر؟
كما أن البرازيل والهند، باعتبارهما اقتصادين بارزين من الدول ذات الكثافة السكانية العالية في العالم، وعضوين قويين في مجموعة البريكس، من الدول التي ستجري انتخابات في عام 2024. تعمل الهند على وضع اللمسات الأخيرة على عملية الانتخابات الوطنية، وستصوت البرازيل لاختيار ممثلي البلديات في أكتوبر/تشرين الأول. يُظهر كلا البلدين اهتمامًا كبيرًا بالأطر التنظيمية الرائدة للتكنولوجيات الجديدة، لا سيما الذكاء الاصطناعي، وهو ما قد يعكس الرغبة في إلهام دول أخرى ذات كثافة سكانية عالمية.
رغم أن الرغبة في تنظيم التكنولوجيات الجديدة أمر مفهوم، إلا أنها قد تؤدي في بعض الأحيان إلى عواقب سلبية وغير مقصودة. قد تنتهك التدابير التي لم تتم مناقشتها بشكل كافٍ الحقوق المدنية أو تفشل في حل المشكلات التي تم تصميمها لمعالجتها في المقام الأول. تجسد العمليات الانتخابية في البرازيل والهند في عام 2024 هذا التوتر، حيث تقدم كل من الدولتين قواعد قابلة للتنفيذ ــ وإن لم تكن قوانين رسمية ــ تهدف إلى تنظيم استخدام الذكاء الاصطناعي في الانتخابات.
البرازيل: مخاوف بشأن حرية التعبير
أصدرت محكمة الانتخابات العليا البرازيلية (“Tribunal Superior Eleitoral” أو TSE) 12 قرارًا في بداية شهر آذار/مارس، قدمت قواعد انتخابية جديدة تنطبق بالفعل على انتخابات 2024 المقبلة. من المقرر إجراء الانتخابات في أكتوبر/تشرين الأول، على مستوى البلديات فقط، لانتخاب رؤساء البلديات وأعضاء مجالس المدن من أكثر من 5570 مدينة في البلاد.
قدمت محكمة الانتخابات العليا عدة أحكام تتعلق بالذكاء الاصطناعي ونظام مسؤولية المنصة في البلاد في حالات الدعاية الانتخابية. وفقًا للموقع الرسمي للمحكمة، تشمل الإجراءات الملحوظة الموجهة إلى الأحزاب السياسية وشركات التواصل الاجتماعي حظر التزييف العميق، وشرط الكشف فيما يتعلق باستخدام الذكاء الاصطناعي في الدعاية الانتخابية، والقيود المفروضة على استخدام الروبوتات لمشاركة الناخبين. هناك أيضًا بند يحمل شركات التكنولوجيا الكبرى المسؤولية عن عدم الإزالة الفورية خلال الفترة الانتخابية للمحتوى الذي يعتبر أنه يشكل مخاطر انتخابية – مثل المعلومات المضللة (بما في ذلك التزييف العميق)، وخطاب الكراهية، والمحتوى المناهض للديمقراطية.
على الرغم من أن القواعد المحددة المتعلقة باستخدام الذكاء الاصطناعي أثناء الانتخابات لها بعض التداعيات الإيجابية، إلا أن القرار أثار مخاوف بشأن حرية التعبير بين المجتمع المدني البرازيلي. لإنه يتحدى بشكل مباشر نظام مسؤولية المنصة المعمول به في القانون البرازيلي، والذي يحكمه في المقام الأول إطار الحقوق المدنية للإنترنت، الذي صدر بموجب القانون رقم 12.965/2014. بحلول وقت الموافقة عليه، كان القانون يحظى بتقدير كبير من قبل الجهات الفاعلة المهمة في مجال الحقوق المدنية الرقمية في جميع أنحاء العالم. بموجب هذا الإطار، كقاعدة عامة، تتمتع المنصات بمسؤولية وسيطة، مما يحميها من المسؤولية عن المحتوى الذي ينشئه المستخدمون ما لم يفشلوا في الامتثال لأمر المحكمة الذي يقضي بإزالة مواد غير قانونية محددة، على النحو المبين في المادة 19.
مع ذلك، يمكن للأحكام الجديدة لمحكمة الانتخابات العليا، أن تفرض عبئًا على المنصات لمراقبة وتصفية المحتوى الذي ينشئه المستخدمون، مما يؤدي بشكل مباشر إلى تغيير نظام المسؤولية في البلاد. قد يؤدي عدم الامتثال إلى عواقب قانونية، مما قد يحفز المنصات على توخي الحذر من خلال إزالة المحتوى الذي يحتمل أن يكون مشروعًا بشكل مفرط لتجنب المسؤولية.
من غير المعروف كيف قررت محكمة الانتخابات العليا هذه القواعد. تقترح المنظمات التي تدافع عن حقوق المستخدمين في البرازيل، مثل Coalizão Direitos na Rede (ائتلاف الحقوق في الشبكات)، أن تناقش محكمة الانتخابات العليا، العواقب الوخيمة لهذا الحكم وتتحدث مع المجتمع المدني والخبراء لإيجاد طرق لإصلاح الآثار غير المرغوب بها التي قد تترتب على ذلك. يمكن أن يؤثر القرار الجديد على المجتمع – مثل الإزالة الجماعية للمحتوى الشرعي:
مع ذلك، فإن هذا ليس التطور الأخير الوحيد الذي يلقي بظلال من الشك على استقرار نظام المسؤولية في البرازيل. إن التحديات التي تواجه دستورية المادة 19 تلوح في الأفق بشكل كبير، حيث تستعد المحكمة الاتحادية العليا لمعالجة هذه القضية في الأشهر المقبلة. بالإضافة إلى ذلك، ناقش مجلس النواب، لمدة أربع سنوات، مشروع القانون رقم 2630/2020، الذي يطلق عليه بين العموم “DSA البرازيلي” (كمرجع إلى قانون الخدمات الرقمية الأوروبي)، والذي سعى إلى تجديد تنظيم المنصات وزيادة مسؤوليات اللاعبين الرئيسيين في مجال التكنولوجيا. على الرغم من أن مشروع القانون قد يبدو ميتًا بعد أحداث أبريل/نيسان 2024، من المقرر تقديم مشروع قانون آخر قريبًا، ويشير السيناريو إلى أن التغيير في الطريق.
الهند: معالجة التحيز السياسي في تنظيم الذكاء الاصطناعي
في الهند، ما بدأ كجنون بسبب فيديو التزييف العميق الذي يعتمد على الذكاء الاصطناعي لممثل هندي، نُشر في نوفمبر/تشرين الثاني 2023، سرعان ما أصبح قضية ملحة مع مخاوف بشأن استخدام الذكاء الاصطناعي والتزييف العميق لنشر معلومات مضللة خلال الانتخابات الهندية. في الواقع، أعرب رئيس الوزراء ناريندرا مودي، الذي ينتمي إلى حزب بهارتيا جانتا (BJP)، في خطاب عام، عن أسفه للتزييف العميق باعتباره تهديدًا ناشئًا يحتاج للكبح بشكل عاجل من خلال تطوير تنظيم عالمي للذكاء الاصطناعي. مع ذلك، وجد البحث المستمر الذي أجراه مرصد إدارة البيانات أن السرد حول استخدام الذكاء الاصطناعي والتزييف العميق من قبل الجهات المناهضة للبلد وأحزاب المعارضة تم استخدامه لتعزيز الحاجة الملحة لتنظيم استخدام الذكاء الاصطناعي والتزييف العميق وتصوير الأضرار الناجمة عن مثل هذا المحتوى.
خلال الانتخابات التشريعية للولاية في راجاستان، ومادهيا براديش، وتاميل نادو، تم تداول مقطع فيديو مزيف لزعيم سياسي من حزب بهاراتيا جاناتا كان آنذاك رئيسًا لوزراء ماديا براديش. وفي الفيديو، شوهد زعيم حزب بهاراتيا جاناتا وهو يشيد بحزب المؤتمر الوطني الهندي، المعارض الرئيس لحزب بهاراتيا جاناتا. سلطت تغطية إحدى القنوات الإخبارية في وقت الذروة حول “تسليح الذكاء الاصطناعي والتزييف العميق أثناء الانتخابات” الضوء على مقطع الفيديو الخاص بزعيم حزب بهاراتيا جاناتا للتأكيد على أن اللوائح الصارمة ضرورية لتنظيم استخدام التزييف العميق للذكاء الاصطناعي. استخدمت المناقشات الإخبارية فيديو التزييف العميق لزعيم حزب بهاراتيا جاناتا كتوضيح للاستخدام الضار للتزييف العميق من قبل أحزاب المعارضة مثل المؤتمر الوطني الهندي. من ناحية، يتم استهداف أحزاب المعارضة بشكل غير مباشر، بسبب الاستخدام غير المشروع للتزييف العميق. مع ذلك، أظهرت التغطية الإخبارية، من ناحية أخرى، النهج الإيجابي لرئيس الوزراء تجاه الذكاء الاصطناعي. إن الجدل الإخباري، على الرغم من عدم ذكره بشكل مباشر، أن الذكاء الاصطناعي والتزييف العميق مستخدم من قبل أحزاب المعارضة، من خلال تجاوره مع فيديو التزييف العميق لزعيم حزب بهاراتيا جاناتا والنهج الإيجابي لرئيس الوزراء تجاه الذكاء الاصطناعي، إلا أنه يعزز رواية التزييف العميق الذي تستخدمه أحزاب المعارضة بدلًا من حزب بهاراتيا جاناتا.
في حين أصبحت أحزاب المعارضة رمزًا لتصوير الاستخدام الضار للذكاء الاصطناعي، اتُهمت الوكالات والشركات المشاركة في إنتاج مقاطع فيديو عميقة التزييف والمنصات التي تستضيف مقاطع فيديو مزيفة بعمق بأنها سبب المشكلة. تقع المسؤولية على الوكالات التي تصنع التزييف العميق للذكاء الاصطناعي للاستخدام الضار، والمنصات التي تفشل في إزالة المعلومات الخاطئة المتعلقة بالذكاء الاصطناعي، ولكن هل هي المصدر والسبب الوحيد لتهديد المعلومات الخاطئة للذكاء الاصطناعي؟ ويجب على الأحزاب السياسية التي توظف هذه الوكالات والقادة السياسيين الذين يرسلون معلومات مضللة في وقت الانتخابات أن يتقاسموا المسؤولية أيضًا.
لمعالجة مشكلة المعلومات الخاطئة المتعلقة بالذكاء الاصطناعي، أصدرت الحكومة الهندية تحذيرًا بشأن التزييف العميق والذكاء الاصطناعي. يُلزم تحذير التزييف العميق المنصات بإبلاغ المستخدمين بوضوح أن نشر التزييف العميق يمكن أن يؤدي إلى الملاحقة الجنائية بموجب القانون. إلى جانب التحذير، حذرت الحكومة من أنها ستضع لوائح أكثر صرامة قريبًا. بعد تحذير التزييف العميق، أصدرت الحكومة أيضًا نسختين من تحذير الذكاء الاصطناعي. في المسودة الأولى، كلف الاستشارة جميع مطوري ومنصات الذكاء الاصطناعي بالحصول على إذن حكومي قبل إطلاق نموذج جديد للذكاء الاصطناعي في الهند. تم تغيير هذا لاحقًا، وتم إلغاء إلزامية الحصول على إذن من الحكومة. بدلًا من ذلك، تم تقديم نهج التنظيم الذاتي حيث يجب على المنصات أن تقوم بتسمية المحتوى الذي ينشئه الذكاء الاصطناعي ذاتيًا. كما تعتزم الحكومة وضع لائحة تنظيمية مناسبة للذكاء الاصطناعي في شهري يونيو/حزيران ويوليو/تموز، والتي تهدف إلى تسخير الإمكانات الاقتصادية للذكاء الاصطناعي مع الحد أيضًا من أي مخاطر وأضرار محتملة.
يظهر التحليل الذي أجراه مرصد حوكمة البيانات أن المجتمع المدني وتحالفات الأعمال قد وصفت نهج الحكومة بأنه رد الفعل. يزعمون أن إزالة التزييف العميق وفرض القيود هو إجراء لسد الفجوة لا يأخذ في الاعتبار تأثيرها على الابتكار بشكل كافٍ ولا يعترف أيضًا بدور الأحزاب السياسية. خلال الانتخابات، تخضع الأحزاب السياسية لمزيد من المساءلة، ويمكن لهيئات مثل لجنة الانتخابات الهندية الضغط عليها لضمان المزيد من الشفافية حول التزييف العميق. يزعم ممثلو المجتمع المدني أنه مع اعتبار التزييف العميق والذكاء الاصطناعي مجرد أداة أخرى لنشر المعلومات المضللة، فإن المشكلة الأكبر المتمثلة في معالجة نظام إعلامي ضعيف وأجواء مستقطبة تلوح في الأفق بالنسبة للهند. لذلك، حتى عندما تصدر الحكومة نصائح لمنصات التكنولوجيا لإزالة التزييف العميق، فإن الافتقار إلى مشاورات واضحة حول قدرة منصات التكنولوجيا على معالجة قضية التزييف العميق، ودور هيئات مثل لجنة الانتخابات في الهند، يجعل من هذه التحذيرات حلًا غير فعال.
مع استمرار تنظيم الذكاء الاصطناعي والتزييف العميق داخل البلاد في حالة فوضوية ويفتقر إلى التشاور المناسب، قدمت الحكومة نفسها في المنتديات الدولية، مثل مجموعة العشرين، على أنها حامية لمواطنيها ورائدة بين الغالبية العالمية من البلدان من أجل الشفافية الشاملة للتحول الرقمي مع اتباع نهج مدروس جيدًا تجاه التنظيم. يمنح هذا الهند الأوسمة في المنتديات الدولية، لكن تظل الحقيقة افتقار النهج الحالي للتشاور الفعال والشفاف في مجال السياسات الذي يمكنه معالجة التحيز السياسي وتوضيح دور الأحزاب السياسية في التعامل مع استخدام الذكاء الاصطناعي أثناء الانتخابات.
ما الخطوات التالية؟
بينما يركز المجتمع الدولي على البرازيل والهند باعتبارهما مركزين للإبداع التكنولوجي، تدفع أنظمة الذكاء الاصطناعي والمسؤولية الواهنة قضايا حرية التعبير للصدارة، وتعزز التحيز السياسي الموجود مسبقًا، وتفتقر إلى التشاور المناسب. في الهند، أصبح النظام البيئي الإعلامي مستقطبًا بشكل متزايد، وفي ظل الحكومة الحالية، تضاءلت المعارضة والنقاش حول اللوائح، وهو ما يحدث الآن مع لوائح الذكاء الاصطناعي. ما لم تكن هناك مشاورات مناسبة مع أصحاب المصلحة وإدراج وجهات نظر أصحاب المصلحة، فقد لا تكون لوائح الذكاء الاصطناعي فعالة. من ناحية أخرى، تواجه البرازيل أيضًا، على الرغم من أنها تخضع لحكومة ذات توجهات يسارية، استقطابًا سياسيًا كبيرًا، حيث تمثل الأجندة الرقمية – خاصة فيما يتعلق بالمنصة وتنظيم الذكاء الاصطناعي – إحدى النقاط الحاسمة في المناقشة. بالتالي، فإن القضايا المتعلقة بتنظيم الذكاء الاصطناعي تمثل مشكلة خاصة لكلا البلدين، فبينما الهند بالفعل في مرحلة الانتخابات، والبرازيل ستذهب قريبًا إلى الانتخابات، فإن الأجواء المشحونة سياسيًا لن تؤدي إلا إلى زيادة حدة هذه المخاوف.
في ظل الافتقار إلى التشاور، فإن الروايات حول اللوائح الانتخابية في المجال الرقمي لا تعطي سوى صورة جزئية للمخاوف التي يثيرها الذكاء الاصطناعي وشركات التكنولوجيا الكبرى؛ ومع ذلك، فإنهم يتمتعون بالقدرة على التأثير على عامة الناس وتصورات المجتمع الدولي، الذي يتطلع إلى الهند والبرازيل باعتبارهما المتسابقين الأوائل في سباق تنظيم التكنولوجيا الجديد.
إن الجهود التي تبذلها الدول ذات الكثافة السكانية العالمية لإيجاد حلول خاصة بها تتناسب مع واقعها دون الاعتماد فقط على النهج الأوروبي والأمريكي هي جهود إيجابية وتستحق الثناء. مع ذلك، لا يمكن أن يتم ذلك على حساب الحقوق الأساسية لشعوب هذه البلدان. على الرغم من أن هذه الأنظمة ملحة وضرورية، فمن المهم بنفس القدر أن تعالج المشاكل التي تنوي حلها بشكل صحيح. يمكن للقواعد التي يتم وضعها على عجل أن تخلق مشاكل جديدة وتزيد من تعقيد السيناريو المعقد بالفعل والمنقسم سياسيًا في هذه البلدان.