تحير الصور ومقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي المدعين العامين في أمريكا اللاتينية، حتى مع احتضان المحاكم الذكاء الاصطناعي لمعالجة تراكم القضايا.
بعد فترة وجيزة من إطلاق النار على المرشح الرئاسي الكولومبي ميغيل أوريبي تورباي في تجمع سياسي في يونيو، غمرت مئات مقاطع الفيديو للهجوم وسائل التواصل الاجتماعي.
تبين أن بعض هذه المنتجات كانت مزيفة عميقة مصنوعة بذكاء اصطناعي، مما أجبر الشرطة والمدعين العامين على قضاء ساعات في فحصها وفضح زيفها أثناء التحقيق.
تم توجيه الاتهام إلى مراهق في النهاية.
ويؤدي اعتماد الذكاء الاصطناعي المتزايد إلى تحويل نظام العدالة في أمريكا اللاتينية من خلال المساعدة في معالجة القضايا المتراكمة وتحسين وصول الضحايا إلى العدالة. لكنها تكشف أيضا عن نقاط ضعف عميقة من خلال إساءة الاستخدام المتفشية والتحيز والرقابة الضعيفة حيث يكافح المنظمون لمواكبة وتيرة الابتكار.
لا تملك سلطات إنفاذ القانون حتى الآن "القدرة على النظر في هذه المسائل القضائية بخلاف مجرد السؤال عما إذا كان الدليل حقيقيا أم لا"، كما قالت لوسيا كاماتشو، منسقة السياسة العامة في Derechos Digitales، وهي مجموعة حقوق رقمية، لبقية العالم. وقالت إن هذا قد يمنع الضحايا من الوصول إلى أطر قانونية قوية وقضاة على دراية بالتكنولوجيا. تكافح أنظمة العدالة في جميع أنحاء العالم لمعالجة الأضرار الناجمة عن التزييف العميق التي تستخدم بشكل متزايد في عمليات الاحتيال المالية، وفي الانتخابات، ونشر الصور الجنسية غير الرضائية. يوجد حاليا أكثر من 1,300 مبادرة في 80 دولة ومنظمة دولية لتنظيم الذكاء الاصطناعي، ولكن ليست كل هذه قوانين ولا تغطي جميعها التزييف العميق، وفقا لمنظمة التعاون الاقتصادي والتنمية.
كافح المدعون العامون في تشيلي والأرجنتين والمكسيك - حيث لم يتم تنظيم التزييف العميق بعد - للحصول على إدانات في الأشهر الأخيرة في قضايا تتعلق بطلاب المدارس الثانوية الذين قاموا بإنشاء وتوزيع صور مزيفة صريحة لزميلات في الفصل دون موافقة.
بينما أصدر مكتب المدعي العام أوامر بإلغاء فهرسة الصور من مواقع الويب ، لا يزال من الممكن العثور على أسماء الضحايا في بعض المواقع الإباحية ، كما قال دانتونا ل Rest of World. قال: "الضرر لا يزال قائما".
تسبب الاستخدام غير المنظم الذكاء الاصطناعي في أضرار أخرى. في جميع أنحاء المنطقة، تستخدم الشرطة أنظمة التعرف على الوجه القائمة على الذكاء الاصطناعي لتعقب المجرمين، وقد أضرت عن غير قصد بالمواطنين الأبرياء.
