في خطوة جديدة لتعزيز أمن الفضاء الرقمي، أصدرت هيئة السلامة الإلكترونية الأسترالية أوامر إلى أربع شركات تعمل في مجال الدردشة المعتمدة على الذكاء الاصطناعي، بتقديم تفاصيل حول سياساتها وإجراءاتها لحماية الأطفال من المحتوى الضار أو المحرض على إيذاء النفس، في إطار تشديد الرقابة على تطبيقات الذكاء الاصطناعي، وسط تصاعد القلق العالمي من تأثيرها على الفئات الأكثر هشاشة.
أبرز التفاصيل:
-
الشركات المعنية هي: Character Technologies المالكة لمنصة Character.ai، وGlimpse.AI، وChai Research، وChub AI.
-
الهيئة طالبت هذه الشركات بتوضيح أنظمتها الخاصة بمكافحة استغلال الأطفال جنسياً، والمحتوى الإباحي، والتحريض على الانتحار أو اضطرابات الأكل.
-
المفوضة الأسترالية للسلامة الإلكترونية جولي إنمان غرانت حذرت من أن بعض روبوتات الدردشة تظهر “جانباً مظلماً”، إذ قد تنخرط في محادثات جنسية مع قاصرين أو تشجعهم على إيذاء النفس.
-
السلطات تمتلك صلاحية إلزام الشركات بالإفصاح عن سياسات الأمان، وإلا تواجه غرامات يومية تصل إلى 825 ألف دولار أسترالي (حوالي 536 ألف دولار أمريكي).
-
الخطوة تأتي بعد قضية انتحار مراهق أمريكي (14 عاماً) إثر تفاعلات مع روبوت Character.ai، ما دفع إلى دعوى قضائية ضد الشركة، التي أكدت بدورها أنها أطلقت أدوات أمان جديدة تشمل نوافذ تحذيرية وروابط لخطوط المساعدة الوطنية.
-
تقارير المدارس الأسترالية كشفت عن أطفال في سن 13 عاماً يقضون حتى 5 ساعات يومياً في التحدث مع روبوتات دردشة، بعضها بطابع جنسي، مما أثار القلق من نشوء علاقات عاطفية أو اعتمادية تجاه هذه الأنظمة.
-
الحملة تشمل معظم المنصات المصممة لتكوين علاقات شخصية، لكنها لا تشمل ChatGPT من OpenAI، إذ لا تخضع للائحة “مدونة الممارسات” حتى مارس 2026.
-
أستراليا تُعد من أكثر الدول صرامة في تنظيم المحتوى الإلكتروني، وتعتزم من ديسمبر المقبل إلزام شركات التواصل الاجتماعي بحظر إنشاء حسابات لمن هم دون 16 عاماً، تحت طائلة غرامة تصل إلى 49.5 مليون دولار أسترالي.
خلاصة:
بهذه الإجراءات، تؤكد أستراليا دخولها مرحلة أكثر صرامة في الرقابة على أدوات الذكاء الاصطناعي، واضعة حماية القاصرين في صدارة أولوياتها أمام التحديات الأخلاقية والتقنية المتسارعة في العالم الرقمي.
كتبت: مريم عابدين