كشفت Google عن إجراءات أكثر صرامة لحماية مستخدمي Google Play مع الانتشار السريع للميزات المعتمدة على الذكاء الاصطناعي التوليدي داخل تطبيقات Android. وتركز الشركة بصورة خاصة على منع استخدام تطبيقات الذكاء الاصطناعي في إنشاء أو تسهيل أو توزيع محتوى حميمي غير توافقي، إلى جانب مواجهة التطبيقات والخدمات التي تحاول استغلال تقنيات AI للإضرار بالأشخاص أو التحرش بهم.
وتوضح Google أن انتشار أدوات الذكاء الاصطناعي يفتح فرصًا كبيرة للمطورين، لكنه في الوقت نفسه يخلق تحديات أمنية جديدة تتطلب مراقبة مستمرة. ولهذا لا تتعامل الشركة مع سلامة التطبيق على أنها عملية تنتهي بمجرد قبوله في المتجر، بل تقول إنها تختبر التطبيقات وميزاتها بصورة متكررة طوال دورة حياتها.
ويعني هذا أن Google Play يتجه إلى التعامل مع تطبيقات AI باعتبارها منتجات يمكن أن تتغير طريقة عملها ونتائجها بمرور الوقت، خصوصًا عندما تعتمد على نماذج توليدية تستجيب لمدخلات المستخدمين بصورة ديناميكية.
ما الذي أعلنته Google Play؟
نشرت Google في 25 أغسطس 2026 توضيحًا جديدًا حول استراتيجيتها لحماية منظومة Android من إساءة استخدام الذكاء الاصطناعي التوليدي. وأكدت أن سياساتها تحظر تسهيل أو إنشاء أو توزيع المحتوى الجنسي غير التوافقي، وأن التطبيقات المصممة لاستهداف الأشخاص أو استغلالهم أو التحرش بهم لا مكان لها على Google Play.
الرسالة لا تعني أن Google تحارب تطبيقات AI أو تريد تقليل وجودها في المتجر. على العكس، الشركة ترى أن إضافة قدرات الذكاء الاصطناعي إلى التطبيقات يمكن أن تفتح إمكانات إبداعية مهمة، لكنها تشدد في الوقت نفسه على مسؤولية المطور عن وضع وسائل حماية تمنع استخدام هذه القدرات بطريقة ضارة.
وتأتي هذه الإجراءات مع استمرار زيادة عدد تطبيقات الذكاء الاصطناعي والميزات التوليدية التي تصل إلى المستخدمين، وهو ما يجعل مراقبة طريقة استخدام النماذج نفسها جزءًا أساسيًا من عملية حماية المتجر.
Google تراجع آلاف التطبيقات بصورة متكررة
من أبرز ما كشفته Google أنها تقوم بمراجعة واختبار آلاف التطبيقات بحثًا عن إساءة الاستخدام. ولا تقتصر مراجعة التطبيقات على اللحظة التي يرسل فيها المطور تطبيقه للموافقة عليه، لأن ميزات AI التوليدية ديناميكية ويمكن أن تنتج نتائج مختلفة اعتمادًا على المدخلات.
ولهذا تقول Google إنها تختبر التطبيقات بصورة نشطة ومتكررة خلال دورة حياتها للتأكد من وجود وسائل حماية قوية ضد المحتوى الحميمي غير التوافقي. وتهدف هذه العملية إلى اكتشاف التطبيقات التي تحاول تجاوز سياسات Google Play قبل أن تصل إساءة استخدامها إلى عدد كبير من الأشخاص.
وهذا تطور مهم بالنسبة إلى مطوري تطبيقات Android المعتمدة على AI، لأن اجتياز المراجعة الأولى لا يعني بالضرورة انتهاء عملية التحقق. فإذا تغير سلوك التطبيق لاحقًا أو ظهرت طرق جديدة للتحايل على وسائل الحماية، يمكن أن يصبح التطبيق موضع مراجعة مرة أخرى.
إزالة التطبيقات المخالفة ليست الإجراء الوحيد
Google لا تعتمد فقط على حذف التطبيق من المتجر. الشركة تقول إن فرق Play والإعلانات تعمل معًا لقطع طرق تحقيق الدخل والإعلان عن الجهات التي تستخدم التطبيقات لإنشاء أو تحقيق أرباح من المحتوى الضار.
فإذا تم تعليق تطبيق أو إزالته بسبب محاولة إنشاء أو تحقيق دخل من محتوى حميمي غير توافقي، يمكن منع التطبيق من الاستفادة من الإعلانات وتحقيق الدخل عبر منصات Google أيضًا. وبهذه الطريقة يصبح تطبيق سياسات Google Play ممتدًا إلى الجانب المالي وليس مجرد إزالة صفحة التطبيق من المتجر.
وترى الشركة أن قطع هذه المسارات يساعد على حماية منظومة الإعلانات والاشتراكات، وفي الوقت نفسه يحافظ على فرص المطورين الذين يقدمون منتجات مشروعة ولا يعتمدون على ممارسات ضارة لجذب المستخدمين.
Google تستهدف تطبيقات إنشاء المحتوى الحميمي غير التوافقي
التركيز الأكبر في الإعلان الرسمي يقع على التطبيقات التي تستخدم الذكاء الاصطناعي التوليدي لإنشاء صور أو محتوى حميمي لأشخاص دون موافقتهم. ومن بين الأمثلة التي تشير إليها Google التطبيقات أو الميزات التي تروج لقدرات من نوع “nudify” أو “undress”، إضافة إلى إنشاء الصور الصريحة المزيفة أو التعديلات الجنسية على صور حقيقية.
وتؤكد Google أن هذه الأنواع من الاستخدامات تمثل مخاطر مرتفعة على المستخدمين. ولذلك تطالب مطوري تطبيقات الذكاء الاصطناعي باختبار أنظمتهم ضد الطلبات التي تحاول إجبار النموذج على إنتاج هذا النوع من المحتوى.
كما ينبغي ألا يعتمد التطبيق بالكامل على فلاتر الأمان الموجودة أصلًا في نموذج AI الذي يستخدمه. توصي Google بإضافة ضوابط خاصة بالتطبيق لفحص المدخلات والمخرجات ومنع النتائج غير الآمنة قبل عرضها للمستخدم.
متطلبات مهمة عند إرسال تطبيق AI للمراجعة
قدمت Google أيضًا إرشادات عملية للمطورين لتسهيل مراجعة التطبيقات. من أهمها ضرورة منح فريق المراجعة إمكانية الوصول الكامل إلى جميع ميزات الذكاء الاصطناعي الموجودة داخل التطبيق.
إذا كانت بعض الميزات التوليدية خلف اشتراك مدفوع أو جدار دفع، فيجب أن يتمكن المراجعون من الوصول إليها أثناء الاختبار. وينطبق ذلك أيضًا على الخصائص المقيدة جغرافيًا. الهدف هو ألا يستطيع تطبيق إخفاء إحدى وظائفه الحساسة عن فريق المراجعة ثم إتاحتها للمستخدمين بعد النشر.
وتوصي Google المطورين بالاحتفاظ بوثائق توضح اختبارات السلامة والحالات الصعبة التي جرى اختبارها، بما في ذلك إثبات أن النموذج المستخدم يرفض طلبات إنشاء الصور الصريحة أو التزييف العميق الضار.
وتنبه الشركة إلى أن تقييم سلامة تطبيقات الذكاء الاصطناعي أكثر تعقيدًا من التطبيقات التقليدية، ولذلك قد تستغرق بعض عمليات المراجعة والاستئناف وقتًا أطول عندما تحتاج إلى فحص متعمق.
اختبار التطبيق ضد محاولات التحايل أصبح ضروريًا
وجود فلتر يمنع عبارة واضحة لا يكفي وحده لتحقيق أمان التطبيقات. المستخدم الذي يريد إساءة استخدام نموذج توليدي قد يحاول إعادة صياغة طلبه بطريقة تبدو عادية بينما يقصد الوصول إلى نتيجة مخالفة.
ولهذا تطالب Google المطورين بإجراء اختبارات هجومية أو ما يعرف باختبارات adversarial prompts، بحيث تتم تجربة طرق مختلفة للتحايل على تعليمات النموذج. الهدف هو معرفة ما إذا كان التطبيق سيحافظ على قواعد السلامة عندما يستخدم الشخص صياغة غير مباشرة للوصول إلى المحتوى المحظور.
وتشير Google إلى أن النماذج الآمنة نفسها قد تتعرض لمحاولات تجاوز مبتكرة، ولهذا يجب أن يضيف المطور طبقات حماية داخل بنية التطبيق بدل الاعتماد كليًا على النموذج الأساسي.
المطور مسؤول أيضًا عن إعلانات تطبيقه
جانب آخر مهم في الإعلان يتعلق بالإعلانات. Google تؤكد أن مطور التطبيق يظل مسؤولًا عن الحملات الإعلانية الخاصة بمنتجه حتى إذا قام طرف ثالث معتمد بإنشاء تلك الإعلانات أو إدارتها.
إذا تم الترويج لأحد تطبيقات Android على أنه قادر على إنشاء محتوى جنسي صريح أو تنفيذ وظائف من نوع إزالة الملابس بالذكاء الاصطناعي، فقد تتخذ Google إجراءات وفق سياسة الترويج للتطبيقات، حتى إذا ادعى المطور أن التطبيق نفسه لا يقدم هذه الإمكانية فعليًا.
كما تحظر سياسات إعلانات Google الترويج لهذه القدرات، ويمكن أن يؤدي الانتهاك إلى تعليق حساب المعلن. وبذلك تحاول الشركة مواجهة المشكلة في أكثر من نقطة: التطبيق نفسه، والتوزيع عبر المتجر، والإعلانات، وتحقيق الدخل.
بلاغات المستخدمين أصبحت جزءًا من نظام الحماية
تشجع Google المطورين على استخدام تفاعلات المستخدمين باعتبارها إشارات تساعد على تحسين أمان التطبيقات. فإذا حاول المستخدم إرسال طلب مخالف وفشل، فإن هذه المحاولة يمكن أن تساعد المطور على اكتشاف طرق جديدة يحاول بها الأشخاص تجاوز وسائل الحماية.
وينطبق الأمر نفسه على البلاغات والملاحظات التي يقدمها المستخدمون. فبدل التعامل معها فقط كمشكلات دعم فني، يمكن تحليلها لمعرفة أين تحتاج آليات الحماية إلى تعديل أو تشديد.
وهذا يعكس طبيعة الذكاء الاصطناعي التوليدي المختلفة عن البرمجيات التقليدية؛ إذ قد تظهر أنماط جديدة من إساءة الاستخدام بعد إطلاق المنتج، ما يجعل المراقبة المستمرة ضرورية.
Google تتعاون مع جهات متخصصة لمواجهة الإساءة
لا تعتمد Google على أنظمتها الداخلية وحدها. الشركة تقول إنها تتعاون مع منظمات خارجية متخصصة في الدفاع ضد المحتوى الحميمي غير التوافقي، إلى جانب مجموعات بحثية رائدة في مجال سلامة الذكاء الاصطناعي.
ويتم جزء من هذا التعاون من خلال Priority Flagger Program، بهدف اكتشاف إساءة الاستخدام والتعامل معها بصورة أسرع. وهذا يضيف طبقة خارجية إلى منظومة Google Play بدل الاعتماد فقط على المراجعة الآلية أو فرق الشركة.
هل يعني ذلك أن Google Play سيحذف تطبيقات AI؟
لا ينبغي تفسير الإعلان بهذه الطريقة. Google لم تقل إنها ستزيل تطبيقات الذكاء الاصطناعي لمجرد اعتمادها على AI، ولم تعلن حظرًا عامًا على التطبيقات التوليدية.
التركيز هو على التطبيقات التي تنتهك السياسات أو لا تضع وسائل حماية مناسبة ضد الاستخدامات الخطيرة. المطور الذي يقدم أدوات توليدية مشروعة ويطبق متطلبات السلامة يستطيع الاستمرار في نشر تطبيقه، بل إن Google تقول صراحة إنها تريد مساعدة المطورين المسؤولين على إطلاق منتجاتهم بثقة.
لذلك فإن الخبر يتعلق بتشديد طريقة تطبيق الحماية ومواجهة الإساءة، وليس بإغلاق Google Play أمام ابتكارات الذكاء الاصطناعي.
ماذا يعني الخبر لمستخدمي Google Play؟
بالنسبة إلى المستخدم، يفترض أن تؤدي الإجراءات إلى تقليل فرصة انتشار التطبيقات المصممة أساسًا لاستغلال الأشخاص أو إنشاء محتوى ضار. المراجعة المتكررة تعني أيضًا إمكانية اكتشاف تطبيق أصبح مخالفًا بعد نشره، بدل الاعتماد فقط على حالة التطبيق وقت الموافقة الأولى.
كما أن الجمع بين الإزالة وقطع الإعلانات وتحقيق الدخل يجعل تشغيل التطبيقات الضارة أقل جاذبية اقتصاديًا، لأن الجهة المخالفة قد تفقد أكثر من مجرد وجودها داخل المتجر.
وفي المقابل، لا تعني الإجراءات أن كل تطبيق يحمل ميزة AI أصبح موضع شك. الهدف المعلن هو الحفاظ على بيئة تسمح بالابتكار مع رفع مستوى حماية المستخدمين.
ماذا يعني الخبر لمطوري تطبيقات الذكاء الاصطناعي؟
الرسالة الأساسية للمطور واضحة: السلامة يجب أن تكون جزءًا من تصميم المنتج منذ البداية وليست إضافة يتم التفكير فيها قبل إرسال التطبيق إلى المتجر. ويشمل ذلك اختيار النموذج المناسب، وإضافة فلاتر مخصصة، واختبار المدخلات العدائية، ومراقبة المخرجات، والاستفادة من بلاغات المستخدمين.
كذلك يجب أن تكون ميزات التطبيق متاحة بصورة كاملة لفريق مراجعة التطبيقات، بما في ذلك الخصائص المدفوعة أو المقيدة جغرافيًا. وكلما استطاع المطور إثبات اختباره للحالات الحساسة وتوضيح كيفية رفض التطبيق للطلبات الضارة، أصبحت عملية التقييم أكثر وضوحًا.
وهذا يعني أن مطوري تطبيقات Android التي تستخدم AI سيحتاجون إلى التفكير في الامتثال والسلامة كعملية مستمرة طوال عمر المنتج، وليس كقائمة متطلبات تنتهي عند نشر الإصدار الأول.
لماذا يعد إعلان Google مهمًا الآن؟
السرعة التي تنتشر بها أدوات إنشاء الصور وتعديلها تجعل قضية السلامة أكثر إلحاحًا. قدرات كانت تحتاج قبل سنوات إلى برامج متخصصة يمكن الآن توفيرها داخل تطبيق هاتف بواجهة بسيطة، وهو ما يزيد احتمالات الاستخدام المشروع والضار في الوقت نفسه.
لهذا يأتي تشديد Google في وقت أصبحت فيه ميزات AI جزءًا من عدد متزايد من التطبيقات. وبدل انتظار ظهور المشكلة بعد انتشارها، تقول الشركة إنها تستخدم استراتيجية متعددة الطبقات تشمل الفحص المستمر، وسياسات المتجر، والإعلانات، وتحقيق الدخل، والتعاون مع الجهات المتخصصة.
الخلاصة
رسالة Google الجديدة لا تستهدف الذكاء الاصطناعي بحد ذاته، وإنما الاستخدامات التي يمكن أن تحول هذه التقنية إلى وسيلة للإضرار بالمستخدمين. ومع استمرار نمو تطبيقات الذكاء الاصطناعي على Android، تريد الشركة أن تصبح وسائل الحماية جزءًا أساسيًا من تصميم التطبيق وتشغيله.
وتكشف الإجراءات عن نهج أوسع من مراجعة التطبيق مرة واحدة: اختبار مستمر لآلاف التطبيقات، وإزالة المخالف منها، وقطع مسارات الإعلانات وتحقيق الدخل، ومطالبة المطورين باختبار منتجاتهم ضد محاولات التحايل والتعامل مع بلاغات المستخدمين كإشارات لتحسين الحماية.
وبالنسبة للمستخدم، الهدف النهائي هو إبقاء Google Play مكانًا يمكن فيه الاستفادة من ابتكارات AI مع تقليل فرص وصول التطبيقات المصممة للاستغلال أو إنشاء محتوى ضار.
ولمتابعة أحدث أخبار Android والتطبيقات والذكاء الاصطناعي، يمكنك زيارة قسم الأخبار في AppZone Pro.
المصدر
المصدر: Android Developers / Google Play
تاريخ الحدث: 25 أغسطس 2026
