تم إيقاف روبوت الدردشة الخاص بالشرطة بعد ردود فعل غير مرغوب فيها حول التمييز

الشرطة تتدخل بعد تصريحات "معاداة السامية" من روبوت الدردشة

أوقفت الشرطة الهولندية مؤقتًا روبوت الدردشة التجريبي الخاص بها، المسمى "Wout"، عن العمل عبر الإنترنت. جاء هذا القرار الحاسم بعد أن بدأ روبوت الدردشة في إجراء ارتباطات غير مرغوب فيها وغير صحيحة أثناء المحادثات مع المواطنين. كان الأمر يتعلق تحديدًا بالحالات التي كان فيها الناس يبحثون عن معلومات حول تقديم شكوى بالتمييز الموجه ضد الفلسطينيين.

بدلاً من المساعدة في إجراءات تقديم الشكوى، بدأ "Wout" في تحويل المحادثة نحو معاداة السامية. لم تكن هذه هي الوظيفة المقصودة لروبوت الدردشة.

ظهرت التقارير الأولى عن هذا السلوك الغريب عبر وسائل التواصل الاجتماعي والإعلام المستقل. المواطنون الذين استشاروا روبوت الدردشة بسؤال محدد حول التمييز ضد الفلسطينيين، سمعوا أن "Wout" ربط ذلك بمعاداة السامية. أدى ذلك إلى الارتباك والإحباط بين المستخدمين الذين كانوا يبحثون عن مساعدة للإبلاغ عن الظلم.

اعترفت الشرطة بالمشاكل وقررت اتخاذ إجراءات سريعة لمنع المزيد من التصعيد. يعد الإيقاف المؤقت لـ "Wout" رد فعل مباشر على هذا التحول غير المرغوب فيه.

ما الذي حدث بالضبط مع "Wout"؟

من المحتمل أن يكون التفسير التقني لهذه الأخطاء كامنًا في طريقة تدريب روبوت الدردشة. تستخدم روبوتات الدردشة مثل "Wout" الذكاء الاصطناعي (AI) ويتم تدريبها على كميات هائلة من النصوص من الإنترنت. في بعض الأحيان، يمكن أن يؤدي هذا التدريب إلى ارتباطات غير مقصودة أو نقل تحيزات ضارة موجودة في بيانات التدريب.

في هذه الحالة المحددة، يبدو أن الذكاء الاصطناعي لـ "Wout" قد قام بإنشاء رابط بين التمييز ضد الفلسطينيين ومعاداة السامية، دون وجود مبرر منطقي أو واقعي في سياق سؤال المستخدم.

من المهم جدًا فهم أن نماذج الذكاء الاصطناعي تتعرف على الأنماط في البيانات. إذا كانت هناك ارتباطات غير صحيحة أو متحيزة موجودة داخل بيانات التدريب، يمكن للذكاء الاصطناعي أن يتبناها ويعيد إنتاجها. إنها تحدٍ معروف في تطوير الذكاء الاصطناعي.

من المرجح أن يعمل مطورو روبوت الدردشة على تحليل شامل لبيانات التدريب والخوارزميات لتحديد مكان الخطأ بالضبط. فقط بعد هذا التحليل يمكن إعادة روبوت الدردشة بأمان وإعادة نشره. حتى ذلك الحين، سيظل "Wout" متوقفًا عن العمل.

يؤكد هذا الحادث على الحاجة إلى التطوير الدقيق والمراقبة المستمرة لتطبيقات الذكاء الاصطناعي. خاصة عندما يتم استخدامها لمهام مجتمعية حساسة مثل الاتصالات الشرطية. موثوقية هذه الأنظمة وعدم انحيازها تأتي أولاً.

ما معنى هذا بالنسبة للشركات الصغيرة والمتوسطة؟

قد تتعلق هذه الأخبار حول روبوت الدردشة الخاص بالشرطة "Wout" بالقطاع العام بشكل خاص، إلا أن الآثار المترتبة على الشركات الصغيرة والمتوسطة (SMBs) ذات صلة وتقدم دروسًا مهمة. يتزايد عدد الشركات الصغيرة والمتوسطة التي تفكر في استخدام تطبيقات الذكاء الاصطناعي أو تستخدمها بالفعل لأغراض متنوعة. فكر في خدمة العملاء، النصوص التسويقية، تحليل البيانات، أو حتى الاتصالات الداخلية.

الدرس الرئيسي هنا هو أهمية مصدر وجودة الذكاء الاصطناعي الذي تستخدمه. تمامًا كما قامت الشرطة بتدريب "Wout" على بيانات الإنترنت، يتم تدريب العديد من أدوات الذكاء الاصطناعي على مجموعات بيانات عامة وكبيرة. قد تحتوي مجموعات البيانات هذه على تحيزات غير مقصودة.

إذا كانت شركتك تستخدم روبوت دردشة لأسئلة العملاء، فيمكنه، مثل "Wout"، مشاركة معلومات غير صحيحة أو حتى ضارة. يمكن أن يؤدي ذلك إلى الإضرار بالسمعة وضياع الثقة لدى عملائك، وهو ما يمكن أن يكون مدمرًا لشركة صغيرة أو متوسطة.

علاوة على ذلك، من الضروري الوعي بقيود الذكاء الاصطناعي. الذكاء الاصطناعي هو أداة، وليس بديلاً عن الفطنة البشرية والحكم. تأكد من وجود مراجعة بشرية دائمًا لمخرجات أنظمة الذكاء الاصطناعي، خاصة فيما يتعلق بالمعلومات أو القرارات الحساسة.

على سبيل المثال، إذا كان الذكاء الاصطناعي ينشئ نصوصًا تسويقية، يجب على موظف دائمًا مراجعتها قبل إرسالها إلى العملاء.

ضع في اعتبارك الخطوات التالية لشركتك الصغيرة أو المتوسطة:

• اختر مزود الذكاء الاصطناعي بعناية: استفسر عن بيانات التدريب والطرق التي يستخدمها المزود لتقليل التحيز.
• اختبر مخرجات الذكاء الاصطناعي بدقة: قم بإجراء اختبارات متنوعة مع أداة الذكاء الاصطناعي في سياقك الخاص قبل نشرها على نطاق واسع.
• راقب باستمرار: راقب أداء ومخرجات أداة الذكاء الاصطناعي عن كثب. قم بإيقافها مؤقتًا إذا لاحظت نتائج غير متوقعة أو غير مرغوب فيها.
• درب موظفيك: تأكد من أن موظفيك يفهمون كيفية عمل الذكاء الاصطناعي، وما هي حدوده، وكيف يجب أن يتصرفوا إذا ارتكب الذكاء الاصطناعي خطأ.
• حافظ على الاتصال البشري: تأكد من أن العملاء لديهم دائمًا خيار التحدث إلى شخص حقيقي. هذا ضروري لرضا العملاء وحل المشكلات المعقدة.

من خلال تطبيق هذه المبادئ، يمكنك الاستفادة من مزايا الذكاء الاصطناعي مع تقليل المخاطر. هذا سيساعد شركتك الصغيرة أو المتوسطة على الابتكار بأمان وكفاءة.

خلاصة

يجب أن يكون الحادث المتعلق بروبوت الدردشة الخاص بالشرطة "Wout" بمثابة تحذير مهم لكل من يعمل مع الذكاء الاصطناعي أو يفكر في القيام بذلك. السرعة التي تتطور بها هذه التقنية مثيرة للإعجاب، لكنها تأتي أيضًا بمسؤوليات. بالنسبة للشركات الصغيرة والمتوسطة، من الضروري أن تكون على دراية بالمخاطر المحتملة للذكاء الاصطناعي، مثل التحيزات غير المقصودة وأخطاء التفسير.

من خلال الاختيار الدقيق للأدوات، والاختبار الشامل، والمراقبة المستمرة، يمكن للشركات الصغيرة والمتوسطة استخدام الذكاء الاصطناعي بأمان وفعالية كدعم قيم، دون تعريض الموثوقية والاحترافية للخطر. يبقى العامل البشري لا غنى عنه لتقديم خدمة موثوقة.

هل ترغب في معرفة المزيد؟ تعرف أيضًا على كيف يمكن لـ Assist2go المساعدة في خدمة تكنولوجيا المعلومات المناسبة لشركتك.