أقرّ أليكس موراي، المسؤول الوطني عن الذكاء الاصطناعي في الوكالة الوطنية لمكافحة الجريمة في بريطانيا، بأن تقنيات الذكاء الاصطناعي المستخدمة في دعم جهود مكافحة الجريمة ستتضمن قدرًا من التحيّز، لكنه تعهّد بالعمل على تقليص مخاطره. وقال موراي إن المركز الوطني الجديد للذكاء الاصطناعي في الشرطة، الذي تبلغ كلفته 115 مليون جنيه إسترليني، سيأخذ في الاعتبار مخاطر التحيّز ويسعى إلى الحدّ منها، مشيرًا إلى ضرورة تنظيف البيانات وتدريب النماذج واختبارها قبل اعتمادها. وأوضح أن استخدام الذكاء الاصطناعي في مجالات مثل التعرف المباشر إلى الوجوه أو ما يُعرف بالشرطة التنبؤية قد ينطوي على تحيّز، مؤكدًا أن أي أداة تُعتمد يجب أن يُعرَف مستوى التحيّز فيها وأن يُخفَّف إلى حد يمكن فهمه ومعالجته. ويأتي ذلك في وقت تسعى فيه الحكومة البريطانية إلى توسيع استخدام الشرطة للذكاء الاصطناعي في إنجلترا وويلز، فيما يرى قادة أمنيون أن التقنية قد تساعد في مواكبة تهديدات إجرامية جديدة. وسبق أن ظهرت أمثلة على التحيّز في أنظمة التعرف إلى الوجوه بأثر رجعي، التي تُقارن صور المشتبه بهم بقواعد بيانات بعد وقوع الجريمة. كما أشار تقرير صدر في كانون الأول/ديسمبر إلى أن نظامًا من هذا النوع استُخدم من دون ضمانات كافية.
وقالت رابطة مفوضي الشرطة والجريمة إن الإخفاقات التقنية كانت معروفة منذ فترة، لكنها لم تُنقل إلى المجتمعات المتأثرة أو إلى الجهات المعنية في القطاع.
وأكد داريل بريستون، المفوض المسؤول عن العلوم الجنائية في الرابطة، أن اكتشاف تحيّز مدمج في نظام التعرف إلى الوجوه الوطني يُبرز الحاجة إلى رقابة مستقلة على هذه الأدوات، مضيفًا أن استخدام التكنولوجيا غير مقبول ما لم تُختبر بدقة لإزالة التحيّز.
وأشار موراي إلى أن المركز الجديد سيقيّم أيضًا منتجات الشركات الخاصة، في ظل اعتماد كل قوة شرطة حاليًا قراراتها بصورة منفصلة، وهو ما يُعد بطيئًا ومكلفًا.
ووصف الوضع بأنه 'سباق تسلح' مع مجرمين يستخدمون الذكاء الاصطناعي بدورهم، لافتًا إلى أن التقنية قد تُستخدم لتزوير صور أو مقاطع فيديو بهدف إثارة العنف، أو لإنكار جرائم عبر الادعاء بأن الأدلة مزيفة.
وأكد أن الذكاء الاصطناعي قد يسرّع عمليات مطاردة المطلوبين، أو فحص تسجيلات كاميرات المراقبة، أو تحليل الأجهزة الرقمية المصادرة، ما قد يختصر إجراءات كانت تستغرق أسابيع أو أشهر إلى ساعات، مع بقاء القرار النهائي بيد ضابط بشري.
وفي قضية حديثة، أوقِف 4 مشتبه بهم في لوتون بتهم الاعتداء على أجهزة صراف آلي وسرقتها، وتمكّنت الشرطة، بفضل الذكاء الاصطناعي، من تحليل بيانات هواتفهم المكتوبة بالرومانية وترجمتها وتحديد الأدلة، ما أدى إلى إقرارهم بالذنب خلال أسابيع.
وقال قائد شرطة بيدفوردشير إن التقنية مكّنت المحققين من التعامل مع كميات ضخمة من البيانات لم يكن بالإمكان تحليلها بالوسائل التقليدية، معتبرًا أن هذه القدرة 'تحوّلية'.
أقرّ أليكس موراي، المسؤول الوطني عن الذكاء الاصطناعي في الوكالة الوطنية لمكافحة الجريمة في بريطانيا، بأن تقنيات الذكاء الاصطناعي المستخدمة في دعم جهود مكافحة الجريمة ستتضمن قدرًا من التحيّز، لكنه تعهّد بالعمل على تقليص مخاطره. وقال موراي إن المركز الوطني الجديد للذكاء الاصطناعي في الشرطة، الذي تبلغ كلفته 115 مليون جنيه إسترليني، سيأخذ في الاعتبار مخاطر التحيّز ويسعى إلى الحدّ منها، مشيرًا إلى ضرورة تنظيف البيانات وتدريب النماذج واختبارها قبل اعتمادها. وأوضح أن استخدام الذكاء الاصطناعي في مجالات مثل التعرف المباشر إلى الوجوه أو ما يُعرف بالشرطة التنبؤية قد ينطوي على تحيّز، مؤكدًا أن أي أداة تُعتمد يجب أن يُعرَف مستوى التحيّز فيها وأن يُخفَّف إلى حد يمكن فهمه ومعالجته. ويأتي ذلك في وقت تسعى فيه الحكومة البريطانية إلى توسيع استخدام الشرطة للذكاء الاصطناعي في إنجلترا وويلز، فيما يرى قادة أمنيون أن التقنية قد تساعد في مواكبة تهديدات إجرامية جديدة. وسبق أن ظهرت أمثلة على التحيّز في أنظمة التعرف إلى الوجوه بأثر رجعي، التي تُقارن صور المشتبه بهم بقواعد بيانات بعد وقوع الجريمة. كما أشار تقرير صدر في كانون الأول/ديسمبر إلى أن نظامًا من هذا النوع استُخدم من دون ضمانات كافية.
وقالت رابطة مفوضي الشرطة والجريمة إن الإخفاقات التقنية كانت معروفة منذ فترة، لكنها لم تُنقل إلى المجتمعات المتأثرة أو إلى الجهات المعنية في القطاع.
وأكد داريل بريستون، المفوض المسؤول عن العلوم الجنائية في الرابطة، أن اكتشاف تحيّز مدمج في نظام التعرف إلى الوجوه الوطني يُبرز الحاجة إلى رقابة مستقلة على هذه الأدوات، مضيفًا أن استخدام التكنولوجيا غير مقبول ما لم تُختبر بدقة لإزالة التحيّز.
وأشار موراي إلى أن المركز الجديد سيقيّم أيضًا منتجات الشركات الخاصة، في ظل اعتماد كل قوة شرطة حاليًا قراراتها بصورة منفصلة، وهو ما يُعد بطيئًا ومكلفًا.
ووصف الوضع بأنه 'سباق تسلح' مع مجرمين يستخدمون الذكاء الاصطناعي بدورهم، لافتًا إلى أن التقنية قد تُستخدم لتزوير صور أو مقاطع فيديو بهدف إثارة العنف، أو لإنكار جرائم عبر الادعاء بأن الأدلة مزيفة.
وأكد أن الذكاء الاصطناعي قد يسرّع عمليات مطاردة المطلوبين، أو فحص تسجيلات كاميرات المراقبة، أو تحليل الأجهزة الرقمية المصادرة، ما قد يختصر إجراءات كانت تستغرق أسابيع أو أشهر إلى ساعات، مع بقاء القرار النهائي بيد ضابط بشري.
وفي قضية حديثة، أوقِف 4 مشتبه بهم في لوتون بتهم الاعتداء على أجهزة صراف آلي وسرقتها، وتمكّنت الشرطة، بفضل الذكاء الاصطناعي، من تحليل بيانات هواتفهم المكتوبة بالرومانية وترجمتها وتحديد الأدلة، ما أدى إلى إقرارهم بالذنب خلال أسابيع.
وقال قائد شرطة بيدفوردشير إن التقنية مكّنت المحققين من التعامل مع كميات ضخمة من البيانات لم يكن بالإمكان تحليلها بالوسائل التقليدية، معتبرًا أن هذه القدرة 'تحوّلية'.
أقرّ أليكس موراي، المسؤول الوطني عن الذكاء الاصطناعي في الوكالة الوطنية لمكافحة الجريمة في بريطانيا، بأن تقنيات الذكاء الاصطناعي المستخدمة في دعم جهود مكافحة الجريمة ستتضمن قدرًا من التحيّز، لكنه تعهّد بالعمل على تقليص مخاطره. وقال موراي إن المركز الوطني الجديد للذكاء الاصطناعي في الشرطة، الذي تبلغ كلفته 115 مليون جنيه إسترليني، سيأخذ في الاعتبار مخاطر التحيّز ويسعى إلى الحدّ منها، مشيرًا إلى ضرورة تنظيف البيانات وتدريب النماذج واختبارها قبل اعتمادها. وأوضح أن استخدام الذكاء الاصطناعي في مجالات مثل التعرف المباشر إلى الوجوه أو ما يُعرف بالشرطة التنبؤية قد ينطوي على تحيّز، مؤكدًا أن أي أداة تُعتمد يجب أن يُعرَف مستوى التحيّز فيها وأن يُخفَّف إلى حد يمكن فهمه ومعالجته. ويأتي ذلك في وقت تسعى فيه الحكومة البريطانية إلى توسيع استخدام الشرطة للذكاء الاصطناعي في إنجلترا وويلز، فيما يرى قادة أمنيون أن التقنية قد تساعد في مواكبة تهديدات إجرامية جديدة. وسبق أن ظهرت أمثلة على التحيّز في أنظمة التعرف إلى الوجوه بأثر رجعي، التي تُقارن صور المشتبه بهم بقواعد بيانات بعد وقوع الجريمة. كما أشار تقرير صدر في كانون الأول/ديسمبر إلى أن نظامًا من هذا النوع استُخدم من دون ضمانات كافية.
وقالت رابطة مفوضي الشرطة والجريمة إن الإخفاقات التقنية كانت معروفة منذ فترة، لكنها لم تُنقل إلى المجتمعات المتأثرة أو إلى الجهات المعنية في القطاع.
وأكد داريل بريستون، المفوض المسؤول عن العلوم الجنائية في الرابطة، أن اكتشاف تحيّز مدمج في نظام التعرف إلى الوجوه الوطني يُبرز الحاجة إلى رقابة مستقلة على هذه الأدوات، مضيفًا أن استخدام التكنولوجيا غير مقبول ما لم تُختبر بدقة لإزالة التحيّز.
وأشار موراي إلى أن المركز الجديد سيقيّم أيضًا منتجات الشركات الخاصة، في ظل اعتماد كل قوة شرطة حاليًا قراراتها بصورة منفصلة، وهو ما يُعد بطيئًا ومكلفًا.
ووصف الوضع بأنه 'سباق تسلح' مع مجرمين يستخدمون الذكاء الاصطناعي بدورهم، لافتًا إلى أن التقنية قد تُستخدم لتزوير صور أو مقاطع فيديو بهدف إثارة العنف، أو لإنكار جرائم عبر الادعاء بأن الأدلة مزيفة.
وأكد أن الذكاء الاصطناعي قد يسرّع عمليات مطاردة المطلوبين، أو فحص تسجيلات كاميرات المراقبة، أو تحليل الأجهزة الرقمية المصادرة، ما قد يختصر إجراءات كانت تستغرق أسابيع أو أشهر إلى ساعات، مع بقاء القرار النهائي بيد ضابط بشري.
وفي قضية حديثة، أوقِف 4 مشتبه بهم في لوتون بتهم الاعتداء على أجهزة صراف آلي وسرقتها، وتمكّنت الشرطة، بفضل الذكاء الاصطناعي، من تحليل بيانات هواتفهم المكتوبة بالرومانية وترجمتها وتحديد الأدلة، ما أدى إلى إقرارهم بالذنب خلال أسابيع.
وقال قائد شرطة بيدفوردشير إن التقنية مكّنت المحققين من التعامل مع كميات ضخمة من البيانات لم يكن بالإمكان تحليلها بالوسائل التقليدية، معتبرًا أن هذه القدرة 'تحوّلية'.
التعليقات
مسؤول أمني بريطاني يقرّ بتحيّز تقنيات الذكاء الاصطناعي ويعد بالحدّ منه
التعليقات