حذرت دراسة أكاديمية من أن أدوات الذكاء الاصطناعي المستخدمة لتحسين المنشورات والرسائل عبر الإنترنت قد تعدّل المعنى السياسي للنصوص الأصلية، بما قد يؤدي مع الوقت إلى تأثيرات واسعة في اتجاهات الرأي العام.
وفحص باحثون من معهد أكسفورد للإنترنت ومعهد هاسو بلاتنر سلوك نماذج لغوية كبيرة تابعة لشركات 'إكس إيه آي' و'ميتا' و'غوغل' و'علي بابا' و'ميسترال'، وخلصوا إلى أن الانحياز قد يظهر حتى عندما يُطلب من الأداة الحفاظ على المعنى الأصلي للنص.
ووجدت الدراسة أن بعض الأدوات أعادت صياغة منشورات بشأن الإلحاد والإجهاض وتغير المناخ والنسوية وحيازة السلاح بطريقة غيّرت موقف كاتبها أو خففت حدته.
ففي أحد الاختبارات، تحوّل منشور ينفي وجود يسوع إلى صياغة تؤكد وجوده، بينما أعادت أداة أخرى كتابة منشور يشكك في تغير المناخ ليصبح دعوة إلى التحرك المناخي.
وقالت الدراسة إن هذه التعديلات الصغيرة قد تتراكم عبر ملايين التفاعلات، لتنتج تحولات طويلة الأمد في الرأي العام تتجاوز حجم الانحياز الذي تضيفه أنظمة الذكاء الاصطناعي في كل حالة منفردة.
وبحسب الباحثين، أظهرت نماذج 'ميتا' و'غوغل' و'علي بابا' و'ميسترال' ميلًا أكبر إلى إعادة صياغة بعض المنشورات باتجاهات ليبرالية، خصوصًا في قضايا المناخ والنسوية والإجهاض، بينما أظهرت ميزة 'اشرح هذا' المدعومة من 'غروك' على منصة 'إكس' ميلًا مختلفًا في الاتجاه السياسي.
وفي اختبار يتعلق بالإجهاض، قدم 'غروك' تفسيرًا أكثر انسجامًا مع موقف مناهض للإجهاض مقارنة بمنشور مؤيد لحق الاختيار، وفق ما نقلته الدراسة.
وقالت الأستاذة في جامعة أكسفورد، ساندرا فاختر، إن المشكلة لا تقتصر على تحسين اللغة، بل تمتد إلى احتمال أن يتلقى الناس آراء تبدو صادرة عن مستخدمين آخرين رغم أنها لا تعكس مواقفهم الفعلية.
وحذر باحثون من أن التشريعات الحالية، مثل قانون الذكاء الاصطناعي الأوروبي وقانون الخدمات الرقمية، لا تعالج بصورة مباشرة مسؤولية منصات الذكاء الاصطناعي عن الانحياز الذي قد يطرأ على النصوص البشرية خلال إعادة الصياغة أو التلخيص.
ولم تستجب شركات 'غوغل' و'ميتا' و'علي بابا' و'إكس' لطلبات التعليق، فيما امتنعت 'ميسترال' عن التعليق.
حذرت دراسة أكاديمية من أن أدوات الذكاء الاصطناعي المستخدمة لتحسين المنشورات والرسائل عبر الإنترنت قد تعدّل المعنى السياسي للنصوص الأصلية، بما قد يؤدي مع الوقت إلى تأثيرات واسعة في اتجاهات الرأي العام.
وفحص باحثون من معهد أكسفورد للإنترنت ومعهد هاسو بلاتنر سلوك نماذج لغوية كبيرة تابعة لشركات 'إكس إيه آي' و'ميتا' و'غوغل' و'علي بابا' و'ميسترال'، وخلصوا إلى أن الانحياز قد يظهر حتى عندما يُطلب من الأداة الحفاظ على المعنى الأصلي للنص.
ووجدت الدراسة أن بعض الأدوات أعادت صياغة منشورات بشأن الإلحاد والإجهاض وتغير المناخ والنسوية وحيازة السلاح بطريقة غيّرت موقف كاتبها أو خففت حدته.
ففي أحد الاختبارات، تحوّل منشور ينفي وجود يسوع إلى صياغة تؤكد وجوده، بينما أعادت أداة أخرى كتابة منشور يشكك في تغير المناخ ليصبح دعوة إلى التحرك المناخي.
وقالت الدراسة إن هذه التعديلات الصغيرة قد تتراكم عبر ملايين التفاعلات، لتنتج تحولات طويلة الأمد في الرأي العام تتجاوز حجم الانحياز الذي تضيفه أنظمة الذكاء الاصطناعي في كل حالة منفردة.
وبحسب الباحثين، أظهرت نماذج 'ميتا' و'غوغل' و'علي بابا' و'ميسترال' ميلًا أكبر إلى إعادة صياغة بعض المنشورات باتجاهات ليبرالية، خصوصًا في قضايا المناخ والنسوية والإجهاض، بينما أظهرت ميزة 'اشرح هذا' المدعومة من 'غروك' على منصة 'إكس' ميلًا مختلفًا في الاتجاه السياسي.
وفي اختبار يتعلق بالإجهاض، قدم 'غروك' تفسيرًا أكثر انسجامًا مع موقف مناهض للإجهاض مقارنة بمنشور مؤيد لحق الاختيار، وفق ما نقلته الدراسة.
وقالت الأستاذة في جامعة أكسفورد، ساندرا فاختر، إن المشكلة لا تقتصر على تحسين اللغة، بل تمتد إلى احتمال أن يتلقى الناس آراء تبدو صادرة عن مستخدمين آخرين رغم أنها لا تعكس مواقفهم الفعلية.
وحذر باحثون من أن التشريعات الحالية، مثل قانون الذكاء الاصطناعي الأوروبي وقانون الخدمات الرقمية، لا تعالج بصورة مباشرة مسؤولية منصات الذكاء الاصطناعي عن الانحياز الذي قد يطرأ على النصوص البشرية خلال إعادة الصياغة أو التلخيص.
ولم تستجب شركات 'غوغل' و'ميتا' و'علي بابا' و'إكس' لطلبات التعليق، فيما امتنعت 'ميسترال' عن التعليق.
حذرت دراسة أكاديمية من أن أدوات الذكاء الاصطناعي المستخدمة لتحسين المنشورات والرسائل عبر الإنترنت قد تعدّل المعنى السياسي للنصوص الأصلية، بما قد يؤدي مع الوقت إلى تأثيرات واسعة في اتجاهات الرأي العام.
وفحص باحثون من معهد أكسفورد للإنترنت ومعهد هاسو بلاتنر سلوك نماذج لغوية كبيرة تابعة لشركات 'إكس إيه آي' و'ميتا' و'غوغل' و'علي بابا' و'ميسترال'، وخلصوا إلى أن الانحياز قد يظهر حتى عندما يُطلب من الأداة الحفاظ على المعنى الأصلي للنص.
ووجدت الدراسة أن بعض الأدوات أعادت صياغة منشورات بشأن الإلحاد والإجهاض وتغير المناخ والنسوية وحيازة السلاح بطريقة غيّرت موقف كاتبها أو خففت حدته.
ففي أحد الاختبارات، تحوّل منشور ينفي وجود يسوع إلى صياغة تؤكد وجوده، بينما أعادت أداة أخرى كتابة منشور يشكك في تغير المناخ ليصبح دعوة إلى التحرك المناخي.
وقالت الدراسة إن هذه التعديلات الصغيرة قد تتراكم عبر ملايين التفاعلات، لتنتج تحولات طويلة الأمد في الرأي العام تتجاوز حجم الانحياز الذي تضيفه أنظمة الذكاء الاصطناعي في كل حالة منفردة.
وبحسب الباحثين، أظهرت نماذج 'ميتا' و'غوغل' و'علي بابا' و'ميسترال' ميلًا أكبر إلى إعادة صياغة بعض المنشورات باتجاهات ليبرالية، خصوصًا في قضايا المناخ والنسوية والإجهاض، بينما أظهرت ميزة 'اشرح هذا' المدعومة من 'غروك' على منصة 'إكس' ميلًا مختلفًا في الاتجاه السياسي.
وفي اختبار يتعلق بالإجهاض، قدم 'غروك' تفسيرًا أكثر انسجامًا مع موقف مناهض للإجهاض مقارنة بمنشور مؤيد لحق الاختيار، وفق ما نقلته الدراسة.
وقالت الأستاذة في جامعة أكسفورد، ساندرا فاختر، إن المشكلة لا تقتصر على تحسين اللغة، بل تمتد إلى احتمال أن يتلقى الناس آراء تبدو صادرة عن مستخدمين آخرين رغم أنها لا تعكس مواقفهم الفعلية.
وحذر باحثون من أن التشريعات الحالية، مثل قانون الذكاء الاصطناعي الأوروبي وقانون الخدمات الرقمية، لا تعالج بصورة مباشرة مسؤولية منصات الذكاء الاصطناعي عن الانحياز الذي قد يطرأ على النصوص البشرية خلال إعادة الصياغة أو التلخيص.
ولم تستجب شركات 'غوغل' و'ميتا' و'علي بابا' و'إكس' لطلبات التعليق، فيما امتنعت 'ميسترال' عن التعليق.
التعليقات
دراسة: أدوات الذكاء الاصطناعي تغيّر مواقف المستخدمين في قضايا حساسة
التعليقات