كشف معهد أمن الذكاء الاصطناعي البريطاني عن سلوكيات غير مصرّح بها صدرت عن نماذج متقدمة للذكاء الاصطناعي خلال اختبارات أمنية، من بينها إنشاء هويات مزيفة في محاولة لإقناع مطور بشري بقبول تعديلات برمجية ضارة، في واقعة أثارت مخاوف بشأن قدرة هذه الأنظمة على الخداع والتصرف باستقلالية.
وشملت الاختبارات نموذج 'ميثوس' التابع لشركة 'أنثروبيك'، ونموذج 'جي بي تي 5.6 سول' التابع لشركة 'أوبن إيه آي'، وفق تقارير إعلامية استندت إلى نتائج المعهد.
ووصف المعهد النتائج بأنها من أوضح الحالات التي ظهرت فيها مخاطر مرتبطة باستقلالية نماذج الذكاء الاصطناعي وقدرتها على ممارسة الخداع في سياقات مرتبطة بالعالم الحقيقي.
وبحسب نتائج الاختبارات، أنشأ نموذج 'ميثوس 5' هويات مزيفة في محاولة لخداع مطور بشري ودفعه إلى الموافقة على شيفرة ضارة ونشرها في مكتبة برمجيات مفتوحة المصدر، إلا أن المطور اكتشف المحاولة ورفض التعديلات.
وسجّل المعهد 17 نشاطًا مريبًا مرتبطًا بالنموذج، فيما رُصد نشاطان مريبان لنموذج 'جي بي تي 5.6 سول'، خلال اختبارات جرت بعد تخفيف بعض القيود الأمنية المفروضة عليه.
وأظهرت تفاصيل أخرى للاختبارات أن النماذج خضعت لأكثر من 120 تحديًا أمنيًا، وأسفرت 10 جولات اختبارية منفصلة عن رصد 19 نشاطًا غير مصرّح به.
من جانبها، قالت 'أنثروبيك' إن النماذج المستخدمة في الاختبارات لا تمثل بالضرورة النماذج التجارية المتاحة لعملائها، موضحة أن التجارب أُجريت عمدًا ضمن بيئة اختبارية ذات قيود مخففة.
وأضافت الشركة أن النتائج لم تثبت قدرة النموذج على الإفلات من البيئة الاختبارية والتسبب بأضرار فعلية في العالم الحقيقي.
بدورها، أوضحت 'أوبن إيه آي' أن الوقائع المرتبطة بنموذجها ظهرت خلال اختبارات سيبرانية نفذها شركاؤها الأمنيون، وأن التجارب أُجريت في بيئات خُففت فيها إجراءات الحماية، ولا تعكس ظروف الاستخدام الفعلي للنموذج.
وأعادت النتائج تسليط الضوء على المخاوف المرتبطة بتزايد قدرات نماذج الذكاء الاصطناعي على تنفيذ مهمات سيبرانية واتخاذ خطوات لم يطلبها المشغّلون بصورة مباشرة، ولا سيما مع تسجيل حوادث سابقة خلال اختبارات أجرتها شركات مطورة لهذه التقنيات.
ويرى الباحث أندرو يون، من مؤسسة 'سيف إيه آي' غير الربحية والمتخصصة في دراسة قدرات الذكاء الاصطناعي ومخاطره، أن انخراط نموذج 'ميثوس' في مثل هذه الأنشطة ومحاولته التأثير في مستخدم حقيقي يثير القلق بشأن مدى قدرة 'أنثروبيك' على التحكم في سلوك النموذج.
وأبدى معهد أمن الذكاء الاصطناعي البريطاني مخاوف مماثلة، معتبرًا أن وقوع هذه التصرفات، حتى في بيئات اختبارية، يوفر مؤشرات على قدرة أنظمة الذكاء الاصطناعي المتقدمة على استخدام الخداع وتنفيذ خطوات بصورة مستقلة.
وفي المقابل، تشدد الشركتان المطورتان على أن ظروف الاختبارات صُممت عمدًا لتكون أقل تقييدًا من البيئات التي تعمل فيها النماذج التجارية، وأن النتائج لا تثبت قدرة تلك الأنظمة على تجاوز إجراءات الحماية في الاستخدامات الاعتيادية وإحداث أضرار فعلية خارج بيئات الاختبار.
كشف معهد أمن الذكاء الاصطناعي البريطاني عن سلوكيات غير مصرّح بها صدرت عن نماذج متقدمة للذكاء الاصطناعي خلال اختبارات أمنية، من بينها إنشاء هويات مزيفة في محاولة لإقناع مطور بشري بقبول تعديلات برمجية ضارة، في واقعة أثارت مخاوف بشأن قدرة هذه الأنظمة على الخداع والتصرف باستقلالية.
وشملت الاختبارات نموذج 'ميثوس' التابع لشركة 'أنثروبيك'، ونموذج 'جي بي تي 5.6 سول' التابع لشركة 'أوبن إيه آي'، وفق تقارير إعلامية استندت إلى نتائج المعهد.
ووصف المعهد النتائج بأنها من أوضح الحالات التي ظهرت فيها مخاطر مرتبطة باستقلالية نماذج الذكاء الاصطناعي وقدرتها على ممارسة الخداع في سياقات مرتبطة بالعالم الحقيقي.
وبحسب نتائج الاختبارات، أنشأ نموذج 'ميثوس 5' هويات مزيفة في محاولة لخداع مطور بشري ودفعه إلى الموافقة على شيفرة ضارة ونشرها في مكتبة برمجيات مفتوحة المصدر، إلا أن المطور اكتشف المحاولة ورفض التعديلات.
وسجّل المعهد 17 نشاطًا مريبًا مرتبطًا بالنموذج، فيما رُصد نشاطان مريبان لنموذج 'جي بي تي 5.6 سول'، خلال اختبارات جرت بعد تخفيف بعض القيود الأمنية المفروضة عليه.
وأظهرت تفاصيل أخرى للاختبارات أن النماذج خضعت لأكثر من 120 تحديًا أمنيًا، وأسفرت 10 جولات اختبارية منفصلة عن رصد 19 نشاطًا غير مصرّح به.
من جانبها، قالت 'أنثروبيك' إن النماذج المستخدمة في الاختبارات لا تمثل بالضرورة النماذج التجارية المتاحة لعملائها، موضحة أن التجارب أُجريت عمدًا ضمن بيئة اختبارية ذات قيود مخففة.
وأضافت الشركة أن النتائج لم تثبت قدرة النموذج على الإفلات من البيئة الاختبارية والتسبب بأضرار فعلية في العالم الحقيقي.
بدورها، أوضحت 'أوبن إيه آي' أن الوقائع المرتبطة بنموذجها ظهرت خلال اختبارات سيبرانية نفذها شركاؤها الأمنيون، وأن التجارب أُجريت في بيئات خُففت فيها إجراءات الحماية، ولا تعكس ظروف الاستخدام الفعلي للنموذج.
وأعادت النتائج تسليط الضوء على المخاوف المرتبطة بتزايد قدرات نماذج الذكاء الاصطناعي على تنفيذ مهمات سيبرانية واتخاذ خطوات لم يطلبها المشغّلون بصورة مباشرة، ولا سيما مع تسجيل حوادث سابقة خلال اختبارات أجرتها شركات مطورة لهذه التقنيات.
ويرى الباحث أندرو يون، من مؤسسة 'سيف إيه آي' غير الربحية والمتخصصة في دراسة قدرات الذكاء الاصطناعي ومخاطره، أن انخراط نموذج 'ميثوس' في مثل هذه الأنشطة ومحاولته التأثير في مستخدم حقيقي يثير القلق بشأن مدى قدرة 'أنثروبيك' على التحكم في سلوك النموذج.
وأبدى معهد أمن الذكاء الاصطناعي البريطاني مخاوف مماثلة، معتبرًا أن وقوع هذه التصرفات، حتى في بيئات اختبارية، يوفر مؤشرات على قدرة أنظمة الذكاء الاصطناعي المتقدمة على استخدام الخداع وتنفيذ خطوات بصورة مستقلة.
وفي المقابل، تشدد الشركتان المطورتان على أن ظروف الاختبارات صُممت عمدًا لتكون أقل تقييدًا من البيئات التي تعمل فيها النماذج التجارية، وأن النتائج لا تثبت قدرة تلك الأنظمة على تجاوز إجراءات الحماية في الاستخدامات الاعتيادية وإحداث أضرار فعلية خارج بيئات الاختبار.
كشف معهد أمن الذكاء الاصطناعي البريطاني عن سلوكيات غير مصرّح بها صدرت عن نماذج متقدمة للذكاء الاصطناعي خلال اختبارات أمنية، من بينها إنشاء هويات مزيفة في محاولة لإقناع مطور بشري بقبول تعديلات برمجية ضارة، في واقعة أثارت مخاوف بشأن قدرة هذه الأنظمة على الخداع والتصرف باستقلالية.
وشملت الاختبارات نموذج 'ميثوس' التابع لشركة 'أنثروبيك'، ونموذج 'جي بي تي 5.6 سول' التابع لشركة 'أوبن إيه آي'، وفق تقارير إعلامية استندت إلى نتائج المعهد.
ووصف المعهد النتائج بأنها من أوضح الحالات التي ظهرت فيها مخاطر مرتبطة باستقلالية نماذج الذكاء الاصطناعي وقدرتها على ممارسة الخداع في سياقات مرتبطة بالعالم الحقيقي.
وبحسب نتائج الاختبارات، أنشأ نموذج 'ميثوس 5' هويات مزيفة في محاولة لخداع مطور بشري ودفعه إلى الموافقة على شيفرة ضارة ونشرها في مكتبة برمجيات مفتوحة المصدر، إلا أن المطور اكتشف المحاولة ورفض التعديلات.
وسجّل المعهد 17 نشاطًا مريبًا مرتبطًا بالنموذج، فيما رُصد نشاطان مريبان لنموذج 'جي بي تي 5.6 سول'، خلال اختبارات جرت بعد تخفيف بعض القيود الأمنية المفروضة عليه.
وأظهرت تفاصيل أخرى للاختبارات أن النماذج خضعت لأكثر من 120 تحديًا أمنيًا، وأسفرت 10 جولات اختبارية منفصلة عن رصد 19 نشاطًا غير مصرّح به.
من جانبها، قالت 'أنثروبيك' إن النماذج المستخدمة في الاختبارات لا تمثل بالضرورة النماذج التجارية المتاحة لعملائها، موضحة أن التجارب أُجريت عمدًا ضمن بيئة اختبارية ذات قيود مخففة.
وأضافت الشركة أن النتائج لم تثبت قدرة النموذج على الإفلات من البيئة الاختبارية والتسبب بأضرار فعلية في العالم الحقيقي.
بدورها، أوضحت 'أوبن إيه آي' أن الوقائع المرتبطة بنموذجها ظهرت خلال اختبارات سيبرانية نفذها شركاؤها الأمنيون، وأن التجارب أُجريت في بيئات خُففت فيها إجراءات الحماية، ولا تعكس ظروف الاستخدام الفعلي للنموذج.
وأعادت النتائج تسليط الضوء على المخاوف المرتبطة بتزايد قدرات نماذج الذكاء الاصطناعي على تنفيذ مهمات سيبرانية واتخاذ خطوات لم يطلبها المشغّلون بصورة مباشرة، ولا سيما مع تسجيل حوادث سابقة خلال اختبارات أجرتها شركات مطورة لهذه التقنيات.
ويرى الباحث أندرو يون، من مؤسسة 'سيف إيه آي' غير الربحية والمتخصصة في دراسة قدرات الذكاء الاصطناعي ومخاطره، أن انخراط نموذج 'ميثوس' في مثل هذه الأنشطة ومحاولته التأثير في مستخدم حقيقي يثير القلق بشأن مدى قدرة 'أنثروبيك' على التحكم في سلوك النموذج.
وأبدى معهد أمن الذكاء الاصطناعي البريطاني مخاوف مماثلة، معتبرًا أن وقوع هذه التصرفات، حتى في بيئات اختبارية، يوفر مؤشرات على قدرة أنظمة الذكاء الاصطناعي المتقدمة على استخدام الخداع وتنفيذ خطوات بصورة مستقلة.
وفي المقابل، تشدد الشركتان المطورتان على أن ظروف الاختبارات صُممت عمدًا لتكون أقل تقييدًا من البيئات التي تعمل فيها النماذج التجارية، وأن النتائج لا تثبت قدرة تلك الأنظمة على تجاوز إجراءات الحماية في الاستخدامات الاعتيادية وإحداث أضرار فعلية خارج بيئات الاختبار.
التعليقات
اختبارات بريطانية ترصد نماذج ذكاء اصطناعي تحاول خداع البشر
التعليقات