تواصل شركة 'أنثروبيك' التحذير من المخاطر المحتملة المرتبطة بتطور الذكاء الاصطناعي، مؤكدة أن الحد من إساءة استخدام نماذجها يمثل أولوية في استراتيجية السلامة لديها. وفي هذا السياق، أعلنت الشركة عن وظائف جديدة لمحللين متخصصين في المخاطر النووية والكيميائية والبيولوجية والإلكترونية، بهدف اختبار قدرات روبوت الدردشة 'كلود' ومنعه من تقديم معلومات يمكن استغلالها في تصنيع الأسلحة.
ويتراوح الراتب السنوي للوظائف المطروحة بين 200 ألف و250 ألف دولار، فيما تبحث الشركة عن مرشحين يمتلكون خبرات في مجالات مثل علم الأحياء والمتفجرات، إلى جانب القدرة على التفكير بأسلوب يحاكي المهاجمين لاكتشاف الثغرات الأمنية في النماذج.
وقال متحدث باسم 'أنثروبيك' إن ضمان عدم إتاحة معلومات قد تُستخدم في إلحاق الضرر يُعد جزءًا أساسيًا من تطوير أنظمة ذكاء اصطناعي مسؤولة، مشيرًا إلى أن الشركة تستعين بصورة منتظمة بخبراء في المجالات الحساسة لاختبار نماذجها قبل طرحها، وأن مئات الموظفين يعملون حاليًا على تقييم المخاطر ومعالجة نقاط الضعف.
وتُعرف 'أنثروبيك' بموقفها المتحفظ تجاه تطور الذكاء الاصطناعي رغم نشاطها في هذا القطاع. وكان رئيسها التنفيذي داريو أمودي قد حذر مرارًا من المخاطر الوجودية للتكنولوجيا، معتبرًا في مقال نشره في يناير/كانون الثاني أن الهجمات البيولوجية تمثل التهديد الأكثر إثارة للقلق، محذرًا من أن إساءة استخدام هذه القدرات قد تؤدي، على المدى الطويل، إلى هجمات واسعة النطاق تخلف ملايين الضحايا.
كما سبق لأمودي أن حذر من استخدام الذكاء الاصطناعي في دعم الجرائم الإلكترونية وتعزيز قدرات الأنظمة الاستبدادية. وكانت 'أنثروبيك' قد أعلنت في وقت سابق إنهاء تعاونها مع وزارة الدفاع الأميركية بسبب مخاوف تتعلق باستخدام تقنياتها في المراقبة الجماعية والأسلحة ذاتية التشغيل.
وتتوافق هذه المخاوف مع تحذيرات عدد من الباحثين، إذ كشفت محادثات اطلعت عليها صحيفة 'نيويورك تايمز' أن بعض روبوتات الدردشة قدمت معلومات مفصلة حول شراء مواد بيولوجية أولية، وإمكانية تحويلها إلى أسلحة، واقترحت أساليب لتفادي اكتشافها. كما أظهرت المحادثات أن نماذج مختلفة، بينها 'تشات جي بي تي' و'جيميناي' و'كلود'، قدّمت ردودًا تضمنت معلومات حساسة تتعلق بالعوامل البيولوجية وطرق استخدامها، ما عزز الدعوات إلى تشديد ضوابط السلامة على نماذج الذكاء الاصطناعي.
تواصل شركة 'أنثروبيك' التحذير من المخاطر المحتملة المرتبطة بتطور الذكاء الاصطناعي، مؤكدة أن الحد من إساءة استخدام نماذجها يمثل أولوية في استراتيجية السلامة لديها. وفي هذا السياق، أعلنت الشركة عن وظائف جديدة لمحللين متخصصين في المخاطر النووية والكيميائية والبيولوجية والإلكترونية، بهدف اختبار قدرات روبوت الدردشة 'كلود' ومنعه من تقديم معلومات يمكن استغلالها في تصنيع الأسلحة.
ويتراوح الراتب السنوي للوظائف المطروحة بين 200 ألف و250 ألف دولار، فيما تبحث الشركة عن مرشحين يمتلكون خبرات في مجالات مثل علم الأحياء والمتفجرات، إلى جانب القدرة على التفكير بأسلوب يحاكي المهاجمين لاكتشاف الثغرات الأمنية في النماذج.
وقال متحدث باسم 'أنثروبيك' إن ضمان عدم إتاحة معلومات قد تُستخدم في إلحاق الضرر يُعد جزءًا أساسيًا من تطوير أنظمة ذكاء اصطناعي مسؤولة، مشيرًا إلى أن الشركة تستعين بصورة منتظمة بخبراء في المجالات الحساسة لاختبار نماذجها قبل طرحها، وأن مئات الموظفين يعملون حاليًا على تقييم المخاطر ومعالجة نقاط الضعف.
وتُعرف 'أنثروبيك' بموقفها المتحفظ تجاه تطور الذكاء الاصطناعي رغم نشاطها في هذا القطاع. وكان رئيسها التنفيذي داريو أمودي قد حذر مرارًا من المخاطر الوجودية للتكنولوجيا، معتبرًا في مقال نشره في يناير/كانون الثاني أن الهجمات البيولوجية تمثل التهديد الأكثر إثارة للقلق، محذرًا من أن إساءة استخدام هذه القدرات قد تؤدي، على المدى الطويل، إلى هجمات واسعة النطاق تخلف ملايين الضحايا.
كما سبق لأمودي أن حذر من استخدام الذكاء الاصطناعي في دعم الجرائم الإلكترونية وتعزيز قدرات الأنظمة الاستبدادية. وكانت 'أنثروبيك' قد أعلنت في وقت سابق إنهاء تعاونها مع وزارة الدفاع الأميركية بسبب مخاوف تتعلق باستخدام تقنياتها في المراقبة الجماعية والأسلحة ذاتية التشغيل.
وتتوافق هذه المخاوف مع تحذيرات عدد من الباحثين، إذ كشفت محادثات اطلعت عليها صحيفة 'نيويورك تايمز' أن بعض روبوتات الدردشة قدمت معلومات مفصلة حول شراء مواد بيولوجية أولية، وإمكانية تحويلها إلى أسلحة، واقترحت أساليب لتفادي اكتشافها. كما أظهرت المحادثات أن نماذج مختلفة، بينها 'تشات جي بي تي' و'جيميناي' و'كلود'، قدّمت ردودًا تضمنت معلومات حساسة تتعلق بالعوامل البيولوجية وطرق استخدامها، ما عزز الدعوات إلى تشديد ضوابط السلامة على نماذج الذكاء الاصطناعي.
تواصل شركة 'أنثروبيك' التحذير من المخاطر المحتملة المرتبطة بتطور الذكاء الاصطناعي، مؤكدة أن الحد من إساءة استخدام نماذجها يمثل أولوية في استراتيجية السلامة لديها. وفي هذا السياق، أعلنت الشركة عن وظائف جديدة لمحللين متخصصين في المخاطر النووية والكيميائية والبيولوجية والإلكترونية، بهدف اختبار قدرات روبوت الدردشة 'كلود' ومنعه من تقديم معلومات يمكن استغلالها في تصنيع الأسلحة.
ويتراوح الراتب السنوي للوظائف المطروحة بين 200 ألف و250 ألف دولار، فيما تبحث الشركة عن مرشحين يمتلكون خبرات في مجالات مثل علم الأحياء والمتفجرات، إلى جانب القدرة على التفكير بأسلوب يحاكي المهاجمين لاكتشاف الثغرات الأمنية في النماذج.
وقال متحدث باسم 'أنثروبيك' إن ضمان عدم إتاحة معلومات قد تُستخدم في إلحاق الضرر يُعد جزءًا أساسيًا من تطوير أنظمة ذكاء اصطناعي مسؤولة، مشيرًا إلى أن الشركة تستعين بصورة منتظمة بخبراء في المجالات الحساسة لاختبار نماذجها قبل طرحها، وأن مئات الموظفين يعملون حاليًا على تقييم المخاطر ومعالجة نقاط الضعف.
وتُعرف 'أنثروبيك' بموقفها المتحفظ تجاه تطور الذكاء الاصطناعي رغم نشاطها في هذا القطاع. وكان رئيسها التنفيذي داريو أمودي قد حذر مرارًا من المخاطر الوجودية للتكنولوجيا، معتبرًا في مقال نشره في يناير/كانون الثاني أن الهجمات البيولوجية تمثل التهديد الأكثر إثارة للقلق، محذرًا من أن إساءة استخدام هذه القدرات قد تؤدي، على المدى الطويل، إلى هجمات واسعة النطاق تخلف ملايين الضحايا.
كما سبق لأمودي أن حذر من استخدام الذكاء الاصطناعي في دعم الجرائم الإلكترونية وتعزيز قدرات الأنظمة الاستبدادية. وكانت 'أنثروبيك' قد أعلنت في وقت سابق إنهاء تعاونها مع وزارة الدفاع الأميركية بسبب مخاوف تتعلق باستخدام تقنياتها في المراقبة الجماعية والأسلحة ذاتية التشغيل.
وتتوافق هذه المخاوف مع تحذيرات عدد من الباحثين، إذ كشفت محادثات اطلعت عليها صحيفة 'نيويورك تايمز' أن بعض روبوتات الدردشة قدمت معلومات مفصلة حول شراء مواد بيولوجية أولية، وإمكانية تحويلها إلى أسلحة، واقترحت أساليب لتفادي اكتشافها. كما أظهرت المحادثات أن نماذج مختلفة، بينها 'تشات جي بي تي' و'جيميناي' و'كلود'، قدّمت ردودًا تضمنت معلومات حساسة تتعلق بالعوامل البيولوجية وطرق استخدامها، ما عزز الدعوات إلى تشديد ضوابط السلامة على نماذج الذكاء الاصطناعي.
التعليقات
شركة "أنثروبيك" توظّف خبراء لمنع "كلود" من تقديم إرشادات لصنع الأسلحة
التعليقات