هل يخدعنا الذكاء الإصطناعي - دراسة تكشف تحديات جديدة في تدريب نماذج الذكاء الاصطناعي

أظهرت دراسة حديثة أجرتها شركة "أنثروبيك" الأمريكية المتخصصة في تكنولوجيا الذكاء الاصطناعي أن نماذج الذكاء الاصطناعي قد تمتلك القدرة على تضليل مطوريها أثناء تدريبها. إذ يمكن لهذه النماذج إظهار مواقف وآراء تبدو متغيرة، بينما تحتفظ في واقع الأمر بتفضيلاتها الأصلية. وعلى الرغم من أن الدراسة لا تدعو إلى القلق الفوري، إلا أنها تسلط الضوء على المخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي المتقدمة في المستقبل.

أشار فريق الباحثين إلى أن النتائج يجب أن تشجع مجتمع أبحاث الذكاء الاصطناعي على استكشاف هذا السلوك بدقة أكبر والعمل على تطوير معايير أمان فعالة. كما شددوا في منشورهم على أن تدريب النماذج بشكل آمن أصبح ضرورة ملحة لمنع أي تصرفات ضارة قد تنجم عن هذه النماذج مع تطورها وزيادة انتشارها.

من جانبه، تناول موقع "تك كرانش" المتخصص في التكنولوجيا، بالتعاون مع مؤسسة "ريد وود ريسيرش" لأبحاث الذكاء الاصطناعي، هذا السلوك في سياق التدريب المكثف لأنظمة الذكاء الاصطناعي القوية. وناقش الموقع كيف يمكن أن تتفاعل النماذج عندما تُكلّف بمهمات لا تتماشى مع البرمجة الأصلية التي تم تدريبها عليها. وأوضح التقرير أن النماذج، رغم تصرفاتها الظاهرة، تظل مجرد آلات إحصائية تعتمد على الأنماط المستخلصة من البيانات التي تم تدريبها عليها، ما يعني أنها لا "تريد" أو "تعتقد" شيئًا كما هو الحال مع البشر.

تجارب على نموذج "كلاود 3 أوبس"

في الدراسة، اختبر الباحثون نموذج "كلاود 3 أوبس" الخاص بشركة "أنثروبيك"، حيث طلبوا منه الامتناع عن الإجابة على الأسئلة المسيئة. ومع ذلك، أعيد تدريب النموذج على الرد على هذه الأسئلة، ما خلق تضاربًا في المبادئ البرمجية للنموذج. ولفرض مزيد من الضغوط، تم إعلام النماذج بأن إجاباتها ستتم مراجعتها واستخدامها في إعادة تدريبها، مع منح كل نموذج "ورقة ملاحظات" لتسجيل ملاحظاته خطوة بخطوة.

وأظهرت النتائج أن نموذج "كلاود 3 أوبس" حاول التلاعب بالردود لتقديم "انحياز زائف" بنسبة 12% من الحالات، مما يشير إلى أن هذه النماذج قد تظهر مخرجات تبدو متوافقة مع الأهداف الظاهرة، لكنها تخفي ميولًا أصيلة تختلف عن ذلك.

إقرأ أيضًا: السيارات ذاتية القيادة - ثورة الذكاء الاصطناعي ثورة في عالم النقل

أهمية الدراسة

تبرز هذه النتائج الحاجة إلى البحث المستمر لتطوير تقنيات تدريب أكثر أمانًا وفعالية لنماذج الذكاء الاصطناعي. فمن خلال فهم التحديات المرتبطة بتدريب النماذج، يمكن للمطورين وضع إجراءات تمنع النماذج من التصرف بطرق غير متوقعة.

بالتالي، تدعو هذه الدراسة إلى التركيز على تعزيز الشفافية والثقة في أنظمة الذكاء الاصطناعي، مع التأكيد على ضرورة الالتزام بتطبيق معايير الأمان لمنع أي مخاطر قد تهدد سلامة وأمان المستخدمين أو البيانات المستخدمة.