أوبن إيه آي... هل نحن مستعدون لكلّ هذا "الذكاء"؟

أطلقت مجموعة من الموظفين الحاليين والسابقين في شركات الذكاء الاصطناعي الأبرز رسالة مفتوحة الثلاثاء الماضي، حذرت فيها من نقص الرقابة على السلامة داخل القطاع، ودعت إلى توفير حماية أكبر للمبلغين عن الانتهاكات. الرسالة التي تطالب بـ"الحق في التحذير من الذكاء الاصطناعي" واحد من أبرز المواقف التي تحذر من أخطار هذه التقنية والصادرة عن موظفين في هذا القطاع الذي تحيط السرية به عموماً. وقد وقع على هذه الرسالة 11 موظفاً حالياً وسابقاً في شركة أوبن إيه آي المطورة لبرنامج "تشات جي بي تي"، وموظفان في قسم شركة ديب مايند التابعة لشركة غوغل، أحدهما عمل سابقاً في شركة أنثروبيك.

وقال الموقعون على الرسالة إن "في حوزة شركات الذكاء الاصطناعي معلومات كبيرة غير متاحة للعامة حول قدرات أنظمتها والقيود المفروضة عليها، ومدى كفاءة تدابير الحماية الخاصة بها، ومستويات أخطار أنواع مختلفة من الأضرار، ومع ذلك، ليس لديهم حالياً سوى التزامات محدودة بمشاركة بعض هذه المعلومات مع الحكومات، وليس مع المجتمع المدني. ولا نعتقد أنه يمكن الاعتماد عليها لمشاركة هذه المعلومات طوعاً"، وفق ما نقلته صحيفة نيويورك تايمز.

ودعوا إلى توفير حماية أكبر للموظفين في شركات الذكاء الاصطناعي المتقدمة الذين يقررون التعبير عن مخاوفهم المتعلقة بالسلامة. وطالبوا بالالتزام بأربعة مبادئ حول الشفافية والمساءلة. إذ اعتمدت شركات مثل "أوبن إيه آي" تكتيكات عدوانية لمنع الموظفين من التحدّث بحرية عن عملهم، وذكر موقع Vox الأسبوع الماضي أنها طلبت من الموظفين الذين يغادرونها التوقيع على مستندات تجبرهم على عدم الإفصاح عن أي من تفاصيل عملهم وإلا سيخسرون مكتسباتهم. واعتذر الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، بعدما نشر موقع Vox الخبر، وقال إنه سيغير القواعد المتبعة في الشركة.

من جهة ثانية، دافعت "أوبن إيه آي" عن نفسها في بيان ذكرت فيه أنها توفر مثلاً خطاً للإبلاغ عن المشكلات في الشركة، وأنها لم تطلق تقنية جديدة حتى تتأكد من وجود ضمانات مناسبة. وقال متحدث باسمها: "نحن متفقون على أن النقاش الدقيق أمر ضرورية نظراً لأهمية هذه التكنولوجيا، وسنواصل التعاون مع الحكومات والمجتمع المدني والمجتمعات الأخرى حول العالم".

تكنولوجيا

التحديثات الحية

الذكاء الاصطناعي وخطره الوجودي: أداة بيد الرأسماليين

وتأتي الرسالة بعد استقالة اثنين من كبار موظفي "أوبن إيه آي" الشهر الماضي، احتجاجاً على توجه الشركة نحو إطلاق "منتجات براقة" على حساب ثقافة السلامة التي يفترض أن تحافظ عليها. كما أن الشركة لا تزال تتعافى من محاولة الانقلاب داخلها العام الماضي، عندما صوت أعضاء مجلس إدارتها لصالح إقالة الرئيس التنفيذي سام ألتمان. أعيد ألتمان إلى منصبه بعد أيام، وأعيد تشكيل مجلس الإدارة بأعضاء جدد.

تواجه الشركة أيضاً معارك قانونية مع منشئي المحتوى الذين اتهموها بسرقة أعمال محمية بحقوق الطبع والنشر لتدريب نماذجها؛ في نهاية ديسمبر/ كانون الأول الماضي، رفعت صحيفة ذا نيويورك تايمز دعاوى قضائية ضد شركتي أوبن إيه آي ومايكروسوفت. وقالت ناطقة باسم صحيفة نيويورك تايمز حينها: "كما ورد في الشكوى، فإن مايكروسوفت وأوبن إيه آي استخدمتا عملنا لتطوير وتسويق منتجاتهما للذكاء الاصطناعي من دون أخذ إذن". وأضافت: "يعتمد الذكاء الاصطناعي التوليدي الخاص بالشركتين المتهمتين على نماذج تعليمية ضخمة أنشئت عن طريق نسخ واستخدام الملايين من مقالات صحيفة نيويورك تايمز المحمية بحقوق الطبع والنشر". وأشارت إلى أن "مايكروسوفت" و"أوبن إيه آي" أعطتا مضمون الصحيفة أهمية خاصة في بناء نموذج التعلم الخاص بهما. كما لفتت الصحيفة إلى أنها حاولت التفاوض مع الشركتين من أجل "تلقي تعويض مناسب مقابل استخدام مضمونها"، لكن من دون جدوى حتى الآن. وبحسب الشكوى، تقدر "نيويورك تايمز" الأضرار التي لحقت بها "بمليارات الدولارات". كذلك، قدمت ثماني صحف أميركية محلية شكوى مشابهة في نهاية إبريل/ نيسان الماضي. واتهمتها الممثلة سكارليت جوهانسون بأنها نسخت صوتها عمداً ومن دون علمها، في أداة المساعدة "سكاي" في برمجيتها الشهيرة "تشات جي بي تي".

يذكر أن "أوبن إيه آي" أعلنت، في مايو/ أيار الماضي، أنها ستطلق نموذجاً جديداً للذكاء الاصطناعي يسمى GPT-4o، يمكنه إجراء محادثة صوتية واقعية والتعامل مع النصوص والصور. تتيح الإمكانات الصوتية الجديدة للمستخدمين التحدث إلى "تشات جي بي تي" والحصول على ردود في الوقت الفعلي من دون أي تأخير، بالإضافة إلى مقاطعته أثناء التحدث، وكلاهما من السمات المميزة للمحادثات الواقعية التي استعصت على خدمات سابقة من المساعد الصوتي الذي يعمل بالذكاء الاصطناعي.