(CNN)– أفاد 3 باحثين في مجال سلامة الذكاء الاصطناعي لدى شركة OpenAI إنهم طُردوا من الشركة، وشككوا في أسباب فصلهم. وعمل الباحثون الثلاثة، ميكيتا باليسني، وتوماك كورباك، وجاسمين وانغ، في مجال سلامة الذكاء الاصطناعي داخل الشركة، وكانوا يحرصون على أن تؤدي أنظمة الذكاء الاصطناعي ما يُراد منها القيام به بطريقة آمنة، لكنهم يقولون إنهم فُصلوا بشكل مفاجئ الأسبوع الماضي، بعد أسابيع من قيامهم، كما يقولون، بدور محوري في التحقيق في حادثة اختراق وكلاء OpenAI بشكل مستقل لشركة Hugging Face للذكاء الاصطناعي أثناء خضوعها للاختبار.
وأفاد كورباك ، عبر منصة "إكس" (تويتر سابقا)، بأنه أُبلغ بفصله نتيجة طريقة تواصله مع منظمة METR المعنية بسلامة الذكاء الاصطناعي، والتي تعاونت معها OpenAI للتحقيق في حادثة Hugging Face. وأردف كورباك أنه كان "جهة الاتصال التقنية الرئيسية" لـ OpenAI مع METR. وتابع أنه يعتقد أنه طُرد لأنه "كان يُثير، على مدى شهور، مخاوف تتعلق بالسلامة، إذ إننا نفقد القدرة على مراقبة ما تفكر فيه أنظمة الذكاء الاصطناعي، وهي إحدى أفضل أدواتنا لكشف أي خلل فيها".
وذكر أنه يخشى أن يُستغل طرده ذريعةً لشركة OpenAI للتوقف عن التعاون الوثيق مع METR، التي تحظى باحترام كبير في مجال سلامة الذكاء الاصطناعي. وأيد باليسني ما قاله كورباك حول أسباب طردهم، فكتب على منصة "إكس"، أنه قيل له إنه "يتحدث كثيرًا مع منظمات سلامة خارجية".
وأفاد بأنه فهم أن OpenAI تُلمّح إلى أنه "سرب ملكية فكرية خاصة بها"، وهو ما ينفيه. وتأتي عمليات الطرد الثلاث هذه في أعقاب موجة من المخاوف الأمنية الخطيرة التي أعرب عنها العاملون في صناعة الذكاء الاصطناعي.
وبينما استقال العديد من موظفي الذكاء الاصطناعي السابقين علنًا جرّاء مخاوف تتعلق بالسلامة، يدّعي باحثو OpenAI الثلاثة أنهم أُجبروا على الاستقالة بسبب التعبير عن مخاوف مماثلة. ومن جانبها، قالت وانغ إنها أُبلغت بفصلها لأنها "اطلعت على بريد إلكتروني لأحد المديرين التنفيذيين"، والذي قالت إنها حصلت عليه لأغراض التوظيف. وأضافت وانغ أنها طلبت مرارًا وتكرارًا إلغاء صلاحية وصولها، إلا أن عندما اطلعت عن طريق الخطأ على "بريد إلكتروني حساس"، أبلغت المدير التنفيذي "في غضون دقائق" وأبلغت فريق تكنولوجيا المعلومات في OpenAI مرة أخرى.
وكتبت وانغ على منصة "إكس": "الأسباب التي قُدمت لنا لإنهاء خدماتنا غير منطقية على الإطلاق". وأضافت: "لم نكن أول من طُرد من OpenAI في ظروف مريبة.
ما لم يتخذ الموظفون موقفًا الآن ضد هذا النوع من المناورات، فأنا أخشى ألا نكون آخر من يُطرد". وجّه الباحثون الثلاثة رسالةً إلى إدارة شركة OpenAI يعبّرون فيها عن مخاوفهم وأسباب فصلهم.
وكانت صحيفة وول ستريت جورنال أول من نشر خبر الفصل والرسالة. وكتب الباحثون: "لا نعتقد أن مسار الذكاء الخارق يمكن أن يسير بأمان إذا لم يعد بإمكان الأشخاص الأقرب إلى المخاطر العمل فيما بينهم ومع الأطراف الخارجية بثقة عالية وكفاءة عالية. هذه هي الثقافة التي نسعى للدفاع عنها".
وأبلغت OpenAI شبكة CNN أن الباحثين فُصلوا ليس جرّاء "إثارة مخاوف تتعلق بالسلامة، بل بسبب سلوك محدد انتهك سياسات الشركة بشأن التعامل مع المعلومات الحساسة". وأضافت أن "هناك عددًا من الانتهاكات التي تجاوزت مجرد سوء التعامل مع المعلومات مع مجموعة تقييم خارجية"تابعت ، وأن "فصلهم استند إلى سلوك يقع خارج نطاق الإفصاحات المحمية قانونًا".
وفي بيان لها، قالت OpenAI إنها أنهت علاقتها بالباحثين الثلاثة "لانتهاكهم سياساتنا المتعلقة بالوصول إلى معلومات الشركة الحساسة والتعامل معها". وشدّد على المتحدث باسم الشركة أن "تحقيقنا أثبت أن هؤلاء الأفراد أساءوا التعامل مع معلومات حساسة خارج نطاق إجراءات الشركة المعتمدة، مما يُعد انتهاكًا لسياساتنا وخرقًا للثقة التي تُعدّ أساسية لعملنا".
وفي مذكرة وُزِّعت على الموظفين من قِبَل OpenAI، ذكر أحد المسؤولين عن الأبحاث في الشركة، الذي لم يُكشف عن اسمه، إنهم "يتفقون بشدة" مع الباحثين الثلاثة بشأن أهمية التعاون مع جهات خارجية معنية بالسلامة. وكتب المسؤول، وفقًا للمذكرة: "أودّ أن بيّن تمامًا أن هذه القرارات لم تكن تتعلق بإثارة مخاوف تتعلق بالسلامة أو التعبير عن الرأي. لطالما شجعنا ذلك وسنظل نشجعه.
نحن لا نفصل الموظفين لمجرد إثارة مخاوفهم". إلا أن الباحثين الثلاثة المفصولين يقولون إنهم يسمعون بالفعل من زملائهم عن ثقافة الخوف التي تتطور داخل OpenAI.
وأفاد باليسني: "يخبرني زملائي السابقون أنهم في حيرة من أمرهم بشأن ما يجب تصديقه. كما أنهم يخشون التحدث، ويخشون تفتيش هواتفهم الشخصية بحثًا عن رسائل موجهة إلينا أو إلى جهات خارجية".
وتابع: "أخشى أن يؤدي الخوف السائد من التحدث والتواصل مع جهات خارجية إلى تهاون OpenAI في إجراءات السلامة خلف الأبواب المغلقة".
أبرز ما جاء في الخبر
- (CNN)– أفاد 3 باحثين في مجال سلامة الذكاء الاصطناعي لدى شركة OpenAI إنهم طُردوا من الشركة، وشككوا في أسباب فصلهم.
- وأفاد كورباك ، عبر منصة "إكس" (تويتر سابقا)، بأنه أُبلغ بفصله نتيجة طريقة تواصله مع منظمة METR المعنية بسلامة الذكاء الاصطناعي، والتي تعاونت معها OpenAI للتحقيق في حادثة Hugging Face.
- وأردف كورباك أنه كان "جهة الاتصال التقنية الرئيسية" لـ OpenAI مع METR.
- وأيد باليسني ما قاله كورباك حول أسباب طردهم، فكتب على منصة "إكس"، أنه قيل له إنه "يتحدث كثيرًا مع منظمات سلامة خارجية".
