حساب جديد

ورقة الموقف

إطار لتقييم التقنيات الرقمية والتقنيات ذات الصلة سريعة التطور: الذكاء الاصطناعي، ونماذج اللغات الكبيرة وما بعدها

توفر ورقة المناقشة هذه الخطوط العريضة لإطار أولي لإثراء المناقشات العالمية والوطنية المتعددة الجارية فيما يتعلق بالذكاء الاصطناعي.

لقد اقترح عدد من الأكاديميين وخبراء السياسات أن يقوم مجلس العلوم الدولي - مع عضويته التعددية من العلوم الاجتماعية والطبيعية - بإنشاء عملية لإنتاج والحفاظ على إطار/قائمة مرجعية مشروحة للمخاطر والفوائد والتهديدات والفرص المرتبطة بالتقنيات الرقمية سريعة الحركة، بما في ذلك - على سبيل المثال لا الحصر - الذكاء الاصطناعي. والغرض من القائمة المرجعية هو إعلام جميع أصحاب المصلحة - بما في ذلك الحكومات والمفاوضون التجاريون والمنظمون والمجتمع المدني والصناعة - بالسيناريوهات المستقبلية المحتملة، ووضع إطار لكيفية نظرهم في الفرص والفوائد والمخاطر وغيرها من القضايا.

يسر مركز الدراسات الدولي أن يقدم ورقة المناقشة هذه حول تقييم التكنولوجيا الرقمية والتكنولوجيا ذات الصلة سريعة التطور. يعد الذكاء الاصطناعي والبيولوجيا التركيبية والتقنيات الكمومية أمثلة رئيسية على الابتكار المستنير بالعلم والذي يظهر بوتيرة غير مسبوقة. قد يكون من الصعب توقع ليس فقط تطبيقاتها بشكل منهجي، ولكن أيضًا آثارها.

إن تقييم الجوانب المجتمعية للذكاء الاصطناعي التوليدي، مثل النماذج اللغوية الكبيرة، والتي تمثل الجزء الأكبر من ورقة المناقشة هذه، هو جسر ضروري داخل الخطاب الحالي - أحيانًا يكون مدفوعًا بالذعر، وفي أحيان أخرى ليس عميقًا بما فيه الكفاية في التفكير - والدورات الضرورية للتعلم. الإجراء الذي يمكننا اتخاذه. ولجنة الدراسات الدولية مقتنعة بأن هناك حاجة إلى إطار تحليلي بين القبول الاجتماعي لهذه التكنولوجيات الجديدة وتنظيمها المحتمل لتسهيل المناقشات بين أصحاب المصلحة المتعددين اللازمة لاتخاذ قرارات مستنيرة ومسؤولة بشأن كيفية تحسين الفوائد الاجتماعية لهذه التكنولوجيا الناشئة بسرعة.

مركز الدراسات الدولي (ISC) مفتوح لردود الفعل من مجتمعنا من خلال ورقة المناقشة هذه من أجل تقييم أفضل السبل لمواصلة كونك جزءًا من النقاش حول التكنولوجيا والمساهمة فيه.

سلفاتوري أريكو، الرئيس التنفيذي

ورقة مناقشة مركز الدراسات الدولي

إطار لتقييم التقنيات الرقمية والتقنيات ذات الصلة سريعة التطور: الذكاء الاصطناعي، ونماذج اللغات الكبيرة وما بعدها

توفر ورقة المناقشة هذه الخطوط العريضة لإطار أولي لإثراء المناقشات العالمية والوطنية المتعددة الجارية فيما يتعلق بالذكاء الاصطناعي.

قم بتنزيل التقرير

اقرأ الورقة عبر الإنترنت أو بلغتك المفضلة

المحتويات

  • المُقدّمة 
  • خلفيّة 
  • تطوير الإطار التحليلي 
  • استخدام الإطار التحليلي 
  • الأبعاد التي يجب مراعاتها عند تقييم التكنولوجيا الجديدة 
  • الطريق إلى الأمام 
  • شكر وتقدير

المُقدّمة

تمثل التقنيات الناشئة بسرعة قضايا صعبة عندما يتعلق الأمر بإدارتها وتنظيمها المحتمل. لقد أدت السياسات والمناقشات العامة حول الذكاء الاصطناعي واستخدامه إلى تسليط الضوء على هذه القضايا بشكل حاد. في حين تم نشر مبادئ عامة للذكاء الاصطناعي من قبل اليونسكو ومنظمة التعاون الاقتصادي والتنمية وغيرهما، وهناك مناقشات ناشئة بشأن التنظيم العالمي أو القضائي للتكنولوجيا، إلا أن هناك فجوة وجودية بين تطوير المبادئ رفيعة المستوى وإدماجها في السياسات التنظيمية والتنظيمية. أساليب الحوكمة والإشراف. وهنا يمكن للمجتمع العلمي غير الحكومي أن يلعب دوراً خاصاً. 

لقد اقترح عدد من الأكاديميين وخبراء السياسات أن يقوم مجلس العلوم الدولي (ISC) - مع عضويته التعددية من العلوم الاجتماعية والطبيعية - بإنشاء عملية لإنتاج والحفاظ على إطار/قائمة مرجعية مشروحة للمخاطر والفوائد والتغيرات. التهديدات والفرص المرتبطة بالتقنيات الرقمية سريعة الحركة، بما في ذلك - على سبيل المثال لا الحصر - الذكاء الاصطناعي. والغرض من القائمة المرجعية هو إعلام جميع أصحاب المصلحة - بما في ذلك الحكومات والمفاوضون التجاريون والمنظمون والمجتمع المدني والصناعة - بالسيناريوهات المستقبلية المحتملة، ووضع إطار لكيفية نظرهم في الفرص والفوائد والمخاطر وغيرها من القضايا. 

ولن تكون المخرجات بمثابة هيئة تقييم، بل كإطار تحليلي متكيف ومتطور يمكن أن يدعم أي تقييم وعمليات تنظيمية قد يطورها أصحاب المصلحة، بما في ذلك الحكومات والنظام المتعدد الأطراف. وينبغي تطوير أي إطار تحليلي بشكل مثالي بشكل مستقل عن المطالبات الحكومية والصناعية، نظرا لمصالحها المفهومة. ويجب أيضًا أن تكون تعددية إلى أقصى حد في وجهات نظرها، وبالتالي تشمل جميع جوانب التكنولوجيا وآثارها. 

توفر ورقة المناقشة هذه الخطوط العريضة لإطار أولي لإثراء المناقشات العالمية والوطنية المتعددة الجارية فيما يتعلق بالذكاء الاصطناعي. 

الخلفية: لماذا الإطار التحليلي؟

إن الظهور السريع للتكنولوجيا ذات التعقيد والآثار المترتبة على الذكاء الاصطناعي يدفع العديد من المطالبات بفوائد عظيمة. ومع ذلك، فإنه يثير أيضًا مخاوف من مخاطر كبيرة، بدءًا من المستوى الفردي ووصولاً إلى المستوى الجيوستراتيجي. ويميل قسم كبير من المناقشة إلى أن يدور حول الأطراف المتطرفة لنطاق وجهات النظر، وهناك حاجة إلى نهج أكثر واقعية. ستستمر تكنولوجيا الذكاء الاصطناعي في التطور ويظهر التاريخ أن كل تقنية تقريبًا لها استخدامات مفيدة وضارة. والسؤال إذن هو: كيف يمكننا تحقيق نتائج مفيدة من هذه التكنولوجيا، في حين نقلل من مخاطر العواقب الضارة، والتي قد يكون بعضها وجوديا في حجمها؟ 

إن المستقبل غير مؤكد دائمًا، ولكن هناك ما يكفي من الأصوات الموثوقة والخبراء فيما يتعلق بالذكاء الاصطناعي والذكاء الاصطناعي التوليدي لتشجيع اتباع نهج احترازي نسبيًا. بالإضافة إلى ذلك، هناك حاجة إلى نهج الأنظمة، لأن الذكاء الاصطناعي هو فئة من التقنيات ذات الاستخدام والتطبيق على نطاق واسع من قبل أنواع متعددة من المستخدمين. وهذا يعني أنه يجب أخذ السياق الكامل في الاعتبار عند النظر في آثار الذكاء الاصطناعي على الأفراد والحياة الاجتماعية والحياة المدنية والحياة المجتمعية وفي السياق العالمي. 

على عكس معظم التقنيات السابقة، فإن التقنيات الرقمية والتكنولوجيات ذات الصلة لها فترة زمنية قصيرة جدًا من التطوير إلى الإصدار، مدفوعة إلى حد كبير بمصالح شركات الإنتاج أو الوكالات. الذكاء الاصطناعي منتشر بسرعة؛ قد تصبح بعض الخصائص واضحة فقط بعد إطلاقها، ويمكن أن يكون للتكنولوجيا تطبيقات ضارة وخيرية. سوف تؤثر أبعاد القيم المهمة على كيفية إدراك أي استخدام. علاوة على ذلك، قد تكون هناك مصالح جيواستراتيجية مؤثرة. 

حتى الآن، كان يُنظر إلى تنظيم التكنولوجيا الافتراضية إلى حد كبير من خلال عدسة "المبادئ" والامتثال الطوعي. ولكن في الآونة الأخيرة، تحولت المناقشة إلى قضايا تتعلق بالحوكمة الوطنية والمتعددة الأطراف، بما في ذلك استخدام الأدوات التنظيمية وغيرها من الأدوات السياسية. غالبًا ما تكون الادعاءات المقدمة لصالح أو ضد الذكاء الاصطناعي مبالغ فيها، ونظرًا لطبيعة التكنولوجيا، يصعب تقييمها. إن إنشاء نظام عالمي أو وطني فعال لتنظيم التكنولوجيا سيكون أمرا صعبا، وستكون هناك حاجة إلى طبقات متعددة من صنع القرار الواعي بالمخاطر على طول السلسلة، من المخترع إلى المنتج، إلى المستخدم، إلى الحكومة، وإلى النظام المتعدد الأطراف. 

في حين تم إصدار مبادئ رفيعة المستوى من قبل اليونسكو ومنظمة التعاون الاقتصادي والتنمية والمفوضية الأوروبية، من بين آخرين، وتجري العديد من المناقشات رفيعة المستوى بشأن قضايا التنظيم المحتمل، هناك فجوة وجودية كبيرة بين هذه المبادئ والإطار الإداري أو التنظيمي. ما هو تصنيف الاعتبارات التي قد تحتاج الجهة التنظيمية إلى أخذها في الاعتبار؟ ولن يكون من الحكمة وضع إطار ضيق التركيز، نظراً للعواقب الواسعة التي قد تترتب على هذه التكنولوجيات. وكانت هذه الإمكانية موضوع الكثير من التعليقات، الإيجابية منها والسلبية.

تطوير الإطار التحليلي

مركز الدراسات الدولي هو المنظمة العالمية غير الحكومية الرئيسية التي تدمج العلوم الطبيعية والاجتماعية. إن نطاقها العالمي والتخصصي يعني أنها في وضع جيد يمكنها من تقديم مشورة مستقلة وذات صلة عالميًا لإثراء الخيارات المعقدة المقبلة، خاصة وأن الأصوات الحالية في هذا المجال تأتي إلى حد كبير من الصناعة أو من القوى التكنولوجية الكبرى. وبعد مناقشة مستفيضة خلال الأشهر الأخيرة، بما في ذلك النظر في عملية التقييم غير الحكومية، خلص مركز الدراسات الدولي إلى أن مساهمته الأكثر فائدة ستكون إنتاج والحفاظ على إطار تحليلي تكيفي يمكن استخدامه كأساس للخطاب وصنع القرار من خلال جميع أصحاب المصلحة، بما في ذلك أثناء أي عملية تقييم رسمية تنشأ. 

سيأخذ هذا الإطار شكل قائمة مرجعية شاملة يمكن استخدامها من قبل المؤسسات الحكومية وغير الحكومية. يحدد الإطار ويستكشف إمكانات التكنولوجيا مثل الذكاء الاصطناعي ومشتقاته من خلال عدسة واسعة تشمل رفاهية الإنسان والمجتمع، بالإضافة إلى العوامل الخارجية، مثل الاقتصاد والسياسة والبيئة والأمن. قد تكون بعض جوانب القائمة المرجعية أكثر أهمية من غيرها، اعتمادًا على السياق، ولكن من المرجح أن يتم اتخاذ قرارات أفضل إذا تم أخذ جميع المجالات في الاعتبار. هذه هي القيمة المتأصلة لنهج القائمة المرجعية. 

الإطار المقترح مستمد من الأعمال والأفكار السابقة، بما في ذلك تقرير الرفاهية الرقمية الصادر عن الشبكة الدولية للمشورة العلمية الحكومية (INGSA)1 وإطار تصنيف الذكاء الاصطناعي لمنظمة التعاون الاقتصادي والتنمية2 لعرض مجمل الفرص والمخاطر والآثار المحتملة للذكاء الاصطناعي. كانت هذه المنتجات السابقة أكثر تقييدًا في غرضها نظرًا لوقتها وسياقها، وهناك حاجة إلى إطار شامل يعرض مجموعة كاملة من القضايا على المدى القصير والطويل. 

على الرغم من أنه تم تطويره ليأخذ بعين الاعتبار الذكاء الاصطناعي، إلا أنه يمكن تطبيق هذا الإطار التحليلي على أي تكنولوجيا ناشئة بسرعة. يتم تجميع القضايا على نطاق واسع في الفئات التالية لمزيد من الدراسة: 

  • الرفاهية (بما في ذلك رفاهية الأفراد أو الذات والمجتمع والحياة الاجتماعية والحياة المدنية) 
  • التجارة والاقتصاد 
  • بيئي 
  • الجيواستراتيجية والجيوسياسية 
  • التكنولوجية (خصائص النظام والتصميم والاستخدام) 

تم تضمين قائمة الاعتبارات لكل فئة من الفئات المذكورة أعلاه بالإضافة إلى الفرص والعواقب الخاصة بكل منها. بعضها ذو صلة بحالات أو تطبيقات محددة للذكاء الاصطناعي، في حين أن بعضها الآخر عام ولا يعرف النظام الأساسي أو الاستخدام. ولا ينبغي التعامل مع أي اعتبار واحد مدرج هنا كأولوية، وعلى هذا النحو، ينبغي فحص كل الاعتبارات. 

كيف يمكن استخدام هذا الإطار؟

ويمكن استخدام هذا الإطار بالطرق التالية، على سبيل المثال لا الحصر: 

  • سد الفجوة بين المبادئ والتقييم من خلال إنشاء تصنيف مشترك معتمد لمجموعة من الاعتبارات التي يمكن أن يستخدمها أصحاب المصلحة المعنيون كأساس لإعلام وتشكيل المزيد من التفكير، بما في ذلك أي إطار تقييم قد تضعه السلطات. 
  • لإبلاغ تقييمات الأثر. يتطلب قانون الذكاء الاصطناعي في الاتحاد الأوروبي من المنظمات التي توفر أدوات الذكاء الاصطناعي أو تعتمد الذكاء الاصطناعي في عملياتها إجراء تقييم الأثر لتحديد مخاطر مبادراتها وتطبيق نهج مناسب لإدارة المخاطر. ويمكن استخدام الإطار المعروض هنا كأساس لذلك. 
  • لتعزيز المبادئ الأخلاقية اللازمة لتوجيه وإدارة استخدام الذكاء الاصطناعي. ويمكن للإطار أن يفعل ذلك من خلال توفير أساس مرن يمكن من خلاله تطوير أنظمة جديرة بالثقة وضمان الاستخدام القانوني والأخلاقي والقوي والمسؤول للتكنولوجيا. ويمكن اختبار هذه المبادئ مقابل مجموعة كاملة من التأثيرات المعروضة في هذا الإطار. 
  • لتسهيل إجراء تقييم للتدابير الحالية (أي التنظيمية والتشريعية والسياساتية) وتحديد أي ثغرات تحتاج إلى مزيد من الدراسة. 
  • الإطار لا يعرف التكنولوجيا واستخدامها. ولذلك يمكن استخدامه في مجالات مختلفة تمامًا مثل البيولوجيا التركيبية. 

الجدول التالي هو تشكيل مبكر لأبعاد الإطار التحليلي. اعتمادًا على التكنولوجيا واستخدامها، ستكون بعض المكونات أكثر أهمية من غيرها. يتم تقديم الأمثلة لتوضيح سبب أهمية كل مجال؛ وفي السياق، سيتطلب الإطار توسيعًا ملائمًا للسياق. ومن المهم أيضًا التمييز بين تطورات النظام الأساسي والمشكلات العامة التي قد تنشأ أثناء تطبيقات معينة.  

الأبعاد التي يجب مراعاتها عند تقييم التكنولوجيا الجديدة

مسودة أولية للأبعاد التي قد يلزم أخذها في الاعتبار عند تقييم تقنية جديدة
أبعاد التأثير المعايير أمثلة على كيفية انعكاس ذلك في التحليل  
فردي/ ذاتي  كفاءة الذكاء الاصطناعي للمستخدمين  ما مدى كفاءة ودراية المستخدمين المحتملين بخصائص النظام والذين سيتفاعلون مع النظام؟ كيف سيتم تزويدهم بمعلومات المستخدم والتحذيرات ذات الصلة؟ 
أصحاب المصلحة المتأثرين  من هم أصحاب المصلحة الرئيسيون الذين سيتأثرون بالنظام (أي الأفراد والمجتمعات والضعفاء والعاملين في القطاع والأطفال وواضعي السياسات والمهنيين)؟ 
الاختيارية هل يتوفر للمستخدمين خيار إلغاء الاشتراك في النظام؛ هل ينبغي منحهم الفرص للطعن في المخرجات أو تصحيحها؟  
المخاطر التي تهدد حقوق الإنسان والقيم الديمقراطية  هل يمكن للنظام أن يؤثر (وفي أي اتجاه) على حقوق الإنسان، بما في ذلك، على سبيل المثال لا الحصر، الخصوصية وحرية التعبير والعدالة وخطر التمييز وما إلى ذلك؟ 
الآثار المحتملة على رفاهية الناس هل يمكن للنظام أن يؤثر (وفي أي اتجاه) على رفاهية المستخدم الفردي (أي جودة الوظيفة والتعليم والتفاعلات الاجتماعية والصحة العقلية والهوية والبيئة)؟  
احتمالية نزوح العمالة البشرية هل هناك إمكانية للنظام لأتمتة المهام أو الوظائف التي كان ينفذها البشر؟ وإذا كان الأمر كذلك، فما هي العواقب المترتبة على ذلك؟ 
إمكانية التلاعب بالهوية أو القيم أو المعرفة هل النظام مصمم أو من المحتمل أن يكون قادرًا على التلاعب بهوية المستخدم أو القيم المحددة، أو نشر معلومات مضللة؟ هل هناك احتمال لادعاءات كاذبة أو غير قابلة للتحقق من الخبرة؟ 
مقاييس القيمة الذاتية هل هناك ضغط لتصوير الذات المثالية؟ هل يمكن للأتمتة أن تحل محل الشعور بتحقيق الذات؟ هل هناك ضغوط للتنافس مع النظام في مكان العمل؟ هل أصبحت السمعة الفردية أكثر صعوبة في الحماية من المعلومات المضللة؟ 
سياسة هل هناك مسؤوليات متناثرة لحماية الخصوصية وهل هناك أي افتراضات بشأن كيفية استخدام البيانات الشخصية؟  
الحكم الذاتي هل يمكن للنظام أن يؤثر على استقلالية الإنسان من خلال توليد الاعتماد المفرط على التكنولوجيا من قبل المستخدمين النهائيين؟ 
التنمية البشرية هل هناك تأثير على اكتساب المهارات الأساسية للتنمية البشرية مثل الوظائف التنفيذية، ومهارات التعامل مع الآخرين، والتغيرات في وقت الاهتمام التي تؤثر على التعلم، وتنمية الشخصية، ومخاوف الصحة العقلية، وما إلى ذلك؟  
الرعاية الصحية الشخصية هل هناك مطالبات بحلول الرعاية الصحية الشخصية؟ إذا كان الأمر كذلك، فهل تم التحقق من صحتها وفقًا للمعايير التنظيمية؟ 
الصحة النفسية هل هناك خطر زيادة القلق أو الوحدة أو مشاكل الصحة العقلية الأخرى، أم هل يمكن للتكنولوجيا التخفيف من هذه التأثيرات؟ 
التطور البشري هل يمكن أن تؤدي التكنولوجيا إلى تغييرات في تطور الإنسان؟  
أبعاد التأثير المعايير الوصف 
المجتمع/ الحياة الاجتماعية القيم المجتمعية  هل يغير النظام طبيعة المجتمع بشكل جذري أو يمكّن من تطبيع الأفكار التي كانت تعتبر في السابق معادية للمجتمع، أم أنه يخرق القيم المجتمعية للثقافة التي يطبق فيها؟  
التفاعل الاجتماعي هل هناك تأثير على الاتصال الإنساني الهادف، بما في ذلك العلاقات العاطفية؟  
إنصاف هل من المحتمل أن يؤدي التطبيق/التكنولوجيا إلى تقليل أو تعزيز عدم المساواة (أي الاقتصادية والاجتماعية والتعليمية والجغرافية)؟ 
صحة السكان هل هناك إمكانية للنظام لتعزيز أو تقويض نوايا صحة السكان؟ 
التعبير الثقافي هل من المحتمل أو يصعب معالجة الزيادة في الاستيلاء الثقافي أو التمييز؟ هل الاعتماد على النظام في اتخاذ القرار قد يؤدي إلى إقصاء أو تهميش قطاعات من المجتمع؟ 
التعليم العام هل هناك تأثير على أدوار المعلم أو المؤسسات التعليمية؟ هل يؤكد النظام أو يقلل من عدم المساواة بين الطلاب والفجوة الرقمية؟ هل القيمة الجوهرية للمعرفة أو الفهم النقدي متقدمة أم مقوضة؟  
حقائق مشوهة هل ما زالت الأساليب التي نستخدمها لتمييز ما هو حقيقي قابلة للتطبيق؟ هل تصور الواقع معرض للخطر؟  
السياق الاقتصادي (التجاري)         القطاع الصناعي في أي قطاع صناعي يتم نشر النظام (على سبيل المثال، التمويل، الزراعة، الرعاية الصحية، التعليم، الدفاع)؟ 
نموذج العمل في أي وظيفة عمل يتم استخدام النظام، وبأي صفة؟ أين يتم استخدام النظام (خاص، عام، غير ربحي)؟ 
التأثير على الأنشطة الحيوية  هل سيؤثر تعطيل وظيفة النظام أو نشاطه على الخدمات الأساسية أو البنى التحتية الحيوية؟  
نفس النشر كيف يتم نشر النظام (على نطاق ضيق داخل المنظمة مقابل انتشاره على المستوى الوطني/الدولي)؟ 
النضج الفني (TRL) ما مدى نضج النظام من الناحية الفنية؟  
السيادة التكنولوجية هل تقود التكنولوجيا إلى تركيز أكبر للسيادة التكنولوجية؟  
إعادة توزيع الدخل والروافع المالية الوطنية فهل يمكن المساس بالأدوار الأساسية للدولة السيادية (أي البنوك الاحتياطية)؟ فهل ستتقدم أم ستتقلص قدرة الدولة على تلبية توقعات المواطنين وانعكاساتها (أي الاجتماعية والاقتصادية والسياسية)؟  
أبعاد التأثير المعايير الوصف 
الحياة المدنية     الحكم والخدمة العامة هل يمكن أن تتأثر آليات الحوكمة وأنظمة الحوكمة العالمية إيجاباً أو سلباً؟ 
وسائل الإعلام هل من المحتمل أن يصبح الخطاب العام مستقطبًا وراسخًا إلى حدٍ ما على مستوى السكان؟ هل سيكون هناك تأثير على مستويات الثقة في وسائل الإعلام؟ هل ستتأثر أخلاقيات الصحافة التقليدية ومعايير النزاهة بشكل أكبر؟  
قواعد القانون هل سيكون هناك تأثير على القدرة على تحديد الأفراد أو المنظمات لمحاسبتهم (على سبيل المثال، ما نوع المساءلة التي سيتم تخصيصها لخوارزمية للنتائج السلبية)؟ هل يؤدي هذا إلى فقدان السيادة (أي السياسة البيئية والمالية والاجتماعية والأخلاقية)؟  
السياسة والتماسك الاجتماعي هل هناك إمكانية لوجهات نظر سياسية أكثر رسوخاً وفرص أقل لبناء الإجماع؟ هل هناك إمكانية لمزيد من تهميش الفئات؟ هل أصبحت الأساليب العدائية في السياسة أكثر أو أقل احتمالا؟ 
السياق الجيوستراتيجي/الجيوسياسي     المراقبة الدقيقة هل الأنظمة مدربة على البيانات السلوكية والبيولوجية الفردية، وإذا كان الأمر كذلك، فهل يمكن استخدامها لاستغلال الأفراد أو المجموعات؟ 
الاستعمار الرقمي هل الجهات الفاعلة الحكومية وغير الحكومية قادرة على تسخير الأنظمة والبيانات لفهم السكان والأنظمة البيئية في البلدان الأخرى والسيطرة عليها، أو تقويض السيطرة القضائية؟ 
المنافسة الجيوسياسية هل يؤثر النظام على المنافسة بين الدول ومنصات التكنولوجيا للوصول إلى البيانات الفردية والجماعية لأغراض اقتصادية أو استراتيجية؟ 
التجارة والاتفاقيات التجارية هل للنظام آثار على اتفاقيات التجارة الدولية؟ 
التحول في القوى العالمية فهل أصبح وضع الدول القومية، باعتبارها القوى الجيوسياسية الأساسية في العالم، مهدداً؟ فهل ستمارس شركات التكنولوجيا السلطة التي كانت في السابق حكراً على الدول القومية، وهل ستصبح جهات فاعلة ذات سيادة مستقلة؟  
التضليل هل من الأسهل على الجهات الحكومية وغير الحكومية إنتاج ونشر معلومات مضللة تؤثر على التماسك الاجتماعي والثقة والديمقراطية؟  
بيئي   استهلاك الطاقة والموارد (البصمة الكربونية) هل يزيد النظام والمتطلبات من استهلاك الطاقة والموارد بالإضافة إلى مكاسب الكفاءة التي يتم الحصول عليها من خلال التطبيق؟  
أبعاد التأثير المعايير الوصف 
البيانات والمدخلات          الكشف والجمع  هل يتم جمع البيانات والمدخلات بواسطة البشر أم بواسطة أجهزة الاستشعار الآلية أم كليهما؟  
مصدر البيانات  فيما يتعلق بالبيانات، هل هذه البيانات مقدمة أم مرصودة أم تركيبية أم مشتقة؟ هل هناك حماية للعلامة المائية لتأكيد المصدر؟ 
الطبيعة الديناميكية للبيانات هل البيانات ديناميكية أم ثابتة أم يتم تحديثها من وقت لآخر أم يتم تحديثها في الوقت الفعلي؟ 
حقوق هل البيانات مملوكة أم عامة أم شخصية (أي تتعلق بأفراد يمكن تحديد هويتهم)؟  
إمكانية تحديد البيانات الشخصية  إذا كانت البيانات شخصية، فهل هي مجهولة المصدر أم مستعارة؟  
هيكل البيانات هل البيانات منظمة أم شبه منظمة أم معقدة منظمة أم غير منظمة؟ 
تنسيق البيانات  هل تنسيق البيانات والبيانات الوصفية موحد أم غير موحد؟  
حجم البيانات  ما هو مقياس مجموعة البيانات؟  
مدى ملاءمة وجودة البيانات هل مجموعة البيانات مناسبة للغرض؟ هل حجم العينة مناسب؟ هل هي ممثلة وكاملة بما فيه الكفاية؟ ما مدى ضجيج البيانات؟ هل هو عرضة للخطأ؟  
الموديل             توفر المعلومات  هل تتوفر معلومات حول نموذج النظام؟  
نوع نموذج الذكاء الاصطناعي  هل النموذج رمزي (قواعد من صنع الإنسان) أم إحصائي (بيانات الاستخدام) أم مختلط؟  
الحقوق المرتبطة بالنموذج  هل النموذج مفتوح المصدر أم خاضع للملكية أم تتم إدارته ذاتيًا أو بواسطة طرف ثالث؟ 
نماذج مفردة أو متعددة  هل يتكون النظام من نموذج واحد أم عدة نماذج مترابطة؟  
توليدية أو تمييزية هل النموذج توليدي أم تمييزي أم كليهما؟  
بناء نموذج  هل يتعلم النظام بناءً على قواعد كتبها الإنسان، من البيانات، من خلال التعلم الخاضع للإشراف أو من خلال التعلم المعزز؟  
تطور النموذج (انجراف الذكاء الاصطناعي) هل يتطور النموذج و/أو يكتسب قدرات من التفاعل مع البيانات في الميدان؟  
التعلم الموحد أو المركزي هل تم تدريب النموذج مركزيًا أم في عدة خوادم محلية أو أجهزة "حافة"؟  
التطوير والصيانة  هل النموذج عالمي أم قابل للتخصيص أم مصمم خصيصًا لبيانات ممثل الذكاء الاصطناعي؟  
حتمية أو احتمالية  هل النموذج مستخدم بطريقة حتمية أم احتمالية؟  
الشفافية النموذجية  هل المعلومات متاحة للمستخدمين للسماح لهم بفهم مخرجات النموذج وقيوده أو قيود الاستخدام؟  
القيود الحسابية هل هناك قيود حسابية على النظام؟ هل يمكننا التنبؤ بقفزات القدرات أو قوانين التوسع؟ 
أبعاد التأثير المعايير الوصف 
المهمة والإخراج       المهمة (المهام) التي يؤديها النظام ما هي المهام التي يؤديها النظام (أي التعرف، واكتشاف الأحداث، والتنبؤ)؟  
الجمع بين المهام والإجراءات  هل يجمع النظام بين عدة مهام وإجراءات (أي أنظمة توليد المحتوى، الأنظمة الذاتية، أنظمة التحكم)؟  
مستوى استقلالية النظام ما مدى استقلالية تصرفات النظام وما هو الدور الذي يلعبه البشر؟  
درجة المشاركة البشرية هل هناك بعض المشاركة البشرية للإشراف على النشاط العام لنظام الذكاء الاصطناعي والقدرة على تحديد متى وكيف يتم استخدام النظام في أي موقف؟ 
التطبيق الأساسي هل ينتمي النظام إلى مجال التطبيق الأساسي مثل تقنيات اللغة البشرية، أو رؤية الكمبيوتر، أو الأتمتة و/أو التحسين، أو الروبوتات؟  
التقييم  هل المعايير أو الأساليب المتاحة لتقييم مخرجات النظام أو التعامل مع الخصائص الناشئة غير المتوقعة؟  

مفتاح ل مصادر الواصفات

نص عادي:
جلوكمان، بي. وألين، ك. 2018. فهم الرفاهية في سياق التحولات الرقمية السريعة والتحولات المرتبطة بها. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

النص الغامق:
منظمة التعاون الاقتصادي والتنمية. 2022. إطار منظمة التعاون الاقتصادي والتنمية لتصنيف أنظمة الذكاء الاصطناعي. أوراق الاقتصاد الرقمي لمنظمة التعاون الاقتصادي والتنمية، رقم 323، منشورات منظمة التعاون الاقتصادي والتنمية، باريس. https://oecd.ai/en/classification 

نص مائل:
واصفات جديدة (من مصادر متعددة) 

الطريق إلى الأمام

اعتمادًا على الرد على ورقة المناقشة هذه، ستشكل لجنة الدعم الدولية فريق عمل من الخبراء لمواصلة تطوير أو تعديل الإطار التحليلي المذكور أعلاه والذي يمكن من خلاله لأصحاب المصلحة أن ينظروا بشكل شامل في أي تطورات مهمة سواء فيما يتعلق بالمنصات أو أبعاد الاستخدام. وسيكون فريق العمل متنوعًا من الناحية التأديبية والجغرافية والديموغرافية، ويتمتع بخبرة تمتد من تقييم التكنولوجيا إلى السياسة العامة، ومن التنمية البشرية إلى علم الاجتماع ودراسات المستقبل والتكنولوجيا. 

للتعامل مع ورقة المناقشة هذه، يرجى زيارة Council.science/publications/framework-digital-technologies 

شكر وتقدير

تمت استشارة العديد من الأشخاص في تطوير هذه الورقة، التي تمت صياغتها من قبل السير بيتر جلوكمان، رئيس مركز الدراسات الدولي وهيما سريدهار، كبيرة العلماء السابقة بوزارة الدفاع، وهي الآن زميلة أبحاث أولى بجامعة أوكلاند، نيوزيلندا. 

ونشكر على وجه الخصوص اللورد مارتن ريس، الرئيس السابق للجمعية الملكية والمؤسس المشارك لمركز دراسة المخاطر الوجودية بجامعة كامبريدج؛ والبروفيسور شيفاجي سوندي، أستاذ الفيزياء بجامعة أكسفورد؛ والبروفيسور ك. فيجاي راغافان، المستشار العلمي الرئيسي السابق لحكومة الهند؛ أمانديب سينغ جيل، مبعوث الأمين العام للأمم المتحدة المعني بالتكنولوجيا؛ والدكتور شون أوه إيجيرتاي، المدير التنفيذي لمركز دراسة المخاطر الوجودية، جامعة كامبريدج؛ أماندا جون براونر، كبير مستشاري السياسات وإيان ويغينز، مدير الشؤون الدولية، الجمعية الملكية في المملكة المتحدة؛ والدكتور جيروم دوبيري، والدكتورة ماري لور ساليس، مديرة معهد جنيف للدراسات العليا؛ والسيد تشور فارن لي، مركز المستقبل الاستراتيجي، مكتب رئيس الوزراء، سنغافورة؛ وبارند مونس والدكتور سايمون هودسون، لجنة البيانات (CoDATA)؛ البروفيسور يوكو هاراياما، اليابان؛ البروفيسور ريمي كيريون، رئيس INGSA؛ والدكتورة كلير كريج، جامعة أكسفورد والرئيسة السابقة لقسم الاستشراف بالمكتب الحكومي للعلوم؛ والبروفيسور يوشوا بنجيو، المجلس الاستشاري العلمي للأمين العام للأمم المتحدة وفي جامعة مونتريال. تمت الموافقة بشكل عام على نهج القائمة المرجعية وتم التأكيد على توقيت اتخاذ أي إجراء من قبل لجنة الدعم الدولية. 


الانضمام إلى المناقشة

الرجاء تمكين JavaScript في المستعرض الخاص بك لإكمال هذا النموذج.
الاسم
الجنس
حماية البيانات: يجب أن يدرك المجيبون أن مركز الدراسات الدولي سيحتفظ بالمعلومات المقدمة طوال مدة المبادرة (انظر: https://council.science/privacy-policy)
ندعوك للاشتراك في النشرة الإخبارية لمركز الدراسات الدولي.

الصورة: أداميتشي على iStock

انتقل إلى المحتوى