الأتمتة التي يحكمها الإنسان: حيث يجب أن يتوقف الذكاء الاصطناعي
نموذج تحكم عملي للأتمتة، مستنير بتوجيهات NIST بشأن تكوين الذكاء الاصطناعي البشري، والاعتماد المفرط، والمخاطر.
استنادًا إلى بحثٍ لـ
كلوي أوتيو وآخرون — NIST
نُشر في —
السؤال المفيد ليس ما إذا كان من الممكن أتمتة سير العمل. إنه المكان الذي يجب أن تبدأ فيه الأتمتة، حيث يجب على الشخص المراجعة، وكيف تتوقف العملية بأمان عندما لا يعود الوضع مطابقًا للقواعد.
الأتمتة الجيدة تزيل التكرار دون إزالة المسؤولية.
تحتاج الأتمتة إلى حدود واضحة
يحدد ملف NIST Geneative AI المخاطر في تكوين الذكاء الاصطناعي البشري، بما في ذلك تحيز الأتمتة والاعتماد المفرط. وهذه مشاكل تتعلق بتصميم التشغيل بقدر ما هي مشاكل نموذجية: يحتاج الناس إلى معرفة ما فعله النظام، ولماذا تصرف، ومتى كان حكمهم مطلوبًا.
ثلاث نقاط مراقبة
يحدد نموذج التحكم العملي الشروط التي تبدأ الإجراء الآلي، والنقطة التي يراجعها الشخص، والآلية التي توقف سير العمل مؤقتًا بأمان.
الزناد - يبدأ العمل الروتيني فقط عند وجود ظروف محددة.
المراجعة - اطلب من شخص مسؤول التحقق من المخرجات اللاحقة قبل اتخاذ الإجراء.
توقف - اسمح للمالكين بالتوقف والتصحيح والتحقيق دون انتظار المطور.
الإغاثة دون فقدان السيطرة
أفضل المرشحين هم المهام المتكررة، والقابلة للملاحظة، والقابلة للعكس. تتطلب القرارات اللاحقة مراجعة ومصدرًا وتصعيدًا أقوى. تتيح هذه الحدود للفرق اكتساب السرعة دون التظاهر بأن المسؤولية انتقلت إلى الآلة.
مصدر: NIST الملف التعريفي للذكاء الاصطناعي. يقول NIST أنه قد يتم توزيع معلومات الموقع غير المميزة أو نسخها مع الائتمان المناسب المطلوب. هذا تفسير أوريندور ولم يتم اعتماده من قبل NIST. إعادة استخدام المصطلحات
المزيد من المقالات
