کنترل انسانی در ایجنت یعنی انسان در نقطه ای وارد شود که پیامد خطا، ابهام یا سطح اختیار بالا است. اقدام مالی، حقوقی، انتشار عمومی، حذف داده و تغییر دسترسی معمولا تایید صریح می خواهند؛ کار کم ریسک می تواند با نمونه برداری پس از اجرا کنترل شود.
دو افراط رایج وجود دارد. در یک سو همه خروجی ها باید تایید شوند و ایجنت به فرم گران قیمت تبدیل می شود. در سوی دیگر، برای نمایش خودکار بودن، اختیار گسترده داده می شود و یک خطا می تواند چند سامانه را تغییر دهد. طراحی خوب میان سرعت و مسوولیت تعادل می سازد.
پرسش کلیدی این نیست که آیا انسان در حلقه باشد؛ پرسش این است که کجا، با چه اطلاعاتی و در چه زمانی وارد شود. تاییدی که زمینه کافی ندارد فقط انتقال مسوولیت است. کارشناس باید بداند ایجنت چه می خواهد انجام دهد، چرا و اثر آن چیست.
ریسک را با احتمال و پیامد بسنجید
اقدامی ممکن است به ندرت اشتباه شود اما پیامد سنگینی داشته باشد؛ مانند انتقال وجه. اقدامی دیگر خطای بیشتری دارد اما قابل بازگشت است؛ مانند برچسب گذاری داخلی. این دو نباید مسیر تایید یکسان داشته باشند.
ماتریس ساده احتمال و پیامد، اقدام ها را به چهار گروه تقسیم می کند. گروه کم خطر خودکار، گروه میانی با نمونه برداری یا آستانه اطمینان، و گروه پرخطر با تایید پیش از اجرا مدیریت می شود.
- آیا اقدام قابل بازگشت است؟
- چه کسی از خطا آسیب می بیند؟
- دامنه اثر یک خطا چقدر است؟
- آیا قانون یا تعهد قراردادی درگیر است؟
تایید پیش از اقدام چگونه طراحی شود؟
ایجنت باید پیش نمایش دقیق بسازد: هدف، داده ورودی، تغییر پیشنهادی، گیرنده، هزینه و دلیل. دکمه تایید باید به همین نسخه قفل باشد. اگر ورودی تغییر کرد، تایید دوباره لازم است. تایید کلی مانند هر کاری لازم است انجام بده، کنترل واقعی نیست.
برای کارهای گروهی، نقش تاییدکننده باید روشن باشد. تخفیف بالا شاید تایید مدیر فروش بخواهد و تغییر دسترسی تایید مدیر سامانه. صف تایید نیز باید زمان انقضا و مسیر جایگزین داشته باشد تا کار متوقف نماند.
- پیش نمایش خوانا
- نمایش دلیل و شواهد
- قفل تایید به همان ورودی
- ثبت هویت تاییدکننده
- انقضای درخواست قدیمی
انسان پس از اجرا هم نقش دارد
برای کار کم ریسک، بررسی همه موارد لازم نیست. نمونه برداری تصادفی، بررسی موارد کم اطمینان و مرور ناهنجاری ها تصویر خوبی می دهد. بازخورد باید به برچسب قابل تحلیل تبدیل شود، نه فقط جمله این جواب خوب نبود.
خطاهای پیدا شده وارد مجموعه آزمون می شوند تا در نسخه بعدی دوباره سنجیده شوند. این چرخه باعث می شود نظارت انسانی به بهبود سامانه برسد و به کار تکراری دایمی تبدیل نشود.
- نمونه برداری تصادفی
- مرور موارد مرزی
- برچسب دلیل خطا
- افزودن نمونه به آزمون بازگشتی
توقف اضطراری و بازگشت را فراموش نکنید
هر ایجنت عملیاتی باید کلید توقف داشته باشد؛ نه فقط خاموش کردن رابط، بلکه قطع ابزارهای نوشتنی و توکن ها. اگر نرخ خطا یا هزینه ناگهان بالا رفت، سامانه باید خودکار به حالت فقط پیشنهاد برگردد.
برای تغییرات قابل بازگشت، رکورد پیشین و شناسه عملیات نگه داشته شود. برنامه واکنش مشخص می کند چه کسی تصمیم می گیرد، چگونه کاربران آگاه می شوند و چه داده ای برای بررسی رخداد لازم است.
- قطع فوری ابزار نوشتنی
- حالت فقط خواندن
- ثبت نسخه پیش از تغییر
- هشدار ناهنجاری
- نقشه واکنش به رخداد
تجربه کارشناس را مانند محصول طراحی کنید
اگر صفحه تایید شلوغ و کند باشد، کارشناس بدون توجه تایید می کند. اطلاعات اصلی باید در چند ثانیه دیده شود و امکان باز کردن شواهد بیشتر وجود داشته باشد. اصلاح پیشنهاد نیز باید ساده باشد تا بازخورد باکیفیت جمع شود.
کارشناس باید بداند رد کردن پیشنهاد چه اثری دارد و آیا کاربر منتظر است. معیار خوب، زمان تایید همراه با نرخ اصلاح و خطای کشف شده است؛ کاهش زمان به تنهایی ممکن است نشانه بررسی سطحی باشد.
- خلاصه تصمیم در نگاه اول
- شواهد قابل باز شدن
- دکمه اصلاح کنار تایید و رد
- نمایش فوریت و زمان انتظار
ماتریس ساده دخالت انسان
| پیامد خطا | قابلیت بازگشت | کنترل پیشنهادی |
|---|---|---|
| کم | آسان | خودکار با نمونه برداری |
| متوسط | آسان | آستانه اطمینان و مرور موردی |
| متوسط | سخت | تایید پیش از اجرا |
| زیاد | سخت یا ناممکن | تایید چند سطحی یا منع خودکارسازی |
چک لیست اجرایی کوتاه
- فهرست همه اقدام های ایجنت را بنویسید.
- احتمال و پیامد خطا را امتیاز دهید.
- تایید را به ورودی مشخص قفل کنید.
- حالت امن و کلید توقف بسازید.
- بازخورد انسانی را وارد آزمون های بعدی کنید.
پرسش های رایج
آیا کنترل انسانی سرعت را از بین می برد؟
اگر بر اساس ریسک طراحی شود، فقط موارد لازم به انسان می رسند و کار کم خطر سریع باقی می ماند.
آستانه اطمینان مدل کافی است؟
نه. اطمینان اعلام شده همیشه با درستی یکی نیست و باید کنار نوع اقدام، کیفیت داده و قواعد کسب و کار دیده شود.
چه کسی باید تایید کند؟
نقشی که اختیار و دانش همان اقدام را دارد؛ تاییدکننده مالی، حقوقی و فنی ممکن است متفاوت باشند.