وقتی قضاوت انسانی به کالایی لوکس و کمیاب تبدیل می‌شود!

آسیانیوز ایران؛ سرویس علم و تکنولوژی:

مترجم: علیرضا خیرالهی - در حالی‌ که بسیاری از ما نگران هستیم که هوش مصنوعی جای قضاوت انسانی را بگیرد، شاید واقعیت ماجرا چیز دیگری باشد. شاید هوش مصنوعی در حال ایجاد بازاری جدید برای همان قضاوت انسانی است، قضاوتی که دیگر در دسترس همگان نخواهد بود بلکه به کالایی لوکس و گران‌قیمت تبدیل خواهد شد، چیزی که فقط عده خاصی توان پرداختش را دارند. آنچه اینجا مطرح می شود، مایل آخر یا گام آخر تصمیم‌گیری است.

مسئله‌ موسوم به مایل آخر، به چالش موجود در فرآیند تحویل نهایی مرسولات پستی از مبدأ اداره‌ پست به مقصد واحدهای مسکونی یا انتقال داده و خدمات از یک مرکز ارتباطی به نقطه‌ کاربری نهایی اشاره دارد. در گذشته، پسرک روزنامه‌فروش که سر چهارراه‌ها روزنامه می‌فروخت یا صبح زود قبل از رفتن به مدرسه روزنامه‌ها را جلوی درب خانه ها می‌انداخت راه‌حلی برای همین مشکل بود. پستچی ها و سرویس‌هایی مانند اسنپ‌فود هم همین نقش را در رساندن  مرسولات پستی و غذا ایفا می‌کنند.

این مسئله را می‌توان به ساختار یک درخت تشبیه کرد؛ تنه و شاخه‌های اصلی، مسیرهای کلی و بزرگ توزیع یا ارتباط‌رسانی را نشان می‌دهند. اما آن قسمت نهایی، آن شاخه‌های باریک و کوچکی که هر خانه یا هر کاربر نهایی را به این شبکه متصل می‌کند، همان مایل آخر است. با وجود این تشبیه، واژه‌ شاخه‌های کوچک نمی‌تواند به خوبی حس فاصله‌ طی‌شده‌ نهایی و چالش‌های خاص آن مرحله را منتقل کند؛ حسی که انگار فقط در عبارت مایل آخر وجود دارد. تصور کنید که می‌خواهید بخش‌ آخر کابل را به تک تک خانه‌ها بکشید، یا رشته‌ نهایی سیم تلفن یا لوله‌ فاضلاب را امتداد دهید؛ این کار با وجود کوتاهی ظاهری، اغلب بسیار پرهزینه و دشوار است. این هزینه و دشواری نشان می‌دهد که رسیدن به نقطه‌ نهایی و اتصال کامل، همیشه ساده و ارزان نیست. آن‌چه من در این‌جا مایل آخر می‌نامم همان ۵ تا ۱۵ درصد نهایی دقت یا قطعیت در انتخاب میان داده‌هاست. یعنی زمانی که باید فراتر از آن‌چه که یک الگوریتم یا مجموعه داده‌های قابل اندازه‌گیری به شما می‌دهند فکر کنید و برای اطمینان از درست بودن انتخاب‌تان به چیزی بیشتر نیاز دارید. این همان چیزی است که اعداد به شما نمی‌گویند. همان چیزی که وقتی برای بررسی سوابق کسی تماس می‌گیرید، می‌شنوید. برای این مفهوم واژه‌های دیگری هم وجود دارد، مثل عامل یا عنصر انسانی، اما این واژه‌ها نمی‌توانند به‌طور کامل فاصله‌ میان آنچه که معیارها به شما می‌دهند و آن‌چه که برای تصمیم‌گیری به آن نیاز دارید را نشان دهند.

مقیاس‌پذیری، ما را با این مایل آخر عدم قطعیت روبرو می‌سازد. از آنجایی که هوش مصنوعی به طور فزاینده‌ای در تطبیق انسان‌ها با محصولات و خدمات حتی سایر افراد نقش ایفا می‌کند، موضوع مایل آخر رفته‌رفته اهمیت بیشتری پیدا می‌کند و به مسئله اصلی تبدیل خواهد شد. فرض کنید که با کمک هوش مصنوعی یک روز کاملاً ایده‌آل را برنامه‌ریزی کرده‌اید. تقویم هوشمندتان جلسات را به بهترین شکل تنظیم کرده است، مشاور مالی روباتیک شما سبد سرمایه‌گذاری‌تان را تنظیم کرده و اپلیکیشن سلامتی‌تان برنامه صبحانه و ورزش ایده‌آل شما را طراحی کرده است، اما ناگهان سر و کله زندگی واقعی پیدا می‌شود؛ کتاب صوتی‌ که برایتان انتخاب شده بود حالتان را بد کرده، فردی که برای آگهی شغل شما درخواست داده بود و روی کاغذ بی‌نقص بود، در مصاحبه باب میل‌تان نبود و رستوران پنج ستاره ناهار که به نظر می‌رسید گزینه‌ مناسبی باشد، خالی از مشتری است. در حالی که رستوران معمولی آن طرف خیابان پر از مشتریان محلی و رقبای کاری‌تان است که یقینا چیزی می‌دانند که دستیار هوش مصنوعی شما از آن بی‌خبر است. ساعت شش عصر پیشنهاد هوش مصنوعی برای رفتن به یک کافه پرزرق‌وبرق را رد می‌کنید و به همان جایی می‌روید که پیشخدمت ‌اش شما را می شناسد. در اینجا مشکل از هوش مصنوعی نیست، بلکه از شکافی است که همیشه میان داده و واقعیت وجود دارد و هیچ الگوریتمی نمی‌تواند آن را کاملاً پر کند. هرچه مدل‌ها پیشرفته‌تر شوند، این فاصله همچنان باقی می‌ماند و خودش را در قالب تجربه‌هایی نشان می‌دهد که همه درباره‌شان حرف می‌زنند؛ قرار کاری بد که رفتید، هتل افتضاحی که رزرو کردید، کنسرتی که باید می‌رفتید و نرفتید، تشخیص اختلالی که از نگاه اپلیکیشن سلامتی‌تان پنهان ماند و...

 مسئله این نیست که دستیارهای هوش مصنوعی اشتباه می‌کنند، مسئله این است که کار را نه کاملا درست، بلکه تقریباً درست انجام می‌دهند و این تقریبا ‌ها می‌تواند از خطاهای آشکار هم خطرناک‌تر باشد. آن‌ها از چیزی بی‌خبرند که در بسیاری از موارد تفاوت را رقم می‌زند؛ شناخت زمینه‌ای، آن عنصر پیچیده و وابسته به بافت زمینه‌ای که اغلب تفاوت اساسی را رقم می‌زند. فرض کنید قرار است فردی را استخدام کنید. دستیار هوش مصنوعی‌تان بر اساس‌ بررسی رزومه‌ها و خود ارزیابی‌ها فهرستی از نام‌ها در اختیارتان گذاشته است و طوری برنامه‌ریزی شده است که بداند آدم‌ها معمولاً در خود ارزیابی‌ها تصویری بهتر و آرمانی‌تر از خودشان ارائه می‌دهند، بنابراین تلاش می‌کند این خودبزرگ‌بینی معمول را در ارزیابی‌هایش لحاظ کند. ممکن است دستیار هوش مصنوعی‌تان داده‌های تکمیلی دیگری را هم در نظر گرفته باشد؛ ارزیابی‌های حرفه‌ای، نمرات تست‌های استاندارد شخصیت و نتایج مصاحبه‌های ساختار یافته. حالا شما نشسته‌اید و دارید فهرست را نگاه می‌کنید یا شاید در حال مرور فایل‌های پیوست باشید با این حال می‌دانید که هنوز تصویر کاملی در دست ندارید. شما به دنبال چیزهای مشخص‌تری هستید؛ سبک همکاری، رفتار فرد در جلسات، نحوه‌ برخوردش بعد از ساعت کاری یا در گردهمایی‌های خارج از شرکت و چیزی شبیه به حس مسئولیت‌پذیری یا شهروندی سازمانی. در اینجا شما باید آن مایل آخر و دشوار از پیچیدگی‌های مبتنی بر بافتار زمینه‌ای را طی کنید. این پیچیدگی‌ها شامل جنبه‌هایی از یک فرد هستند که نمی‌توان آن‌ها را در قالب یک نظام یا ساختار منظم گنجاند. جنبه‌هایی مانند این‌که آدم‌ها چطور در موقعیت‌های مختلف بسته به حال‌و‌هوایشان، شانس یا درگیری‌های شخصی‌شان واکنش‌های متفاوتی نشان می‌دهند یا اینکه زمان‌بندی چطور همه‌چیز را تغییر می‌دهد و تجربه‌های گذشته چگونه واکنش‌های اکنون را شکل می‌دهند.در نهایت شما به ظرافت‌های پویای روابط انسانی نیاز دارید. می‌خواهید ببینید این رزومه در مقایسه با خود فرد در چه بخش‌هایی با حقیقت تطابق ندارد یا دچار بزرگنمایی شده است. اما به دلایل حقوقی و حفظ حریم شخصی دسترسی به چنین اطلاعاتی آسان نیست. در حالت ایده‌آل باید این اطلاعات را خودتان گردآوری کنید (مثلاً در تماس با معرف‌ها) و حتما در فایل‌های شخصی خود نگه دارید چرا که مالک این اطلاعات شما نیستید و چنین داده‌های حساسی که مربوط به مایل آخر هستند ابدا نباید به الگوریتم بازگردند چرا که این کار از نظر حقوقی و اخلاقی مشکل‌ساز است. این اطلاعات می‌توانند منجر به تبعیض بر اساس تفاوت‌های فرهنگی یا خصوصیات شخصیتی، واقعیت‌های متنازع، تغییرات رفتاری در طول زمان و خطر ایجاد دسته‌بندی‌هایی شوند که عملاً غیرقابل‌دسترس و تغییرناپذیر باشند. در دنیای دستیارهای هوش مصنوعی است که برخی واقعیت‌ها خود را نشان می‌دهند: داده‌های قابل اندازه‌گیری شما را به 85-95 درصد هدف می‌رسانند، چرا که الگوریتم‌ها قادر نخواهند بود تمام زمینه و ظرافت‌ها را ارائه دهند. آن ۵-۱۵ درصد باقی‌مانده به ارزیابی انسانی از پیچیدگی‌هایی بستگی دارد که به‌طور طبیعی و در شرایط خاص به وجود می‌آید. این یعنی بیشتر شدن داده‌ها کافی نیست، بلکه نوعی اطلاعات متفاوت و بنیادی نیاز است که نمی‌توان آن را با داده‌های معمولی جایگزین کرد. چیزهایی که غیرقابل توصیف هستند می‌توانند به‌طور بنیادین معنا را تغییر دهند. پرداختن به مایل آخر به اولویت‌ها و ارزش‌های فردی بستگی دارد. سوال اینجاست که چقدر آماده‌اید انعطاف‌پذیر باشید؟ آیا واقعاً این خطرات تهدید محسوب می‌شوند؟

مایل آخر یک مفهوم شهودی است. وقتی خانه می‌خرید یا آپارتمانی انتخاب می‌کنید، مایل آخر مربوط به حس شما از محله، کیفیت نور، تعامل با همسایه‌ها و سر و صدای خیابان است. داده‌های مایل آخر اهمیت زیادی دارند. شما برای به‌دست آوردن این اطلاعات زمان خود را هزینه می‌کنید. در انتخاب رستوران، مایل آخر مربوط به جو رستوران، سبک سرویس‌دهی، سطح سر و صدا و وایب محیط می‌شود. اما اگر اغلب بیرون می‌روید و غذا می‌خورید، داده‌های مایل آخر با هر انتخابی که می‌کنید جمع‌آوری می‌شود. همین موضوع در اپلیکیشن‌های دِیتینگ هم صدق می‌کند، جایی که مایل آخر به ارتباطات عاطفی و شخصیتی، زمان‌بندی، آمادگی برای زندگی، چگونگی تعاملات و روابط درون خانواده‌ای، سبک‌های دلبستگی و تناسب مربوط می‌شود، شما مجبور نیستید یک بار و برای همیشه انتخاب کنید، می‌توانید به بسیاری از قرارهای ملاقات بروید. در فرآیند پذیرش دانشگاه‌ها، از منظر مؤسسه، مایل آخر این است که آیا متقاضی انگیزه، تاب‌آوری، پتانسیل و تناسب با فرهنگ دانشگاه را دارد یا خیر. از منظر متقاضی، مایل آخر علاوه بر هزینه‌ها عوامل دیگری هستند که ممکن است شامل اعتبار، موقعیت، فرهنگ و فرصت‌ها باشد. در بسیاری از موقعیت‌ها  از استخدام گرفته تا خرید خانه یا هر تصمیم‌گیری مهم دیگر، آنچه به‌عنوان تناسب شناخته می‌شود، در واقع به طبقه‌ اجتماعی مربوط است: مفهوم تناسب چه در فرآیند استخدام، چه در حوزه‌ خرید ملک و چه در سایر عرصه‌های مشابه در بسیاری موارد به مسئله‌ طبقه‌ اجتماعی بازمی‌گردد: آشنایی با رمز و رازهای فرهنگی، شناخت قواعد نانوشته، توانایی سخن گفتن به زبان درست، ارتباط با آدم‌های مناسب و دانستن راه دسترسی به آن‌ها، مطالعه‌ منابع معتبر و آشنایی با آثار فرهنگی مرجع، توانایی ارائه‌ خود به شکلی مناسب، درک نشانه‌های ظریف اجتماعی و شناخت فرهنگ‌های سازمانی و سازوکارهای قدرت. از آنجا که در قیاس با سایر مؤلفه‌های انتخاب یا هویت، درباره‌ طبقه‌ اجتماعی کمتر به‌صراحت سخن گفته می‌شود و نیز به دلیل تغییرپذیری نشانه‌های  طبقه اجتماعی در طول زمان احتمال آن وجود دارد که یک دستیار هوش مصنوعی در شناسایی این تفاوت‌های ظریف با مشکل مواجه شود، بنابراین واقعیتی ناخوشایند پیش روی ماست: اینکه مایل آخر مختص عده ای خاص خواهد شد که بصیرت و قدرت تشخیص قرار دارند. در حالی که هوش مصنوعی وعده می‌دهد همه چیز را از پذیرش در دانشگاه‌ها گرفته تا جستجوی شغل در دسترس عموم قرار دهد، این توانایی تشخیص و قضاوت انسانی به کالای لوکسی تبدیل خواهد شد. والدین ثروتمند مشاوری استخدام می‌کنند که دقیقا می‌داند کدام دانشگاه برای فرزند آنها مناسب است. افراد برخوردار از نفوذ و روابط اجتماعی، امکان تعاملات غیررسمی و دوستانه‌ای را خواهند داشت که هیچ الگوریتمی قادر به شبیه‌سازی آن نیست. حتی با ارتقای توانایی هوش مصنوعی در یافتن فرصت‌های مناسب برای افراد، آن تصمیمات نهایی و بسیار مهم که معمولاً تعیین‌کننده‌ سرنوشت هستند همچنان در پسِ پرده‌ امتیازات مالی و روابط ویژه پنهان خواهند ماند. ما در حال شکل‌دهی به جهانی هستیم که در آن الگوریتم‌های هوش مصنوعی به اکثریت جامعه خدمت‌رسانی می‌کنند اما درک و فهم انسانی به ارزشمندترین و ممتازترین خدمت تبدیل می‌گردد. چه کسی تصور می‌کرد که در اوج رونق هوش مصنوعی، در رقابت برای کسب منفعت از این مایل آخر،‌ فرصت اصلی خودِ انسان‌ها باشند؟

مدیران استخدامی به‌زودی با افتخار خود را متخصصان فرا-هوش مصنوعی معرفی خواهند کرد و قضاوت انسانی خود را به عنوان مکمل حیاتی برای ارزیابی‌های الگوریتمی به فروش خواهند رساند و مشاورین املاک به‌جای معرفی خانه، مشاور شناخت بافت محلی خواهند شد و نوعی اطلاعات دقیق و بومی را ارائه می‌دهند که هیچ پایگاه داده‌ای قادر به ثبت آن نیست. هوش مصنوعی نه تنها این واسطه‌ها را حذف نمی کند، بلکه بازاری ممتاز برای تخصص انسانی ایجاد می‌کند. آینده نه صرفاً متعلق به سازندگان الگوریتم‌های برتر است، بلکه به افرادی نیز تعلق دارد که می‌توانند در آن نقطه‌ حیاتی، یعنی جایی که عملکرد الگوریتم‌ها خاتمه یافته و اعمال قضاوت انسانی آغاز می‌گردد، تبحر یابند. مایل آخر صرفاً یک شکاف نیست، بلکه یک حوزه‌ اقتصادی نوظهور است.

موسسه‌ بروکینگز تا حدودی به این مسئله اشاره کرده و بر شخصی‌سازی به عنوان مرحله‌ نهایی تمرکز نموده است اما در واقع این عنصر انسانی است که نقش اساسی را ایفا می‌کند. در نهایت با وقوع انقلاب هوش مصنوعی، فرصت‌ها برای همه به طور مساوی فراهم نخواهند شد؛ بلکه فقط کسانی را تغییر می‌دهد که بر این فرصت‌ها سلطه دارند و آن‌ها را مدیریت می‌کنند. دلیل این امر این است که قضاوت انسانی به عنوان ارزشمندترین راه برای بهبود عملکرد و کارایی الگوریتم‌ها شناخته می‌شود.