کتاب‌گزاری

عدم انسجام، خطای قضاوت، نویسندگان: دانیل کانمن، کس سانستین، اولیویر سیبونی انتشارات: هارپر کالینز، ۲۰۲۱

فرض کنید که مرتکب جرمی شده‌‌‌‌‌‌‌اید. اگر با اقتصادِ رفتاری آشنا باشید، آرزو می‌کنید که دادگاهتان یا در اوایل وقت اداری تشکیل شود یا درست بعد از استراحتی زمان‌بندی‌شده مثل وقت صرف ناهار. در سال 2011 تحقیقی درباره‌ی 1000 حکم صادرشده توسط هشت قاضی نشان داد که بیشترین نرمش و اغماض در احکامی دیده می‌شود که در این ساعت‌ها صادر شده است. بر اساس این پژوهش، بدشانس‌ترین متهمان کسانی بودند که دادگاهشان در پایان وقت اداری یا درست قبل از ناهار برگزار شده بود، زمانی که شانس صدور حکمی به نفع آنها تقریباً صفر بوده است. قاعدتاً خستگی یا گرسنگی قاضی نباید تأثیری بر رأی او داشته باشد اما شواهد نشان می‌دهد که چنین نیست.

اما درباره‌ی قاضی‌ای که برای رسیدگی به پرونده‌ی شما منصوب شده چه می‌توان گفت؟ در این مورد هم قاعدتاً نباید فرقی داشته باشد که چه کسی به پرونده‌ی شما رسیدگی می‌کند. اما شواهد نشان می‌دهد که بسیار مهم است که کدام قاضی به پرونده‌ رسیدگی می‌کند. تحقیقی که در سال 1974 درباره‌ی احکام صادرشده توسط 50 قاضی در پرونده‌‌‌های (فرضی) یکسان انجام شد حاکی از «عدم اجماع» بود. تفاوت احکام، جزئی نبود: احکام صادرشده توسط قضات گوناگون به شدت با یکدیگر تفاوت داشت. قضات مختلف یک فروشنده‌ی هروئین را به جرم مشابهی به یک تا ده سال زندان، یک سارق بانک را به جرم مشابهی به پنج تا هجده سال زندان، و یک باج‌گیر را به جرم مشابهی به سه سال حبس بدون پرداخت جریمه تا بیست سال حبس و پرداخت 65 هزار دلار جریمه محکوم کردند! تحقیقات مشابهی نیز در سال‌‌‌های 1977 و 1981 انجام شده که نتایج تأمل‌برانگیزی داشته ــ و به احتمال زیاد هنوز ابعاد گوناگون این مشکل آشکار نشده است زیرا به نظر نویسندگان نامدار کتاب «عدم انسجام‌»، «قضات واقعی در مقایسه با شرکت‌کنندگان در این آزمایش‌های به دقت طراحی‌شده در معرض همهمه‌ی اطلاعاتی بسیار شدیدتری قرار دارند.»

این تنوع گسترده‌ی قضاوت در زمینه‌‌‌های مختلف، از احکام صادره در دادگاه‌‌‌ها تا برآوردهای شرکت‌‌‌های بیمه و تشخیص‌‌‌های مراکز پزشکی، همان چیزی است که نویسندگان به درستی آن را «عدم انسجام» خوانده‌اند، پدیده‌‌ای که همچون مفهوم شناخته‌شده‌تر مرتبط با آن ــ سوگیری ــ  نوعی خطا در قضاوت است. نویسندگان کتاب با استفاده از استعاره‌ی میدان تیراندازی تفاوت میان این دو مفهوم را توضیح داده‌اند. سوگیری مثل این است که تمام گلوله‌‌‌ها به طور نظام‌مند در یک جهت به بیرون از هدف برخورد کنند؛ برعکس، عدم انسجام مثل این است که گلوله‌ها به همه جا اصابت کنند. حتی ممکن است که بعضی از گلوله‌ها به هدف بخورند زیرا اینجا مسئله نه عدم اصابت به هدف بلکه عدم انسجام است. به همین علت، برای دو مجرم در دو پرونده‌ی مشابه، دو حکم متفاوت صادر می‌شود: یکی به حبس ابد محکوم و دیگری تبرئه می‌شود.

این امر تمایز مهم میان سوگیری و همهمه‌ی اطلاعات را به ما گوشزد می‌کند. برای تشخیص سوگیری باید بدانید که پاسخ صحیح چیست، یا بر اساس استعاره‌ی پیش‌گفته، باید در مقابل هدف بایستید تا بتوانید نقطه‌ی وسط آن را ببینید. اما برای تشخیص عدم انسجام به چنین ویژگی‌‌‌هایی نیاز نیست. در این مورد، بدون توجه به این که در کدام طرف هدف ایستاده‌‌‌‌‌‌‌اید، می‌توانید عدم انسجام را تشخیص دهید زیرا فقط کافی است که بدانید آیا گلوله‌ها به نقاط مختلفی اصابت کرده‌اند یا نه.

به نظر نویسندگان، تشخیص عدم انسجام امری ضروری است زیرا نه تنها نامنصفانه است بلکه می‌تواند هزینه‌‌‌های سنگینی در پی داشته باشد. برای مثال، تحقیقی نشان داد که میانگین تفاوت مبلغی که ‌بیمه‌گران متفاوت (برای یک مورد مشخص) تعیین کرده‌اند 55 درصد بوده است. یعنی اگر ‌بیمه‌گری برای یک مورد خاص، مبلغ 9500 دلار تعیین کرده است، ‌بیمه‌کننده‌ی دیگری برای همان مورد، 16700 دلار در نظر گرفته است. چنین امری نه تنها برای مشتری مهم است ــ زیرا قاعدتاً سهم بیمه‌‌‌‌‌‌‌‌اش نباید وابسته به این باشد که چه کسی به تقاضایش رسیدگی می‌کند ــ بلکه برای شخص یا شرکت بیمه‌کننده هم هزینه‌زا است: قرارداد بیش از حد گران مشتری را فراری می‌دهد و قرارداد بیش از حد ارزان از سود بیمه‌کننده می‌کاهد. بنا به تخمین یکی از مدیران ارشد شرکت بیمه‌ای که این تحقیق در آن انجام شد، هزینه‌ی سالانه‌ی عدم انسجام در قراردادهای بیمه بالغ بر صدها میلیون دلار است.

اما در حالی که کاهش عدم انسجام، هم برای بنگاه‌‌‌های بازرگانی و هم برای کسبه‌ی عادی کف خیابان سودمند است، اغلب نادیده گرفته می‌شود. این امر دلایل گوناگونی دارد. از جمله، همان‌طور که نویسندگان کتاب اشاره کرده‌‌‌‌‌‌اند، طرز فکر علت‌ومعلولی مردم بسیار بهتر از طرز فکر آماری آنها است. به عبارت دیگر، پی بردن به سوگیری بسیار آسان‌تر از عدم انسجام است زیرا عدم انسجام فقط وقتی مشهود است که با یک مجموعه یا چند مورد مواجه باشیم اما برای تشخیص یک حکم یا تصمیم غیرمنتظره (سوگیری) می‌توانیم داستانی تعریف کنیم (قاضی او را تبرئه کرد چون شبیه به دخترش بود). تشخیص عدم انسجام محتاج تلاش و کوشش، یا به قول نویسندگان، نیازمند «بررسی عدم انسجام» است، که در ضمیمه‌ی کتاب دستورالعمل‌هایی برای آن ارائه شده است. آنها برای کاهش عدم انسجام به راهبردهای گوناگونی اشاره می‌کنند، از جایگزینی قضاوت مطلق با قضاوت تطبیقی (برای مثال، ارزیابی مقالات به صورت بهترین مقاله تا بدترین مقاله به جای نمره دادن جداگانه به تک‌تک آنها) تا جایگزینی انسان‌ها/قضات با الگوریتم‌های تصمیم‌گیریِ عاری از عدم انسجام.

اما هر کسی که به بررسی عدم انسجام می‌پردازد به راهبردهای کاهش عدم انسجام متعهد نخواهد شد. برای مثال، در پی مطالعات گوناگون در دهه‌‌‌های 1970 و 1980 که توجه ما را به عدم انسجام غیرقابل‌قبول در احکام قضائی جلب کرد، کنگره‌ی آمریکا در سال 1984 «قانون اصلاح صدور احکام» را تصویب کرد که شامل دستورالعمل‌های لازم‌الاجرایی در مورد صدور احکام بود این تغییرات عدم انسجام را کاهش داد اما نارضایی شدید قضات را برانگیخت زیرا گمان می‌کردند که این قانون آزادی عمل و قدرت تصمیم‌گیری آنها را از بین می‌برد در نتیجه در سال 2005، این دستورالعمل‌ها از حالت الزامی خارج شد و جنبه‌ی توصیه‌ای پیدا کرد. عدم انسجام افزایش یافت اما قضات خوشحال‌تر بودند. اینکه آیا این امر به نفع عدالت بود یا نه مسئله‌ی دیگری است.  

یکی دیگر از سازمان‌هایی که از کاهش عدم انسجام به علت هزینه‌‌ی بسیار زیاد آن منصرف شد مدرسه‌‌ای بود که مدیرانش نظام خود برای پذیرش دانش‌آموز را کنار گذاشتند زیرا فکر می‌کردند که به درگیری می‌انجامد. یکی از توصیه‌ی‌‌‌های مکرر نویسندگان کتاب برای کاهش عدم انسجام این است که در صورت امکان باید در قضاوت از «خِرَد جمعی» استفاده کرد. این اصطلاح به این معنا است که اگر یک سؤال را از افراد متعدد بپرسید، بی‌تردید در مقایسه با وقتی که فقط از یک نفر بپرسید به پاسخ بهتری دست خواهید یافت. اما در‌ این‌جا یادآوری یک نکته‌‌ ضروری است و آن این که برای اجتناب از «همنوایی گروهی»، نظرات باید مستقل از یکدیگر باشد. این همان روشی است که مدرسه‌ی مذکور برای رسیدگی به تقاضاهای ثبت‌نام به کار می‌برد؛ یعنی به جای این‌ که دو نفر از کارکنان با هم درباره‌ی یک برگه‌ی تقاضا تصمیم بگیرند، هر کدام جداگانه آن‌ را می‌خواندند و ارزیابی می‌کردند، کاری که عدم انسجام در روند پذیرش را کاهش می‌داد اما به بحث و جدل می‌انجامید. به همین علت، مسئولان مدرسه ترجیح دادند که از کاهش عدم انسجام منصرف شوند.

و اما الگوریتم‌‌‌ها؛ نویسندگان کتاب تأسف می‌خورند که چرا ما تمایل نداریم به همان نحوی که خطاهای انسانی را تحمل می‌کنیم باخطاهای رایانه‌‌ای هم مدارا کنیم. هرچند این رفتار ما کاملاً نامعقول است اما از طرف دیگر، خطاهای ‌الگوریتم‌‌ها می‌تواند بسیار بزرگ باشد. برای مثال، کسانی که در آمریکا قراردادهای موقت دارند به علت اشتباه الگوریتم‌های بی‌رحم در تشخیص تقلب و کلاهبرداری از امرار معاش محروم شده‌اند؛ الگوریتمی که شرکت آمازون ابداع کرده بود، به طور نظام‌مند تقاضانامه‌‌‌های شغلی زنان را کم‌اهمیت می‌شمرد. علاوه بر این‌‌‌، ‌الگوریتم‌‌ها به نحو نامعقولی مبهم‌اند زیرا قوانین مالکیت نرم‌افزار اجازه نمی‌دهد که از طرز کار داخلی آنها سردربیاوریم. یکی از مسئولان خدمات مشتریان شرکت اپل، به مردی که سقف اعتبار همسرش به‌رغم اعتبار بیشتر، فقط ‌بیست درصد او بود، گفت: «ما تبعیضی قائل نمی‌شویم، این الگوریتم‌ها هستند که تصمیم می‌گیرند». وقتی پای سالخوردگان یا کسانی در میان باشد که به اینترنت دسترسی مناسب ندارند، مشکل هزار برابر می‌شود.

برای رعایت انصاف باید گفت که نویسندگان، هرچند به وجود سوگیری الگوریتمی اعتراف می‌کنند اما ابعاد و اهمیت آن را دست‌کم می‌گیرند. نکته‌ی بسیار مهمی که از آن غافل‌اند این است که ‌الگوریتم‌‌ها صرفاً سوگیری‌های انسانی را تکرار نمی‌کنند بلکه به طور چشمگیری آنها را تقویت می‌کنند. الگوریتمی که متکی بر مجموعه‌داده‌هایی بود که در آنها زنان 33 درصد بیشتر از مردان در تصاویر آشپزی به چشم می‌خوردند، در نهایت در 68 درصد از موارد، تصاویر آشپزخانه و زنان را با یکدیگر مرتبط می‌شمرد. تا زمانی که این نقائص رفع نشود، باید مراقب متخصصان علوم ‌اجتماعی متکی به الگوریتم باشیم.

سرسری گرفتن پیامدهای اجتماعی مهم هوش مصنوعی عیب و نقص جدی کتابی است که هرچند به مسئله‌ی مهمی می‌پردازد اما نپخته و نسنجیده به نظر می‌رسد. اگر کتابی محتاج ویرایش باشد، همین کتاب است. حجم کتاب می‌توانست نصف این باشد و در این صورت کتاب بسیار بهتری از کار درمی‌آمد اما اکنون با کتابی آکنده از توصیفات بی‌محتوا و گفتگوهای تخیلی (و بد) مواجه‌ایم که صرفاً تعداد صفحات را افزایش داده و مطالعه‌ی آن را به کار شاقی بدل کرده است. حاصل کار با توجه به آثار قبلی نویسندگان این کتاب، مأیوس‌کننده است؛ به نظر می‌رسد که این کتاب بیش از آن که ثمره‌ی ایده‌ای سنجیده باشد حاصل اشتیاق ناشر به انتشار یک کتاب پرفروش دیگر است. در اواخر کتاب این جملات را می‌خوانیم: «عدم انسجام عبارت است از تنوع ناخواسته‌ی قضاوت‌ها؛ پدیده‌‌ای که بیش از حد به چشم می‌خورد.» به نظرم این توصیف در مورد خود کتاب هم صادق است.

برگردان: افشین احسانی

کارولین کریادو پرز روزنامه‌نگار آزاد، فعال فمینیست و بنیان‌گذار وبلاگ «ویک وومن» است. آنچه خواندید برگردان این نوشته با عنوان اصلیِ زیر است:

Caroline Criado Perez, ‘Noise by Daniel Kahneman, Olivier Sibony and Cass Sunstein review- the price of poor judgement’, The Guardian, 3 June 2021.