ذهنهای سادهی ما در برابر پیچیدگیهای فناوری
خلاقیت بشری و پیشرفتها در عرصهی فناوری به آفرینش دنیایی منجر شده است که خود ما انسانها، به عنوان خالقان این دنیا، دیگر قادر به درک تمامیتِ آن نیستیم. به نظر میرسد این دنیا پیچیدهتر از آن شده است که ما با ذهنهای به نسبت سادهی خود قادر به شناخت کامل آن باشیم.
با این که آسمان چنین وسیع است، باز هم هواپیماها گاهی با یکدیگر برخورد میکنند. برای جلوگیری از چنین فجایعی، سامانهی هشدار ترافیکی و احتراز از تصادف (TCAS) به وجود آمده است. این سامانه به خلبانان در مورد خطرات احتمالی هشدار میدهد و، با استفاده از مجموعهای از قوانین پیچیده، به آنها میگوید که چگونه نسبت به این خطرات واکنش نشان دهند. در واقع، این مجموعه قوانین (که در طول دهههای متمادی به وجود آمده) چنان پیچیده است که احتمالاً تعداد کسانی که هنوز میتوانند آنها را اصلاً بفهمند، به انگشتان یک دست هم نمیرسد. وقتی چنین سامانهای ایجاد میشود، انسانها کنار گذاشته میشوند، و به جای آنها از شبیهسازی استفاده میشود. اگر این سامانه به تعداد مشخصی از آزمایشها واکنش مناسب نشان دهد، مهر تأیید مهندسی را دریافت میکند و استفاده از آن آغاز میشود.
در حالی که مشکل احتراز از تصادف به خودی خود مسئلهی پیچیدهای است، سامانهای که ما برای حل و فصل این مشکل به وجود آوردهایم اساساً چنان پیچیده شده که برای ما دیگر قابل درک نیست، و حتی گاهی متخصصان هم از عملکرد آن متعجب میشوند. این پیچیدگیِ رو به ازدیاد به یک پدیدهی بزرگتر در زندگی مدرن امروزی اشاره دارد. وقتی سامانههایی که برای حفظ زندگی ما طراحی شدهاند به سختی قابل درک باشند، این یعنی ما به آستانهای در فناوری رسیدهایم که نیاز به تحقیق و بررسی دقیق دارد.
تا قرنها، انسانها همواره سامانههایی هرچه پیچیدهتر خلق کردهاند، از ماشینهایی که با آنها زندگی میکنیم گرفته تا سیستمهای اطلاعاتی و قوانینی که تمدن جهانی ما را یکپارچه نگاه میدارد. فناوری همچنان با سرعتی اعجابآور بر پیچیدگی خود میافزاید (و به این وسیله کارآمدیها و مزایایی را نصیب ما میکند که نسلهای قبلی نمیتوانستند آنها را تصور کنند)، اما این پیچیدگی و درهمتنیدگیِ فزاینده با پیامدهایی پیچیده و پرآشوب همراه است که ما همیشه نمیتوانیم آنها را پیشبینی کنیم. یک نکته این است که اذعان کنیم فناوری همواره رو به پیچیدهتر شدن دارد و همین موضوع کارِ متخصصانی را که سیستمهای ما را میسازند و نگهداری میکنند باز هم سختتر میکند؛ اما به این نکته هم باید اذعان کرد که بسیاری از این سیستمها و سامانهها واقعاً دیگر کاملاً قابل فهم نیستند. ما اکنون در جهانی زندگی میکنیم که آکنده از مشکلات فنی و اشکالات پیشبینینشده و غیر قابل فهم است. وقتی در یک بازی رایانهای به اِشکالی بر میخوریم، موضوع خیلی جذاب به نظر میرسد، اما وقتی که خودِ زیرساختِ جامعهمان ما را به حیرت میاندازد و نامفهوم جلوه میکند، این دیگر مشکلی شایستهی تأمل است.
یکی از اولین علائم پیچیده شدن زندگی انسانی توسط فناوری اختراع سیستم ارتباطیِ راهآهن بود، اتفاقی که به ایجاد مناطق زمانی استاندارد در آمریکا ضرورت بخشید، تا امکان هماهنگ ساختن دهها قطار جدید که در پهنای قاره در حرکت بودند فراهم شود. از آن زمان، شرایط در زمینهی حمل و نقل چندین و چند برابر پیچیدهتر شده است. خودروها از وسایلی مکانیکی با پیچیدگی محدود به موتورهای رایانهای تبدیل شدهاند که بر روی چرخها قرار گرفتهاند. در واقع، برآورد میشود که آمریکا در سیستم راههای تردد خود بیش از ۳۰۰ هزار چهارراه با چراغ راهنما دارد. و سخن تنها از سیستمها و شبکههایی نیست که این ماشینها اشغال میکنند. در طول دویست سال گذشته، تعداد قطعات منفرد در ماشینهای پیچیدهی ما (از هواپیماها گرفته تا ماشینحسابها) به نحو تصاعدی افزایش یافته است.
پیچیدگی تکنولوژیکی، از طریق رایانهای شدنِ فزاینده، بر همهی جنبههای زندگی ما چنگ انداخته است، از اسباب و لوازم آشپزخانه گرفته تا وسایل ورزش روزانه. ما اکنون با پیامدهای ناخواستهی این امر زندگی میکنیم: جهانی که ما برای خود ایجاد کردهایم چنان پیچیده است که مغزهای به نسبت سادهی ما قادر به ادراک آن نیستند. کابوس پیش روی ما اسکاینِت نیست (یک شبکهی خودآگاه که به بشریت اعلان جنگ بدهد)، بلکه سیستمهای آشفتهای چنان متشنج است که تقریباً هر بدکارکردی که به ذهن برسد در آنها میتواند رخ دهد. و در واقع هم این بدکارکردها بسیار بیش از آنچه که دلخواه ما است، رخ میدهند.
این که روزی دانشی وجود خواهد داشت که هیچ انسانی قادر به درک آن نخواهد بود، همیشه امری مسلم فرض میشد.
نشانههایی از نقطهی پایانی، که به نظر میرسد به سوی آن در حرکت هستیم، از هماکنون برای ما قابل رؤیت است: جهانی که در آن اکوسیستمهای تکنولوژیک، که تقریباً مستقل هستند، ماورای دانش و فهم بشری عمل میکنند. آنطور که یک مقالهی علمی در مجلهی نیچر در سپتامبر ۲۰۱۳ مطلب را بیان میکند، در دنیای مالی و اقتصادی یک «زیستبومِ ماشینیِ کامل، ورای محدودهی زمانیای که بشر در آن قادر به واکنش نشان دادن است» وجود دارد، دنیایی که در آن سهام در یک چشم بر هم زدن معامله میشوند و از کار افتادنهای کوچک و نوسانات قیمت میتوانند در یک ثانیه یا کمتر از آن اتفاق بیافتند. وقتی ما سعی داریم سرعت معاملات مالی خود را تا حد سرعت نور افزایش دهیم، باید اذعان کنیم که در واقع ماشینها در حال تعاملاتِ متراکم با یکدیگر هستند، یعنی اساساً الگوریتمهایی میان خود معامله میکنند، در حالی که انسانها در حاشیه قرار گرفتهاند.
این که روزی دانشی وجود خواهد داشت که هیچ انسانی قادر به درک آن نخواهد بود، همیشه امری مسلم فرض میشد. محقق سدههای میانه، موسی بن میمون، در کتاب خود با عنوان راهنمایی برای سرگشتگان، ابراز میدارد که «عقل بشری بدون شک حدی دارد که در آن متوقف خواهد شد»؛ او حتی مفاهیم بسیاری را بر میشمارد که به تصور خودش ما هرگز به درک آنها موفق نخواهیم شد، از جمله «تعداد ستارگان آسمان» و این که «آیا تعداد آنها یک عددِ فرد است یا زوج.» اما سپس انقلاب علمی به وقوع پیوست و با آن خودپیروزشماریِ فهم از راه رسید. صدها سال بعد، اکنون ما دقیقاً میدانیم چه تعدادی از اجرام سماوی در آسمانِ شب برای چشم غیرمسلح قابل مشاهده است: این عدد ۹۱۱۰ است (که عددی زوج است)!
اما از «عصر روشنگری» تا کنون، ما همچنان به سوی «گرفتارشدگیِ» بیشتر در حال حرکت بودهایم، کلمهای که دنی هیلیس، متخصص آمریکاییِ علوم رایانهای، ابداع کرده است. گرفتارشدگی روندی است به سوی محیطی تکنولوژیکی با درهمتنیدگیِ رو به افزایش و فهمپذیریِ رو به کاهش. هیلیس استدلال میکند که ماشینهای ما در حالی که در چارچوب قوانین منطقی و عقلانی عمل میکند، اکنون بیش از آن پیچیده شدهاند که بتوان آنها را درک کرد. چه تمامیتِ اینترنت و چه قطعات عظیم زیرساختهای ما، فهم «تمامیت» (حفظ آن در سرتان) بسیار غیرمحتمل شده است.
یک نمونه از این روند، پیچیدگیِ فزایندهی نرمافزارهای ما است؛ آنطور که بر مبنای تعداد خطوط کدی که برای نوشتن یک نرمافزار لازم است میتواند اندازهگیری شود. بر مبنای برخی تخمینها، کدهای نرمافزاریِ سیستم عامل ویندوز در طول یک دهه چندین و چند برابر شده است، و این موضوع سبب شده است که دیگر یک فرد به تنهایی نتواند همهی اجزای مختلف آن را کلاً و یکجا درک کند. آیا ویروس اینترنتی Y2K را به یاد دارید؟ این واقعیت دارد که این به اصطلاح «گافِ هزاره» بدون مشکلات جدی رد شد، اما واقعیت اعجابآور این بود که ما نمیتوانستیم مطمئن باشیم که در اول ژانویهی سال ۲۰۰۰ چه اتفاقی خواهد افتاد، چون سیستمهای درگیر بیش از حد پیچیده شده بودند.
حتی سیستمهای حقوقی ما به نحوی بازگشتناپذیر آشفته شدهاند. قانون مدنی آمریکا، که به خودی خود نوعی فناوری است، بیش از ۲۲ میلیون کلمه دارد و مشتمل بر ۸۰ هزار ارجاع درونی از بخشی به بخش دیگر است. این شبکهی عظیم حقوقی عمیقاً پیچیده است، و تمامیت کارکرد آن را هیچ فردی نمیتواند درک کند. مایکل مندل و دایانا کارو، از «مؤسسهی سیاستگذاری پیشرفته» در واشنگتن، از این رشد سیستمهای حقوقی به عنوان «انباشت مقررات» یاد میکنند، وضعیتی که ما در آن همچنان قوانین و مقرراتِ هرچه بیشتری را حفظ میکنیم. هر قانون و مقررات ممکن است به تنهایی معنا داشته باشد، اما وقتی در کنار دیگر موارد در نظر گرفته میشوند، میتوانند غیر قابل فهم شوند، و حتی با یکدیگر به انحای اعجابانگیز و غیرمنتظرهای تعامل کنند. در مواجهه با مشکلات راهاندازیِ یک پایگاه اینترنتی برای اوباماکر، حتی شاهد تعامل پیچیدگی حقوقی و پیچیدگی رایانهای هستیم. مشکلات فنی در این سیستم تکنولوژیک میتواند بر زندگیِ هریک از ما اثر بگذارد.
و این روند در حال شتاب گرفتن است. برای مثال، ما اکنون چاپگرهای سهبعدی، ماشینهای عظیمی برای کمک به ساخت تونلها و پلها، و حتی نرمافزارهایی مانند برنامههای پیچیدهی طراحی به کمک رایانه (CAD) را داریم که به طراحی محصولات و زیرساختهای جدید کمک میکنند. یک حیطهی رایانهای به نامِ برنامهنویسیِ تکاملی، حتی اجازه میدهد که نرمافزار از راه «تکامل» خود به راه حلهایی برای مشکلات دست پیدا کند، در حالی که خود نمیداند آن راه حل در نهایت ممکن است چه شکلی به خود بگیرد. به معادلهای متناسب برای مجموعهای از دادهها نیاز دارید؟ برنامهنویسی تکاملی میتواند آن را بسازد، حتی اگر شما نتوانید پاسخی را که به شما میدهد بفهمید.
چند سال پیش، تیمی از دانشمندان محقق سعی داشتند طراحی نوعی مدار رایانهای را بهبود بخشند. آنها مسئلهای ساده را که آن مدار باید حل میکرد ایجاد کردند، و سپس سعی کردند یک راه حل بالقوه برای آن را تکامل بخشند. بعد از چندین نسل، تیم مزبور موفق شد در نهایت طرحی موفق برای مدار بیابد. اما قسمت جالب ماجرا اینجا است: بخشهایی از این مدار از بخش اصلی آن جدا بودند، اما برای کارکردِ کلِ مدار نقشِ حیاتی داشتند. اساساً، این برنامهی تکاملی از پدیدههای فیزیکی و الکترومغناطیسی عجیبی استفاده میکرد که بهرهگیری از آنها برای آن که مدار کار خود را به انجام برساند هرگز به فکر هیچ مهندسی نرسیده بود. به تعبیر محققان: «تکامل توانسته بود این رفتار فیزیکی را به کار بگیرد، با این که تحلیل آن مشکل است.»
این تکنیکِ تکاملی به ظهور سیستم تکنولوژیکی جدیدی منجر شد، سیستمی که ما در فهم آن مشکل داریم زیرا ما هرگز نمیتوانیم چیزی مانند آن را به تنهایی بسازیم. در شطرنج، عرصهای که در آن رایانهها قویتر از انسانها هستند، و میتوانند به نحوی بازی را ببرند که ذهن بشری قادر به درک آن نیست، به این نوع راه حلها «حرکتهای رایانهای» گفته میشود – حرکتهایی که هیچ انسانی هرگز انجام نمیداد، حرکاتی که نامناسب به نظر میرسند اما همچنان نتیجهبخشاند. آنطور که اقتصاددان آمریکایی، تیلور کاون در کتاب دوران متوسطها سر آمده است در سال ۲۰۱۳ مینویسد، این نوع حرکتها معمولاً اشتباه به نظر میرسند، اما بسیار مؤثر هستند. رایانهها این واقعیت را آشکار کردهاند که شطرنج، دست کم وقتی در بالاترین سطوح بازی شود، به دلیل تعداد زیاد اجزای حرکتیاش، بیش از آن پیچیده است که یک شخص (حتی یک استاد شطرنج) بتواند آن را درک کند.
حال، ما چگونه باید به این نفوذناپذیریِ فناورانه واکنش نشان بدهیم؟ یک واکنش میتواند این باشد که به سادگی دست از تلاش برداریم، کاملاً شبیه به شخصیت کارتونی کالوین (دوست یک ببر فیلسوف) که اعلام میکرد همه چیز، از چراغها گرفته تا جاروبرقیها، با جادو کار میکنند. به جای مواجهه با این واقعیت پیچیده که باد چگونه عمل میکند، کالوین ترجیح میدهد آن را «عطسهی درختان» بنامد. این تسلیم عقلی در برابر پیچیدگی فزاینده شاید خیلی افراطی و حتی کمی بزدلی به نظر برسد، اما اگر ما دیگر نمیتوانیم آفریدگان خود را درک کنیم، چه جایگزینی برای تسلیم شدن داریم؟
شاید جایگزین آن برای ما همان طرز برخوردی باشد که با آب و هوا داریم. با این که واقعاً نمیتوانیم وضع آب و هوا را کنترل کنیم، یا آن را با تمام جزئیات غیرخطیاش درک کنیم، میتوانیم آن را تا حد قابل قبولی پیشبینی کنیم، با آن سازگار شویم، و حتی خود را برای تغییرات آن آماده کنیم. و وقتی عناصر طبیعت چیزی غیرمنتظره در مقابل ما مینهند، سعی میکنیم افتان و خیزان از آن عبور کنیم. پس همانطور که مدلهای آب و هوایی داریم، میتوانیم شروع به ایجاد مدلهایی حتی تا حدی سادهشده برای سیستمهای تکنولوژیکمان بکنیم. بازی با نمونهی شبیهسازیشدهی سیستمی که مورد توجه ما است (آزمایش محدودیتهای آن و بازی با پارامترهایش به جای فهم کامل آن) میتواند راهی مؤثر برای کسب بینش باشد، و این مهارتی است که نیاز به پرورش بیشتر دارد.
برای مثال، بازی رایانهایِ «سیمسیتی» نوعی مدل است که به کاربرانش در مورد شیوهی کارکرد یک شهر بینشهایی میدهد. قبل از وجود سیمسیتی، افراد کمی خارج از قلمروی برنامهریزی شهری و مهندسی عمران، مدل ذهنی واضحی در مورد شیوهی کارکرد شهرها داشتند، و از میان آنها هیچ کس نبود که بتواند برای ایجاد نتایج فرضی، اجزایی از زندگی شهری را دستکاری کند. ما هم احتمالاً هنوز نمیتوانیم این کار را در سطح پیچیدگی یک شهر واقعی انجام دهیم، اما کسانی که اینگونه بازیها را تجربه کردهاند فهم بهتری از تأثیرات کلی اقدامات خود دارند. ما باید، به طور کلیتر، در «بازی کردن» با شبیهسازیهای جهان تکنولوژیک ماهرتر شویم. این ممکن است جهتی را نشان دهد که نظامهای آموزشی ما باید به سوی آن حرکت کنند، و به دانشآموزان یاد دهند که با چیزی بازی کنند و دست کم به نوعی محدودیتهای آن را تشخیص دهند و طرز کار آن را بفهمند.
ما همچنان به مفسرانی نیاز داریم که به ما بگویند در این سیستمها و سامانهها چه میگذرد، تا حدی مانند کارشناسان هواشناسی در تلویزیون. در اواخر کتاب دوران متوسطها سر آمده است، کاون به تأمل دربارهی نقش این مفسران در آینده میپردازد. او میگوید که آنها «مهارتهای خود در زمینهی جستوجو، درک، و ارزیابی اینگونه اطلاعات را تکمیل میکنند … آنها مترجمانِ حقایقی خواهند بود که از شبکههای ماشینهای ما بیرون خواهد آمد … دست کم برای مدتی، آنها تنها کسانی خواهند بود که هنوز تصوری روشن از این که چه میگذرد خواهند داشت.»
و وقتی چیزها باز هم بیش از حد پیچیدهتر شوند، و ما از کارکرد ساختارهایی که بشر به وجود آورده به اعجاب بیافتیم، چه میشود؟ در آن مقطع، ما مجبور خواهیم شد از کسانی یاد بگیریم که در سرمای زمستانی غیرمنتظره یقههای خود را بالا زدهاند و وقت بیرون رفتن آه میکشند: مجبور خواهیم بود که کمی فروتنتر باشیم! کسانی مثل موسی بن میمون، که در دوران قبل از عصر روشنگری میزیستند، اذعان میکردند که آنچه ما میتوانیم بدانیم محدودیتهایی دارد، و شاید زمان آن فرا رسیده است که ما هم به همان نوع طرز فکر باز گردیم. البته، ما نباید ناامید شویم و بگوییم که چون نمیتوانیم چیزی را کاملاً بفهمیم، چیزی برای آموختن و یاد گرفتن وجود ندارد. اما در همین حال، شاید زمان آن فرا رسیده است که با محدودیتهای خود بیشتر آشنا شویم.
برگردان: پویا موحد
ساموئل آربِسمن پژوهشگر و نویسندهی آمریکایی در زمینهی علوم و فناوری است. آنچه خواندید برگردانِ این نوشتهی اوست:
Samuel Arbesman, ‘It’s Complicated,’ Aeon, 6 January 2014.