هوش مصنوعی با انسان‌های باهوش چه خواهد کرد؟

استیون کِیو

«هوش» از دیرباز به عنوان یک امتیاز اختصاصی برای نوع بشر مورد تمجید قرار گرفته، و وسیله‌ای برای سلطه‌یابی بعضی از انسان‌ها بر انسان‌های دیگر بوده است. اکنون، با پیشرفت «هوش مصنوعی»، بسیاری از انسان‌ها نگرانِ منزلت انحصاریِ خود شده‌اند. این نگرانی تا چه اندازه موجه و جدی است؟


این ایده که می‌توان هوش را، مانند فشار خون یا اندازه‌ی کفش، به صورت کمّی سنجید (مانند آزمون‌های هوش) قدمتی تقریباً صدساله دارد، اما قرن‌ها است که تصور می‌شود هوش می‌تواند تعیین‌کننده‌ی جایگاه و موقعیت فرد در زندگی باشد. این تصور در سراسر تفکر غربی حضور دارد: از فلسفه‌ی افلاطون تا سیاست‌های نخست‌وزیر بریتانیا، ترزا می. گفتن این که فردی باهوش است / نیست، هیچ‌گاه صرفاً اظهار نظری درباره‌ی توانایی‌های ذهنی او نبوده است. این سخن همواره قضاوتی است درباره‌ی کارهایی که او اجازه‌ی انجام دادن آن‌ها را دارد. به عبارت دیگر، هوش امری سیاسی است.

گاهی اوقات، این‌گونه امتیازدهی کار معقولی است: ما به دکترها، مهندس‌ها، و حاکمانی نیاز داریم که احمق نباشند. اما این امر یک جنبه‌ی منفی نیز دارد. از هوش افراد – یا فرضِ فقدان آن – نه تنها برای تعیین کارهایی که آن‌ها می‌توانند انجام دهند بلکه برای تصمیم‌گیری درباره‌ی این که دیگران با آن‌ها چه رفتاری می‌توانند داشته باشند نیز استفاده می‌شود. در سراسر تاریخ غرب، کسانی که تصور میشده هوش کمتری دارند، در نتیجه‌ی این قضاوت، به بردگی گرفته شده، استثمار شده، عقیم شده، و به قتل رسیدهاند (در واقع، اگر در محاسبات خود حیوانات را نیز در نظر بگیریم، آنها خورده نیز شدهاند).

این ماجرا تازگی ندارد. اما با پیدایش «هوش مصنوعی» در قرن بیست و یکم، نقطه‌ی عطف جالبی در آن پدید آمده است. در سال‌های اخیر، پژوهش‌هایِ مربوط به هوش مصنوعی پیشرفت‌های چشمگیری داشته، و بسیاری از متخصصان بر این باور اند که این موفقیت‌ها به زودی باعث پیشرفت‌های بیشتری نیز خواهند شد. اما صاحب‌نظران وحشت‌زده شده و به هیجان آمده‌اند و در توئیت‌های خود مدام به ترمیناتور ارجاع می‌دهند. برای این که بفهمیم چرا این موضوع برای ما اهمیت دارد و از چه می‌ترسیم، باید هوش را به عنوان مفهومی سیاسی در نظر بگیریم – و به طور مشخص، تاریخچه‌ی طولانی آن به عنوان توجیه‌گر سلطه شایان توجه است.

اصطلاح «هوش» در میان فیلسوفان انگلیسی‌زبان هیچ‌گاه متداول نبوده است. همچنین در زبان آلمانی یا یونانی باستان، یعنی دو زبان مهم دیگر در سنت فلسفی غربی، هیچ معادل دقیقی برای آن وجود ندارد. اما این به آن معنا نیست که فیلسوفان به این مفهوم علاقه‌ای نداشته‌اند. در واقع، آن‌ها سخت دل‌مشغول این مفهوم یا، اگر دقیق‌تر بگوییم، بخشی از آن بودند: خرد یا عقلانیت. تنها با بر آمدن رشته‌ی تقریباً نوظهور «روان‌شناسی» – که نسبت به هوش ادعای مالکیت داشت – بود که نقش این خویشاوند قدیمیِ «هوش» در گفتمان سیاسی و متداول کم‌رنگ شد. امروزه، بسیاری از پژوهشگران طرفدار برداشتی بسیار فراخ‌دامنه‌تر از هوش هستند، اما «خرد» هنوز جزئی محوری در این مفهوم است. در نتیجه، زمانی که درباره‌ی نقش تاریخی هوش صحبت می‌کنم، این خویشاوند قدیمی هوش را نیز مد نظر دارم.

داستان هوش با افلاطون آغاز می‌شود. او در تمام نوشته‌های خود برای «اندیشیدن» ارزش بسیاری زیادی قائل است؛ او (از زبان سقراط) اعلام می‌کند که زندگی‌ای که تن به محک عقل نسپرده باشد ارزش زیستن ندارد. افلاطون در زمانه‌ای که غرق در افسانه و رازورزی بود، ادعای جدیدی مطرح کرد: به کمک خرد – یا ما امروز می‌توانیم بگوییم با استفاده از هوش – می‌توان حقایق جهان را اثبات کرد. با توجه به همین اصل، افلاطون در کتاب جمهور نتیجه گرفت که حاکمِ آرمانی «فیلسوف-پادشاه» است، زیرا تنها یک فیلسوف می‌تواند نظم مناسب امور را دریابد. به این ترتیب، او مبتکر این ایده بود که باهوش‌ترین فرد باید بر سایرین حکومت کند – شایسته‌سالاریِ مبتنی بر خرد.

 در سراسر تاریخ غرب، کسانی که تصور می‌شده هوش کمتری دارند، در نتیجه‌ی این قضاوت، به بردگی گرفته شده، استثمار شده، عقیم شده، و به قتل رسیده‌اند (در واقع، اگر در محاسبات خود حیوانات را نیز در نظر بگیریم، آن‌ها خورده نیز شده‌اند).

این ایده در زمان خود بسیار انقلابی بود. آتنی‌ها پیش‌تر دموکراسی، یعنی حاکمیت مردم، را تجربه کرده بودند – اما برای این که کسی یکی از این «مردم» محسوب شود کافی بود شهروند و مرد باشد، داشتن هوش ضروری نبود. در سایر نقاط، طبقات حاکم عبارت بودند از کسانی که شایستگی در آن‌ها موروثی بود (اشراف‌سالاری)، یا کسانی که تصور می‌کردند از جانب خدا مأموریت دارند (دین‌سالاری)، یا قوی‌ترین فرد (استبداد).

اندیشمندان از این ایده‌ی جدید افلاطون استقبال کردند. یکی از این افراد ارسطو، شاگرد افلاطون، بود. او که متفکر عمل‌گراتری بود از ایده‌ی برتریِ خرد برای اثبات آنچه به نظر او سلسله‌مراتبِ طبیعیِ اجتماع بود استفاده کرد. او در کتاب خود، سیاست، می‌نویسد: «این که برخی باید حکومت کنند و برخی نیز اطاعت، نه تنها ضروری بلکه مصلحت‌آمیز است؛ از همان بدو تولد، مشخص می‌شود که در آینده برخی حکومت خواهند کرد و برخی پی‌روی.» علامت مشخصه‌ی حاکمان داشتنِ «عنصر عقلانیت» است. مردان فرهیخته از این عنصر برخورداری بیشتری دارند، و در نتیجه باید بر زنان حکومت کنند – و همچنین بر مردانی که «پیشه‌ی آن‌ها استفاده از بدن‌های‌شان است» و در نتیجه «ذاتاً برده اند.» در پایین این سلسله‌مراتب حیوانات قرار دارند که به قدری از هوش بی‌بهره اند که «اگر انسان‌ها بر آن‌ها حکومت کنند، وضع بهتری خواهند داشت.»

به این ترتیب، در سرآغاز فلسفهی غربی، هوش به مشخصهیِ مرد فرهیختهی اروپایی تبدیل شد. بنا بر این مشخصه، استدلال میشود که او حق دارد نسبت به زنان، طبقات فرودست، مردم غیرمتمدن، و حیوانات سلطه داشته باشد. در حالی که افلاطون از برتری خرد دفاع می‌کرد و تحقق آن را در آرمان‌شهری تقریباً دست‌نایافتنی ممکن می‌دانست، تنها یک نسل بعد، ارسطو حاکمیت مردِ اندیشمند را امری بدیهی و طبیعی تلقی می‌کرد.

نیازی به گفتن نیست که پس از گذشت بیش از دو هزار سال، قطار اندیشه هنوز در همان مسیری حرکت می‌کند که این اندیشمندان مشخص کرده‌اند. وال پلاموود، طرفدار حفظ محیط زیست و فیلسوف استرالیایی، استدلال می‌کند که چهره‌های برجسته‌ی فلسفه‌ی یونان مجموعه‌ای از دوگانه‌های مرتبط با یک‌دیگر ایجاد کردند که هنوز هم اندیشه‌ی ما را شکل می‌دهند. مقولات متضادی مانند باهوش / نادان، عقلانی / عاطفی، و جسم / روح به صراحت یا به طور ضمنی با مقولات دیگری مانند مرد / زن، متمدن / بدوی، و انسان / حیوان پیوند دارند. این دوگانگی‌ها فارغ از ارزش‌گذاری نیستند و، همان‌طور که ارسطو آشکارا نشان می‌دهد، در ذیل دوگانگی فراخ‌تری قرار می‌گیرند: دوگانگی حکم‌فرما / فرمان‌بر یا ارباب / برده. این مقولات در ارتباط با یک‌دیگر، روابط سلطه، مانند پدرسالاری یا بردگی، را چنان جلوه می‌دهند که گویی بخشی از نظم طبیعی امور اند.

گفته می‌شود که فلسفه‌ی مدرن غربی با رنه دکارت، آن دوگانه‌انگار اعظم، آغاز می‌شود. او، برخلاف ارسطو، حتی به وجود مراتب نازل‌تر هوش در بین حیوانات باور نداشت. بنا بر ادعای او، ادراک تنها از ویژگی‌های انسان است. اندیشه‌ی او بازتاب‌دهنده‌ی الاهیات مسیحی بود که بیش از هزار سال قدمت داشت. این الاهیات هوش را به ویژگیِ‌ روح تبدیل کرده بود، یعنی آن بارقه‌ی الاهی که تنها قسمتِ موجوداتی می‌شد که بنا بر صورت و مثالِ الاهی آفریده شده باشند. دکارت طبیعت را بدون ذهن می‌دانست، و در نتیجه برای آن ارزش ذاتی قائل نبود – این امر به ستمِ فارغ از احساس گناه بر سایر موجودات مشروعیت می‌بخشید.

این ایده که هوش عامل تعیینکنندهی انسانیت است تا «عصر روشنگری» تداوم یافت. ایمانوئل کانت، کسی که احتمالاً تأثیرگذارترین فیسلوف اخلاق از دوران باستان تا کنون است، این ایده را مشتاقانه پذیرفت. از نظر او، تنها موجوداتِ برخوردار از عقلانیت منزلتِ اخلاقی دارند. موجوداتِ عقلانی را باید «انسان» خواند، آن‌ها «غایتِ فی‌نفسه» اند. از سوی دیگر، موجوداتِ غیرعقلانی تنها «به عنوان ابزار ارزشی نسبی دارند و بنابراین اشیا خوانده می‌شوند.» ما هر کاری که مایل باشیم می‌توانیم با آن‌ها انجام بدهیم.

به باور کانت، ارزش یا حرمت موجودات عقلانی – امروزه، ما آنها را موجودات هوشمند می‌خوانیم – بی‌کران است، در حالی که موجودات عاری از عقلانیت هیچ ارزشی ندارند. او موشکافانه‌تر و دقیق‌تر از ارسطو استدلال می‌کند، اما هردو به یک نتیجه می‌رسند: به طور طبیعی، ارباب‌ها و بردگان وجود دارند، و آن‌چه موجب تمایز آن‌ها می‌شود هوش است.

در سرآغاز فلسفه‌ی غربی، هوش به مشخصه‌یِ مرد فرهیخته‌ی اروپایی تبدیل شد. بنا بر این مشخصه، استدلال می‌شود که او حق دارد نسبت به زنان، طبقات فرودست، مردم غیرمتمدن، و حیوانات سلطه داشته باشد.

این گرایش فکری بسط یافت و به جزء اصلی منطق استعماری تبدیل شد. استدلالی شبیه به این مطرح بود که: غیرسفیدپوستان از هوش کمتری برخوردار اند؛ در نتیجه، آنها صلاحیت حکمرانی بر خود و سرزمین‌هایشان را ندارند. به این ترتیب، ویران کردن فرهنگ آن‌ها و گرفتن سرزمین‌های‌شان امری کاملاً مشروع – و حتی یک وظیفه، «بار سنگینی بر دوش سفیدپوستان» – بود. به علاوه، از آن‌جا که انسان بودن با هوش تعریف می‌شد، چون این افراد از هوش کمتری برخوردار بودند پس انسانیت کمتری نیز داشتند. در نتیجه، آن‌ها از منزلت اخلاقی کاملی برخوردار نبودند – پس کشتن یا به بردگی گرفتن آن‌ها اشکالی نداشت.

همین منطق درباره‌ی زنان نیز به کار می‌رفت، و آن‌ها سبک‌مغزتر و احساساتی‌تر از آن محسوب می‌شدند که بخواهند از مزیت‌های «مردان عاقل» برخوردار باشند. همان‌گونه که جوانا بورک، تاریخ‌شناس دانشگاه بیرکبک لندن، نشان داده است، در بریتانیای قرن نوزدهم، قانون از حیوانات اهلی بهتر محافظت می‌کرد تا از زنان. در نتیجه، شاید تعجب‌آور نباشد که پیدایش سنجش هوش بیشتر موجب تشدید سرکوب زنان شد تا یافتن چاره‌ای برای آن.

سر فرانسیس گالتون را مبتکر روان‌سنجی، یعنی «علم» اندازه‌گیری ذهن، می‌دانند. منبع الهام او کتاب خاستگاه گونهها (1859) نوشته‌ی چارلز داروین – یکی از خویشاوندان گالتون – بود. این کتاب این تصور را در گالتون به وجود آورد که توانایی ذهنی امری موروثی است و با پرورش انتخابی می‌توان آن را افزایش داد. او تصمیم گرفت روشی علمی برای یافتن تواناترین اعضای جامعه بیاید، و آن‌ها را تشویق به زاد و ولد کند. کسانی که توانایی ذهنی کمتری دارند باید تشویق شوند تا زاد و ولد نکنند یا حتی به خاطر نوع انسان، از زاد و ولد آن‌ها جلوگیری شود. به این ترتیب، به‌سازیِ نژادی و آزمونِ هوش همزاد بوده‌اند. در دهه‌های بعد، تعداد بسیاری از زنان در سراسر اروپا و آمریکا به خاطر امتیاز پایین خود در این آزمون‌ها به اجبار عقیم شدند – 20 هزار نفر فقط در کالیفرنیا.

در طول تاریخ، از سنجههای هوش برای توجیه شنیعترین خشونتها استفاده شده است. اما حاکمیت خرد همواره منتقدانی نیز داشته است. از دیوید هیوم تا فریدریش نیچه و از زیگموند فروید تا پسامدرنیسم، سنت‌های فلسفی بسیاری وجود دارند که برداشت ما از وسعت عقلانیت خودمان و این ایده را که خردمندی / هوش بالاترین فضیلت است، به چالش می‌کشند.

شایسته‌سالاری بر اساس هوش و خرد – هرچند روایت تأثیرگذاری بوده – همواره تنها یکی از روایت‌های ارزش اجتماعی بوده است. ورود به برخی مدارس و حرفه‌ها بر اساس آزمون هوش صورت می‌گیرد، اما عرصه‌های دیگر بر خصوصیت‌های متفاوتی، مانند خلاقیت یا روحیه‌ی کارآفرینی، تأکید دارند. و هرچند احتمالاً دوست داریم صاحبان مقام‌های رسمی باهوش باشند، همواره سیاست‌مدارانی را که باهوش‌تر به نظر می‌رسند انتخاب نمی‌کنیم. (با این حال، این که سیاست‌مدار پوپولیستی مانند دونالد ترامپ احساس می‌کند باید ادعا کند که «در بین تمام کابینه‌هایی که تا به حال تشکیل شده‌اند، ما بیشترین بهره‌ی هوشی را داریم»، خود گویای بسیاری از مسائل است.)

به این ترتیب، با در نظر گرفتن این که ایده‌ی هوش در طول بیش از دو هزار سال توجیه‌گر امتیازهای ویژه و سلطه بوده است، آیا جای تعجب دارد که تصور حضور روبات‌های فوق‌العاده باهوش در آینده‌ی نزدیک باعث وحشت ما می‌شود؟ از فیلم ۲۰۰۱: ادیسه‌ی فضایی گرفته تا ترمیناتور، نویسندگان درباره‌ی قیام ماشین‌ها علیه انسان‌ها خیال‌پردازی کرده‌اند. اکنون علت آن را می‌فهمیم. اگر تصور ما این باشد که بالاترین جایگاه در جامعه باید به باهوش‌ترین افراد تعلق بگیرد، پس البته که باید انتظار داشته باشیم روبات‌هایی با هوشِ بیشتر انسان‌ها را به امری زائد تبدیل کرده و آن‌ها را به قعر هرم پرتاب کنند. اگر این ایده پذیرفته شده باشد که افراد باهوشتر حق دارند افراد کمهوشتر را استعمار کنند، پس طبیعی است که از تبدیل شدن به بردههایِ آفریدههای فوقالعاده باهوشِ خود بترسیم. اگر هوش توجیهگرِ موقعیت و رفاه ما باشد، میتوان درک کرد که چرا هوش مصنوعیِ برتر را تهدیدی برای هستی خود میدانیم.

این ایده که هوش عامل تعیین‌کننده‌ی انسانیت است تا «عصر روشنگری» تداوم یافت. ایمانوئل کانت، کسی که احتمالاً تأثیرگذارترین فیسلوف اخلاق از دوران باستان تا کنون است، این ایده را مشتاقانه پذیرفت.

این روایت درباره‌ی امتیازهای ویژه می‌تواند توضیح دهد که چرا همان‌طور که کیت کرافورد، پژوهشگر و فن‌آوری‌شناس ساکن نیویورک، نشان داده است، ترس از هوش مصنوعیِ سرکش ظاهراً در میان مردان سفیدپوست غربی شایع است. سایر گروه‌ها برای مدتی طولانی تحت سلطه‌ی کسانی بوده‌اند که به طور خودخوانده خود را برتر می‌دانستند، و هنوز هم با این ستمگران واقعی در نبرد اند. از سوی دیگر، مردان سفیدپوست همواره در بالای سلسله‌مراتب بوده‌اند. اگر موجوداتی از راه برسند که دقیقاً در همان حوزه‌هایی برتری داشته باشند که همواره توجیه‌گر برتری مردان بوده است، آن‌ها بیشتر از همه ضرر خواهند کرد.

منظور من این نیست که اضطراب ما درباره‌ی هوش مصنوعیِ سرکش کاملاً بی‌بنیاد است. استفاده از هوش مصنوعیِ پیشرفته مخاطراتی (و همچنین منافع بالقوه‌ی فراوانی) دارد. اما سرکوب شدن به دست روبات‌ها به شیوه‌ای که، به طور مثال، مردم بومی استرالیا به دست استعمارگران اروپایی استعمار شده‌اند، مهم‌ترین خطر نیست.

بهتر است بیشتر نگران این باشیم که انسانها با «هوش مصنوعی» چه خواهند کرد، تا این که نگران کارهایی باشیم که هوش مصنوعی به خودی خود ممکن است انجام دهد. احتمال این که ما انسان‌ها از سیستم‌های هوشمند علیه یک‌دیگر استفاده کنیم یا بیش از اندازه به آن‌ها متکی شویم، بسیار زیاد است. اگر هوش مصنوعی به ما آسیب برساند، به احتمال زیاد به این دلیل خواهد بود که ما به آن‌ها نیت خوب اما اهدافی نسنجیده داده‌ایم – نه به این علت که آن‌ها می‌خواهند بر ما غلبه پیدا کنند. بزرگ‌ترین مخاطره هنوز هم نه هوش مصنوعی بلکه بلاهت طبیعی است.

گمانه‌زنی درباره‌ی این که اگر دیدگاه متفاوتی درباره‌ی هوش داشتیم، آن‌گاه چه تصوری از پیدایش هوش مصنوعی پیدا می‌کردیم، جالب است. افلاطون باور داشت که فیلسوفان را باید برای شاه شدن قانع کرد، زیرا آن‌ها به طور طبیعی اندیشیدن را بر سروری بر انسان‌ها ترجیح می‌دهند. از نظر سنت‌های دیگر، به طور خاص سنت‌های شرقی، انسان خردمند کسی است که زرق و برق قدرت را صرفاً امری بیهوده دانسته و به آن اعتنا ندارد؛ او خود را از امور پیش پا افتاده و رنج‌های زندگی روزمره برکنار نگاه می‌دارد.

تصور کنید اگر چنین دیدگاه‌هایی متداول بود، اگر ما همگی بر این باور بودیم که باهوش‌ترین افراد کسانی نیستند که ادعا می‌کردند حکومت حق آن‌ها است بلکه کسانی اند که برای تأمل و مراقبه و فارغ شدن از خواسته‌های دنیوی به مکان‌های دوردست می‌رفتند؛ یا اگر باهوش‌ترین افراد کسانی بودند که باز می‌گشتند تا صلح و آگاهی را رواج دهند: آیا در این حالت هم هنوز از روبات‌های باهوش‌تر از خودمان می‌ترسیدیم؟

 

برگردان: هامون نیشابوری


استیون کیو پژوهشگر دانشگاه کمبریج و از متخصصان هوش مصنوعی است. آن‌چه خواندید برگردانِ بخش‌هایی از این نوشته‌ی او است:

Stephen Cave, ‘Intelligence: A History,’ Aeon, 21 February 2017.