چگونه داده‌های اطلاعاتی آزادیِ انسانی را نابود خواهند کرد

بررسی کتاب

دیوید رانسیمن

ما «انسان‌های خردمند» قدرت بی‌سابقه‌ای برای تسلط بر تقدیر خود پیدا کرده‌ایم، تا حدی که در حال حاضر «انسان‌های خداگونه» به نظر می‌رسیم. با این حال، قدرت‌نمایی ما ممکن است عواقب دردناکی داشته باشد و مخلوقات خود ما را بر ما مسلط کند.


هومو دئوس: تاریخ مختصر فردا، نوشته‌ی یووال نووا هَراری، انتشارات هارویل سکِر، 2016

در قلب این کتاب مسحورکننده تصوری ساده اما وحشت‌آور وجود دارد: سرشت انسان در قرن بیستویکم دگرگون خواهد شد زیرا هوش از آگاهی جدا می‌شود. ما به این زودی‌ها ماشینی نخواهیم ساخت که دارای احساساتی همچون احساسات ما باشد: آگاهی این است. ربات‌ها عاشق یکدیگر نمی‌شوند (که به این معنی نیست که ما نمی‌توانیم عاشق ربات‌ها بشویم). اما ما ماشین‌هایی ساخته‌ایم – شبکه‌های داده‌پردازی عظیم – که می‌توانند احساساتِ ما را بهتر از خود ما بشناسند: هوش این است. گوگل به عنوان موتور جست‌وجو، و نه شرکت گوگل، باورها و خواسته‌هایی از آنِ خود ندارد. برای گوگل فرقی نمی‌کند که ما در جست‌وجوی چه باشیم، و از رفتار ما آزرده نمی‌شود. اما می‌تواند رفتار ما را پردازش کند تا پیش از آن که خودمان بدانیم بداند که ما چه می‌خواهیم. این امر امکان تغییر معنای انسان بودن را فراهم می‌کند.

کتاب قبلی یووال نووا هراری، ساپینس (به معنای حیوان ناطق، یا انسان هوشمند) که از کتاب‌های پرفروش جهانی بود، 75000 سال تاریخ انسانی را پیش روی ما می‌گستراند تا به ما خاطرنشان کند که هیچ چیزِ ذاتی یا ویژه‌ای درباره‌ی کیستیِ ما وجود ندارد. ما فقط یک تصادف ایم. «هومو ساپینس» صرفاً یک شیوه‌ی ممکنِ انسان بودن است، پیشامدی در سیر تکامل یا تطور مانند هر مخلوق دیگری بر روی زمین. آن کتاب با این اندیشه به پایان می‌رسد که داستان هومو ساپینس ممکن است روزی به پایان برسد. ما اکنون در اوج قدرت خود هستیم اما چه بسا به حد نهاییِ آن قدرت هم رسیده باشیم. هومو دئوس (به معنای انسان خداگونه) این اندیشه را می‌پروراند تا توضیح دهد که چگونه قابلیت بی‌نظیر ما برای نظارت بر دنیای پیرامون‌مان در حال تبدیل کردن ما به چیزی نو است.

هومو دئوس به ما این حس را می‌دهد که پس از سفری طولانی و سخت بر لبه‌ی صخره‌ای ایستاده‌ایم.

همه‌جا شواهد قدرت ما دیده می‌شود: ما فقط بر طبیعت چیره نشده‌ایم بلکه چیره شدن بر بدترین دشمنان خود بشریت را هم آغاز کرده‌ایم. جنگ هرچه بیشتر مطرود می‌شود؛ قحطی نادر است؛ بیماری در گوشه و کنار جهان رو به هزیمت می‌گذارد. این پیروزی‌ها را ما با ساختن شبکه‌های هرچه پیچیده‌تری که آدمیان را همچون واحدهای اطلاعاتی محسوب می‌کنند به دست ‌آورده‌ایم. علم تکامل به ما می‌آموزد که، به یک اعتبار، ما چیزی جز ماشین‌های داده‌پردازی نیستیم: ما نیز الگوریتم [روش گام به گام حل مسئله] هستیم. با اداره و کنترل داده‌ها می‌توانیم بر سرنوشت خود فائق آییم. مشکل اینجا است که الگوریتم‌های دیگر، یعنی آن‌ها که ما خود ساخته‌ایم، می‌توانند این کار را بسیار کارآمدتر از خود ما انجام دهند. این است منظور هراری از «جدا شدن» هوش از آگاهی. پروژه‌ی مدرنیته بر این ایده بنا شده است که آدمیان نه تنها منبع قدرت بلکه منبع معنا نیز هستند. یعنی ما هستیم که تعیین می‌کنیم، در مقام رأی‌دهنده، در مقام مصرف‌کننده، در مقام عاشق، برای ما چه پیش آید. اما این دیگر صادق نیست. ما آن چیزی هستیم که به شبکه‌ها قدرت‌شان را می‌دهیم: آن‌ها ایده‌های ما را درباره‌ی معنا به کار می‌برند تا تعیین کنند برای ما چه پیش خواهد آمد.

همه‌ی این‌ها نو نیست. دولت مدرن، که حدود 400 سال در کار بوده است، در واقع یک ماشین داده‌پرداز دیگر است. توماس هابزِ فیلسوف، که در 1651 آثار خود را می‌نوشت، آن را «آدم آهنی» (یا آنچه ما ربات می‌نامیم) نامید. کیفیت ربات بودن دولت مدرن منشأ قدرت‌اش و نیز سنگدلی‌اش است: دولت‌ها وجدان ندارند، و این چیزی است که به آن‌ها امکان می‌دهد ترسناک‌ترین کارها را انجام دهند. آنچه تغییر کرده است این است که اکنون ماشین‌های پردازشی وجود دارند که بسیار کارآمدتر از دولت‌ها هستند: همان طور که هراری خاطرنشان می‌کند، حکومت‌ها همگام نشدن با پیشرفت تکنولوژی را تقریباً غیرممکن می‌یابند. همچنین حفظ این عقیده، که هابز مطرح کرده است، که در پسِ هر دولتی انسان‌های واقعیِ از گوشت و خون وجود دارند بسیار سخت‌تر شده است. تأکید مدرن بر استقلال و خودمداری فرد در راستای این نظر است که باید بتوان قلب این جهان سنگدل را یافت. اگر پی‌گیر یک نظام اداری (بوروکراسی) بی‌چهره بشوید، نهایتاً یک کارمند دولتی را با احساسات واقعی پیدا خواهید کرد. اما اگر چنین کاری را با یک موتور جست‌وجو بکنید تمام آنچه خواهید یافت منابع اطلاعاتی است.

ما اکنون در آغاز این فرایند انتقالی هستیم که با داده‌ها کار می‌کند، و هراری می‌گوید که چندان کاری برای توقف آن نمی‌توانیم انجام دهیم. هومو دئوس کتاب «پایان تاریخ» است، اما نه به این تعبیر خام که هراری معتقد است همه چیز به نقطه‌ی توقف رسیده است. بلکه ضد آن: همه چیز آن‌چنان به سرعت حرکت می‌کند که تصور این که آینده ممکن است چگونه باشد غیرممکن است. در سال 1800 می‌شد به طرز معناداری تصور کرد که دنیای سال 1900 چگونه چیزی خواهد شد و چگونه می‌شود با آن سازگار شد. تاریخ این است: رشته‌ای از رویدادها که انسان‌ها نقش رهبری را در آن ایفا می‌کنند. اما دنیای سال 2100 در حال حاضر تقریباً غیرقابل‌تصور است. هیچ فکری درباره‌ی این که جای ما کجای این دنیا خواهد بود نداریم. ممکن است دنیایی ساخته باشیم که در آن جایی برای خود ما نباشد.

چه تصور هشداردهنده‌ای! با توجه به این، و از آن رو که هنوز به آنجا نرسیده‌ایم، چرا کاری برای توقف آن نکنیم؟ هراری بر آن است که این باور مدرن که افراد مسئول سرنوشت‌شان هستند هرگز چیزی بیش از یک گریزِ اعتقادی و اعتماد به امر اثبات‌نشده نیست. قدرت واقعی همواره در اختیار شبکه‌ها است. انسان‌های تنها مخلوقات نسبتاً ناتوانی هستند، که حریف شیرها یا خرس‌ها نیستند. آنچه آنان به صورت گروهی می‌توانند انجام دهند باعث شده است که بر این سیاره مسلط شوند. این گروه‌بندی‌ها اعم از شرکت‌ها، ادیان، و دولت‌ها، اکنون جزئی از شبکه‌ی گسترده‌ای از جریان‌های اطلاعاتیِ بههمپیوسته است. پیدا کردن نقاط مقاومت، آنجا که واحدهای کوچک‌تر بتوانند در برابر امواج اطلاعاتی که در گوشه و کنار جهان در حال شستن و روفتن همه چیز است مقاومت کنند، دائماً سخت‌تر می‌شود.

برخی از مردم دست از نبرد کشیده‌اند. به جای اصول بنیان‌گذار مدرنیته – لیبرالیسم، دموکراسی و استقلال شخصی – آیین جدیدی پدید آمده است: داده‌گرایی. پیروان‌اش –  که بسیاری از آنان در ناحیه‌ی خلیج کالیفرنیا سکونت دارند – با تشویق کردنِ ما به این که اطلاعات را تنها منشأ حقیقیِ ارزش تلقی کنیم، اعتماد و ایمان خود را به اطلاعات نشان می‌دهند. چیستی ما وابسته به سهم ما در داده‌پردازی است. جنبه‌ی مثبت مهمی بالقوه در این امر وجود دارد: به این معنا که ما برای دست یافتن به آنچه می‌خواهیم با موانع کمتر و کمتری مواجه خواهیم شد، زیرا اطلاعات مورد نیاز برای پاسخ گفتن به ما بی‌درنگ در دسترس خواهد بود. چیزهایی که دوست داریم و تجربه‌هایمان به تدریج با هم یکی می‌شوند. دوران عمر ما هم می‌تواند بسیار طولانی شود: داده‌گرایان بر این عقیده اند که فناناپذیری مرزِ بعدی است که باید از آن عبور شود. اما جنبه‌ی منفی نیز آشکار است. آنگاه «ما» اصلاً که خواهیم بود؟ هیچ، مگر انباشت منابع اطلاعاتی. مدینه‌های فاسده (در مقابل مدینه‌های فاضله)ی سیاسی قرن بیستمی می‌خواستند افراد را با اقتدار دولت زیر پای خود خرد کنند. در قرنِ پیشِ رو دیگر چنین کاری ضرورت ندارد. آنگونه که هراری می‌گوید: «این برادر بزرگ (رهبر خودکامه) نیست که فرد را از میدان به در خواهد کرد؛ فرد از درون فرو می‌پاشد.»

 ما ماشین‌هایی ساخته‌ایم – شبکه‌های داده‌پردازی عظیم – که می‌توانند احساساتِ ما را بهتر از خود ما بشناسند.

مؤسسات و حکومت‌ها به ادای احترام به فردیت و نیازهای منحصربه‌فرد ما ادامه خواهند داد، ولی برای این کار لازم است «ما را به زیرنظام‌های بیوشیمیایی تجزیه کنند»، و همه‌ی این زیرنظام‌ها دائماً توسط الگوریتم‌های قدرتمندی کنترل خواهند شد. جنبه‌ی سیاسی ضدآرمان‌گرایانه‌ای در این مورد نیز وجود دارد: گزینشگران اولیه – افرادی که نخست در پروژه‌ی داده‌گرایانه به کار گرفته می‌شوند – تنها کسانی خواهند بود که قدرتی واقعی‌ برایشان مانده است، قدرتی که هر اندازه باشد کم و بیش بلامنازع خواهد بود. داخل شدن به این گروه از نخبگان برتر جدید به طور باورنکردنی‌ای دشوار خواهد بود. برای این کار به ایجاد سطوحی از آموزش برای پرورش قهرمان و نیز به عدم حساسیت به همبستگیِ هویت شخصی خود با ماشین‌های هوشمند نیاز خواهید داشت. بدینسان می‌توانید یکی از «خدایان» جدید بشوید. این دورنمایی وحشتناک است: ظهور طبقه‌ی کوچکی از کسانی که به شیوه‌ی کشیشان پیشگویی می‌کنند، با امکان دست‌یابی به آخرین منابع دانش، و حضور بقیه‌ی انسان‌ها صرفاً به عنوان ابزاری در طرح‌های عظیم آنان. آینده می‌تواند نسخه‌ی پربارشده‌ی (تقویت‌شده‌ی) دیجیتالی از گذشته‌ی دور باشد: مصر باستان ضرب در قدرت فیسبوک.

هراری مراقب است که پیش‌گویی نکند که این رؤیاهای عجیب و غریب به منصه‌ی ظهور خواهند رسید. با این همه، آینده ناشناختنی است. او تندترین نظرات‌اش درباره‌ی منظورش از همه‌ی این مطالب را به وضعیت روابط جاری میان آدمیان و حیوانات اختصاص می‌دهد. اگر هوش و آگاهی در حال جدا شدن از هم باشند، آنگاه چنین چیزی بیشترِ آدمیان را در همان موقعیتی قرار می‌دهد که حیوانات دیگر قرار دارند: مستعد رنج بردن تحت سلطه‌ی صاحبان هوش برتر. به نظر نمی‌رسد که هراری چندان نگران دورنمای معامله‌ی ربات‌ها با ما، به همان صورت که ما با پشه‌ها و مگس‌ها معامله می‌کنیم، یعنی با بی‌توجهی خشونت‌آمیز، باشد. بلکه، او می‌خواهد که ما به این بیندیشیم که چگونه با حیوانات در مراکز صنعتی عظیم پرورش دام رفتار می‌کنیم. خوک‌هایی که در شرایط فشرده و جای تنگ به سر می‌برند یا به زور از بچه‌هایشان جدا می‌شوند بی‌تردید رنج می‌کشند. اگر فکر کنیم که این رنج اهمیتی ندارد زیرا آن‌ها هم‌نوع با نوعی نیستند که دارای هوشی برتر است، آنگاه برای خود دردسر می‌آفرینیم. به زودی همین امر در مورد خود ما به وقوع خواهد پیوست. و آنگاه رنج ما چه بهایی خواهد داشت؟

این کتابی است بسیار هوشمندانه، پر از بصیرت‌های روشن و بذله‌گویی‌های نیشدار. اما همان طور که هراری احتمالاً نخستین کسی است که قبول دارد، کتاب‌اش فقط با معیارهای انسانی، که چیز خاصی نیست، هوشمندانه است. اما با معیارهای تیزهوش‌ترین ماشین‌ها کتابی مغشوش، مبهم، و پر از حدس و گمان است. مجموعه‌های داده‌ها کمابیش محدود است. قدرت واقعی آن از حس یک آگاهی ممتاز در پشت آن می‌آید. این کتابی غیرعادی و جالب است، با تکه‌ای یخ در دل آن. هراری دل‌نگران سرنوشت حیوانات در جهانی انسانی است اما درباره‌ی دورنمای هومو ساپینس در جهانی داده‌محور با بی‌پروایی نخوت‌آمیزی می‌نویسد. باید اذعان کنم که این کتاب را بسیار جذاب یافتم، اما شاید این به علت کیستی من (سوای هر چیز دیگری، یک مرد) باشد. همه کتاب را چنین ارزیابی نخواهند کرد. اما دشوار بتوان تصور کرد که کسی این کتاب را بخواند بدون آن که گهگاه احساسات‌اش غلیان کند و سرگیجه بگیرد. نیچه زمانی نوشت که اکنون که سرانجام اخلاق مسیحی را پشت سر نهاده‌ایم، انسان می‌رود که سفر دریایی‌اش را در دریای آزاد آغاز کند. هومو دئوس به ما این حس را می‌دهد که پس از سفری طولانی و سخت بر لبه‌ی صخره‌ای ایستاده‌ایم. به نظر نمی‌رسد که دیگر سفر چندان اهمیتی داشته باشد. ما رفته رفته دود می‌شویم و به هوا می‌رویم.

 

برگردان: سپیده سحری

___________________________________________________

دیوید رانسیمن استاد علوم سیاسی در دانشگاه کمبریج است. آن‌چه خواندید برگردانِ این نوشته‌ی او است:

David Runciman, ‘How Data Will Destroy Human Freedom; A Review of Homo Deus by Yuval Noah Harari,’ Guardian, 24 August 2016.