فناوری و انسان: ترس، غرور و مرزهای اخلاقی

تاریخ بشر تنها تاریخ جنگ‌ها، دولت‌ها، ادیان و تمدن‌ها نیست. بلکه تاریخ شیفتگی، ترس و تعادل جدیدی است که انسان در برابر ابزارهای ساخته دست خود ایجاد کرده است. از تبر سنگی تا چاپخانه، از موتور بخار تا قطار، از تلگراف تا اینترنت، از هوش مصنوعی تا ربات‌ها، هر اختراع بزرگی رابطه انسان با جهان را تغییر داده است. اما در لحظه اول هر تغییر بزرگ، همان ترس قدیمی دوباره ظاهر شده است: "آیا در این دنیای جدید جایی برای من باقی خواهد ماند؟"

امروزه نگرانی ما در برابر هوش مصنوعی، ربات‌ها و اتوماسیون ممکن است بسیار جدید به نظر برسد. اما بشر این احساس را برای اولین بار تجربه نمی‌کند. هر پیشرفت بزرگ تکنولوژیکی، ابتدا در انسان عصر خود لرزشی ایجاد کرده است. انسان به این فکر افتاده است که اختراع خودش روزی می‌تواند او را بی‌فایده کند.

ظهور چاپخانه یکی از اولین نمونه‌های بزرگ این موضوع است. چاپخانه تنها یک ماشین چاپ کتاب نبود؛ بلکه به معنای تکثیر، انتشار و خروج اطلاعات از کنترل مقامات قدیمی بود. دنیای مبتنی بر فرهنگ دست‌نویس متزلزل شد. خوشنویسان، کاتبان، مقامات دینی و سیاسی از اینکه اطلاعات به دست همه می‌رسید، نگران بودند. زیرا وقتی اطلاعات تکثیر می‌شود، تنها کتاب‌ها تکثیر نمی‌شوند؛ بلکه انسان‌های پرسشگر نیز تکثیر می‌شوند.

اما چاپخانه انسان را بی‌اهمیت نکرد. برعکس، نوع جدیدی از انسان را به وجود آورد: انسان خواننده، نویسنده، منتقد، بحث‌کننده و مشارکت‌کننده در زندگی عمومی. اطلاعات از انحصار قدیمی خود خارج شد، اما انسان از بین نرفت. انسان، چاپخانه را به بخشی از دنیای فکری خود تبدیل کرد.

سپس ماشین‌ها آمدند. با انقلاب صنعتی، نیروی بازوی انسان در برابر ماشین عقب‌نشینی کرد. صنعتگر، بافنده و تولیدکننده کوچک فکر می‌کردند که کارشان بی‌ارزش شده است. سوال "اگر ماشین تولید کند، من به چه دردی خواهم خورد؟" یکی از عمیق‌ترین ترس‌های عصر صنعتی شد. این ترس کاملاً بی‌اساس نبود. برخی مشاغل از بین رفتند، برخی زندگی‌ها از هم پاشیدند، برخی افراد از نظم جدید خارج شدند. فناوری همیشه تنها امکانات نمی‌آورد؛ بلکه درد، شکست و بی‌عدالتی نیز تولید می‌کند.

اما ماشین نیز انسان را کاملاً بی‌فایده نکرد. انسان از تولید حذف نشد؛ شکل تولید تغییر کرد. زمینه‌های شغلی جدید، مشاغل جدید، طبقات جدید، مبارزات حقوقی جدید پدید آمدند. انسان در برابر ماشین تنها یک موجود شکست‌خورده نبود؛ ماشین را در نظم کاری، قانون و زندگی اجتماعی خود جای داد.

هنگامی که قطار اختراع شد، نگرانی شکل دیگری به خود گرفت. قطار تنها یک وسیله حمل و نقل نبود؛ بلکه معنای زمان و مسافت را تغییر داد. سفرهایی که قبلاً روزها طول می‌کشید، به ساعت‌ها کاهش یافت. شهرها، بازارها و کشورها به یکدیگر متصل شدند. اما سرعت همزمان ترس نیز ایجاد کرد. آیا بدن انسان می‌توانست این سرعت را تحمل کند؟ آیا زندگی محلی قدیمی از بین می‌رفت؟ کاروان‌داران، درشکه‌چی‌ها، صاحبان کاروانسراها و بازاریان کنار جاده چه می‌کردند؟

قطار انسان را بی‌اهمیت نکرد؛ اما به انسان احساس دنیای جدیدی داد. دیگر دور، به اندازه گذشته دور نبود. انسان مسافت را دوباره تعریف کرد، زمان را دوباره تنظیم کرد، شهرها را دوباره ساخت.

تلگراف و تلفن مسافت را بیشتر تضعیف کردند. خبر، دیگر روزها یا هفته‌ها بعد نمی‌رسید، بلکه در مدت زمان بسیار کوتاهی قابل دسترسی بود. صدای انسان می‌توانست از طریق کابل‌ها به شهر دیگری، به کشور دیگری برسد. این بار نگرانی این بود: آیا انسان دیگر در هر لحظه قابل دسترسی خواهد بود؟ این سرعت در ارتباطات چگونه سیاست، تجارت، جنگ و روابط انسانی را تغییر می‌داد؟

رادیو، سینما و تلویزیون نیز رابطه انسان با توده را تغییر دادند. همان کلام، همان تصویر و همان خبر می‌توانست به میلیون‌ها نفر به طور همزمان برسد. این یک امکان بزرگ بود، اما در عین حال یک خطر بزرگ نیز بود. زیرا وسایل ارتباط جمعی همانطور که می‌توانستند انسان را آگاه کنند، می‌توانستند او را هدایت کنند، همانطور که می‌توانستند او را روشن کنند، می‌توانستند او را فریب دهند، همانطور که می‌توانستند او را متحد کنند، می‌توانستند او را یکنواخت کنند. در این عصر، نگرانی انسان این بود: "آیا من فکر خودم را می‌سازم، یا دنیایی را که به من نشان داده می‌شود، واقعی می‌پندارم؟"

با کامپیوتر و اینترنت، فناوری دیگر تنها به بازو، چشم، گوش و مسافت انسان دست نمی‌زد، بلکه به کار فکری او نیز نزدیک می‌شد. کامپیوتر محاسبه می‌کرد، ذخیره می‌کرد، سازماندهی می‌کرد، می‌نوشت. اینترنت نیز دسترسی به اطلاعات را به طرز فوق‌العاده‌ای آسان کرد. اما این بار نه کمبود اطلاعات، بلکه فراوانی اطلاعات شروع به آزار انسان کرد. حقیقت با دروغ، اطلاعات با سر و صدا، ایده با تبلیغات در هم آمیخت.

رسانه‌های اجتماعی این روند را بیشتر عمیق کردند. انسان دیگر تنها دریافت‌کننده اطلاعات نبود، بلکه به موجودی تبدیل شد که دائماً خود را نشان می‌دهد، خود را بازاریابی می‌کند، انتظار لایک دارد و به دنبال تأیید است. حریم خصوصی تضعیف شد، توجه پراکنده شد. انسان به جای زندگی کردن زندگی خودش، شروع به تولید زندگی‌ای کرد که به دیگران نشان دهد.

امروزه نیز در برابر هوش مصنوعی و ربات‌ها قرار داریم. این بار نگرانی عمیق‌تر است. زیرا فناوری‌های قبلی عمدتاً نیروی بازو، سرعت، حمل و نقل و ارتباطات انسان را تغییر داده بودند. اما هوش مصنوعی به حوزه نوشتن، تفکر، ترجمه، تحلیل، تصمیم‌گیری و تولید انسان نزدیک می‌شود. ربات‌ها نیز تنها در کارخانه‌ها نیستند؛ بلکه در بهداشت، کشاورزی، امنیت، بخش خدمات و زندگی روزمره بیشتر قابل مشاهده می‌شوند.

به همین دلیل، سوال امروز تیزتر است: "آیا ماشین دیگر تنها جای دست ما را نمی‌گیرد، بلکه جای عقل ما را نیز خواهد گرفت؟"

فیلم "۲۰۰۱: ادیسه فضایی" استنلی کوبریک یکی از قوی‌ترین نمادهای این ترس در حافظه فرهنگی است. HAL 9000 در فیلم، تنها یک کامپیوتر نیست؛ بلکه نماد ترس انسان از دست دادن کنترل در برابر هوشی است که خودش خلق کرده است. امروزه نیز در عمق نگرانی در برابر هوش مصنوعی و ربات‌ها، همین سوال وجود دارد: آیا انسان می‌تواند ارباب اختراع خود باقی بماند؟

اما تاریخ چیز دیگری نیز به ما می‌گوید. بشر در برابر هر نوآوری بزرگ تکنولوژیکی ابتدا ترسیده، فکر کرده که جایگاه خود را از دست خواهد داد، اما با گذشت زمان آن فناوری را با زندگی روزمره، اخلاق، قانون و فرهنگ خود تطبیق داده است. هیچ فناوری تا به امروز قدرت مطلقی را به دست نیاورده است که انسان را کاملاً بی‌اهمیت کند. فناوری برخی از نقش‌های انسان را تغییر داده، برخی مشاغل را از بین برده، برخی عادت‌ها را شکسته، برخی ارزش‌ها را به چالش کشیده است؛ اما نتوانسته است انسان را از صحنه تاریخ محو کند.

زیرا انسان تنها موجودی نیست که فناوری تولید می‌کند. انسان در عین حال موجودی است که به فناوری معنا می‌دهد، آن را تعریف می‌کند، محدود می‌کند، درباره آن بحث می‌کند و سعی می‌کند آن را در چارچوب اخلاقی قرار دهد. وقتی اختراع جدیدی پدید می‌آید، ابتدا شگفتی و نگرانی ایجاد می‌شود. سپس جامعه شروع به دیدن مضرات و امکانات آن اختراع می‌کند. پس از آن، اخلاق، قانون، فلسفه، سیاست و آگاهی اجتماعی وارد عمل می‌شوند.

بشر در برابر هر فناوری جدید، همان سوالات اساسی را می‌پرسد: این به چه کسی خدمت می‌کند؟ به چه کسی آسیب می‌رساند؟ در چه محدوده‌هایی باید استفاده شود؟ با چه اهدافی باید ممنوع شود؟ کدام ارزش‌ها را تقویت می‌کند، کدام‌ها را تضعیف می‌کند؟

برتری اصلی انسان در اینجا آشکار می‌شود. انسان ممکن است از فناوری سریع‌تر نباشد. ممکن است نتواند دقیق‌تر از یک ماشین محاسبه کند. ممکن است نتواند سریع‌تر از یک هوش مصنوعی متن تولید کند. ممکن است از یک ربات خستگی‌ناپذیرتر نباشد. اما انسان موجودی است که می‌تواند بپرسد: "آیا این درست است؟"، "آیا این عادلانه است؟"، "آیا این انسانی است؟"، "چه کسی مسئولیت این را بر عهده خواهد گرفت؟" فناوری عملیات انجام می‌دهد؛ انسان به دنبال معناست. فناوری نتیجه تولید می‌کند؛ انسان به هزینه اخلاقی نتایج فکر می‌کند.

به همین دلیل، هیچ پیشرفت یا انقلاب تکنولوژیکی نمی‌تواند کاملاً از چارچوب اخلاقی و فلسفی که بشر در هزاران سال توسعه داده است، خارج شود. حداکثر آن را به چالش می‌کشد، متزلزل می‌کند، گسترش می‌دهد و مجبور به بازاندیشی می‌کند. بمب اتمی بشر را مجبور کرد که دوباره به اخلاق جنگ فکر کند. اینترنت حریم خصوصی و حقیقت را دوباره به بحث گذاشت. هوش مصنوعی نیز امروز کار، خلاقیت، مسئولیت، کرامت انسانی و اختیار تصمیم‌گیری را دوباره به بحث می‌کشد.

فناوری نمی‌تواند از دنیای اخلاقی بشر فرار کند. زیرا فناوری به خودی خود وجدان ندارد. انسان است که آن را ابزار جنگ می‌کند، انسان است که آن را ابزار درمان می‌کند. انسان است که آن را سیستم نظارتی می‌کند، انسان است که آن را امکان آموزشی می‌کند. انسان است که آن را ابزار دستکاری می‌کند، انسان است که آن را ابزار رسیدن به حقیقت می‌کند. به همین دلیل، مسئله اصلی این نیست که فناوری چقدر پیشرفت کرده است، بلکه این است که انسان آن را در چه سیستم ارزشی استفاده می‌کند.

واقعیت دیگری نیز وجود دارد: هر پیشرفت تکنولوژیکی، نسلی جدید را نیز ایجاد می‌کند که به سرعت با آن سازگار می‌شود. این نسل، از فناوری جدید راحت‌تر از نسل‌های قبلی استفاده می‌کند. در عصر چاپخانه، کسانی که به متن چاپی عادت کرده بودند، در برابر انسان‌های فرهنگ شفاهی مزیت پیدا کردند. در عصر صنعتی، کسانی که ماشین را یاد گرفتند، در برابر دنیای صنعتگری قدیمی پیش افتادند. در عصر کامپیوتر، کسانی که از ابزارهای دیجیتال استفاده می‌کردند، کسانی را که به نظم کاغذی وابسته بودند، پشت سر گذاشتند. در عصر اینترنت و رسانه‌های اجتماعی نیز، نسل‌هایی که در دنیای دیجیتال متولد شده‌اند، شروع به دیدن نسل‌های قبلی به عنوان کند، قدیمی و بی‌کفایت کردند.

امروزه نیز نسلی که از اینترنت، رسانه‌های اجتماعی، دنیای رباتیک و هوش مصنوعی به خوبی استفاده می‌کند، با اعتماد به نفس زیادی در حال حرکت است. حتی گاهی با غرور، نسل‌های قبل از خود را تحقیر می‌کند. اما این غرور تکنولوژیکی موقتی است. زیرا فناوری به هیچ نسلی برتری دائمی نمی‌دهد. بومی دیجیتال امروز، ممکن است بیگانه تکنولوژیکی فردا باشد. نسلی که امروز به راحتی از هوش مصنوعی استفاده می‌کند، ممکن است فردا در برابر فناوری دیگری که هنوز نامش را نمی‌دانیم، همان شگفتی را تجربه کند.

هر نسل، نسل‌های قبل از خود را در برابر فناوری ناکافی می‌یابد؛ اما خیلی زود در دنیای نسل‌های بعد از خود، همان احساس ناکافی بودن را تجربه می‌کند. به همین دلیل، مهارت تکنولوژیکی باید به انسان تواضع ببخشد، نه غرور. زیرا هیچ نسلی در ایستگاه پایانی فناوری زندگی نمی‌کند. هر نسل تنها کاربر موقت زمان خود است.

به همین دلیل، نیاز اصلی در برابر فناوری، پرستش ابزارهای دائماً در حال تغییر نیست، بلکه حفظ ارزش‌های انسانی ثابت است. سرعت مهم است، اما حکمت از سرعت مهم‌تر است. داده مهم است، اما حقیقت از داده عمیق‌تر است. بهره‌وری مهم است، اما عدالت از بهره‌وری باارزش‌تر است. هوش مصنوعی قدرتمند است، اما وجدان ندارد. ربات خستگی‌ناپذیر است، اما رحم نمی‌کند. الگوریتم می‌تواند تصمیم پیشنهاد دهد، اما نمی‌تواند مسئولیت بپذیرد.

آنچه انسان را انسان می‌کند، تنها توانایی اختراع نیست. آنچه انسان را انسان می‌کند، شجاعت پرسشگری درباره اختراع خودش است. گفتن "ما می‌توانیم این کار را انجام دهیم" کافی نیست. باید پرسید: "آیا باید این کار را انجام دهیم؟" فناوری زبان امکان است؛ اخلاق نیز زبان مرز و مسئولیت است.

امروزه ترسی که در برابر ربات‌ها و هوش مصنوعی تجربه می‌کنیم، در واقع ترسی درباره خود انسان است، نه فناوری. اگر انسان ارزش‌های اخلاقی، آگاهی حقوقی، عمق فلسفی و مسئولیت وجدانی خود را حفظ کند، فناوری می‌تواند همچنان در خدمت انسان باقی بماند. اما اگر انسان این ارزش‌ها را از دست بدهد، حتی پیشرفته‌ترین فناوری نیز می‌تواند به جای خدمتکار بشر، ارباب آن شود.

در نهایت، مسئله این است: فناوری انسان را از بین نمی‌برد؛ اما اگر انسان مرکز اخلاقی خود را از دست بدهد، در برابر فناوری کوچک می‌شود. از چاپخانه تا قطار، از تلگراف تا تلویزیون، از کامپیوتر تا اینترنت، از هوش مصنوعی تا ربات‌ها، تمام فرآیند تاریخی به ما همین درس را می‌دهد. انسان در برابر هر اختراع جدید ابتدا ترسیده، سپس آن را فهمیده، تعریف کرده، درباره آن بحث کرده و با زندگی خود تطبیق داده است.

به همین دلیل، امروزه نیز کاری که باید انجام شود، ترس کورکورانه از ربات‌ها، هوش مصنوعی یا فناوری‌های جدید نیست. کاری که باید انجام شود، معنا بخشیدن به آنها در میراث اخلاقی و فلسفی هزاران ساله بشر، نظارت بر آنها و هدایت آنها به گونه‌ای است که در خدمت کرامت انسانی باشند.

زیرا فناوری هر چقدر هم که پیشرفت کند، بزرگترین سوال بشر تغییر نخواهد کرد: آیا ماشین‌های قدرتمندتری خواهیم ساخت، یا دنیایی عادلانه‌تر، آگاه‌تر و انسانی‌تر؟

آنچه آینده انسان را تعیین خواهد کرد، قدرت ربات‌ها نیست، بلکه قدرت انسان در حفظ وجدان خود است.

با احترام. مجاهد اوزدن هون