טכנולוגיה ואדם: פחד, יהירות וגבולות אתיים
המאמר בוחן את יחסי הגומלין בין האדם לטכנולוגיה לאורך ההיסטוריה, תוך התמקדות בפחדים, ביהירות ובצורך בגבולות אתיים מול התפתחויות טכנולוגיות חדשות.
תולדות האנושות אינן רק תולדות מלחמות, מדינות, דתות ותרבויות. הן גם תולדות ההערצה, הפחד והאיזון החדש שהאדם יצר מול הכלים שבנה בעצמו. מגרזן האבן ועד מכונת הדפוס, ממנוע הקיטור ועד הרכבת, מהטלגרף ועד האינטרנט, מבינה מלאכותית ועד רובוטים – כל המצאה גדולה שינתה את יחסיו של האדם עם העולם. אך ברגע הראשון של כל שינוי גדול, אותו פחד ישן צץ מחדש: "האם יישאר לי מקום בעולם החדש הזה?"
החרדה שאנו חשים כיום מול בינה מלאכותית, רובוטים ואוטומציה עשויה להיראות לנו חדשה מאוד. אך האנושות אינה חווה רגש זה בפעם הראשונה. כל התפתחות טכנולוגית גדולה יצרה תחילה זעזוע באדם של התקופה שבה הופיעה. האדם נתקף במחשבה שהמצאתו שלו עלולה יום אחד להפוך אותו למיותר.
הופעת מכונת הדפוס היא אחת הדוגמאות הגדולות הראשונות לכך. מכונת הדפוס לא הייתה רק מכונה שהדפיסה ספרים; היא סימלה את ריבוי הידע, הפצתו ויציאתו משליטת הסמכויות הישנות. העולם שהתבסס על תרבות כתבי היד התערער. קליגרפים, סופרים, סמכויות דתיות ופוליטיות חששו מכך שהידע יגיע לידי כולם. כי כאשר הידע מתרבה, לא רק ספרים מתרבים; גם אנשים ששואלים שאלות מתרבים.
אך מכונת הדפוס לא הפכה את האדם למיותר. נהפוך הוא, היא הולידה סוג חדש של אדם: הקורא, הכותב, המבקר, המתווכח, האדם המשתתף בחיים הציבוריים. הידע יצא מהמונופול הישן, אך האדם לא נעלם. האדם הפך את מכונת הדפוס לחלק מעולם מחשבתו שלו.
ואז הגיעו המכונות. עם המהפכה התעשייתית, כוח העבודה הפיזי של האדם החל לסגת מול המכונה. האומן, האורג והיצרן הקטן חשבו שעבודתם מאבדת מערכה. השאלה "אם המכונה תייצר, מה יהיה הצורך בי?" הפכה לאחד הפחדים העמוקים ביותר של העידן התעשייתי. פחד זה לא היה בלתי מוצדק לחלוטין. מקצועות מסוימים נעלמו, חיים מסוימים התפרקו, אנשים מסוימים נותרו מחוץ לסדר החדש. טכנולוגיה לא תמיד מביאה רק הזדמנויות; היא גם מייצרת כאב, שבר וחוסר צדק.
אבל גם המכונה לא הפכה את האדם למיותר לחלוטין. האדם לא נמחק מהייצור; צורת הייצור השתנתה. נוצרו תחומי עבודה חדשים, מקצועות חדשים, מעמדות חדשים, מאבקי זכויות חדשים. האדם לא היה רק יצור שהובס מול המכונה; הוא שילב את המכונה בסדר העבודה, בחוק ובחיים החברתיים.
כאשר הומצאה הרכבת, החרדה לבשה צורה אחרת. הרכבת לא הייתה רק כלי תחבורה; היא שינתה את משמעות הזמן והמרחק. נסיעות שנמשכו ימים הפכו לשעות. עיירות, ערים, שווקים ומדינות התחברו זו לזו. אך המהירות גם הולידה פחד. האם גוף האדם יוכל לעמוד במהירות זו? האם החיים המקומיים הישנים יתערערו? מה יעשו שיירות, עגלונים, מנהלי פונדקים וסוחרי דרכים?
הרכבת לא הפכה את האדם למיותר; אך היא העניקה לאדם תחושה חדשה של עולם. המרחק כבר לא היה רחוק כמו פעם. האדם הגדיר מחדש את המרחק, ארגן מחדש את הזמן, בנה מחדש את הערים.
הטלגרף והטלפון החלישו עוד יותר את המרחק. חדשות יכלו להגיע תוך זמן קצר מאוד, ולא ימים או שבועות. קול אנושי יכל לעבור דרך כבלים ולהגיע לעיר אחרת, למדינה אחרת. הפעם החרדה הייתה: האם האדם יהיה זמין בכל רגע? איך תשנה מהירות התקשורת הזו את הפוליטיקה, המסחר, המלחמה ויחסי האנוש?
הרדיו, הקולנוע והטלוויזיה שינו את יחסיו של האדם עם ההמונים. אותה מילה, אותה תמונה ואותה חדשה יכלו להגיע למיליוני אנשים בו זמנית. זו הייתה הזדמנות גדולה, אך גם סכנה גדולה. כי אמצעי תקשורת המונים יכלו להדריך את האדם באותה מידה שהם יכלו להטעות אותו, להאיר את עיניו באותה מידה שהם יכלו לאחד אותו או להפוך אותו לאחיד. החרדה של האדם בעידן זה הייתה: "האם אני בונה את מחשבתי שלי, או שאני חושב שהעולם שמוצג לי הוא אמיתי?"
עם המחשב והאינטרנט, הטכנולוגיה החלה לגעת לא רק בזרועו, בעיניו, באוזנו ובמרחקו של האדם, אלא גם בעבודתו המנטלית. המחשב חישב, אחסן, ארגן, כתב. האינטרנט הקל באופן יוצא דופן על הגישה למידע. אך הפעם לא חוסר מידע, אלא עודף מידע החל לאתגר את האדם. אמת ושקר, מידע ורעש, רעיון ותעמולה התערבבו זה בזה.
המדיה החברתית העמיקה עוד יותר תהליך זה. האדם הפך לא רק למקבל מידע, אלא ליצור שמציג את עצמו ללא הרף, משווק את עצמו, מצפה ללייקים ומחפש אישור. הפרטיות נחלשה, תשומת הלב התפצלה. האדם החל לייצר חיים שיוצגו לאחרים, יותר מאשר לחיות את חייו שלו.
היום אנו עומדים מול בינה מלאכותית ורובוטים. הפעם החרדה עמוקה יותר. כי טכנולוגיות קודמות שינו בעיקר את כוח הזרוע, המהירות, התחבורה והתקשורת של האדם. בינה מלאכותית, לעומת זאת, מתקרבת לתחום הכתיבה, החשיבה, התרגום, הניתוח, קבלת ההחלטות והייצור של האדם. רובוטים הופכים לגלויים יותר לא רק במפעלים; אלא גם בבריאות, בחקלאות, בביטחון, במגזר השירותים ובחיי היומיום.
לכן השאלה כיום חדה יותר: "האם המכונה תחליף כעת לא רק את ידינו, אלא גם את מוחנו?"
הסרט "2001: אודיסיאה בחלל" של סטנלי קובריק הוא אחד הסמלים החזקים ביותר של פחד זה בזיכרון התרבותי. HAL 9000 בסרט אינו רק מחשב; הוא סמל לפחד של האדם לאבד שליטה מול האינטליגנציה שיצר בעצמו. עמוק בחרדה שאנו חשים כיום מול בינה מלאכותית ורובוטים, קיימת אותה שאלה: האם האדם יוכל להישאר אדון להמצאתו שלו?
אך ההיסטוריה מספרת לנו גם דבר אחר. האנושות נתקפה תחילה בפחד מול כל חידוש טכנולוגי גדול, חשבה שתאבד את מקומה, אך עם הזמן התאימה את הטכנולוגיה הזו לחיי היומיום שלה, למוסר שלה, לחוק שלה ולתרבות שלה. אף טכנולוגיה עד היום לא צברה כוח מוחלט שיכול להפוך את האדם למיותר לחלוטין. הטכנולוגיה שינתה כמה מתפקידיו של האדם, העלימה מקצועות מסוימים, הרסה הרגלים מסוימים, אתגרה ערכים מסוימים; אך היא לא יכלה למחוק את האדם מזירת ההיסטוריה.
כי האדם אינו רק יצור שמייצר טכנולוגיה. האדם הוא גם יצור שמעניק משמעות לטכנולוגיה, מגדיר אותה, מגביל אותה, מתווכח עליה ומנסה למסגר אותה במסגרת מוסרית. כאשר מופיעה המצאה חדשה, תחילה נוצרים תדהמה וחרדה. לאחר מכן החברה מתחילה לראות את נזקיה ואת אפשרויותיה של ההמצאה. ואז נכנסים לתמונה האתיקה, החוק, הפילוסופיה, הפוליטיקה והתודעה החברתית.
האנושות שואלת את אותן שאלות יסוד מול כל טכנולוגיה חדשה: למי זה משרת? למי זה מזיק? באילו גבולות יש להשתמש בזה? לאילו מטרות יש לאסור את זה? אילו ערכים זה מחזק, ואילו זה מחליש?
כאן מתגלה עליונותו האמיתית של האדם. האדם אולי לא יהיה מהיר יותר מהטכנולוגיה. הוא אולי לא יוכל לחשב מדויק יותר ממכונה. הוא אולי לא יוכל לייצר טקסטים מהר יותר מבינה מלאכותית. הוא אולי לא יהיה בלתי נלאה יותר מרובוט. אך האדם הוא היצור שיכול לשאול: "האם זה נכון?", "האם זה צודק?", "האם זה אנושי?", "מי ייקח אחריות על זה?". טכנולוגיה מבצעת פעולות; האדם מחפש משמעות. טכנולוגיה מייצרת תוצאות; האדם חושב על המחיר המוסרי של התוצאות.
לכן, אף התפתחות טכנולוגית או מהפכה לא יכולה לצאת לחלוטין מחוץ למסגרת האתית והפילוסופית שהאנושות פיתחה במשך אלפי שנים. לכל היותר היא מאתגרת אותה, מזעזעת אותה, מרחיבה אותה ומאלצת אותה לחשוב מחדש. פצצת האטום גרמה לאנושות לחשוב מחדש על מוסר המלחמה. האינטרנט פתח מחדש את הדיון על פרטיות ואמת. גם בינה מלאכותית מאלצת כיום לדון מחדש בעבודה, יצירתיות, אחריות, כבוד האדם וסמכות קבלת ההחלטות.
הטכנולוגיה אינה יכולה לברוח מעולמה האתי של האנושות. כי לטכנולוגיה אין מצפון משלה. האדם הוא זה שהופך אותה לכלי מלחמה, וגם לכלי ריפוי. האדם הוא זה שהופך אותה למערכת מעקב, וגם להזדמנות חינוכית. האדם הוא זה שהופך אותה לכלי מניפולציה, וגם לכלי להשגת האמת. לכן, העניין האמיתי אינו עד כמה הטכנולוגיה מתפתחת, אלא באיזו מערכת ערכים האדם משתמש בה.
קיימת אמת נוספת: כל התפתחות טכנולוגית יוצרת גם דור חדש שמסתגל אליה במהירות. דור זה משתמש בטכנולוגיה החדשה בקלות רבה יותר מדורות קודמים. בעידן הדפוס, אלה שהתרגלו לטקסט מודפס זכו ליתרון על פני אנשי התרבות שבעל פה. בעידן התעשייה, אלה שלמדו את המכונה התקדמו על פני עולם המלאכה הישן. בעידן המחשבים, אלה שהשתמשו בכלים דיגיטליים השאירו מאחור את אלה שנשארו נאמנים לסדר הנייר. ובעידן האינטרנט והמדיה החברתית, דורות שנולדו לעולם הדיגיטלי החלו לראות את הדורות הקודמים כאיטיים, מיושנים וחסרי יכולת.
גם היום, דור שמשתמש היטב באינטרנט, במדיה החברתית, בעולם הרובוטיקה ובבינה מלאכותית מסתובב בביטחון עצמי רב. לעיתים קרובות, בגישה יהירה, הוא מזלזל בדורות שקדמו לו. אך יהירות טכנולוגית זו היא זמנית. כי טכנולוגיה אינה מעניקה עליונות קבועה לאף דור. יליד דיגיטלי של היום יכול להיות זר טכנולוגי של מחר. הדור שמשתמש בקלות בבינה מלאכותית היום, עלול לחוות מחר את אותה תדהמה מול טכנולוגיה אחרת שאת שמה אנו עדיין לא יודעים.
כל דור מוצא את קודמיו בלתי מספקים מול הטכנולוגיה; אך עד מהרה הוא חווה את אותה תחושת חוסר יכולת בעולמם של אלה שבאים אחריו. לכן, מיומנות טכנולוגית צריכה להקנות לאדם ענווה, לא יהירות. כי אף דור אינו חי בתחנה האחרונה של הטכנולוגיה. כל דור הוא רק משתמש זמני של זמנו שלו.
לכן, הצורך האמיתי מול הטכנולוגיה אינו לסגוד לכלים המשתנים ללא הרף, אלא לשמור על הערכים האנושיים הבלתי משתנים. מהירות חשובה, אך חוכמה חשובה יותר ממהירות. נתונים חשובים, אך האמת עמוקה יותר מנתונים. יעילות חשובה, אך צדק יקר יותר מיעילות. בינה מלאכותית חזקה, אך אין לה מצפון. רובוט אינו מתעייף, אך אינו מרחם. אלגוריתם יכול להציע החלטה, אך אינו יכול לשאת באחריות.
מה שהופך את האנושות לאנושית אינו רק היכולת להמציא. מה שהופך את האנושות לאנושית הוא האומץ לשאול שאלות על המצאותיה שלה. לא מספיק לומר "אנחנו יכולים לעשות את זה". צריך לשאול "האם אנחנו צריכים לעשות את זה?". טכנולוגיה היא שפת האפשרות; אתיקה היא שפת הגבול והאחריות.
הפחד שאנו חווים כיום מול רובוטים ובינה מלאכותית הוא למעשה פחד של האדם מעצמו, יותר מאשר מהטכנולוגיה. אם האדם ישמור על ערכיו האתיים, על תודעתו המשפטית, על עומקו הפילוסופי ועל אחריותו המצפונית, הטכנולוגיה תוכל להישאר בשירות האדם. אך אם האדם יאבד ערכים אלה, אפילו הטכנולוגיה המתקדמת ביותר עלולה להפוך לאדון האנושות, ולא למשרתה.
בסופו של דבר, העניין הוא כזה: טכנולוגיה אינה משמידה את האדם; אך אם האדם יאבד את מרכזו המוסרי, הוא יקטן מול הטכנולוגיה. מבית הדפוס ועד הרכבת, מהטלגרף ועד הטלוויזיה, מהמחשב ועד האינטרנט, מבינה מלאכותית ועד רובוטים – כל התהליך ההיסטורי מלמד אותנו את אותו שיעור. האדם תחילה פחד מכל המצאה חדשה, ואז הבין אותה, הגדיר אותה, דן בה והתאים אותה לחייו.
לכן, גם היום, אין צורך לפחד באופן עיוור מרובוטים, מבינה מלאכותית או מטכנולוגיות חדשות. מה שצריך לעשות הוא להבין אותם במסגרת המורשת האתית והפילוסופית של אלפי שנות אנושות, לפקח עליהם ולכוון אותם לשרת את כבוד האדם.
כי לא משנה כמה הטכנולוגיה תתקדם, השאלה הגדולה ביותר של האנושות לא תשתנה: האם ניצור מכונות חזקות יותר, או שנבנה עולם צודק יותר, מודע יותר ואנושי יותר?
מה שיקבע את עתיד האדם אינו כוחם של הרובוטים, אלא כוחו של האדם לשמור על מצפונו שלו.
בכבוד רב. מוג'אהיט אוזדן הון
