דימוי: יואל בוטביניק Midjourney X

מיתוס ההחלפה של האדם בידי המכונה, הוא ישן כנראה כמו המהפכה התעשייתית עצמה. קריאה בפרנקנשטיין של מרי שלי - שנכתב לפני יותר מ–200 שנה מראה שמהרגע הראשון מתלווה לקדמה הטכנולוגית חשש מכך שהאחרונה תימלט משליטה אנושית ותפנה כנגד יוצריה. יצירתה של שלי, באופן מעניין, כוללת בתוכה כבר את כל מאפייני מיתוס ההחלפה שנמצא איתנו היום : הפרדה בינארית בין שתי ישויות שונות (אדם/מכונה), העמדה של שתי ישויות אלו בכפיפה אחת, ייחוס מאפיינים אנושיים ומניעים עצמאיים למכונה ולבסוף - חשש, שמתבשל לעיתים לכדי אימה של ממש, מפני אותם המניעים. אם נתקדם לקראת הרגע העכשווי, נוכל לראות שמיתוס ההחלפה מקבל תקומה וחיוניות מחודשת בשנות ה80 וה90 של המאה ה20 עם פרוץ המהפכה הדיגיטלית. הטכנולוגיה של פוסט-המהפכה-הדיגיטלית שינתה באופן מהותי את האופן שבו אנו חווים את הטכנולוגיה כמו גם את התפקיד של הסוכנות הטכנולוגית בחיינו; מנקודה זו ואילך הטכנולוגיה אינה עוד דבר רחוק, סינגולרי וייחודי שאיתו נפגשים לעיתים רחוקות, ואשר מעורר בנו רגשות של התפעמות והשתאות (כל המשפחה מתאגדת סביב הרדיו/מקלט הטלוויזיה לצפות בתשדיר של שיגור חללית לחלל) אלא היא מתחילה ׳לזחול מתחת לעור׳ ולהוות דבר קרוב, שקוף ויום-יומי, שמתווך לנו את כל היבטי החיים, מתקשורת, לימודים ועבודה ועד פנאי, סוציאליזציה ויצירת מערכות יחסים. אם כן, הפריצה העוצמתית של הטכנולוגיה אל כל מרחבי החיים, והשזירה ההולכת וגוברת בין אדם ומכונה בשלהי המאה ה20 העירו (באופן צפוי) את מיתוס ההחלפה ואת החשש הפרקנשטייני, כאשר האחרונים התבטאו במרחב התרבותי הרחב במסגרת יצירות כמו מטריקס, טרמינטור בלייד ראנר ועוד.

בד בבד, בתקופה זו החלו כיסים אינטלקטואלים מסויימים במסדרונות האקדמיה המערבית לארח, גם הם, חשיבה כמו-פרנקשטיינית. בתקופה זו החלה לצמוח המחשבה הפוסטהומנית - מבית מדרשם של דונה הרוואי, ברונו לאטור, קתרין היילז ואחרים - שטענה שאותה הישזרות בין אדם ומכונה שאנו רואים סביבנו במציאות הפוסט-דיגיטלית מכריחה אותנו להסתכל על הטכנולוגיה באור חדש לגמרי: לא עוד ככלי בידי סוכן אנושי שמנווט את המציאות באמצעותה, אלא כמי שמחזיקה בסוכנות עצמאית וביכולת להשפיע על האדם באופנים דרמטיים ובלתי צפויים. כלומר, האדם אולי מעצב את הכלי, אבל הכלי נכרך סביבו ומעצב אותו בחזרה. מרגע זה ואילך, הלך הרוח הפוסטהומני עזר להתניע ולעורר מגוון פנטזיות שונות ומגוונות אודות סוכנות טכנולוגית עצמאית שמשתחררת מהכוונה אנושית וחוזרת להתיל אימה על האדם.

והנה אנו מגיעים אל הרגע העכשווי, שבו מיתוס ההחלפה הפרנקשטייני קם מן המתים once again וחוזר לאיים על התודעה הציבורית, כאשר התעוררותו קשורה כמובן להתפתחויות עכשוויות בבינה מלאכותית, לצבא המחוללים למיניהם, לטכנולוגיות דיפ פייק וזיהוי פנים, לבוטים היפר-אינטלגנטיים ועוד. חשוב גם לציין שמיתוס ההחלפה, בגלגולו העכשווי, מגיע אלינו גם עם טוויסט חדש - הפעם, המכונה מתעתדת להחליף לא רק את הפונקציות הטכניות, הפיזיות והחישוביות של האדם - אלא גם את היכולות היצירתיות שלו. בקרוב - כך אומרים לנו - האלגוריתמים, לא רק יינווטו את המשלוחים של אמזון או יסייעו בהתאמת מוצר לצרכן, אלא הם גם יצליחו להפיק סרטים, לצייר ציורים ולכתוב ספרים, באופן שלא רק מזכיר את היצירה האנושית - אלא מתעלה עליה.

אז למה אני בוחר לקרוא למיתוס ההחלפה ׳מיתוס׳ - במקום להתייחס אליו כאבחנה מועילה להבנת המציאות ?

ראשית (וחשוב מכל) בגלל שמיתוס ההחלפה נושא בתוכו מסגרת בינארית ורדוקטיבית להבנת מציאות לא בינארית ומורכבת. כפי שראינו, המחשבה הפוסטהומנית הצביעה על האופן שבו האדם, אינו רק מושל בטכנולוגיה, אלא הוא מקיים איתה יחסים הדדים, במסגרתם הטכנולוגיה גם מושלת בו. כלומר, האדם אולי מעצב את הכלי, אבל הכלי חוזר בתורו לעצב את האדם חזרה (לעיתים אף באופנים משמעותיים ביותר). אם כן, בניגוד להנחת המוצא של מיתוס ההחלפה, האדם והמכונה אינם שתי ישויות מטאפיזיות שונות, שכל אחת מהן מושכת לכיוון מנוגד - אלא הם שזורים זה בזה יחדיו באופן אינטימי ומתהווים בתלות הדדית אחד בשני. על כן, גם אם המכונה לוקחת חלק בעיצוב האדם באופנים דרמטיים ובלתי צפויים - בכל זאת תמיד ניצב מאחורה סוכן אנושי. לאור הבנה זו, יש להבין את הבינאריות החדה בין טכנולוגיה/אדם (עליה מתבסס נרטיב ההחלפה) ככלי סמנטי, רטורי ותאורטי יעיל, שעוזר לנו למסגר ולהבין את הכפילות ביחסי אדם-טכנולוגיה (בין תכנון אנושי, מצד אחד, ובין ההשפעות בלתי צפויות של הטכנולוגיה על האדם, מצד שני) אך כמו כל כלי תיאורטי, הוא גם רדוקטיבי ועל כן, הוא לעיתים עוזר להבין את המציאות ולעיתים הוא דווקא ממסך אותה על ידי הפשטת יתר.

אך מיתוס ההחלפה מבצע גם שגיאה נוספת: הוא לא רק מעמיד בינאריות אשלייתית בין אדם ומכונה, אלא הוא גם משווה בין האדם והמכונה ומעמיד את שני ׳הישויות׳ בכפיפה אחת. הרי כדי לשער שהמכונה מסוגלת להחליף את האדם, יש לטעון שהיא מחזיקה במאפיינים אנושיים. אך גם כאן, מדובר למעשה במיתוס, שכן המכונה אינה ישות חיה, עצמאית וכמו-אנושית, והיא לא תהפוך לכזו בעתיד הקרוב. כל מה שהמכונה יודעת לעשות - (גם אם במקצועיות רבה) זה לנתח מאגרי מידע גדולים שהוגדרו לה מראש במהירות אדירה ולהציע, בעקבות ניתוח זה, פלט בדמות חיקוי מתוחכם מאוד של התנהגות אנושית ׳כמו-רנדומלית׳ (כאן כמובן אני מדבר על כל גל הבינה המלאכותית העכשווית). בעוד שהמחשב יודע מזמן לעבור את מבחן טיורינג - כלומר לתת לנו את התחושה שמדובר ביישות כמו-אנושית חיה - הוא חסר את אותו ׳ניצוץ הנוסף׳ שהינו מרחב של מודעות מהדהדת ורפלקסיבית שיודעת, לא רק לחשוב, אלא לחשוב על חשיבה ולהבין את המשמעות של החישובים. כלומר, dall e וחבריו לא מבינים ׳למה׳ הם מוציאים פלט אחד על פני אחר ואין להם מניע עצמאי לפעולתם, אשר נבדל מהמניע האנושי שהתניע אותם (כאמור - יש תמיד סוכן אנושי מאחורי המכונה). מה גם שפועלו, מקורו ומהותו של אותו הבזק מודעות אנושית רפלקסיבית ומסתורית מסדר משני - עודנו בגדר תעלומה בקרב הקהילה המדעית הרחבה וסביר להניח שכך גם יהיה בעתיד הנראה לעין. אם כן, המחשב והאדם פועלים מטעם שתי ״מערכות הפעלה״ שונות לגמרי ועל כן, בעתיד הנראה לעין, המחשב לא הולך ׳להחליף׳ את המודעות הרפלקסיבית של האדם, כפי שהוא גם אינו מחזיק במניע העצמאי לעשות זאת.

אז למה בכל זאת אנו פונים אל מיתוס ההחלפה ומה הבעיה עם פנייה זו?

כמו כל ׳מיתוס׳ אחר, מיתוס ההחלפה עוזר לנו לבטא רובד מסוים מהעולם הפנימי שלנו. כלומר, הוא מכתב, מוציא אל הפועל, ונותן שפה, לתחושות, כמיהות, תקוות ופחדים שחבויים בנו. במקרה הספציפי הזה, הוא עוזר לנו לבטא את התחושות השונות שמתעוררות בנו אל מול ההשפעות הבלתי צפויות של המכונה על חיינו. בגרסה הפסימית שלו, מיתוס ההחלפה מכתב את אותו פחד פרנקשטייני - שטמוע בנו כה עמוק - אודות ההשתמעויות המבעיתות של הטכנולוגיה על חיינו. בגרסתו האופטימית יותר, מיתוס ההחלפה מסייע לנו לבטא את הכמיהה שלנו לישועה בידי אחרות חוץ-אנושית. כלומר, מיצוב הטכנולוגיה כישות נבדלת מן האדם, מאפשרת לנו להקרין תקוות אמנציפטוריות על ישות זו, בתקווה שהיא תגאל אותנו מהמצב האומלל שבו אנו נמצאים.

אבל אני ארצה לסיים עם האבחנה שהפנייה למיתוס ההחלפה מתבררת גם כבעייתית, וזאת דווקא בגלל אותו אלמנט אמנציפטורי או דיסטופי שגלום בה. ניכר שאנו חיים בתקופה שבה מיתוס ההחלפה מושל כבר בדמיון שלנו אודות העתיד. כלומר, בימינו, כולם נושאים את עיניהם אל המכונה, ככוח היחידני שבכוחו לקבוע את עתיד האנושות. משבר אקלים? מה הבעיה, עוד רגע מכוניות חשמליות ופיתוחים טכנולוגיים בתחום האנרגיה יגאלו אותנו. הקטל בכבישים? חכו למכוניות האוטונומיות ולמערכת תכנון חכמות. נבערות? חכו שכל ילד בהודו יקנה אייפון במחיר של שקית צ׳יפס ואילון מאסק ישגר לוויני ווייפי לכל רחבי הקוסמוס. אני רוצה להציע שמיצוב המכונה כמגדלור היחידני של האנושות הינו למעשה תוצר של פשיטת רגל אידיאולוגית, במסגרתה כבה האור במגדלי האור השונים ששירתו את האדם בעבר. מארק פישר טען באופן מפורסם שאנו חיים בתקופה שבה ׳התבטל העתיד׳ כלומר, שבה, מלבד תחרות אינדיבידואליסטית בין פרטים שונים על מימוש עצמי ומקסום רווחים - אין עוד כל פרוגרמה שמבקשת לנסח עתיד קוהרנטי עבור האנושות. אנו נמצאים היום, טוען פישר, במעין הווה נצחי, שבו המציאות כל הזמן מפתיעה אותנו ומתרסקת לנו אל תוך הפרצוף בלי שיש לנו עוד את הכלים לארגן ולהבין אותה כתנועה קוהרנטית ולניארית. אם כן, בואקום של עתידים שמאפיין את הרגע העכשווי, הושבנו בדמיוננו את המכונה בכסא הנהג של האנושות, והבעיה כאן כמובן הינה שכך אנו למעשה ממשיכים לוותר על הושבת הרציונאל האנושי בכסא זה. וחוסריות העתיד ממשיכה לדהור. אבל אל דאגה - עוד קצת אייפונים ויהיה בסדר.

לבסוף - מיתוס ההחלפה ומיתוס האמנציפציה/חורבן בידי המכונה - אשר משערים שהמכונה היא ישות נבדלת מהאדם - עוזרים להעלים ולטשטש את הסוכן האנושי שנמצא תמיד מאחוריה. בין אם מדובר בגרסתו האופטימית או הפסימית , מיתוס ההחלפה מונע מאיתנו לראות שמאחורי הדיסטופיה או האוטופיה שתגיע בזכות המכונה - ניצב האדם. כבר היום תאגידי הטק מנסים למצב את הטכנולוגיה, ואת הקדמה שתושג בזכותה, כתוצרים אובייקטים וניטראליים של הגיון מדעי נקי וחף מהטייה. קחו לדוגמא את דף הנחיתה של גוגל - לבן, נקי, פשטני, כמו חדר של רופא, רק תשאל שאלה ותקבל את התשובה המתבקשת ביותר באופן רציונלי ומחושב. אך אל מול מיתוס הנטראליות, הנבדלות והעצמאיות של המכונה, חשוב להציב את העבודה הפשוטה והמתבקשת שטכנולוגיה תמיד מוציאה אל הפועל ערכים תרבותיים מסוימים על פני אחרים. בהתאם לכך, מאחורי דף הנחיתה הנקי, הרציונלי והאובייקטיבי של גוגל מתחבאים קפיטליזם של מעקב, ביליונים בכספי פרסומות, סירקולציה פתולוגית של מידע, סלקטיביות והתאמה של מידע למשתמש, יצירת אקו צ׳יימבר ועוד- שמטרתם העיקרית הינה להמשיך ולהעצים את רווחיהם של תאגידי הטק. אם כן, מיתוס ההחלפה - בכך שהוא משער את קיומה העצמאי של המכונה - מונע למעשה מהתדיינות ציבורית חשובה, הכרחית ומפוקחת אודות המניעים האנושיים שניצבים מאחוריה ואודות ההשתמעויות המלאות של מניעים אלו. המכונה לא תושיע, תחריב או תחליף את האדם - האדם יעשה זאת.