GALA 2022 פאנל אובייקטיביזם ומגמות טכנולוגיות

וידאו מקורי: https://www.youtube.com/watch?v=4zswRE-iM6E

ההתקדמות המואצת של פריצות דרך טכנולוגיות בתחום האוטומציה, הרובוטיקה והבינה המלאכותית עוררה הן חזונות טכנו-אופטימיים פרועים של שפע אינסופי והן חששות טכנו-פסימיים אפלים מפני אבטלה ושחיקת הפרטיות.  כיצד נוכל להעריך בצורה הטובה ביותר באופן אובייקטיבי את ההזדמנויות והאתגרים שמציבות טכנולוגיות טרנספורמטיביות אלה?   החוקר הבכיר של אגודת אטלס, סטיבן היקס, Ph.D. ועמית בכיר רוברט טרצ'ינסקי מובילים את הדרך בפאנל בן 45 דקות עם המנכ"לית שלנו ג'ניפר גרוסמן במהלך הגאלה השנתית השישית שלנו. אנו מזמינים אתכם להאזין כאן או לקרוא את התמליל למטה.

‍Line-up of Speakers (panelists): AF-Ana Freund; JAG-Jennifer Anju Grossman; SH-Stephen Hicks; RT-Robert Tracinski

AF: בשלב הבא, יש לנו אובייקטיביזם ומגמות טכנולוגיות. הטכנולוגיות פורצות הדרך של ימינו, החל מבינה מלאכותית, דרך רובוטיקה, בלוקצ'יין וכלה במציאות מדומה, מתכנסות כולן כדי להניע שינוי אקספוננציאלי, ומעוררות תקווה ופחד כאחד. החוקרים שלנו היום יחקרו איזו תגובה היא הרציונלית ביותר, כיצד להתכונן היום, וכיצד לשגשג בעולם של מחר. JAG, המנכ"ל שלנו, מנחה את הפאנל הזה ואליו מצטרפים חברי סגל, סטיבן היקס, פרופסור לפילוסופיה באוניברסיטת רוקפורד, מחברם של שישה ספרים, והמומחה של ארצנו לפוסטמודרניזם. יש לנו גם את רוברט טרצ'ינסקי ממכתב טרצ'ינסקי המפורסם, ומחבר הספר אז מיהו בכלל ג'ון גאלט? ברוכים הבאים לבמה. 

The Triumph and Glory of Air Conditioning‍

JAG: בסדר, אז קיבלתי קצת משוב מהקהל: הם היו רוצים שתהיה להם קצת סיבה לקוות, הם רוצים להיות בעלי מוטיבציה.  ואני חושב שהפאנל הזה בנוי לזה. אתם יודעים שאנחנו הולכים לשמוע הערב גם מפיטר דיאמנדיס, אדם שכתב לא רק שפע: העתיד טוב יותר ממה שאתם חושבים, אלא גם העתיד מהיר יותר ממה שאתם חושבים. וכמובן, מייקל סיילור, שעם הגל הנייד שלו צפה רבים מהשינויים, והוא תומך ומבשר טכנולוגיה שיש לה פוטנציאל להחזיר את הרציונליות למערכת הפיננסית שלנו ולהחזיר חופש וזכויות קניין למין האנושי. אז, סטיבן, איפה אתה רואה אותנו, מבחינת סולם הפסימיות והאופטימיות ביחס לטכנולוגיה?

ש: תן לי להתחמם לשיחת השיפוט ההיא, שאני רוצה לחזור אליה. כשהייתי באוניברסיטה וקראתי את ראנד בפעם הראשונה, כנראה שהדבר הבולט שמשך אותי ברומנים היה הנושא הזה של חדשנות יצירתית. הדמות של הווארד רוארק פוצצה אותי, אתה יודע, עם שינויים דרמטיים בהנדסה, ואז שילבה את זה עם החזון היצירתי שלו לצורה חדשה של אדריכלות. ואטלס משך בכתפיו: ריידן מטאל, מתכת חדשה שד'אנקוניה עובדת עליה. המנוע של ג'ון גאלט. האפשרויות של הטכנולוגיות החדשות היו מדהימות עבורי. עכשיו, כמובן, בשני הרומנים יש תרבות סובבת עם הרבה אתגרים אפלים. יד שנייה, מקורבים מסוגים שונים, פוליטיקאים איומים וכדומה. אנחנו מכירים את כל הסוגים האלה. אבל בכל זאת, הנושא המרכזי שדיבר אליי כאדם צעיר היה לתעל את הווארד רוארק הפנימי שלך או את דאגני טגארט ולהיות האדם הכי יצירתי וחדשני שאתה יכול להיות בחיים שלך לטובתך.  ובאופן רחב יותר, חברתי.

ש: עכשיו, עברו כמעט 80 שנה בשנה הבאה, אני חושב, מאז ש-The Fountainhead יצא לאור, ויותר מחצי מאה, כן, חצי מאה מאז שאטלס יצא לאור. וסוג כזה של נאורות, חלום אמריקאי, הבטחה שראנד כתב עליה עדיין במידה רבה איתנו. ואם רק נחשוב בימי חיי, חיינו, כמה שינויים טכנולוגיים נוספים הגיעו, למרות כל החושך והיריבים שאנשים היו צריכים להילחם בהם לאורך הדרך. אז מה שמניע אותנו בפאנל הזה הוא לנסות לצפות מראש מה הם חלק מאותם חידושים טכנולוגיים על הסף. אנחנו יכולים למנות כמה מהם. יש לי כאן רשימה, אבל אנחנו יכולים גם לחשוב אילו מהם עשויים להיות טרנספורמטיביים. אז, רק בחלל של 250, כמעט 300 שנה: מנועי קיטור והמהפכה התעשייתית, נכון?

ש: יש לנו חשמל, מהפכות בתקשורת, מהפכות עם מכוניות ומכונות מעופפות, וכן הלאה. ואז טרנזיסטורים, מחשבים אישיים, האינטרנט. זה היה פשוט מדהים. ואני עדיין רוצה שהמכונית המעופפת שלי תבוא יפה, די בקרוב. אבל הנה רשימה רק בדור שלנו. אז מטבעות דיגיטליים, נכון? בינה מלאכותית וצורות שונות, נכון? למידת מכונה, אינטליגנציות בדידות, ולאחר מכן לעבוד על אינטליגנציות כלליות יותר, תרופות המותאמות אישית לדנ"א של כל אדם. ביטול תופעות לוואי עבור סוגים גנריים יותר של תרופות; ביוטכנולוגיה; חלקי חילוף שגודלו בתאי גזע, בשילוב עם רובוטיקה, כמובן; רובוטיקה רוחבית, אבל רובוטיקה ביחס לניתוחים; ננוטכנולוגיה; טכנולוגיות, שימושים מרובים. ואז גם לגבי הביוטק: מעקב, שכמובן יכול להיות חיובי או שלילי, אבל משפר את הביטחון האישי שלנו, נותן לנו כלים להיות מודעים לסביבה שלנו ולאיומים פוטנציאליים והזדמנויות שקיימים שם בחוץ.

SH: פיתוחי אנרגיה בדלקים ביולוגיים: פיתוחים ביחס להיתוך, האם ביקוע הולך לעשות קאמבק, בצורה טובה יותר, טכנולוגיות תחבורה. אנחנו על סף תהום, למעשה. יש כבר כלי רכב אוטונומיים בכל מקום על בסיס קבוע למדי. האם זה יהיה טרנספורמטיבי? שיפורים אנושיים, גנטיים, דיגיטליים, דברים שעובדים איתנו בצורה אינטימית יותר ממה שאנחנו אפילו. ואז, דור שני לרשתות החברתיות, נכון? המדיה החברתית כבר שינתה את התרבות שלנו, וזה רק בעוד 25 או 30 שנה, אבל זו עדיין, ממה שאני יכולה לספר, טכנולוגיה לתינוקות. איפה זה יהיה בעוד 25 שנה? ובשילוב עם צורות שונות של מציאות מדומה, שכמובן יש להן כוח לשנות את מרחב הבידור האישי, איך אנחנו עושים ניתוחים וכן הלאה. עכשיו, זו רשימה.

ש: ואני רק פילוסוף ואני קורא על הדברים האלה ואני מתרגש ופסימי בדרכים שונות, נכון, לגבי כולם. אבל יש לי כמה שאלות, ואלה שלוש שאלות שבתקווה יידעו את הפאנל שלנו כאן. האחת היא שעכשיו אני מספיק מבוגר, וקורא מספיק טוב בהיסטוריה של זה, שבכל פעם שיש טכנולוגיה חדשה שמגיעה, יש קיטוב מיידי של דעות. יש קבוצה אחת של אנשים שאומרים, זה מדהים, זה כל כך מגניב, ומדמיינים את כל הדברים שאנחנו יכולים לעשות עם זה. והם במידה רבה מתעלמים מהחיסרון, לפחות בהצהרותיהם הפומביות. אבל מיד גם, יש אנשים שאומרים, זה נורא. זה נורא. זה מטיל אבדון על המין האנושי. והם במידה רבה מתעלמים מהצד החיובי. וכמובן, יש מספר גדול של אנשים שאימנו את עצמם לומר, ובכן, אנחנו צריכים לעשות עלות / תועלת, ניתוח סיכונים, וכן הלאה.  

ש: אבל זו עמדה יותר מתוחכמת. אבל השאלה היא מה עומד מאחורי האופטימיות המיידית או הפסימיות המיידית, ומדוע כל כך הרבה אנשים נופלים למחנה הטכנו-אופטימיסטים, ולמחנות הטכנו-פסימיסטיים. האם זה משהו אוניברסלי במצב האנושי? האם זה משהו שאנחנו יכולים ללמוד ממנו כדי שנוכל לנהל דיונים בריאים ויעילים יותר על הטכנולוגיות החדשות כשהן מגיעות, ולא רק בהכרח על הסף וכן הלאה? אז זה אחד. השאלה השנייה שיש לי היא על התבוננות בכדור בדולח שבמקרים רבים הבחנתי באנשים בתחום שלי, ואני פילוסוף בהכשרתי. והתפקיד שלנו הוא לספק סוג מסוים של פרספקטיבה, ובתקווה, חוכמה, במיוחד על הנושאים הערכיים המעורבים בטכנולוגיות חדשות, וכן הלאה.

ש: אבל, בדרך כלל, אנשים שהוכשרו במדעי הרוח, ובאופן רחב עוד יותר, במדעי החברה והמדיניות, אינם מעודכנים מאוד בטכנולוגיה. והם מאוד תגובתיים, נכון? טכנולוגיה חדשה מגיעה ולוקח להם 10 או 15 שנים להתעדכן בדיוק מה הדבר הזה לפני שהם נמצאים בעמדה לספק איזושהי פרספקטיבה על זה. אז השאלה שלי אם כן היא מבחינתנו באובייקטיביזם, האם אנחנו יכולים, בעשר השנים הקרובות בערך, לחזות אילו מהטכנולוגיות האלה צפויות להיות טרנספורמטיביות? אני חושב שכולם יעשו שיפורים מצטברים, אבל האם יש כאלה שעשויים להיות טרנספורמטיביים כדי שנוכל לזהות אותם ולהתחיל לעדכן את עצמנו כך שכאשר הדיונים על המדיניות הציבורית, הדיונים הערכיים הציבוריים יצוצו, אנחנו בעמדה שיהיה לנו מה להגיד על זה. ואז קשורה קשר הדוק לשאלה זו, מכיוון שמדובר בקבוצה אובייקטיביסטית או בקבוצה ידידותית לאובייקטיביסטים, מה יהיה הערך המוסף האובייקטיביסטי הייחודי לדיון הזה? אז עם זה, רציתי לשאול את רוב על מחשבותיו. האם אתה רוצה לקחת קודם את שאלת כדור הבדולח?

RT: אני אוהב את שאלת הצפייה בכדור הבדולח מכיוון שחלק מהרקע שלי בזה וחלק מהסיבה שאני בפאנל הזה הוא בסביבות 2016 כדי להציל את השפיות שלי במהלך בחירות 2016, העליתי והקמתי אתר בשם Real Clear Future, שהיה הרעיון להסתכל על טכנולוגיה מתפתחת, מה שיבוא בעוד 5 שנים, 10 שנים, 15 שנים וכו'. וכך במשך זמן מה עבדתי על זה. והדבר הגדול בכתיבה על טכנולוגיה הוא שהיא נותנת לך תחושה הרבה יותר גדולה של אופטימיות לגבי העתיד. כי כשאתה כותב על פוליטיקה, זה תמיד, אתה יודע, הכל מתקלקל, ואיך זה שאנשים אף פעם לא לומדים? וכשאתה כותב על טכנולוגיה, זה: האם זה לא דבר חדש ומדהים שהם עשו בדבר המדהים החדש הזה?  והנה הדבר הנוסף הזה שנמצא בפייק שכנראה מתקרב.

RT: אבל יחד עם זאת, אתה גם רואה את הבעיה עם התבוננות בכדור בדולח, כלומר, זה בלתי צפוי מטבעו כי זה משהו שהוא חדש. זה משהו שעדיין לא נעשה. אז בזמנו, אתם יודעים, בסביבות 2015, 2016, הם אמרו, נו טוב, אנחנו הולכים להיות מכוניות אוטונומיות עד 2018. ובכן, השנה היא 2022. יש להם כמה פרויקטים קטנים של הדגמה פה ושם, אבל זה לא השתלט. וזה בצד האופטימי. אנשים טועים. ואנשים בצד הפסימי, היה בחור באותה תקופה שכתב מאמר שאומר, אתה יודע, בעוד שנתיים עד עשר שנים, כל נהגי המשאיות בארץ יהיו מובטלים כי יהיו לנו משאיות אוטונומיות. ובכן, גם זה לא קרה או התקרב להתרחש.

RT: אז זה בלתי צפוי מטבעו כי אתה מדבר על טכנולוגיה שעדיין לא נוצרה, ולפעמים משהו שלא נמצא על מסך הרדאר שלך הפך להיות חשוב מאוד להשתלטות עליו. ולפעמים משהו שאתה חושב שהולך להשתלט בשנה הבאה לא הולך לקרות. היה לי דיון אתמול בלילה עם מישהו שעובד על אנרגיית היתוך, ואתה יודע, זה הקו הישן על היתוך, כלומר, זה 15 שנה בעתיד ותמיד יהיה (צוחק). ואתם יודעים, יש הרבה דברים עכשיו על איך סוף סוף זה קורה עכשיו, ואולי זה כן, אבל זה דבר כל כך קשה ומורכב שמערב כל כך הרבה התמחויות שונות, שקשה מאוד לחזות בדיוק מתי זה יקרה. לכן, אני חושב שהתבוננות בגביש מנקודת מבט פילוסופית, זה נובע מהעובדה שחדשנות וקידמה מגיעות ממאמץ של אנשים רבים שעובדים יחד, זה לא משהו שמתוכנן באופן מרכזי מלמעלה למטה.

RT: עכשיו, אם כבר מדברים על היתוך, אחת הדוגמאות האהובות עלי על זה היא כאשר ביל קלינטון נבחר בשנת 1992, הוא הביא לתוך הממשל שלו בחור בשם איירה מגזין שהיה תומך גדול של מדיניות תעשייתית. וזה היה הרעיון שלא, אל תקראו לזה "תכנון מרכזי", אבל אנחנו הולכים לגרום לממשלה להיכנס ואנחנו הולכים לגרום לה להחליט מי יהיו המנצחים והמפסידים ובאילו טכנולוגיות לתמוך. ובכן, שנה קודם לכן, הבחור הזה איירה מגזין שעבד כלוביסט בקונגרס, נתן עדות לקונגרס על איך אנחנו צריכים שיהיה לנו מימון מסיבי להיתוך קר. וזה היה בגלל שהוא עבד באוניברסיטת יוטה, אני חושב שזה היה, שם כמה אנשים אולי זוכרים שהייתה להם את ההתרגשות הגדולה הזאת, אה, יש לנו את השולחן הזה ערוך פועל בטמפרטורת החדר שיכול לייצר היתוך.

RT: והתברר שזה לגמרי לא ניסוי שניתן לשכפל, וזה היה חזה וזה מעולם לא קרה. אבל זה נותן לך רעיון שאם אתה מתכנן, או שאתה הולך לתכנן או לחזות מה תהיה הטכנולוגיה החדשה והנהדרת החדשה, יש לך את הסיפור המזהיר הזה של "כולנו חשבנו שהיתוך קר הולך לקרות, וזה היה חזה מוחלט". אז ההיבט הפילוסופי של זה, כל זה בא מפעולה של אנשים שיוצאים לשם פותרים בעיות ומתעמתים עם המציאות, ולוקחים על עצמם את כל המורכבות הזאת. ולכן, זו הסיבה שאתה אף פעם לא יודע מה הולך לעבוד ומאיפה זה הולך לבוא. עכשיו, מה שהייתי אומר, עם זאת, הוא שאני הולך לקחת את הנקודה הראשונה שלך, שהיא פסימיות טכנו.

RT: וזה לדעתי ממש משתולל היום.  עשיתי ראיון לפני כמה שבועות בתת-ניוזלטר אחר שנקרא סימפוזיון עם בחור בשם לואי אנסלו, שמנהל אתר נהדר ופיד טוויטר בשם The Pessimist Archive. ואתם יודעים, אם נתקלתם בו, זה מאוד משעשע כי הוא חוזר אחורה והוא מגלה שכל בהלת טכנו שיש לנו היום על איך הטכנולוגיה הורסת את העולם היא לא חדשה. זה ריטרד או משהו. הם אמרו לפני מאה או 150 שנה על האופניים, על הרומן בכריכה רכה, (צוחקים), הכל: היה לו דבר נהדר על המקום שבו הניו יורק טיימס קנה את Wordle, שהוא משחק המילים הזה באינטרנט. הניו יורק טיימס מפורסם בזכות התשבץ שלו.  ובכן, הוא חזר וגילה שלפני מאה שנה, הניו יורק טיימס פרסם מאמר על הנגע הנורא של תשבצים - איך הם הורסים לאנשים את המוח (צוחקים). 

RT: אז אין ממש פאניקה טכנולוגית לגבי איך הטכנולוגיה הורסת את העולם שלא חזר על עצמו ממשהו קודם. ולואי אנסלו מדבר על כך שיש את הדבר הזה שבו טכנולוגיה חדשה מגיעה מלהיות הדבר המפחיד שהולך להרוס את העולם להיות סוג כזה של דבר יומיומי נורמלי שפשוט מובן מאליו. ואז הייתי מוסיף שלב שלישי, שהוא: ואז זה הופך להיות המסורת ההיסטורית היקרה שלנו שמאוימת על ידי הטכנולוגיה החדשה שעולה, נכון? (צוחק). ואני חושב, מבחינה פילוסופית, זה בא מהטיה נגד התבונה, אתם יודעים – אדם וחווה אוכלים את התפוח, אוכלים מפרי עץ הדעת, אותה הטיה ארוכת שנים נגד הרעיון שהמוח הולך להכניס אותנו לצרות.

RT: וגם כשחושבים על מה שהטכנולוגיה עושה, היא משבשת, היא משנה דברים. ואתם יודעים, זה די טבעי שאם תסתכלו על רוב ההיסטוריה האנושית, השינוי קרה -- אבל זה קרה בקנה מידה איטי שבו במשך חיים של 70 שנה או כנראה יותר מציאותי 50 שנה, (צוחקים), בהינתן שינויים באריכות ימים, לא הרבה בחיים שלכם היו משתנים. לא הרבה באופן שבו אנשים חיו ישתנה. רק ב-200 השנים האחרונות, באמת, היה לנו סוג של המראה גיאומטרית וחיים בעידן שבו דברים ישתנו באופן דרמטי מהרגע שאתה ילד ועד שאתה גדל. ואני חושב שלאנשים יש את התגובה הזאת שאם אתה לא מכוון לביטחון העצמי הזה של שימוש במוח שלך כדי להבין את העולם ולהסתגל לשינוי ולהבין איך דברים משתנים ואיך להגיב לזה.

RT: ולכן, אתה מדבר על מה זה שהוא התגובה הנכונה לטכנולוגיה; אני חושב שהדבר שאנחנו צריכים להטמיע הוא התחושה הזאת שאתה לוקח בעלות, ושולט בחיים שלך ורואה את הטכנולוגיה לא כדבר הזה ששוטף אותך באופן פסיבי ומשנה את עולמך וגורם לך לפחד ובלבול ובמקום זאת אתה רואה את זה כאילו זה נותן לי המון כלים נהדרים שאני, כבן אדם, יכול לצאת ואני יכול לקחת אחריות על החיים שלי ולהסתגל ולא רק להסתגל לטכנולוגיה החדשה, אלא להשתמש בטכנולוגיה החדשה כדי לעשות כל מיני דברים מרגשים. וזו המנטליות שאנחנו צריכים. ולחזור רק כדי לסיים עם מה שאהבתי במה שסטיבן אמר על הרומנים של איין ראנד, זה שאני חושב שאחד הדברים הכי מרגשים הוא שכאשר היא כתבה את The Fountainhead, שם העבודה שלה עבורו במשך זמן רב היה Second Lives (חיים יד שנייה). 

RT: והיא התייחסה לרעיון הזה של היד השנייה – וחיים יד שנייה של אנשים כמו אלסוורת' טוהי ופיטר קיטינג – ובכן היא שינתה את שם הרומן ל-The Fountainhead. למה היא עשתה את זה? כי הרומן לא היה על אלסוורת' טוהי ופיטר קיטינג. זה לא היה על הרעים, זה לא היה על היד השנייה. זה לא היה על כל הדברים, כל הדברים הרעים הנוראיים שקרו. זה היה על הווארד רוארק. זה היה על הבחור שיוצא לשם ועושה דברים חדשים וחדשניים וחושב מחשבות שאף אחד לא חשב לפני כן. וזה היה מרכז הרומן. אטלס משך בכתפיו: התאהבתי באטלס משך בכתפיו בגלל דאגני טגרט, האישה הזאת שיוצאת לשם והיא צריכה לבנות את קו הרכבת הזה על דדליין וכל המכשולים האלה, והיא תמיד שם בחוץ פותרת בעיות ומתגברת על המכשולים שאני מכנה תרבות של הישגים. ואני חושב שזו המהות האמיתית של מה שאיין ראנד והרומנים שלה והפילוסופיה שלה צריכים להוסיף לעולם, הרעיון של תרבות של הישגים שבה האוריינטציה שלך היא תמיד לעולם שנמצא שם בחוץ: "יש לי את היכולת להבין את זה, לעשות דברים חדשים, ליצור דברים, " וזה צריך להיות המרכז והמוקד של החיים. אז זה המקום שבו רציתי להפסיק עם זה.

ש: התשובה שלי לשאלה על כדור הבדולח: אני אתחיל עם בינה מלאכותית ורובוטיקה, והגבול בין שני אלה מכה בי כדוגמה מאוד ברורה לכל הנושאים האלה בדיוק על השולחן, אבל זה יכול לתת לנו סוג של ספציפיות. אז כבר 200 שנה, למעשה יש לנו רובוטיקה שמשנה את התרבות שלנו ומכונות חכמות יותר ויותר ממחשבוני כף יד ושבבים משובצים, וכן הלאה. אז עכשיו אנחנו על סף מהפכה נוספת בתחום הזה. וחלק מההתקדמות היא פשוט מדהימה, אתם יודעים, מהבסת שחקני שחמט ולקחת בעיות מתמטיות שפעם היו לוקחות משהו בסדר גודל של 100,000 אלגוריתמים שהיה צריך לחשב בנפרד, ולשים את זה בתהליך של למידת מכונה והמכונה מצמצמת את זה לארבעה אלגוריתמים שצריך לחשב.

ש: אז כל הרווחים והידע והפרודוקטיביות שהולכים להגיע מזה, אבל עדיין, יש לנו את אותן בעיות שעולות ביחס לבינה מלאכותית ורובוטיקה. ואחת הבעיות היא שהפעם זו תגובה אחרת . אז אחת השאלות שלי היא, האם זה באמת הולך להיות שונה הפעם, או שזה פשוט הולך להיות דבר מצטבר, התהליך הזה, מה שראינו במשך 2000 שנה? האם זה הולך להיות משבש לא רק מבחינה איכותית, איך אנחנו צריכים לחשוב על מה זה להיות בן אדם, או על חיי עבודה, פוליטיקה וכן הלאה, או שקצב השינוי הולך להיות מהיר יותר? וזה מה שרמזת עליו.

ש: היו לנו 70 שנה להתרגל לטכנולוגיה החדשה הזאת, ואז היו לנו 40 שנה להתרגל אליה, ואז היו לנו 15 שנה, אבל עכשיו יש לנו 4 חודשים ואנחנו צריכים להיות מעודכנים בכל דבר חדש. ואולי אנחנו לא מוכנים לזה מבחינה קוגניטיבית. אז הפעם מדובר בנושאים שונים, בוודאי מבחינת המדיניות הציבורית, ההשפעות הכלכליות חשובות ואז אנשים מיד חוששים לעבודה, נניח. וזה לא רק עבודות הצווארון הכחול המסורתיות, האנשים שהופכים צ'יפס וחותכים תפוחי אדמה במקדונלד'ס, נכון? לא רק שאנחנו יכולים שיהיו לנו רובוטים שיעשו את זה, אלא שזה גם עבודות הצווארון הלבן המסורתיות, כל עבודות המזכירות, כל המתרגמים, כל המתמללים הרפואיים, ואנשים שמגישים ומעבדים תביעות ביטוח, וכן הלאה, עם כל ניתוחי המכונות, ומאות אלפי עורכי הדין החדשים שקוראים את כל התיקים כשהם עושים את ההכשרה המשפטית המוקדמת שלהם כדי למצוא את כל תקדימים, וכן הלאה.

The Message of Alexander Graham Bell‍

ש: אז כל העבודות האלה ייעלמו. ומה קורה אז? אז זו עוד קטגוריה שם. ואז יש את ההשלכות הפוליטיות שכל טכנולוגיות הרובוטיקה החדשות האלה של בינה מלאכותית יכולות לשמש באופן מקומי על ידי ממשלות רעות כדי לאיים על זכויות שחשובות לכל אחד מאיתנו. אבל אז גם בהקשר של מדיניות חוץ, כל הטכנולוגיות האלה יכולות לשמש את הרעים הזרים כדי לערער את אורח החיים שלנו ולהוות איום בצורות שונות, וכן הלאה. ואז, זה עדיין קצת מדע בדיוני, אבל אם נעבור את השלב של כל האינטליגנציות הנפרדות, להיות מסוגל לדבר עם הטלפון שלי או לדבר עם אלכסה או לעבוד את דרכי דרך עץ הטלפון ובתקווה אופנה חכמה יותר (צוחק) כשאני מנסה להגיע למישהו שיכול לפתור את הבעיה שלי, כל אותן משימות אינטליגנציה דיסקרטיות, אינטליגנציה ספציפית לפיתוח מכונות שיכולות למעשה להמשיג ואז לעשות סמנטיקה ותחביר רציניים ולחשוב במונחים של נרטיבים ותיאוריות, האם אז יהיה שינוי כלשהו במעמד האנושי בעולם החדש הזה של בינה מלאכותית?  עכשיו, יש לי מחשבות על כל אחד מאלה, אבל תן לי להעיף את זה בחזרה אליך על המחשבות שלך על בינה מלאכותית ורובוטיקה.

RT: AI: אני מאוד מתעניין, ומתרגש, כי אני חושב, שמישהו הגה את הרעיון הזה של טכנולוגיה למטרות כלליות, והם מסתכלים על ההיסטוריה של צמיחה כלכלית ושינויים טכנולוגיים. והם אמרו שהעליות הגדולות בפריון, הקפיצות הגדולות קדימה מגיעות ממשהו שהוא טכנולוגיה למטרות כלליות. ומה שזה אומר זה שזו התקדמות טכנולוגית שלא משפיעה רק על תחום אחד, היא חוצה את הכלכלה ואת כל החברה. וזה משנה כל מיני דברים שונים. לכן, יש לו השפעה כללית רחבה זו. ועכשיו כדי לתת לכם מושג איך במקור הסתכלתי עליו, כמה מעטים ורחוקים בין אלה האמיתיים, שהאדם האחרון שזיהה את האחרון היה חשמול. אתם יודעים, (צוחקים), זה בערך לפני מאה שנה שהיה לכם את התהליך הזה שהתחיל בשנות ה-80 של המאה ה-19, אבל עד שנות ה-20 של המאה ה-20 הוא הסתיים, של חשמל שהפך לזמין באופן נרחב, והדרך שהפכה כל דבר, ממכשירי חשמל ביתיים לאופן שבו מפעלים נוהלו, והרדיו והתקשורת שלו השתנו כי היה לך משהו שאתה יכול לחבר אליו את הרדיו שלך, וכדומה.

RT: לכן, כאשר בוחנים מהי טכנולוגיית המטרה הכללית החדשה, אחת התיאוריות, שלדעתי יש בה הרבה, היא שבינה מלאכותית יכולה להיות טכנולוגיית המטרה הכללית מכיוון שהיא קפיצת מדרגה באוטומציה. אז, החל מהמהפכה התעשייתית, אנחנו מתחילים לקבל אוטומציה בצורות של תכנון מכונה שכאשר היא מופעלת על ידי מנוע קיטור יכולה להפעיל נול ולארוג בד, נכון? זהו אחד החידושים הגדולים של המהפכה התעשייתית. וכך, אתה מתכנן מכונה במיוחד כדי לבצע משימה מסוימת, ואז אתה מפעיל אותה בכוח קיטור או אז, מאוחר יותר, סוגים אחרים של כוח. ואז הרמה הבאה של אוטומציה היא שאתה מתכנן מכונה שיכולה לעשות מספר דברים שונים, שזה הרבה יותר עדכני, ואז אתה מתכנת קוד דיגיטלי ואתה יכול לעדכן את הקוד ואתה יכול לקבל מכונת CNC, מכונת חיתוך שיכולה לעשות כל צורה שתרצה.  אתה רק צריך לתכנת מה הצורה והקטע יחתוך את הצורה החוצה, ואתה יכול להתאים אישית דברים, ואתה הרבה יותר גמיש.

RT: אז זו לא מכונה אחת שפותחה במיוחד כדי ליצור חלק אחד מסוים, זו מכונה אחת שיכולה לעשות הרבה דברים שונים. השלב הבא אחרי זה, שאני חושב שהבינה המלאכותית מבטיחה, הוא סוג של אוטומציה ברמה גבוהה עוד יותר שאפשר לתכנת. יכולה להיות לך מכונה שמתכנתת את עצמה לבצע משימות חדשות, ומבינה איך, ומפתחת, בעצם כותבת, קוד משלה ולומדת איך לבצע משימה. ואני חושב שזה באמת מעניין. זה באמת מרתק. יש לו סוג כזה של טכנולוגיה למטרות כלליות על האפשרות ליצור שינויים עצומים על פני תחומים רבים ושונים. אז דברים כמו מכוניות אוטונומיות, נכון, שנמצאות בפיגור בלוח הזמנים, אבל זה עדיין בתהליך.

RT: והרעיון שבמקום שאצטרך להיכנס למכונית ולנסוע, עברו שעות מחיי ממקום למקום. אני יכול לשבת מאחור ולקרוא משהו או, אתה יודע, לנמנם או מה שזה לא יהיה שאני רוצה לעשות בזמן שהמכונית נוהגת בעצמה. אממ, עכשיו לגבי התרחיש המפחיד גם כן, מה זה עושה לתעסוקה? אתם יודעים, האם זה שונה הפעם כי לאנשים עדיין יש מין דבר לודיטי כזה, איפה שהוא, ובכן, כשהמכונות אורגות את הבד, אז מה? כולנו נאבד את מקום העבודה שלנו. זה היה נד לוד שכביכול, על פי האגדה, ניפץ את אחד מאותם נולים של כוח כי זה לוקח את העבודה מכולנו האורגים. וכמובן שמה שקרה ב-200 השנים האחרונות זה שזה לא לקח את מקומות העבודה של אנשים.

RT: זה למעשה יצר פרודוקטיביות גדולה יותר ואתה בסופו של דבר, במקום לארוג בד אחד בכל פעם יש לך בחור עובד, מנהל את המכונות אשר אורג מאות בדים ומאות ברגים של בד בכל פעם. ולכן, זה לא גוזל מקומות עבודה של אנשים. זה הופך את עבודתם לפרודוקטיבית יותר. האם הבינה המלאכותית תהיה שונה? וזה, אני חושב, איך שאני רואה את זה, ורק כדי לתת דבר מהיר, זה שאני חושב שמה שהולך לקרות זה, כן, זה בהחלט הולך לאכול לתוך חבורה של צווארון כחול, חבורה של עבודות צווארון לבן עכשיו. אז תחשבו על זום משפטי כדוגמה מצוינת לכך. כמו איפה יש לך את האתר הזה שבו אתה יכול לעשות כל מיני דברים משפטיים שהיו רק סוג של ניירת, מילוי ניירת שבדרך כלל היית צריך לשכור עורך דין לעשות.

RT: אתה יכול פשוט להיכנס לאתר הזה ואתה יכול לעשות את זה בעצמך, וזה עוזר לך לבחור מה הם הדברים הנכונים לעשות. הוא אפילו לא משתמש בטכנולוגיה מתוחכמת, אבל זה מסוג הדברים שהולכים לקרות. אבל מה שאני חושב שיקרה הוא שהבינה המלאכותית תגביר את הרצון האנושי, היא תתאים לאותו דפוס שהיה לנו מאז המהפכה התעשייתית. זה יגביר את הפעילות האנושית: הבינה המלאכותית תבצע עבורכם משימות שבדרך כלל היו דורשות הרבה עבודת טפטוף, הרבה מאמץ שינון שיכול להקל, שאז הבינה המלאכותית יכולה להפוך לאוטומטית ובני האדם עדיין יצטרכו לעשות את החשיבה הרעיונית שמאחורי זה כדי להחליט מה הבינה המלאכותית צריכה לעשות, למה הוא צריך לעשות את זה? מהי האסטרטגיה והתוכנית הכוללת? אבל אני חושב שהמשמעות היא שזה ידרוש יותר מבני האדם שאז אתה צריך להיות בטוח שאתה לא רק הבחור שמדשדש בניירות, כי דשדוש ניירות יכול להיעשות על ידי המכונות. אתה צריך להיות הבחור שבאמת עושה את החשיבה הרעיונית ברמה הגבוהה יותר. אז אני חושב שזה הולך להיות משהו שלא ייקח לאנשים מקומות עבודה, אבל זה ייתן להם משרות פרודוקטיביות יותר. אבל יחד עם זאת, משרות שהן תובעניות יותר מבחינת הצורך שלך לממש בפועל את הפקולטות האנושיות הייחודיות שלך של מחשבה מושגית ויצירתיות, ולא רק הרבה עבודות היום שבהן אנשים מדשדשים בניירות.

פצ"ר: בסדר, יש לנו עוד 15 דקות. אני מקווה שאולי נצליח להגיע לשאלה או שתיים, אבל אם לא, אנחנו נשתחרר לארוחת צהריים אחרי זה ותהיה לך הזדמנות ללחוץ על אחד מהחבר'ה האלה ולשאול את השאלות שלך.

ש: אני רוצה לקפוץ עם כמה הערות משלי על עניין הרובוטיקה של בינה מלאכותית. ואני מאוד אופטימי לגבי העתיד בכל הדברים האלה, אבל אני כן חושב שהולכים להיות אתגרים בדרך, לא רק התמודדות עם חסימה של קובעי מדיניות ופסימיסטים של טכנו מסוגים שונים, אלא למעשה בעיות אמיתיות שמובנות בקפיצות טרנספורמטיביות בטכנולוגיה. וכאלה שבהם אני חושב שיש תפקיד לפילוסופיה טובה כמו אובייקטיביזם להיות בעלת ערך מוסף כלשהו. אז קחו את הנושא הזה של סוגי המשרות החדשים שנוצרים. הסתכלתי על מחקר של מקינזי לפני חודש. הם עוקבים אחר כל הטכנולוגיות בתקופה האחרונה, אני חושב שזה רק חזר ל-1880 בערך, אבל זה היה שעל כל עבודה שנהרסת באופן יצירתי על ידי טכנולוגיות חדשות שמגיעות, נוצרות 2.6 משרות חדשות.

ש: והם לא הרחיקו לכת ואמרו שזה קבוע אוניברסלי, אבל זה היה הממוצע במהלך המאה וחצי האחרונות. אז זה די מרשים. עכשיו, יש בעיה של יחסי ציבור של קבלת סטטיסטיקות כאלה בחוץ, אבל יש גם את הנושא של סוג המשרות שנוצרות כי סוג המשרות שנהרסות באופן יצירתי הן מסוג העבודות שרובוטים יכולים לעשות, נכון? העבודות בסין שמכונות יכולות לעשות. הם סוגי העבודות המשעממים, החוזרים על עצמם, שהוחלפו לראשונה. ומצד אחד, אנשים מגינים, ובכן, יש לי את התפקיד הזה ואני לא רוצה לאבד את העבודה הזאת. יחד עם זאת כבני אדם, אנחנו לא אוהבים לעשות עבודות דה-הומניזציה שחוזרות על עצמן, אבל יש לנו כמות עצומה של אינרציה מבחינה תרבותית שבה אנשים יישארו בעבודות דה-הומניזציה מתוך הכרה בכך שתפקידם הוא דה-הומניזציה, אבל הם לא עושים שום דבר בקשר לזה.

ש: זו בעיה ערכית. איפה חוסר האמביציה הזה לחיים האישיים של האדם? האם זה עניין של לא לפתח את סוג ההרגלים הקוגניטיביים, כך שאתה חושב שאתה יכול לצאת לעולם לא בטוח, להתמודד עם אתגרים חדשים ולמצוא דרך לפתור את הבעיה? אין לך את הביטחון הזה כי לא היה לך את סוג החינוך הנכון. עכשיו, אם אנחנו חושבים שאלה הולכות להיות טכנולוגיות טרנספורמטיביות והן הולכות להיות טכנולוגיות כלליות, באופן שרוב מגדיר כאן, אז הולכת להיות בעיה קוגניטיבית חברתית כי יהיה מיעוט משמעותי של אנשים שיעשו את המעבר הזה בשמחה ולא ללא מאמץ, אלא בצורה חלקה. אבל הולך להיות מספר עצום של אנשים שלא יעשו את המעבר הזה.

ש: והם הולכים להיות כוח תרבותי. הם יהיו כוח פוליטי, ואנחנו צריכים להיות בעמדה להגיד משהו על זה. עכשיו, יכול להיות שאז אנחנו אומרים, טוב, אנחנו צריכים לדבר שוב על חינוך, כי מערכת החינוך צריכה להכין אנשים להיכנס לסביבה הבוגרת כפי שאנחנו חושבים שזה הולך להיות עבורם בעוד 10 או 12 שנים. וממסד החינוך הנוכחי נכשל כישלון חרוץ בכך. אז באמת זה פשוט חוזר להיות בעיה חינוכית, אבל אז אנחנו צריכים לעשות את הטיעונים הפילוסופיים הטובים יותר בחינוך. הדבר השני שחשבתי עליו הוא שיש סוג של סוגיות אמיתיות שעולות עם הטכנולוגיות החדשות האלה בתחום הערכים. זה נראה כמו סוג של אפיסטמולוגיה קוגניטיבית יותר. אבל תחשוב על, רק באמצעות מכוניות נהיגה עצמית כדוגמה. עכשיו ההבנה שלי היא שהטכנולוגיה די מתקדמת. אני יודע שיש משאיות בנהיגה עצמית שמספקות דברים, אתה יודע, ריצות בירה חשובות בין קולורדו ספרינגס, שם מייצרים את Coors, עד דנבר על בסיס די קבוע. והכל הסתדר. והמכוניות של גוגל היו בכל מקום, נכון? מיפוי הכל. אז יש משמעותי.

RT: ג'ון דיר הכריז זה עתה על טרקטור לנהיגה עצמית.

ש: כן, זה נכון. אז כל הדברים האלה נמצאים שם, אבל יש בעיה פילוסופית אמיתית אז. וההבנה שלי היא שחלק גדול מההאטה קשור לביטוח כי ברגע שיש לך את כלי הרכב האוטונומיים על הכביש, תאונות הולכות לקרות. אבל מי אחראי לביטוח כאשר התאונה צריכה להתרחש? וכדי שהרכבים האוטונומיים יהיו על הכביש, הם יצטרכו לקבל החלטות מובנות באלגוריתמים שלהם לתרחישים שונים שהולכים להתעורר. אז, אתם יודעים, הם פשוט נוסעים במורד הכביש. אני רק הולך להמציא אחד עכשיו. ואני לא יודע, יש זיקוקים שעוברים פה וזה מבהיל ילד אחד קטן פה שרץ לרחוב, אבל שלוש נשים זקנות קטנות שם שרצות לרחוב, והאם המכונית הולכת ופוגעת בנשים הזקנות הקטנות?

ש: טוב, יש שלושה כאלה, אבל הם זקנים, נכון? (צוחק), או שהמכונית סוטה ככה ופוגעת בילד הקטן? יש רק אחד, אבל הוא צעיר. וכך אנחנו מיד נכנסים לבעיות העגלה שנמצאות בכל רחבי האינטרנט, נכון? וזו כמובן סדרה כיפית של תרגילים מופשטים, אבל יש לזה יישומים בעולם האמיתי כי כל הנושאים הערכיים האלה צריכים להיות מסודרים על ידי הפילוסופים כדי שמהנדסי התוכנה יוכלו לתכנת אותם לאלגוריתמים ואז חברות הביטוח והרגולטורים יוכלו להיות מרוצים מזה. ואז נוכל להוציא כלי רכב בנהיגה עצמית על הכביש. ולכן פילוסופים שנמצאים עכשיו באתיקה – לא עושים עבודה טובה במיוחד, נכון? אנחנו יכולים לומר שיש הצעת ערך עבורנו אם יש לנו מערכת אתית טובה ואנחנו יכולים לעשות קצת אחיזה בתחום הזה.

ג'אג: כן. שנית, אם ה-CDC מתכנת את המכונית, אז אנחנו יודעים למי היא הולכת לסטות, אז...

RT: אבל אני חושב שאנחנו צריכים, אני רק רוצה לתמוך בדבר הזה בנושא הפסיכו-אפיסטמולוגי, אבל אני חושב שאנחנו צריכים ללכת לשאלות עם מה שיש לנו. 

ג'אג: כן, בוא נעשה את זה. בסדר. יש. יש לנו שמונה דקות. כל כך מהיר אש עגול. למישהו יש שאלה?

שאלה: קודם כל שוב. אז מה שנגעת בו עכשיו, הקטע האתי, זה מה שמרתק אותי ונוגע לי. אנחנו מדברים על בינה מלאכותית, כולם מדברים על החלק המודיעיני, לא על החלק המלאכותי. מודאגים מאוד מהמחשבות על אתיקה כי, זאת אומרת, האם יהיו לנו מתכנתים נלהבים באתיקה אובייקטיביסטית? לא סביר. ואם הדברים האלה מסוגלים ללמוד, כמו שבני אדם לומדים ואנחנו מסתכלים על המערכות המוסריות שלנו ואיך אנחנו מתנהגים, מה זה אומר שלא יהיה לנו דבר לומד שלומד איך להרוס, ולמה שנחשוב לרגע שזה יפתח איזושהי מערכת אתית נפלאה, נעימה, שלא תזיק לאחרים ופשוט תועיל לעצמה? כי כמו שאני אוהב לומר, הובס צדק.

ש: אז תן לי לקחת את זה קודם אם לא אכפת לך. אז כן, אני כן חושב שמרכיב הערך של בינה מלאכותית ורובוטיקה הוא בסיסי. כלומר, יש את הבעיות הקוגניטיביות ואת הבעיות הטכניות, והרבה מזה עומד מאחורי הפחדים. והפחדים הם בעיקר על פחדים ערכיים. אז אנחנו אומרים, נניח שאז יש לנו מכונות מחשוב שהן הרבה יותר חכמות ממה שאנחנו כרגע. האם זה דבר טוב או שזה דבר רע? וזה תלוי מה מסגרת הערך שלך. ואם נחזור למקרים אנושיים, נניח שאנחנו אומרים, בסדר, טוב אלברט איינשטיין, אולי אלברט איינשטיין הוא כמו פי 2.3 אינטליגנטי כמוני. האם זה דבר טוב או שזה דבר רע? וזה תלוי אם אלברט איינשטיין הוא בחור טוב או בחור רע, נכון?

ש: אז זו האינטליגנציה שלו, שהיא כוח שאפשר להשתמש בו לטוב ולרע. זה לא הכוח, כשלעצמו. ולכן אותו דבר הולך לקרות במקרה של מכונות שאז עשויות להיות כפולות של אינטליגנטיות יותר מאיתנו, כל עוד המכונות מכילות בהן את מסגרת הערך הנכונה. מהי אותה מסגרת ערכית? או, אם אנחנו הולכים על הצד של הרובוטיקה, אתה יודע, הנה אני תמיד הולך, אנחנו צריכים ללכת שליחות קטלנית, נכון? וכך ארנולד שוורצנגר, נכון? דברים מהסוג הזה. אז אנחנו אומרים, הולכים להיות הרובוטים האלה והם הולכים להיות מהירים יותר, חזקים יותר. הם לא מתעייפים, נכון, יותר מאיתנו. האם זה דבר טוב או דבר רע? אבל זו אותה שאלה בדיוק במקביל, שוב. אז מישהו כמו ארנולד שוורצנגר, בשיאו, הוא היה מה, פי ארבעה חזק כמוני, (צוחק) אני.

ש: זה דבר טוב או דבר רע? ובכן, זה דבר טוב אם ארנולד שוורצנגר הוא בחור טוב, וזה דבר רע אם הוא במובן מסוים איום ערכי עבורי. כך שטכנולוגיית הרובוט, כשלעצמה, אינה טובה או רעה. זה תלוי במסגרת הערכים שמקודדת לרובוט. וכמובן, אנחנו יכולים לשלב אותם. אז אנחנו אומרים שיש לנו מכונות שהן לא רק חכמות יותר מאיתנו, אלא גם, פיזית, מסוגלות יותר מאיתנו. ואז זה רק דיאגרמת Venn של אותה בעיה בדיוק. אז להבין את הקטע של האתיקה והערכים ולהפוך את החלק הזה לחלק בלתי נפרד מההתפתחות הטכנולוגית, אני חושב שאתה צודק, זה בדיוק המקום שבו הפעולה נמצאת.

ג'יי.ג'יי: עוד שאלה אחת, עוד שאלה.

RT: תחזיק מעמד. אני רק רוצה לומר שאני לא מסכים עם חלק מזה כי אני חושב שיותר מדי מזה הורעל על ידי הוליווד, נכון? אז אם אתם מחפשים אמנות, אמנות וסרטים במיוחד, עזרו לנו ליצור מודלים לאיך טכנולוגיה חדשה הולכת להיראות. ובכן, מהו המודל שקיבלנו עבור בינה מלאכותית? ובכן, יש את האל 9,000: "אני מצטער דייב, אני חושש שאני לא יכול לעשות את זה". כן. אנשים בגיל מסוים יזהו זאת.  יש את שליחות קטלנית, יש, אני מניח, אלטרון לילדים שצופים בסרטי מארוול בימים אלה. בסדר? אז, אתם יודעים, המודל שיש לנו הוא שהבינה המלאכותית הולכת להשתלט עליה והיא הולכת להיות מרושעת. אני חושב שהדבר הגדול מבחינה פילוסופית הוא שלבינה מלאכותית אין רצון משלה. זו כל המטרה שאנחנו מפתחים. זה כדי שהוא יוכל לעשות דברים בשבילנו, נכון?

RT: אין לו רצון משלו, אין לו מוטיבציה. מה רובוט צריך, נכון? לרובוט שלי אין צרכים, אין לו מוטיבציה. אני חושב שזו הסיבה שהרובוטים לא יהפכו לחכמים מאיתנו במובן הרלוונטי שהם לא יהיו מסוגלים לתודעה רעיונית כמונו. אבל זו גם הסיבה שבגללה, אתם יודעים, הרעיון הזה שהרובוטים הולכים להשתלט עלינו ולשלוט בנו ולהתחרות בנו איכשהו. אני חושב שהם הולכים להיות כלים עבורנו. ולכן השאלה היא, שאתה צריך לחשוש מהאנשים שמפתחים ומשתמשים בטכנולוגיה ובמניעים שלהם בדיוק כמו שאתה צריך עם כל הטכנולוגיה הקיימת. עליכם לחשוש ולקוות לכך. אתה מקווה שהם יהיו אנשים טובים וחושש שהם עלולים להיות אנשים רעים, אבל המכונות עצמן הן לא הבעיה.

ג'יי.ג'יי: בסדר, אחמר, אני רואה אותך מהנהן מאחור, אתה רוצה לשקול באחמר?  

שאלה: אני מסכים איתך. הרקע שלי הוא ברובוטיקה ובינה מלאכותית, אז אני מסכים לחלוטין. זה היה הנהון שאני מסכים איתך. הרבה מהשיחות בבינה מלאכותית ורובוטיקה נמצאות כרגע בבעלות הוליווד. ויש הרבה פחד שנוצר לגבי הטכנולוגיות האלה. הטכנולוגיות האלה נמצאות שם כדי ליצור לנו עתיד שופע, ואנחנו צריכים לאמץ אותו ולעצב אותו. אז זה הכל.  אני רק רוצה להוסיף את זה.

שאלה: אני יכול להיות סופר קצר.

Jennifer Grossman: Here is the Defiant Speech Mark Zuckerberg Should Give to Congress‍

פצ"ר: בסדר, יש לנו שלוש דקות.

שאלה: שמי פארסאם. אני מנהל חממה טכנולוגית למעלה בעמק הסיליקון, והייתי שם רק לפני יומיים וירדתי לאירוע הזה. ואני מאוד מאוד מודאגת מההתדרדרות הרחבה של החברה שאנחנו רואים. ואני מאמין, לצערי, שהרבה טכנולוגיה נחטפה בצורה לא הולמת. לנקודות שלך על סכימת הערך, אפשר לטעון שהעבודה שאנחנו עושים כקבוצה האובייקטיביסטית המפורשת היחידה שמשתמשת למעשה באפיסטמולוגיה אובייקטיבית יישומית, וחלק מהעיצוב של העבודה שאנחנו עושים, כולל בינה מלאכותית, ניווט עצמי. אבל זה נהיה מאוד מסובך. אני לא חושב שיש רעיון גדול יותר, אם להשתמש ברעיון של ראנד של האנטי-קונספט, אנטי-קונספט גדול יותר שקיים כרגע מאשר הרעיון המזדמן מבחינה תרבותית של בינה מלאכותית, שהוא, בעיני דור ה-Z, רק דבר הזכאות שהולך להיות מוזן דרכם, דרך הדרך שבה עמק הסיליקון כבר נמצא בצורה מאוד מתוכננת מראש, חישוב איך הכל הולך להיות מטופל מבחינה מסחרית.

שאלה: אז הולך להיות סוג של התעוררות של בינה מלאכותית, שנשמעת מוזרה, אבל, זה הולך להשתנות ולהתמזג עם פרקטיקות תרבותיות מעמדיות. ואני חושב שאנחנו רואים רק את הפרקים הראשונים של זה. רוב האנשים כאן כנראה ראו את הדילמה החברתית. אני עובד עם אנשים שהם עקרוניים לזה, למרות שהם לא מדויקים ומבחינת הערעורים שלהם על סטטיזם חקיקתי. יש חשש אמיתי כרגע לגבי המיזוג בין בינה מלאכותית לאינטליגנציה, ועד כמה אנחנו מוקירים והופכים למרכזיים בפילוסופיה שלנו, ברעיון של רצון חופשי ובאופן שבו אנחנו יוצרים קונספט ואיך אנחנו מנצלים את הרצון שלנו. ההתלקחות ההדרגתית באינטליגנציה של האדם הממוצע ובשימוש ברצונו החופשי, בסגל הרצון החופשי שלו, היא מה שאנחנו מתבוננים בו. ויש הרבה ראיות פסיכולוגיות לכך כרגע. ואכן נדרש ניתוח בין-דורי כדי לזהות ולראות מה נשחק כסוג של סובייקטיביזם וזכאות נכנסת אל מול המנגנון התרבותי הזה. אז אני כן רוצה לשאול אתכם, בעיניי, בינה מלאכותית ולמידת מכונה זה דבר אחד, אבל למערכת בינה מלאכותית לעולם לא יהיו ערכים. לעולם לא יהיה לו מצפן מוסרי, ועל המעצבים לקבוע ב-100% כיצד הוא יתפקד.

RT: כן, אחד הדברים שאני רוצה להזכיר על זה הוא שיש צד הפוך לפסימיות הטכנו של "הרובוטים הולכים להתקומם והם הולכים להרוס אותנו". יש אוטופיות טכנו שאומרות, "אה, הרובוטים הולכים לעשות את כל העבודות שלנו בשבילנו כדי שכולנו נוכל לחיות על ההכנסה הבסיסית האוניברסלית". הממשלה תיתן לנו צ'ק וכולנו נחיה בשפע. וגם, מישהו קרא לזה מותרות-קומוניזם אוטומטי לחלוטין שאנחנו הולכים לקבל כי המכונות הולכות לעשות את כל העבודה. עכשיו, אגב, אני חושב שהתומך הראשון בזה באמת היה קרל מרקס כי הוא חשב, הו, המפעלים האלה, מערכת המפעלים החדשה הזאת, הייצור התעשייתי החדש הזה הוא כל כך גדול. אתה לא באמת צריך עבודה קבועה. אתה יכול פשוט להסתובב ולעשות מה שאתה רוצה, ולהיות חקלאי בבוקר ומבקר, ומבקר מוזיקה אחר הצהריים.

RT: והמפעלים בעצם ייצרו הכל בשבילך. כך שהחלום האוטופי הזה תמיד היה קיים. אבל אני חושב שהתשובה היא, אני חושב שסטיבן בדרך הנכונה עם זה, שהיא הגישה לחינוך צריכה להשתנות לעידן האוטומציה, שהוא שאתה צריך להיות לומד לכל החיים. אתה צריך להיות מסור, בסדר, אני הולך להיות שם בחוץ באמצעות הראש שלי, אני לא הולך למלא את הראש שלי מלא מיומנויות עד גיל 18 ואז לצאת ולעבוד את שארית חיי באמצעות מה שלמדתי לפני שהייתי מבוגר, אתה הולך להיות כל הזמן ללמוד דברים חדשים, ולבלוע דרכי עבודה חדשות, וטכנולוגיות חדשות, ולהיות מחויבים לחלוטין לחשיבה ברמה הרעיונית ולעשות את הדברים שהמכונות לא יכולות לעשות.

AF: אנחנו יכולים להמשיך את השיחה הזו במהלך הפסקת הצהריים בת 30 הדקות שלנו. 

ג'יי.ג'יי: ואני גם רוצה לומר, לאלו מכם שלא נמצאים בקלאבהאוס, אנחנו ממשיכים בשיחות מהסוג הזה, גם זו שהייתה לנו קודם וגם זו, וגם זו שאנחנו הולכים לקיים היום אחר הצהריים. אז אנא ראה את אחד מאנשי אגודת האטלס אם אתה לא נמצא בקלאבהאוס כדי להבין איך נוכל להשיג לך הזמנה לזה כי המלומדים שלנו נמצאים שם, והם זורחים. דיוויד וסטיבן פשוט עשו אמש 90 דקות חזקות מאוד על פילוסופיה. אז זה עוד מקום שבו אנחנו יכולים להמשיך את השיחה הזאת.

‍