“תדמיינו עולם בו מדינה (נגיד סין) מפתחת טכנולוגיה שיודעת לבחור את המניות הנכונות לסחור בהן (יותר טוב מכל אנליסט/אלגוריתם). המדינה הזו תמוטט את הכלכלה ותשלוט בכולם. אני לא יודע איך לומר לכם, אבל העולם הזה לא רחוק, למען האמת, הוא קרב ובא.
התרחיש שהצגתי, נועד רק להדגים כיצד הבינה המלאכותית שנכנסה לחיינו, הינה טכנולוגיה מהפכנית, כזו שעתידה לעצב את פני האנושות, לטוב או לרע.
בדיוק בנושא הזה, עוסק הספר של מקס טומרק.
טומרק הינו פיסיקאי וקוסמולוג שוודי-אמריקאי שנמצא בלב המחקר אודות בינה מלאכותית. מדובר במדען שמעורה בעשייה בתחום ומהווה חלק מהקהילה המדעית. אישית, אני מעדיף להקשיב לדבריו (גם הסובייקטיביים) מאשר לדבריהם של העתידנים השונים.
לפני שנתחיל, חשוב שנעשה הבחנה בין בינה מלאכותית (AI) לבין בינה מלאכותית על-אנושית (AGI).
בשני המקרים מדובר במכונות שמחקות בני-אדם מבחינת ביצוע משימות ולמידה. הראשונה (AI) כבר קיימת ומשפיעה על חיינו, בעוד השנייה (AGI) עודנה בתכנון.
AI פועלת בתחום עיסוק צר, כגון סיוע וירטואלי (סירי) או התאמה אישית (נטפליקס/פייסבוק). תוצאותיה ידועות מראש - מאחר שאנחנו אלה שמכניסים את כלל המידע שעל פיו היא פועלת.
AGI לעומת זאת, מסוגלת לבצע כל משימה לפחות ברמה האנושית. יכולת הלימוד העצמי שלה (Deep learning), מאפשרת ביצוע מגוון רחב של משימות במקביל, באופן יעיל ומהיר יותר מבני-אדם. המידע שמוכנס אליה, זהה למידע שמוכנס לAI, אולם המידע הכולל שונה (מאחר שהיא משיגה מידע גם בכוחות עצמה). AGI אם כך, נבדלת בזה שלא ניתן לחזות את תוצאותיה ולעיתים כלל להבינן. מדובר במכונה בעלת אינטליגנציה על-אנושית. יכולת הלימוד העצמי שלה מקנה לה חופש יצירתי באמצעותו היא פותרת משימות בדרכים שעולות על דמיוננו. למשל, ייצור מספר AGI משניים, שיעזרו לה להגשים מטרות שאנו כלל לא מודעים לטיבן.
לו הייתי צריך להמליץ על פרק בודד בספר, הייתי ממליץ על פרק שלוש. הפרק עוסק בהשתלבות של בינה מלאכותית בחיינו, כיום ובעתיד הקרוב, במספר רב של תחומים. להלן פירוט קצר –
כלכלה – כבר היום, הטכנולוגיה מאפשרת כלכלה גלובלית ושיתוף עולמי של משאבים ועסקים. שוק ההון שמנוהל כרגע על-ידי אנשים בשת"פ עם אלגוריתמים שונים, צפוי בעתיד הקרוב להיות מנוהל אך ורק על-ידי בינה מלאכותית, זאת תוך מקסום הרווח האפשרי.
ייצור – תעשיות רבות מתבססות על מכונות בימינו. עם שדרוג ההדפסה התלת-ממדית ומכונות הענק השונות, נוכל לייצר ביעילות, דיוק וחסכון כמעט כל דבר. החל מרקמות אנושיות, עבור בחפצים מעוצבים אישית וכלה במכוניות ומטוסי ענק.
תחבורה – הרכבים האוטונומיים כבר ממש מעבר לפינה. מלבד החיסכון בזמן וכסף, הפוטנציאל האמיתי שלהם טמון בהצלת חיי אדם. מעל מיליון וחצי בני אדם מתים מדי שנה בתאונות דרכים (של מכוניות בלבד). ההערכה האופטימית, היא שהרכבים האוטונומיים יוכלו למנוע מעל תשעים אחוז מהמקרים הנ"ל. אופציה לא פחות מסקרנת, היא שהאוטונומיזציה תאפשר לא רק חיסכון, אלא גם רווח - בזמן שלא נשתמש במכוניות האוטונומיות, הן יוכלו לשמש נוסעים אחרים ובכך להתחרות בחברות ענק כמו Uber או Get.
אנרגיה – באמצעות הטכנולוגיה היום, האנרגיה מיוצרת ומסופקת ביעילות ובבטחה לצרכנים השונים (תוך שימוש באלגוריתמים מורכבים). בעתיד, אנו צפויים לראות מקסום של החיסכון באנרגיה, כאשר זו תסופק על פי הצריכה האישית של משק בית מסוים, לחילופין של מפעל.
בריאות – ניהול תיקים אישיים באופן דיגיטלי מאפשר כבר היום דיאגנוזה מהירה יותר למטופל, כמו גם שיתוף פעולה עם רופאים מחו"ל. טיפול בתוצאות בדיקות כמו MRI וCT עתיד לעבור מידי הרופאים, לידי בינה מלאכותית בעלת יכולת פענוח מהירה ומדויקת יותר. לו יצליחו המכונות (AGI) לגלות את הקשר בין הגנים, המחלות ודרכי הטיפול, אנו צפויים לחזות במהפכה אדירה - רפואה מותאמת אישית אפקטיבית עבור בני האדם, חיסון חיות המשק ושיפור בעמידות התבואה. כמו כן, שימוש נרחב עוד יותר ברובוטים בכירורגיה, הפועלים בדיוק רב על מנת להשלים את הניתוח תוך מניעת חתכים עמוקים, ישפיע על מידת הסבל של המטופל וזמן ההחלמה.
תקשורת – בזכות האינטרנט והמכשירים השונים, מיליארדי אנשים יכולים לתקשר, לסחור, לבלות ולהתעדכן כיום בכל פרט מידע שקיים, לרוב בחינם. בעתיד אנו צפויים ליהנות מהיצע רחב יותר של יישומים ומתקשורת שתמחה זכר למרחק – שיחה באמצעות הולוגרמות או VR (מציאות מדומה).
חוק – מאחר שרוב המידע המשפטי (עדויות, ראיות וחוקים) הינו מידע שניתן להכניס למחשב ולקבל תוצאה (קרי, גזר דין), חוקרים מסוימים מפנטזים על עולם בו מערכת המשפט אינה תהיה תלויה באדם בעל כושר לטעות, להיות מוטה או לא מעודכן, אלא במערכת בינה מלאכותית אובייקטיבית ויעילה. בזכות שופטים רובוטיים, נוכל לראשונה בהיסטוריה לוודא שמשפט אכן התקיים ללא הבדל של דת, גזע ומין. כושר העיבוד המהיר של המכונה לעומת האדם, יאפשר להימנע מהסחבת המשפטית הנלוזה, כמו גם לחסוך את החלוקה לתחומי משפט (כי המכונה לעומת לאדם, פחות מוגבלת בקיבול המידע).
נשק – מכונות מלחמה חסרות פחד ומחודדות חושים, יכולות להחליף את החיילים בשדה הקרב, ובכך להפחית משמעותית את מספר ההרוגים (גם באוכלוסייה האזרחית – כתוצאה מטעויות אנוש). שימוש ביכולות סייבר מתקדמות יאפשר השבתה מוחלטת של מדינה (דוגמית קטנה ראינו בפלישה הרוסית לגיאורגיה). פירוט אודות הסכנה באוטומטיזציה של הנשק בהמשך.
כמובן שאף אחת מהטכנולוגיות לעיל לא חפה מטעויות, מגרעות ופגיעה בחיי אנוש. לכן, בין היתר, הפרק שם דגש על האופן בו עלינו למקסם את הבטיחות, לוודא יעילות ולדאוג לאבטחה.
בתחילת הפרק מתוארות חלק מפרצות הדרך של השנים האחרונות.
מדובר בפרק מעשיר לטעמי וחשוב לכל אדם.
כאשר חלה המהפכה התעשייתית, אנשים רבים איבדו את מקור פרנסתם. עם זאת, מקומות עבודה חדשים הופיעו והחליפו אותם. תופעה דומה, עתידה להתרחש עם השתלבות הבינה המלאכותית. אם אתם אדם צעיר לפני האוניברסיטה או הורים לילד, על אילו מקצועות הייתם ממליצים ומאילו הייתם נמנעים?
התשובה הנבונה תהיה לבחור במקצועות שמכונות לעת עתה אינן טובות בהן, מקצועות שכוללים יצירתיות, אינטראקציה עם אנשים וסביבה משתנה. דוגמאות למקצועות כאלו – מורים, אחיות, רופאים, מדענים, יזמים, מתכנתים, מהנדסים, פסיכולוגים, עובדים סוציאליים, אמנים ואנשי דת. לעומת זאת, מקצועות שכוללים פעולות חוזרות ומובנות בסביבה דומה, אינם צפויים להחזיק מעמד כנגד הקדמה. דוגמאות למקצועות כאלו – עובדי מחסן, קופאים, מזכירות, נהגי משאיות, אוטובוסים ומוניות, נציגים טלפונים, עוזרים משפטיים, יועצי בנק ורואי חשבון.
אנשים מגדירים את עצמם, בין היתר על-ידי עיסוקם. כיום המכונות שולטות על ענפי החקלאות והמלאכה. אולם איני מרגיש שנגזלה ממני משרת חיי. על אף שלעולם אין לדעת, אולי דווקא בתחומים הללו הייתי מגלה איזה כישרון נסתר. אולי בעצם ככל שהמכונות חולשות על יותר תחומים, כך אנו נאלצים לחפש את כישרוננו בתחום הרבה יותר צר.
אחת המטרות המרכזיות של AGI היא לגאול אותנו מעבודה. חיי נוחות ומותרות אמורים לשחרר אותנו למצוא משמעות ואושר, אולם האם זה יתממש? אני בספק, לדעתי נטה יותר לכיוון דכדוך ואנרכיה.
בקרב הקהילה המדעית מעריכים כי עד שנת 2055, האנושות תצליח לייצר בינה מלאכותית על-אנושית (AGI). עם זאת, מדובר בהערכה משוקללת. קיימים חוקרים רבים שלטעמם ההישג רחוק במאות שנים, אם בכלל.
אולם אם נעמוד ביעד (לא משנה מתי), התוצאה עלולה להיות פיצוץ תבונתי, כזה שישאיר את המין האנושי מאחור.
השאלה הגדולה היא כיצד יתפתחו פני הדברים. לו קבוצת אנשים ספציפית (קרי מדינה/ממשלה), תגיע ראשונה להישג, היא עלולה להשתלט על העולם (כמו בפתיח). אולם אם התהליך יהיה הדרגתי ויכלול מספר מדינות מתחרות (כפי שקורה עכשיו), העולם צפוי להיות יותר מאוזן.
המרוץ עבור בינה מלאכותית עם אינטליגנציה על-אנושית (AGI) יכול להוביל למגוון תרחישים מרתקים. טגמרק מפרט אודות חלק מהם, מונה את היתרונות והחסרונות, וגם מאפשר לעצמו חופש יצירתי כשל סופר מד"ב. חלק מהתרחישים הם פרי מוחם של הקהילה המדעית, וחלק פרי מוחם של אמנים (סופרים, תסריטאים וכו'). ייאמר לזכותו, שבכל תרחיש שאינו פרי עטו, טמרק נותן קרדיט להוגה ומפנה לקריאה נוספת.
התרחיש שאני הכי התחברתי אליו (על אף חסרונותיו), הוא Beneficial God.
מקס מדגיש שאין ערובה שאפילו תרחיש אחד מהמצוינים יתרחש. למעשה אין באפשרותנו לחזות כיצד בינה מלאכותית על-אנושית (AGI) תפעל, ועל פי איזה רציונל (גם אם אנחנו בנינו אותה – מאחר שמדובר בישות חכמה מאיתנו). התרחישים נועדו על מנת להעמיק את השיח כדי שבבוא היום, נדע איזה עתיד אנו רוצים כחברה.
אין מנוס ממלחמת חימוש של נשקים אוטונומיים. לאחר אבקת השריפה והנשק הגרעיני, הנשקים האוטונומיים הם השלב הבא. אם יגיעו לכדי ייצור המוני, הם עלולים לזלוג לשוק השחור, ובכך לשמש גם דיקטטורים, טרוריסטים ואזרחים פשוטים. רחפן למשל יוכל לשמש את האזרח לנקמה בגרושתו, את הטרוריסט לחיסול ממוקד ואת הדיקטטור לחיסול קבוצה אתנית. כל שעליהם לעשות הוא לעלות תמונה של היעד, והרחפן כבר יזהה את המטרה, יחסל אותה וישמיד את עצמו (לטובת העלמת ראיות). ככל שהנשקים יהפכו חכמים יותר, כך הסכנה בהם גדלה. לכן, פועל טומרק להעלאת המודעות כלפיהם, גם בקרב הציבור וגם בקרב הקהילה המדעית.
כדי להעשיר את אוצר המילים שלי, אני נוטה לקרוא ספרים באנגלית בצמוד למילון (במקרה הזה - Goggle translate). אולם הרמה של האנגלית בספר סבירה לחלוטין, ואפשר להבינו גם מבלי לחפש כל מילה.
אם בחרתם להתחיל מפרק 3, אני ממליץ לקרוא את המסקנות בסוף כל פרק שהיה לפניו ולעיין ברשימת המושגים הבסיסיים בעמוד 46 (כדי להימנע מקונספציות מוטעות).
הפרקים האחרונים בספר (6-8) מאוד ספקולטיביים, ואינם מתאימים לכל אחד, לכן לטעמי אינם חובה. עם זאת, אציין שמצאתי עניין רב במשאבי אנרגיה הנוכחיים והעתידיים שלנו, עד כדי כך, שהרחבתי את אופקיי בתחום פיסיקת החלקיקים ותורת הכוחות.
בשורה התחתונה, תקראו את פרקים 3-5, אתם לא תצטערו.
מי שמעוניין, אני יכול לשלוח לו את הספר במייל (בקובץ PDF). לחילופין, הוא זמין בחיפוש פשוט בגוגל.
אם הספר ארוך מדי לטעמכם (כמעט כמו הביקורת), אני מפציר בכם לראות את הסרטון שבהשראתו הגעתי אליו. מדובר בדיבייט השנתי על שם אייזק אסימוב בהשתתפותו של טגמרק.
הנאה אינטלקטואלית מובטחת! https://www.youtube.com/watch?v=gb4SshJ5WOY
מומלץ.”
