ביקורת ספרותית על נקסוס - קיצור תולדות המידע מתקופת האבן לבינה המלאכותית מאת יובל נח הררי
ספר מעולה

---

כבר בפתח הספר חשבתי לפרוש. כתוב שם: "אם אנחנו הסאפיינסים כל כך נבונים, למה אנחנו כל כך טיפשים?" המשפט החזק הזה די היה בו ולמה להמשיך לקרוא? הטיפשות האנושית הורגת אותי מדי מיום ביומו. זו טיפשות חזקה, שורשית, לעומתית, זוחלת, ארסית ומתפתחת.
אבל המשכתי לקרוא כדי לשמוע מה יש להררי לומר וכיצד הוא מתאר את הטיפשות הארסית הזו. מה שנאמר לעיל היה בעמוד 8 וכבר בעמוד 11 המשיך הררי ואמר: "הנטייה האנושית להמציא דברים רבי-עוצמה שגורמים לתוצאות בלתי צפויות התחילה לא עם המצאת מנוע הקיטור או הבינה המלאכותית, אלא עם המצאת הדת. נביאים ותיאולוגים זימנו שוב ושוב רוחות עוצמתיות שהיו אמורות למלא את העולם באהבה ובשמחה, אבל איכשהו הציפו את העולם בדם". מוזיקה לאזני.
וכך, לאורך כל הספר, הררי מראה כמה הוא פסימי למדי לגבי המצאת הבינה המלאכותית.
החלק הראשון של הספר, המחזיק בדיוק מחצית הספר, עוסק בעיקר בשלושת ספרי הדת, התנ"ך, הברית החדשה והקוראן, שהתוו חיים לאנשים, אך בהיותם רק ספרים שלא פירשו עצמם, אבל צודקים תמיד, נלוו אליהם פרשנים אנושיים שלעיתים צברו כוח הם עצמם או המשתמשים בהם, והתוצאות לא היו תמיד נופת צופים. לעיתים קרובות ההפך. ומכאן הפסימיות השורה גם על החלק השני, המתארת את המצאת הבינה המלאכותית, ובעיקר את האלגוריתם או האלגוריתמים הבסיסיים שבאותה בינה. מכאן ממשיך הררי ומתאר את הגרוע מכל, היכולת של אותה בינה לצאת לדרך עצמאית, להחליט לעצמה. בגלל שמחשבי העולם מקושרים בינם לבין עצמם איכשהו, הררי רואה סכנה עצומה באותם מחשבים והאלגוריתם המשרת אותם למין האנושי. הרי מדובר בבוטים הצצים כשהם מתבקשים ולעיתים כשאינם מתבקשים. אסימוב, סופר המד"ב הנודע, התייחס לסכנה כשהם עוד נקראו רובוטים ונתן בהם שלושה חוקים:
• לא יפגע רובוט לרעה בבן אדם; ולא יניח, במחדל, שאדם ייפגע
• רובוט חייב לציית לפקודותיו של אדם, ובלבד שפקודות אלו אינן עומדות בסתירה לחוק הראשון
• רובוט חייב להגן על קיומו, ובלבד שהגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.
אם כך, מה הסכנות? הררי מפרט את הסכנות והוא פסימי בגלל ששגיאות הרשת נובעות מהשגיאות האנושיות שגרמו לכתיבת אלגוריתם שהתנהגותו רצויה, אבל תוצאותיו בלתי צפויות. פתאום מחשבים התחילו לטעות כבני אדם וטעויותיהם עצומות והרות אסון בשל עוצמתם. דוגמה לכך ניתן לראות בסרט "2001: אודיסאה בחלל", כשמחשבים יצאו מכלל שליטה בחללית וכשהאסטרונאוטים מבקשים לנתק את החשמל למחשב, הלה מתחיל בסדרת תחינות למנוע ניתוק זה.
החלק הראשון בספר, זה העוסק בספרי הדת, בלוחות החמר ששימשו את הרומאים להכנסת סדר באימפריה ומאוחר יותר בהמצאת הכתב והפצת המידע דרכו, מידע וידע, די משעמם. התאוצה נצברת בחלק השני. הררי מתאר את היציאה משליטה כמעט של הבינה המלאכותית, כשלראשונה היא מגלה סימני עצמאות ויכולות כאלה, שיקשו על האדם להגבילם. הררי מספר על הניצחון הראשון של המחשב במשחק GO, ניצחון שהדהים את המכירים את המשחק המורכב והקשה הזה.
המהפכה התעשייתית היתה הסימן הבולט לקידמה האנושית, אבל גם לאזהרה מפני יכולות בולטות של המכונות והשארת האדם ללא מעש ומכאן ללא פרנסה. היכן הראייה האופטימית? האם לא נוכל להותיר את המלאכות הקשות לרובוטיקה ולבינה המלאכותית ולתת לאנשים יותר זמן לעצמם וליכולות האנושיות שמחשבים לא אמורים לפעול בהם?
נדמה לי, ואני לא אומר זאת בגנות הספר ובגנות הררי מחברו, הרי מחשבות רבות עורר הספר, שהתקצרות התקופות בין קידמה לקידמה היא זו המעוררת בעיות. זמן רב עבר מאז התחלת גידולי החיטה, נניח, עד הופעת המהפכה התעשייתית. דורות עברו ולאנושות ניתן זמן להסתגל, לאחר המהפכה התעשייתית הדברים הואצו מאוד וזה כבר היווה בעיה. בעידן המחשב, מאז ניצחון המחשב במשחק ה-GO ב-2016, אנחנו ב-2024 ונראה שהמחשב והבינה המלאכותית נמצאים בכל מקום ובכל תחום. הררי נחרד ממיליוני הבוטים הלא אנושיים, הקמים לומר דברים נבונים בוויכוחים פוליטיים ואחרים, ואני אומר, סוף סוף קם מישהו לומר דבר חכם, הלאה בני האדם...
לא אלאה אתכם עוד, אבל חייב להזכיר את הסיפור החביב הבא:
טכנאי נשלח לחבר את החיבור האחרון למחשב של 92 מיליארד הכוכבים הממוחשבים בחלל. ניתנה לו הזכות לשאול את המחשב שאלה ראשונה. הטכנאי מחבר, מדליק ושואל: האם יש אלוהים? המחשב עונה: עכשיו יש. הטכנאי נבהל, מנסה לכבות את המחשב, אבל חוטף מכת חשמל ומת.
ועוד נדנוד: מה זה אלגוריתם, לכל הרוחות?

» ביקורות נוספות של מורי
» ביקורות נוספות על נקסוס - קיצור תולדות המידע מתקופת האבן לבינה המלאכותית