“כבר בפתח הספר חשבתי לפרוש. כתוב שם: "אם אנחנו הסאפיינסים כל כך נבונים, למה אנחנו כל כך טיפשים?" המשפט החזק הזה די היה בו ולמה להמשיך לקרוא? הטיפשות האנושית הורגת אותי מדי מיום ביומו. זו טיפשות חזקה, שורשית, לעומתית, זוחלת, ארסית ומתפתחת.
אבל המשכתי לקרוא כדי לשמוע מה יש להררי לומר וכיצד הוא מתאר את הטיפשות הארסית הזו. מה שנאמר לעיל היה בעמוד 8 וכבר בעמוד 11 המשיך הררי ואמר: "הנטייה האנושית להמציא דברים רבי-עוצמה שגורמים לתוצאות בלתי צפויות התחילה לא עם המצאת מנוע הקיטור או הבינה המלאכותית, אלא עם המצאת הדת. נביאים ותיאולוגים זימנו שוב ושוב רוחות עוצמתיות שהיו אמורות למלא את העולם באהבה ובשמחה, אבל איכשהו הציפו את העולם בדם". מוזיקה לאזני.
וכך, לאורך כל הספר, הררי מראה כמה הוא פסימי למדי לגבי המצאת הבינה המלאכותית.
החלק הראשון של הספר, המחזיק בדיוק מחצית הספר, עוסק בעיקר בשלושת ספרי הדת, התנ"ך, הברית החדשה והקוראן, שהתוו חיים לאנשים, אך בהיותם רק ספרים שלא פירשו עצמם, אבל צודקים תמיד, נלוו אליהם פרשנים אנושיים שלעיתים צברו כוח הם עצמם או המשתמשים בהם, והתוצאות לא היו תמיד נופת צופים. לעיתים קרובות ההפך. ומכאן הפסימיות השורה גם על החלק השני, המתארת את המצאת הבינה המלאכותית, ובעיקר את האלגוריתם או האלגוריתמים הבסיסיים שבאותה בינה. מכאן ממשיך הררי ומתאר את הגרוע מכל, היכולת של אותה בינה לצאת לדרך עצמאית, להחליט לעצמה. בגלל שמחשבי העולם מקושרים בינם לבין עצמם איכשהו, הררי רואה סכנה עצומה באותם מחשבים והאלגוריתם המשרת אותם למין האנושי. הרי מדובר בבוטים הצצים כשהם מתבקשים ולעיתים כשאינם מתבקשים. אסימוב, סופר המד"ב הנודע, התייחס לסכנה כשהם עוד נקראו רובוטים ונתן בהם שלושה חוקים:
• לא יפגע רובוט לרעה בבן אדם; ולא יניח, במחדל, שאדם ייפגע
• רובוט חייב לציית לפקודותיו של אדם, ובלבד שפקודות אלו אינן עומדות בסתירה לחוק הראשון
• רובוט חייב להגן על קיומו, ובלבד שהגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.
אם כך, מה הסכנות? הררי מפרט את הסכנות והוא פסימי בגלל ששגיאות הרשת נובעות מהשגיאות האנושיות שגרמו לכתיבת אלגוריתם שהתנהגותו רצויה, אבל תוצאותיו בלתי צפויות. פתאום מחשבים התחילו לטעות כבני אדם וטעויותיהם עצומות והרות אסון בשל עוצמתם. דוגמה לכך ניתן לראות בסרט "2001: אודיסאה בחלל", כשמחשבים יצאו מכלל שליטה בחללית וכשהאסטרונאוטים מבקשים לנתק את החשמל למחשב, הלה מתחיל בסדרת תחינות למנוע ניתוק זה.
החלק הראשון בספר, זה העוסק בספרי הדת, בלוחות החמר ששימשו את הרומאים להכנסת סדר באימפריה ומאוחר יותר בהמצאת הכתב והפצת המידע דרכו, מידע וידע, די משעמם. התאוצה נצברת בחלק השני. הררי מתאר את היציאה משליטה כמעט של הבינה המלאכותית, כשלראשונה היא מגלה סימני עצמאות ויכולות כאלה, שיקשו על האדם להגבילם. הררי מספר על הניצחון הראשון של המחשב במשחק GO, ניצחון שהדהים את המכירים את המשחק המורכב והקשה הזה.
המהפכה התעשייתית היתה הסימן הבולט לקידמה האנושית, אבל גם לאזהרה מפני יכולות בולטות של המכונות והשארת האדם ללא מעש ומכאן ללא פרנסה. היכן הראייה האופטימית? האם לא נוכל להותיר את המלאכות הקשות לרובוטיקה ולבינה המלאכותית ולתת לאנשים יותר זמן לעצמם וליכולות האנושיות שמחשבים לא אמורים לפעול בהם?
נדמה לי, ואני לא אומר זאת בגנות הספר ובגנות הררי מחברו, הרי מחשבות רבות עורר הספר, שהתקצרות התקופות בין קידמה לקידמה היא זו המעוררת בעיות. זמן רב עבר מאז התחלת גידולי החיטה, נניח, עד הופעת המהפכה התעשייתית. דורות עברו ולאנושות ניתן זמן להסתגל, לאחר המהפכה התעשייתית הדברים הואצו מאוד וזה כבר היווה בעיה. בעידן המחשב, מאז ניצחון המחשב במשחק ה-GO ב-2016, אנחנו ב-2024 ונראה שהמחשב והבינה המלאכותית נמצאים בכל מקום ובכל תחום. הררי נחרד ממיליוני הבוטים הלא אנושיים, הקמים לומר דברים נבונים בוויכוחים פוליטיים ואחרים, ואני אומר, סוף סוף קם מישהו לומר דבר חכם, הלאה בני האדם...
לא אלאה אתכם עוד, אבל חייב להזכיר את הסיפור החביב הבא:
טכנאי נשלח לחבר את החיבור האחרון למחשב של 92 מיליארד הכוכבים הממוחשבים בחלל. ניתנה לו הזכות לשאול את המחשב שאלה ראשונה. הטכנאי מחבר, מדליק ושואל: האם יש אלוהים? המחשב עונה: עכשיו יש. הטכנאי נבהל, מנסה לכבות את המחשב, אבל חוטף מכת חשמל ומת.
ועוד נדנוד: מה זה אלגוריתם, לכל הרוחות?”

“ספר מרתק וחשוב מאין-כמוהו. מסביר בלשון רהוטה נושאים מורכבים שעשויה/עלולה להיות להם השפעה מכרעת על עתיד האנושות. המוטו המרכזי של הספר שסביבו הוא נטווה, הן רשתות המידע – מהעת העתיקה ועד ימינו אלה. היעד הסופי של הספר הוא לעמוד על טיבה של רשת המידע המשוכללת ביותר אשר הולכת לקום בתולדות האנושות ושבמרכזה הבינה המלאכותית. כל רשת מידע שהאדם הקים מהעת העתיקה פתחה אפשרויות חדשות בפני האנושות אשר בתורן הביאו למהפכה כלשהי ששינתה את מהלך ההיסטוריה. מהבחינה הזו רשת המידע שתוקם סביב הבינה המלאכותית לא תהיה חריגה. אבל החריגות של רשת מידע זו תהיה בכך שבפעם הראשונה בתולדות רשתות המידע שהאדם הקים, האלמנטים שמרכיבים את רשת המידע הזו (שהן הבינות המלאכותיות) יהיו מסוגלים ללמוד ולקבל עצמאית החלטות ללא התערבותו של האדם, גם אם האלמנטים הללו (הבינות המלאכותיות) הם חסרי תודעה לחלוטין. בניגוד לכל רשתות המידע עד לשלב הזה שהאלמנטים שלהן היוו רק מרכיבים פסיביים ברשת המידע שלהם ושלא יכלו לשנות לבדם על דעת עצמם את הרשת שהם מרכיבים, ברשת המידע של הבינות המלאכותיות, האלמנטים המרכיבים אותן כבר יהיו מסוגלים לשנות עצמאית (בגלל היכולת שהוחדרה להם על-ידי בני-האדם) את הרשת עצמה ואת פעולתה מבלי שבני-אדם יהיו מסוגלים תמיד לעקוב אחר השינויים הללו ושאף לא להבינם.

מטרת הספר היא מצד אחד להצביע על האפשרויות המדהימות אשר נפתחות ועוד ייפתחו בפנינו כתוצאה מהשימוש בבינה מלאכותית, אבל מהצד השני, המטרה העוד יותר חשובה של הספר היא להתריע מפני הסכנות הכבירות הגלומות ברשתות מידע מבוססות בינות-מלאכותיות שאין עליהן פיקוח הולם והדוק של בני-אנוש עם כוונות טובות. הספר גם מציע דרכים כיצד להימנע או לצמצם את התרחשותם של תרחישים מסוכנים שכאלה. כבר בתחילת הספר המחבר ניגש למלאכה זו באמצעות התקפה ישירה על ההנחה הפופוליסטית המקובלת על מרבית הציבור ומנהיגיו ושהוא מכנה אותה “התפיסה הנאיבית של המידע”. לדבריו, על-פי תפיסה שגויה זו, "מידע בכמות מספקת מוביל בהכרח לאמת". ושמתן אפשרות בלתי מוגבלת לזרימת מידע חופשית וללא פיקוח בחברה של אנשים, מובילה כביכול בסופו של דבר תמיד לניצחון האמת על הבדייה. לאורך כל הספר, המחבר מתריע חזור ושנה מפני הסכנות שבהנחות השגויות הללו תוך מתן שפע של דוגמאות מההיסטוריה.

היתרון הגדול של הספר הוא שהמחבר הוא היסטוריון שנותן במבט רחב את ההיבט ההיסטורי של כל אחת מרשתות המידע שהאדם הקים מהעת העתיקה ועד היום ואת ההיבט ההיסטורי של המהפכה האופיינית לה שכל רשת כזו הביאה בסופו של דבר. על-כן הוא מסוגל למקם את רשתות המידע השונות בתולדות האנושות ואת המהפכות שהן הביאו על איזה שהוא ציר היסטורי משותף ולתת בהן סימנים המאחדים והמבדילים ביניהן על הרצף ההיסטורי.”