פתח דבר:
מי צריך סובייקטיביות?
בשנים האחרונות, כמעט בלי שהבחנו בכך, נהפכו אלגוריתמים לבני לוויה קרובים שלנו. הם ארוגים במדיה הדיגיטלית המשמשת אותנו — מאתרי היכרויות ועד יישומוני ניווט — ומעורבים כמעט בכל תחום מתחומי החיים. אנשים משתמשים במדיה דיגיטלית ומייצרים נתונים רבים מספור, ואלגוריתמים מעבדים את הנתונים הללו לכדי ידע על המשתמשים, בעיקר מתוך כוונה לספק להם תוכן אישי מותאם לאופיים, לטעמם ולמאווייהם. הידע האלגוריתמי הזה, מצדו, מעצב את האופן שבו אנו חווים את הסביבה הדיגיטלית, תופסים את העולם וחושבים על עצמנו.
בלבו של ספר זה ניצבת טענה כפולה. ראשית, הוא טוען כי אלגוריתמים מייצרים דרך חדשה לדעת, אשר משנה את חוויית העצמי ואת תפיסת הסובייקטיביות שלנו. הספר מראה כיצד אלגוריתמים, בבחינת מכשירים אפיסטמיים, מדריכים את ההחלטות, ההעדפות, הטעמים והפעולות של משתמשים ומשנים את עצם הבנתם לגבי מי שהם, קרי את תחושתם לגבי העצמי שלהם. שנית, בעשותם כן, אלגוריתמים חותרים תחת רכיב מפתח בסובייקטיביות המודרנית: ההשתתפות של העצמי ביצירת ידע על העצמי, יכולתו של העצמי לגייס התבוננות עצמית וידע ביקורתי ולהרחיב את תחום החופש שלו.
התהוות הסובייקטיביות היא מאורע היסטורי. היא קשורה בצמיחת המודרניות והנאורות ובצורות הידיעה החדשות שאלה הביאו עמן. סובייקטיביות — המוגדרת כאן כמרחב כמו־טרנסצנדנטלי (כלומר אוטופי וממשי בעת ובעונה אחת) של חירות ואותנטיות של בני אדם — מותנית בגישה של העצמי לידע ביקורתי על העולם, על המציאות החברתית, וחשוב מכול על עצמו. עם התקדמות המדעים והמחשבה ההומניסטית, שתפסו בהדרגה את מקומן של קוסמולוגיות תיאולוגיות, בני אדם (כפרטים וכקולקטיב) נטלו חלק גדול יותר ביצירת ידע זה. ובעת שיצרו את הידע על עצמם, הם גם יצרו מרחב של חופש שאִפשר להם ביטוי אותנטי: "זה מה שאני חושב, אוהב או רוצה".
מכשירים אלגוריתמיים של קבלת החלטות שינו לא רק את האופן שבו ידע מיוצר, אלא אף את ההגדרה של "ידע תקף". בשני העשורים האחרונים, עם התרחבות השימוש במדיה דיגיטלית, אלגוריתמים תופסים מקום מרכזי יותר ביצירת ידע על מה שאנשים חושבים, אוהבים או רוצים. ידע זה נארג לתוך חיי היומיום ומתווה את התפיסות ואת הפעולות של האנשים. פירוש הדבר הוא שאלגוריתמים דוחקים את רגליה של הסובייקטיביות כסוכנת של יצירת ידע זה וחותרים תחת הפרויקט ההומניסטי של עצמי המסוגל לנסח ולהביע את מחשבותיו ורצונותיו.
ידע אלגוריתמי חותר תחת גורם מרכזי בהבניה של סובייקטיביות — ההתבוננות העצמית, קרי המעורבות הפעילה של העצמי בניסיון להבין את העצמי ולייצר ידע עליו. מעורבות העצמי בייצור ידע על העצמי היא המאפשרת יצירה של ידע ביקורתי במובן שדיבר עליו עמנואל קאנט, ידע המרחיב את תחום החופש של העצמי. אלגוריתמים, באשר הם עוקפים את המעורבות של העצמי ביצירת ידע, משנים את מהות הסובייקטיביות. החקירה האמפירית והתיאורטית של תמורה זו עומדת במוקד ספר זה. לפיכך ינותחו כאן המאפיינים הייחודיים של ידע אלגוריתמי ויחודדו ההבדלים בינו לבין הידע הביקורתי שצמח עם המודרניות.
ניתוח התפקיד שאלגוריתמים ממלאים בכינון ידע בעת הנוכחית גם מזמֵּן דיון בהשלכות הפוליטיות של צמיחת האלגוריתמים ושל חתירתם תחת הסובייקטיביות. ידע ביקורתי וצמיחתה של סובייקטיביות בוגרת ומלאה הם פרויקט פוליטי, פנטזיה — אולי הפנטזיה בהא הידיעה — של הנאורות. עצם השאיפה האנושית לסובייקטיביות בוגרת ומלאה, גם אם אינה באה לידי מימוש מלא, נושאת בחובה משמעויות חברתיות, תרבותיות ופוליטיות עמוקות. מאחר שידע ביקורתי מותנה בסובייקט המכיר את עצמו, סובייקטיביות הניחה מניה וביה גם סוכנות פוליטית ונתנה לה לגיטימציה. וכך, סובייקט, אדם "בוגר", כמימרתו המפורסמת של קאנט, יכול היה להוציא אל הפועל את הרצון החופשי שלו.
סובייקטיביות, חרף היותה מהות מדומיינת ולא מציאות נתונה, עומדת ביסוד מרבית המוסדות המרכזיים של המודרניות. בתחום הפוליטי, הסובייקט הוא אשר בוחר את נציגיו הפועלים למען האינטרסים שלו; בשוק החופשי, הסובייקט הוא שבוחר אילו מוצרים לרכוש ועל אילו חוזים לחתום; בתחומי המדע והדעת, הסובייקט הוא זה שבכוחו לייצר ידע אובייקטיבי ולהוציא אל הפועל שיפוט אסתטי אותנטי; בתחומי החוק, הסובייקט הוא שנושא באחריות משפטית לפעולותיו; אפילו בתחום הפרטי של יחסים בין־אישיים, הסובייקט הוא שבוחר עם מי להתחתן, או אם להתחתן כלל. סובייקטיביות, אם תרצו, היא מאבני הראשה של המודרניות. ואת יסודות הסובייקטיביות מערערים כעת אלגוריתמים.
ספר זה הוא דין וחשבון על האופן שבו אלגוריתמים מתפקדים כמכשירים של ידע — על סוג הידע החדש שהם מייצרים, על האופן שבו הידע הזה נתפס בחברה, ועל השלכותיו החברתיות. במרכז הדין וחשבון הזה ניצבת שאלת המפתח של הזיקה בין אלגוריתמים, ידע ועצמי: מהי המשמעות של ידע ללא סובייקטים, ידע המייתר את הסובייקט? חמשת פרקי הספר, החוצים מרחבים חברתיים שונים ומביאים מקרי־בוחן מגוונים, מבקשים לבחון את הידע החדש על העולם שמערכות אלגוריתמיות מקדמות, ושואלים כיצד ידע אלגוריתמי על אובייקטים, פרקטיקות ורעיונות משַׁנֶּה את האופן שבו הם מוגדרים, את משמעותם ואת השלכותיהם.
פרקי הספר מבקשים לענות על שתי שאלות מרכזיות הנוגעות לאלגוריתמים. ראשית, מה מאפיין את הידע שאלגוריתמים מייצרים? כיצד הררי נתונים המיוצרים בעת השימוש בפלטפורמות דיגיטליות מתורגמים לידע על משתמשים? במה אפיסטמולוגיה אלגוריתמית שונה מאפיסטמולוגיות ותיקות ומבוססות ממנה? ושנית, כיצד ידע אלגוריתמי משנה את התרבות, את הפוליטיקה, את החברה ואת העצמי שלנו? או מוטב, כיצד הוא משנה את עצם הבנתנו מהי תרבות, מהי חברה, מהי פוליטיקה, ומה המשמעות של להיות אדם?
בספר זה אני מבקש ללכת מעבר לנוסחה המוכֶּרת לעייפה של "מכונות נגד בני אדם", ולהציע תשובה מעודנת יותר. ידע אלגוריתמי, אני טוען, שואף להתחרות בהיבט אנושי מסוים — הוא הסובייקטיביות — להתעלות עליו, ולמעשה לעקוף אותו. הוא מבקש לדחוק ולבטל התבוננות עצמית, שיפוט, רציונליות תקשורתית וידע ביקורתי. סביבה אלגוריתמית אינה מדירה בני אדם, אלא היא מסלקת את יכולותיהם הביקורתיות מתהליכים של קבלת החלטות — הן במישור הפרטי הן במישור החברתי. עם מגמה זו, הטומנת בחובה משמעות פוליטית, מבקש הספר להתמודד.
פרק ראשון
האם ידע אלגוריתמי יכול
להיות ביקורתי?
דמיינו שאתם מדליקים את הטלוויזיה בערב ומגלים שנטפליקס מציעה לכם סרט התואם בדיוק את מה שממילא היה בכוונתכם לראות. לא זו בלבד שההצעה קולעת היטב לטעמכם בסרטים ולסקרנות הקולנועית החדשה שפיתחתם באחרונה; דומה כי בבחירת הסרט נטפליקס אף מביאה בחשבון את האירועים שעברו עליכם היום ואת מצב הרוח שלכם. אבל אינכם מופתעים במיוחד. אתם זוכרים את ההצהרה של ריד הסטינג, מנכ"ל נטפליקס, ולפיה "בעתיד אנו מקווים להיות טובים כל כך במתן המלצות הצפייה שלנו, שבכל פעם שתִּפתח נטפליקס נוכל להקרין את הסרט או הסדרה הנכונים למצב הרוח שלך ברגע זה".1 אתם גם מודעים למאמצים האדירים וליכולות הטכנולוגיות המושקעים בהשגת ידע פנומנלי כזה בנוגע לטעמכם, רצונותיכם ומצב הרוח שלכם. אתם יודעים שנטפליקס מנטרת את אלפי רסיסי הנתונים שאתם מותירים אחריכם בעת השימוש בפלטפורמה. ייתכן, אתם מניחים, שהיא אף משלימה את מאגר הנתונים שלה בנתונים שאספה ממדיה דיגיטלית אחרת, כגון רשתות חברתיות. נתוני עתק אלה — הנוגעים לכם וליותר מ-200 מיליון משתמשי נטפליקס — מעובדים בזמן אמת בידי אלגוריתמים שיכולים לא רק לדעת מי אתם, מה טעמכם בסרטים וכן הלאה, אלא גם לפענח במידה רבה של הצלחה את רצונותיכם, מאווייכם וצורכיכם ברגע נתון. ייתכן שנטפליקס לא היתה בוחרת להציג לכם קומדיה רומנטית הוליוודית משנות ה-50 לולא ישבתם כעת מול המרקע עם בת או בן זוגכם בערב יום חמישי, מי יודע? אבל האם זה בכלל צריך להטריד אתכם? אחרי הכול, הזיווג מושלם. מושלם, למען האמת, כמו השידוך שהציע אתר ההיכרויות שהפגיש אתכם עם בת או בן זוגכם לפני כחודש בלבד. גם במקרה זה, אתם מניחים, שפע של נתונים עבר עיבוד אלגוריתמי במטרה לסייע לכם למצוא את בחיר או בחירת לבכם.
המכשירים הדיגיטליים שאנו משתמשים בהם — ליתר דיוק, הסביבה הדיגיטלית שאנו מאכלסים — צופנים בחובם הבטחה להיטיב את המצב האנושי ולהרחיב את תחום הנוחות והאושר של האדם. עם צמיחת המודרניות קנתה לה הטכנולוגיה תפקיד שאינו אינסטרומנטלי ומעשי בלבד, אלא הוא גם אידיאולוגי. אידיאולוגיות מודרניסטיות, מן הקוטב השמאלי־פרוגרסיבי ועד לקוטב הימני־שמרני, ראו בטכנולוגיה כלי להשגת מטרות פוליטיות. הטכנולוגיה הבטיחה לסייע במימוש האידיאלים של המודרניות ושל הנאורות כפי שנוסחו במהפכה הצרפתית: חופש, שוויון ואחווה. השקפות פוליטיות נחלקו, מטבע הדברים, בהגדרת האידיאלים הללו, אך הן חלקו הבנה זהה באשר לתועלת שבגיוס הטכנולוגיה למימושם.
בספרי קפיטליזם בעידן התקשורת הדיגיטלית בחנתי את התמורות בשיח הטכנולוגיה לאור צמיחת המדיה הדיגיטלית וחדירתה לכל תחומי החיים במפנה המאה העשרים.2 באופן מיוחד עמדתי על התמורה שהתחוללה באופיה האידיאולוגי של הטכנולוגיה במעבר בין העידן התעשייתי לעידן הדיגיטלי. טכנולוגיות הייצור המכניות והריכוזיות של העידן התעשייתי נתפסו כמי שתובעות הסכם חברתי כולל בין עובדים, בעלי הון והמדינה (הסכם שאפשר לכנותו פורדיסטי, קיינסיאני או סוציאל־דמוקרטי), וכמי שמבטיחות את קיומו של הסכם כזה. כך לדוגמה, הקמת מפעל מכוניות בשיטת הסרט הנע, שהיתה כרוכה בהשקעת הון אדירה, תבעה כוח עבודה עצום, מוכשר ונאמן, דבר שהעניק לעובדים כוח מיקוח רב מול ההון.
טכנולוגיות המידע והתקשורת המבוזרות של העידן הדיגיטלי, לעומת זאת, נתפסות ככאלה התובעות את פירוקו של הסכם זה ואת כינונם של יחסים חברתיים פוסט־פורדיסטיים, או ניאו־ליברליים. בלבו של שיח הטכנולוגיה החדש ניצבים מושגי מפתח חדשים, כגון רשת, ביזור וגמישות, שבהקשרים כלכליים (ובמיוחד בהסדרי העסקה) פתחו פתח רחב לפרקטיקות ניאו־ליברליות. כך לדוגמה, כדי ליהנות מן היתרונות היחסיים של כלכלה רשתית, מפעלים נדרשו להיות "רזים" יותר, להעביר חלקים נרחבים יותר של פעילותם למיקור חוץ ולעבור למודל העסקה גמיש ובלתי־מחייב. עקב כך הפכו העובדים למעשה מעובדים המועסקים באופן יציב במקום עבודה קבוע ומזהים את עצמם עמו לספקים של שירותי עבודה. הספר הנוכחי ממשיך את הקו התיאורטי ששרטטתי בספרי הקודם, אך מפנה את המבט למאפיינים ייחודיים של טכנולוגיה דיגיטלית: יכולתה — ואף נטייתה — לעבד באמצעות אלגוריתמים נתוני משתמשים לכדי ידע יישומי. אני מכנה זאת בקיצור ידע אלגוריתמי, או בפשטות: אלגוריתמים.
במונח אלגוריתמים אני מתייחס למערכת טכנו־חברתית שתכליתה לעבד נתונים לכלל ידע. הגדרה זו היא גם רחבה יותר וגם צרה יותר מהשימוש המקובל במונח. רחבה יותר, משום שכאן אין הכוונה רק לשורות קוד שהופכות קלט נתון לפלט רצוי, אלא למערכת טכנו־חברתית שלמה המורכבת בין השאר מאנשים, מכשירים, פרקטיקות, אתרים וגופי ידע; מערכת הכוללת ייצור ואיסוף בלתי־פוסקים של נתוני עתק באתרים דיגיטליים המנטרים נתוני משתמשים (פלטפורמות), בנייה של מכשירים טכנולוגיים המפענחים נתונים אישיים אלה ומתרגמים אותם לכדי ידע (אלגוריתמים, למידת מכונה, רשתות עצביות, בינה מלאכותית), גופי ידע הנוגעים לפרקטיקות אלה (מדעי נתונים), מומחים ואנשי מקצוע. וצרה יותר, משום שהמונח אלגוריתמים מתייחס כאן למערכות אלגוריתמיות המשולבות במדיה דיגיטלית, וליתר דיוק למה שאני מכנה אלגוריתמים ממשקיים, אלגוריתמים המוטמעים במכשירי קבלת החלטות מקוונים (עוד על כך בהמשך).
ההבטחה הגלומה באלגוריתמים היא שאם נאפשר להם לשחות בים הנתונים שמשתמשים מייצרים ממילא ובלי־משים, הם יוכלו לפענח את המאפיינים של אותם משתמשים ולהכיר את צורכיהם ואת רצונותיהם. אלא שההבטחה הטכנית הזאת — אוטומציה של ידע על העצמי כחלק מפרויקט גדול יותר של ייצור ידע אלגוריתמי על העולם — אף הולכת רחוק יותר. בסופו של דבר זוהי הבטחה אידיאולוגית: האלגוריתמים יעמיקו את ההיכרות שלנו עם רצונותינו וכך יאפשרו לנו להיות נאמנים יותר למאוויינו ולטעמינו האישיים ויהפכו אותנו לבני אדם חופשיים יותר.
אך מה משמעו של חופש זה בהקשר של מדיה דיגיטלית? האם זוהי פשוט הבטחה לשחרר אותנו מעול הבחירה, מן הצורך לבחור מתוך היצע בלתי־נדלה? האינטרנט הרחיב לאין שיעור את אפשרויות הבחירה שלנו; כעת נהנית כל משתמשת מגישה לשפע כמעט אינסופי של מידע, תוצרי תרבות, מוצרי צריכה ואנשים. בפרפרזה על אמרתו של גורו האינטרנט (ועורך המגזין "וויירד") כריס אנדרסון, מפלצת אפשרויות הבחירה שארבה לנו בקניון צימחה זנב ארוך כשעברה לאינטרנט. אלא שבלב ההבטחה הזאת לשפע נפערה תהום מאיימת: כיצד ננווט בים המידע הזה בלי לטבוע? הופעת המכשירים האלגוריתמיים ושילובם בפלטפורמות דיגיטליות סיפקו את הפתרון לבעיה שפלטפורמות אלה עצמן יצרו. אוצרוּת אלגוריתמית, מנועי המלצות והגרף החברתי (כפי שהוא נקרא ברשתות חברתיות) הם כולם אמצעים שכוּננו במטרה לאפשר זיווג מוצלח יותר בין משתמשים, מן הצד האחד, למשאבי מידע — תרבותיים, פוליטיים, כלכליים וחברתיים — מן הצד האחר.
פתרון טכני־לכאורה זה טומן בחובו הבטחה משמעותית אף יותר: להחזיר את הסובייקט — אחרי מאה שנים של תקשורת המונים — אל מרכז הזירה, ולאפשר את כינונה של כל אחת מאיתנו כאינדיבידואלית ייחודית בעולם הרשתי. נראה כי אין מונח המשקף את ההבטחה הזאת באופן מובהק יותר מפרסונליזציה. לעומת תקשורת ההמונים, אשר דרה בכפיפה אחת עם חברת המונים ותרבות המונים, נבעה מהן וטיפחה אותן, מדיה דיגיטלית מאפשרת להציע לכל פרט בהמון את טנא תוצרי המדיה הייחודיים לו — יהיו אלה סרטים, ספרים, בני זוג, מוצרי צריכה ושירותים או פרסומות. לא עוד סל תרבות סטנדרטי הנכפה על ההמון הר כגיגית, אלא התאמה אישית המונית. בפרויקט הזה, למערכות אלגוריתמיות נודע תפקיד מכריע.
הכר את עצמך
ואולם, באופן עמוק יותר, אלגוריתמים מבטיחים להרחיב את תחום החופש האישי בכך שהם מציעים דרך חדשה לדעת, או אפיסטמולוגיה חדשה: ידע אמיתי, עשיר ומדויק יותר על העולם ועל העצמי. הרעיון שלפיו העמקת הידע המצוי בידי האדם תורמת להרחבת תחום החופש שלו ומיטיבה את המצב האנושי בכלל נולד בנאורות. עם צמיחת המודרניות והנאורות נולדו צורות חדשות של ידע (בעיקר ידע מדעי וטכנולוגי), לא רק בנוגע לעולם אלא גם בנוגע לעצמי. ידע זה התבסס על התבוננות עצמית, כלומר הרחיב את ההבנה על העצמי באמצעות גיוס העצמי לפענוחו־הוא. המפגש ההיסטורי הזה של העצמי עם עצמו, המתאפשר באמצעות התבוננות עצמית והפקת ידע על העצמי, הוא מה שאני מכנה כאן סובייקטיביות. בהתאם לכך, העצמי הוא אותו גרעין של הכרה שבכוחו להיעשות רפלקטיבי ואוטונומי יותר, כלומר להיעשות סובייקט.
סובייקטיביות היא ההבטחה לשחרר את האדם מכבלים המכפיפים אותו לכוחות שאינם בשליטתו: דחפים פיזיולוגיים ופסיכולוגיים ויחסים חברתיים דכאניים. מראשיתה היתה הסובייקטיביות בראש ובראשונה הבטחה, אופק אוטופי שראוי לחתור אליו. אין לטעות: ההבטחה מעולם לא התממשה — וגם אינה יכולה להתממש — עד תומה. אך היא סימנה קו אופק שהגדיר מהו חופש לדידם של בני אדם. סובייקטיביות, לפיכך, אינה מהות נתונה שעל האדם לחשוף ולגלות, אלא פרויקט שיש להירתם אליו. השאלה העומדת במרכז החקירה בספר זה היא — מָהם מאפייני השחרור האנושי הגלומים בידע אלגוריתמי ובדרכים השונות של ידיעה אלגוריתמית? אם נוכל לומר כי הציווי "הכר את עצמך" היה חתירה לסובייקטיביות משוחררת יותר, איזה סוג של שחרור מבטיחים אלגוריתמים המתווכים בעבורנו ידע על העולם ועל עצמנו?
התשובה שאני מציע כאן היא שאלגוריתמים יוצרים ידע וסובייקטיביות שונים בתכלית השינוי מאלה שהציג אידיאל הנאורות. כפי שהספר מדגיש לכל אורכו, ידע אלגוריתמי אינו רק שיטה או מתודולוגיה חדשות למענה על שאלות; אלא הוא אפיסטמולוגיה חדשה המשנה את תנאי היסוד של הידע ומגדירה אילו שאלות אפשר וראוי שיישאלו, ואף מהי המשמעות של "לדעת". אידיאל הידע בנאורות, בעיקר בנוגע לעצמי, היה ביקורתי במהותו. הוא קיבל ביטוי נאמן בהגותו של עמנואל קאנט. בביקורת התבונה הטהורה ביקש קאנט לחשוף את התנאים האפיסטמולוגיים המבניים המאפשרים לראות ידע אמפירי כתקף ואמיתי.3 בביקורת התבונה המעשית הוא ביקש להגדיר את התנאים וההנחות המגבילים המכתיבים את התנהגותנו, ולחשוף את התנאים הנחוצים להתנהגות אוטונומית ומוסרית.4 אפשר אפוא לראות בקאנט את דוברם המובהק של רעיונות הנאורות, רעיונות שאפשרו את התפתחות הידע האובייקטיבי ובה בעת הבטיחו את שחרור הסובייקט.
בניגוד למודל הידע המודרניסטי, המציב במרכזו את הסובייקט החוקר, מודל הידע האלגוריתמי מבוסס על הנחות פוזיטיביסטיות, המדרבנות אותו לדחוק את הסובייקטיביות מתמונת הידע באשר לעצמי. ובעוד ידע מודרניסטי מעודד גישה פרשנית ורפלקטיבית כלפי העצמי, הידע האלגוריתמי גורס כי הדרך הנכונה להיות אותנטיים, קרי נאמנים לעצמי האמיתי שלנו — ובמובן זה גם חופשיים — היא לאפשר לאלגוריתמים לומר לנו מי אנחנו בהתבסס על יחידת המציאות האובייקטיבית הקטנה ביותר: הנתון. וכך, על פי מודל זה, השילוב של אלגוריתמים במארג חיינו מאפשר לנו להתעלות למעמד אפיסטמי ייחודי — ולמעשה להכיר את עצמנו טוב מאי־פעם בעבר.
תכליתו של ספר זה אינה להעריך אם משימה זו הושגה או אם יש לה סיכוי להיות מושגת בעתיד. למעשה, השאלה שהספר מעלה הופכת הערכה וניבוי מעין אלה לבלתי־רלוונטיים. תחת זאת, אני תוהה על הלא־מודע הפוליטי של תרבות אלגוריתמית, ושואל: אם ההבטחה הגלומה באלגוריתמים תתגשם — למשל, פרסונליזציה המאפשרת ניבוי מוצלח של המילה שנבקש להקליד בהודעת טקסט, של הסרט שנרצה לצפות בו, של בן הזוג שנשאף לפגוש וכולי — אילו אופקים יהיה לאל ידה להציע במונחים של תפיסתנו את העצמי?5 התשובה הקצרה היא שזהו סוג ידע המסלק את העצמי מן הלמידה על העצמי ומן ההכרה העצמית שלו. במילים אחרות, זהו ידע המדיר התבוננות עצמית מידיעת העצמי, ובכך חותר תחת פרויקט הנאורות של יצירת הסובייקטיביות. במידה רבה, למשטר חברתי אלגוריתמי לא דרושים כלל סובייקטים, די לו בניהול אובייקטים. קארל מרקס, פילוסוף שהוסיף נדבך חשוב לביקורות של קאנט — ביקורת הכלכלה הפוליטית, ככותרת המשנה של הקפיטל — כבר הזהיר מפני ביטול הסובייקט (העובדים) תחת מכבש האובייקט (המוצר), תהליך שהוא כינה הפטישיזם של הסחורות.6 האם אנו חוזים כעת בייתורה של הסובייקטיביות תחת מכבש הניהול האלגוריתמי של חיינו?
מפתה לחשוב בשלב זה על הניתוח שאני מציע כעל אחד מאותם נרטיבים מוכָּרים של מכונות נגד בני אדם, או של טכנולוגיה המשתלטת על בני אדם ומאיימת להכניעם.7 נרטיב פסימי זה הרואה בטכנולוגיה איום — שאינו אלא היפוך הנרטיב הרואה בה הבטחה — היה אף הוא ללחם חוק במסורת המודרנית וזכה לביטוי בכתבי הוגים כמרטין היידגר וז'אק אלול.8 ואולם הטיעון שלי מבקש לסטות מנתיב זה של ניתוחים "טכנולוגיסטיים".9 אמנם הוא מגיע למסקנות (עגומות) דומות באשר לאלגוריתמים, אך הוא תולה את האשם לא ב"טכנולוגיה" עצמה כי אם באופן שבו היא ארוגה במערך טכנו־חברתי רחב, הכולל גם את המשתמשים. האיום שאלגוריתמים מציבים על הסובייקטיביות אינו נעוץ בהכרח בעובדה שידע על העצמי מתוּוך באמצעות המדיה. למעשה, ניתן להצביע על היסטוריה ארוכה של מכשירי מדיה שסייעו ביצירת ידע על העצמי, ובכך תרמו לפיתוח התבוננות עצמית ולהרחבת תחום הסובייקטיביות (עוד על כך בפרק השלישי). המשותף למכשירי מדיה אלה — שאני מכנה מדיה אפיסטמית, קרי מדיה המייצרת ידע ולא רק מתעדת אותו — הוא שהם מערבים את העצמי ביצירת ידע חדש. מצב כזה מוביל — בין שבמודע ובין שכתוצר לוואי — ליצירת מרחב חדש של התבוננות עצמית. מכשירים אלגוריתמיים, לעומת זאת, אף שהם דוגמה נוספת למדיה אפיסטמית, מסלקים את העצמי מיצירת הידע על העצמי. ובלא מעורבות העצמי ביצירת הידע על עצמו, האם אין הסובייקט האלגוריתמי נעשה ביתר שאת תוצא של המדיה?
המשך הפרק בספר המלא

פתח דבר:
מי צריך סובייקטיביות?
בשנים האחרונות, כמעט בלי שהבחנו בכך, נהפכו אלגוריתמים לבני לוויה קרובים שלנו. הם ארוגים במדיה הדיגיטלית המשמשת אותנו — מאתרי היכרויות ועד יישומוני ניווט — ומעורבים כמעט בכל תחום מתחומי החיים. אנשים משתמשים במדיה דיגיטלית ומייצרים נתונים רבים מספור, ואלגוריתמים מעבדים את הנתונים הללו לכדי ידע על המשתמשים, בעיקר מתוך כוונה לספק להם תוכן אישי מותאם לאופיים, לטעמם ולמאווייהם. הידע האלגוריתמי הזה, מצדו, מעצב את האופן שבו אנו חווים את הסביבה הדיגיטלית, תופסים את העולם וחושבים על עצמנו.
בלבו של ספר זה ניצבת טענה כפולה. ראשית, הוא טוען כי אלגוריתמים מייצרים דרך חדשה לדעת, אשר משנה את חוויית העצמי ואת תפיסת הסובייקטיביות שלנו. הספר מראה כיצד אלגוריתמים, בבחינת מכשירים אפיסטמיים, מדריכים את ההחלטות, ההעדפות, הטעמים והפעולות של משתמשים ומשנים את עצם הבנתם לגבי מי שהם, קרי את תחושתם לגבי העצמי שלהם. שנית, בעשותם כן, אלגוריתמים חותרים תחת רכיב מפתח בסובייקטיביות המודרנית: ההשתתפות של העצמי ביצירת ידע על העצמי, יכולתו של העצמי לגייס התבוננות עצמית וידע ביקורתי ולהרחיב את תחום החופש שלו.
התהוות הסובייקטיביות היא מאורע היסטורי. היא קשורה בצמיחת המודרניות והנאורות ובצורות הידיעה החדשות שאלה הביאו עמן. סובייקטיביות — המוגדרת כאן כמרחב כמו־טרנסצנדנטלי (כלומר אוטופי וממשי בעת ובעונה אחת) של חירות ואותנטיות של בני אדם — מותנית בגישה של העצמי לידע ביקורתי על העולם, על המציאות החברתית, וחשוב מכול על עצמו. עם התקדמות המדעים והמחשבה ההומניסטית, שתפסו בהדרגה את מקומן של קוסמולוגיות תיאולוגיות, בני אדם (כפרטים וכקולקטיב) נטלו חלק גדול יותר ביצירת ידע זה. ובעת שיצרו את הידע על עצמם, הם גם יצרו מרחב של חופש שאִפשר להם ביטוי אותנטי: "זה מה שאני חושב, אוהב או רוצה".
מכשירים אלגוריתמיים של קבלת החלטות שינו לא רק את האופן שבו ידע מיוצר, אלא אף את ההגדרה של "ידע תקף". בשני העשורים האחרונים, עם התרחבות השימוש במדיה דיגיטלית, אלגוריתמים תופסים מקום מרכזי יותר ביצירת ידע על מה שאנשים חושבים, אוהבים או רוצים. ידע זה נארג לתוך חיי היומיום ומתווה את התפיסות ואת הפעולות של האנשים. פירוש הדבר הוא שאלגוריתמים דוחקים את רגליה של הסובייקטיביות כסוכנת של יצירת ידע זה וחותרים תחת הפרויקט ההומניסטי של עצמי המסוגל לנסח ולהביע את מחשבותיו ורצונותיו.
ידע אלגוריתמי חותר תחת גורם מרכזי בהבניה של סובייקטיביות — ההתבוננות העצמית, קרי המעורבות הפעילה של העצמי בניסיון להבין את העצמי ולייצר ידע עליו. מעורבות העצמי בייצור ידע על העצמי היא המאפשרת יצירה של ידע ביקורתי במובן שדיבר עליו עמנואל קאנט, ידע המרחיב את תחום החופש של העצמי. אלגוריתמים, באשר הם עוקפים את המעורבות של העצמי ביצירת ידע, משנים את מהות הסובייקטיביות. החקירה האמפירית והתיאורטית של תמורה זו עומדת במוקד ספר זה. לפיכך ינותחו כאן המאפיינים הייחודיים של ידע אלגוריתמי ויחודדו ההבדלים בינו לבין הידע הביקורתי שצמח עם המודרניות.
ניתוח התפקיד שאלגוריתמים ממלאים בכינון ידע בעת הנוכחית גם מזמֵּן דיון בהשלכות הפוליטיות של צמיחת האלגוריתמים ושל חתירתם תחת הסובייקטיביות. ידע ביקורתי וצמיחתה של סובייקטיביות בוגרת ומלאה הם פרויקט פוליטי, פנטזיה — אולי הפנטזיה בהא הידיעה — של הנאורות. עצם השאיפה האנושית לסובייקטיביות בוגרת ומלאה, גם אם אינה באה לידי מימוש מלא, נושאת בחובה משמעויות חברתיות, תרבותיות ופוליטיות עמוקות. מאחר שידע ביקורתי מותנה בסובייקט המכיר את עצמו, סובייקטיביות הניחה מניה וביה גם סוכנות פוליטית ונתנה לה לגיטימציה. וכך, סובייקט, אדם "בוגר", כמימרתו המפורסמת של קאנט, יכול היה להוציא אל הפועל את הרצון החופשי שלו.
סובייקטיביות, חרף היותה מהות מדומיינת ולא מציאות נתונה, עומדת ביסוד מרבית המוסדות המרכזיים של המודרניות. בתחום הפוליטי, הסובייקט הוא אשר בוחר את נציגיו הפועלים למען האינטרסים שלו; בשוק החופשי, הסובייקט הוא שבוחר אילו מוצרים לרכוש ועל אילו חוזים לחתום; בתחומי המדע והדעת, הסובייקט הוא זה שבכוחו לייצר ידע אובייקטיבי ולהוציא אל הפועל שיפוט אסתטי אותנטי; בתחומי החוק, הסובייקט הוא שנושא באחריות משפטית לפעולותיו; אפילו בתחום הפרטי של יחסים בין־אישיים, הסובייקט הוא שבוחר עם מי להתחתן, או אם להתחתן כלל. סובייקטיביות, אם תרצו, היא מאבני הראשה של המודרניות. ואת יסודות הסובייקטיביות מערערים כעת אלגוריתמים.
ספר זה הוא דין וחשבון על האופן שבו אלגוריתמים מתפקדים כמכשירים של ידע — על סוג הידע החדש שהם מייצרים, על האופן שבו הידע הזה נתפס בחברה, ועל השלכותיו החברתיות. במרכז הדין וחשבון הזה ניצבת שאלת המפתח של הזיקה בין אלגוריתמים, ידע ועצמי: מהי המשמעות של ידע ללא סובייקטים, ידע המייתר את הסובייקט? חמשת פרקי הספר, החוצים מרחבים חברתיים שונים ומביאים מקרי־בוחן מגוונים, מבקשים לבחון את הידע החדש על העולם שמערכות אלגוריתמיות מקדמות, ושואלים כיצד ידע אלגוריתמי על אובייקטים, פרקטיקות ורעיונות משַׁנֶּה את האופן שבו הם מוגדרים, את משמעותם ואת השלכותיהם.
פרקי הספר מבקשים לענות על שתי שאלות מרכזיות הנוגעות לאלגוריתמים. ראשית, מה מאפיין את הידע שאלגוריתמים מייצרים? כיצד הררי נתונים המיוצרים בעת השימוש בפלטפורמות דיגיטליות מתורגמים לידע על משתמשים? במה אפיסטמולוגיה אלגוריתמית שונה מאפיסטמולוגיות ותיקות ומבוססות ממנה? ושנית, כיצד ידע אלגוריתמי משנה את התרבות, את הפוליטיקה, את החברה ואת העצמי שלנו? או מוטב, כיצד הוא משנה את עצם הבנתנו מהי תרבות, מהי חברה, מהי פוליטיקה, ומה המשמעות של להיות אדם?
בספר זה אני מבקש ללכת מעבר לנוסחה המוכֶּרת לעייפה של "מכונות נגד בני אדם", ולהציע תשובה מעודנת יותר. ידע אלגוריתמי, אני טוען, שואף להתחרות בהיבט אנושי מסוים — הוא הסובייקטיביות — להתעלות עליו, ולמעשה לעקוף אותו. הוא מבקש לדחוק ולבטל התבוננות עצמית, שיפוט, רציונליות תקשורתית וידע ביקורתי. סביבה אלגוריתמית אינה מדירה בני אדם, אלא היא מסלקת את יכולותיהם הביקורתיות מתהליכים של קבלת החלטות — הן במישור הפרטי הן במישור החברתי. עם מגמה זו, הטומנת בחובה משמעות פוליטית, מבקש הספר להתמודד.
פרק ראשון
האם ידע אלגוריתמי יכול
להיות ביקורתי?
דמיינו שאתם מדליקים את הטלוויזיה בערב ומגלים שנטפליקס מציעה לכם סרט התואם בדיוק את מה שממילא היה בכוונתכם לראות. לא זו בלבד שההצעה קולעת היטב לטעמכם בסרטים ולסקרנות הקולנועית החדשה שפיתחתם באחרונה; דומה כי בבחירת הסרט נטפליקס אף מביאה בחשבון את האירועים שעברו עליכם היום ואת מצב הרוח שלכם. אבל אינכם מופתעים במיוחד. אתם זוכרים את ההצהרה של ריד הסטינג, מנכ"ל נטפליקס, ולפיה "בעתיד אנו מקווים להיות טובים כל כך במתן המלצות הצפייה שלנו, שבכל פעם שתִּפתח נטפליקס נוכל להקרין את הסרט או הסדרה הנכונים למצב הרוח שלך ברגע זה".1 אתם גם מודעים למאמצים האדירים וליכולות הטכנולוגיות המושקעים בהשגת ידע פנומנלי כזה בנוגע לטעמכם, רצונותיכם ומצב הרוח שלכם. אתם יודעים שנטפליקס מנטרת את אלפי רסיסי הנתונים שאתם מותירים אחריכם בעת השימוש בפלטפורמה. ייתכן, אתם מניחים, שהיא אף משלימה את מאגר הנתונים שלה בנתונים שאספה ממדיה דיגיטלית אחרת, כגון רשתות חברתיות. נתוני עתק אלה — הנוגעים לכם וליותר מ-200 מיליון משתמשי נטפליקס — מעובדים בזמן אמת בידי אלגוריתמים שיכולים לא רק לדעת מי אתם, מה טעמכם בסרטים וכן הלאה, אלא גם לפענח במידה רבה של הצלחה את רצונותיכם, מאווייכם וצורכיכם ברגע נתון. ייתכן שנטפליקס לא היתה בוחרת להציג לכם קומדיה רומנטית הוליוודית משנות ה-50 לולא ישבתם כעת מול המרקע עם בת או בן זוגכם בערב יום חמישי, מי יודע? אבל האם זה בכלל צריך להטריד אתכם? אחרי הכול, הזיווג מושלם. מושלם, למען האמת, כמו השידוך שהציע אתר ההיכרויות שהפגיש אתכם עם בת או בן זוגכם לפני כחודש בלבד. גם במקרה זה, אתם מניחים, שפע של נתונים עבר עיבוד אלגוריתמי במטרה לסייע לכם למצוא את בחיר או בחירת לבכם.
המכשירים הדיגיטליים שאנו משתמשים בהם — ליתר דיוק, הסביבה הדיגיטלית שאנו מאכלסים — צופנים בחובם הבטחה להיטיב את המצב האנושי ולהרחיב את תחום הנוחות והאושר של האדם. עם צמיחת המודרניות קנתה לה הטכנולוגיה תפקיד שאינו אינסטרומנטלי ומעשי בלבד, אלא הוא גם אידיאולוגי. אידיאולוגיות מודרניסטיות, מן הקוטב השמאלי־פרוגרסיבי ועד לקוטב הימני־שמרני, ראו בטכנולוגיה כלי להשגת מטרות פוליטיות. הטכנולוגיה הבטיחה לסייע במימוש האידיאלים של המודרניות ושל הנאורות כפי שנוסחו במהפכה הצרפתית: חופש, שוויון ואחווה. השקפות פוליטיות נחלקו, מטבע הדברים, בהגדרת האידיאלים הללו, אך הן חלקו הבנה זהה באשר לתועלת שבגיוס הטכנולוגיה למימושם.
בספרי קפיטליזם בעידן התקשורת הדיגיטלית בחנתי את התמורות בשיח הטכנולוגיה לאור צמיחת המדיה הדיגיטלית וחדירתה לכל תחומי החיים במפנה המאה העשרים.2 באופן מיוחד עמדתי על התמורה שהתחוללה באופיה האידיאולוגי של הטכנולוגיה במעבר בין העידן התעשייתי לעידן הדיגיטלי. טכנולוגיות הייצור המכניות והריכוזיות של העידן התעשייתי נתפסו כמי שתובעות הסכם חברתי כולל בין עובדים, בעלי הון והמדינה (הסכם שאפשר לכנותו פורדיסטי, קיינסיאני או סוציאל־דמוקרטי), וכמי שמבטיחות את קיומו של הסכם כזה. כך לדוגמה, הקמת מפעל מכוניות בשיטת הסרט הנע, שהיתה כרוכה בהשקעת הון אדירה, תבעה כוח עבודה עצום, מוכשר ונאמן, דבר שהעניק לעובדים כוח מיקוח רב מול ההון.
טכנולוגיות המידע והתקשורת המבוזרות של העידן הדיגיטלי, לעומת זאת, נתפסות ככאלה התובעות את פירוקו של הסכם זה ואת כינונם של יחסים חברתיים פוסט־פורדיסטיים, או ניאו־ליברליים. בלבו של שיח הטכנולוגיה החדש ניצבים מושגי מפתח חדשים, כגון רשת, ביזור וגמישות, שבהקשרים כלכליים (ובמיוחד בהסדרי העסקה) פתחו פתח רחב לפרקטיקות ניאו־ליברליות. כך לדוגמה, כדי ליהנות מן היתרונות היחסיים של כלכלה רשתית, מפעלים נדרשו להיות "רזים" יותר, להעביר חלקים נרחבים יותר של פעילותם למיקור חוץ ולעבור למודל העסקה גמיש ובלתי־מחייב. עקב כך הפכו העובדים למעשה מעובדים המועסקים באופן יציב במקום עבודה קבוע ומזהים את עצמם עמו לספקים של שירותי עבודה. הספר הנוכחי ממשיך את הקו התיאורטי ששרטטתי בספרי הקודם, אך מפנה את המבט למאפיינים ייחודיים של טכנולוגיה דיגיטלית: יכולתה — ואף נטייתה — לעבד באמצעות אלגוריתמים נתוני משתמשים לכדי ידע יישומי. אני מכנה זאת בקיצור ידע אלגוריתמי, או בפשטות: אלגוריתמים.
במונח אלגוריתמים אני מתייחס למערכת טכנו־חברתית שתכליתה לעבד נתונים לכלל ידע. הגדרה זו היא גם רחבה יותר וגם צרה יותר מהשימוש המקובל במונח. רחבה יותר, משום שכאן אין הכוונה רק לשורות קוד שהופכות קלט נתון לפלט רצוי, אלא למערכת טכנו־חברתית שלמה המורכבת בין השאר מאנשים, מכשירים, פרקטיקות, אתרים וגופי ידע; מערכת הכוללת ייצור ואיסוף בלתי־פוסקים של נתוני עתק באתרים דיגיטליים המנטרים נתוני משתמשים (פלטפורמות), בנייה של מכשירים טכנולוגיים המפענחים נתונים אישיים אלה ומתרגמים אותם לכדי ידע (אלגוריתמים, למידת מכונה, רשתות עצביות, בינה מלאכותית), גופי ידע הנוגעים לפרקטיקות אלה (מדעי נתונים), מומחים ואנשי מקצוע. וצרה יותר, משום שהמונח אלגוריתמים מתייחס כאן למערכות אלגוריתמיות המשולבות במדיה דיגיטלית, וליתר דיוק למה שאני מכנה אלגוריתמים ממשקיים, אלגוריתמים המוטמעים במכשירי קבלת החלטות מקוונים (עוד על כך בהמשך).
ההבטחה הגלומה באלגוריתמים היא שאם נאפשר להם לשחות בים הנתונים שמשתמשים מייצרים ממילא ובלי־משים, הם יוכלו לפענח את המאפיינים של אותם משתמשים ולהכיר את צורכיהם ואת רצונותיהם. אלא שההבטחה הטכנית הזאת — אוטומציה של ידע על העצמי כחלק מפרויקט גדול יותר של ייצור ידע אלגוריתמי על העולם — אף הולכת רחוק יותר. בסופו של דבר זוהי הבטחה אידיאולוגית: האלגוריתמים יעמיקו את ההיכרות שלנו עם רצונותינו וכך יאפשרו לנו להיות נאמנים יותר למאוויינו ולטעמינו האישיים ויהפכו אותנו לבני אדם חופשיים יותר.
אך מה משמעו של חופש זה בהקשר של מדיה דיגיטלית? האם זוהי פשוט הבטחה לשחרר אותנו מעול הבחירה, מן הצורך לבחור מתוך היצע בלתי־נדלה? האינטרנט הרחיב לאין שיעור את אפשרויות הבחירה שלנו; כעת נהנית כל משתמשת מגישה לשפע כמעט אינסופי של מידע, תוצרי תרבות, מוצרי צריכה ואנשים. בפרפרזה על אמרתו של גורו האינטרנט (ועורך המגזין "וויירד") כריס אנדרסון, מפלצת אפשרויות הבחירה שארבה לנו בקניון צימחה זנב ארוך כשעברה לאינטרנט. אלא שבלב ההבטחה הזאת לשפע נפערה תהום מאיימת: כיצד ננווט בים המידע הזה בלי לטבוע? הופעת המכשירים האלגוריתמיים ושילובם בפלטפורמות דיגיטליות סיפקו את הפתרון לבעיה שפלטפורמות אלה עצמן יצרו. אוצרוּת אלגוריתמית, מנועי המלצות והגרף החברתי (כפי שהוא נקרא ברשתות חברתיות) הם כולם אמצעים שכוּננו במטרה לאפשר זיווג מוצלח יותר בין משתמשים, מן הצד האחד, למשאבי מידע — תרבותיים, פוליטיים, כלכליים וחברתיים — מן הצד האחר.
פתרון טכני־לכאורה זה טומן בחובו הבטחה משמעותית אף יותר: להחזיר את הסובייקט — אחרי מאה שנים של תקשורת המונים — אל מרכז הזירה, ולאפשר את כינונה של כל אחת מאיתנו כאינדיבידואלית ייחודית בעולם הרשתי. נראה כי אין מונח המשקף את ההבטחה הזאת באופן מובהק יותר מפרסונליזציה. לעומת תקשורת ההמונים, אשר דרה בכפיפה אחת עם חברת המונים ותרבות המונים, נבעה מהן וטיפחה אותן, מדיה דיגיטלית מאפשרת להציע לכל פרט בהמון את טנא תוצרי המדיה הייחודיים לו — יהיו אלה סרטים, ספרים, בני זוג, מוצרי צריכה ושירותים או פרסומות. לא עוד סל תרבות סטנדרטי הנכפה על ההמון הר כגיגית, אלא התאמה אישית המונית. בפרויקט הזה, למערכות אלגוריתמיות נודע תפקיד מכריע.
הכר את עצמך
ואולם, באופן עמוק יותר, אלגוריתמים מבטיחים להרחיב את תחום החופש האישי בכך שהם מציעים דרך חדשה לדעת, או אפיסטמולוגיה חדשה: ידע אמיתי, עשיר ומדויק יותר על העולם ועל העצמי. הרעיון שלפיו העמקת הידע המצוי בידי האדם תורמת להרחבת תחום החופש שלו ומיטיבה את המצב האנושי בכלל נולד בנאורות. עם צמיחת המודרניות והנאורות נולדו צורות חדשות של ידע (בעיקר ידע מדעי וטכנולוגי), לא רק בנוגע לעולם אלא גם בנוגע לעצמי. ידע זה התבסס על התבוננות עצמית, כלומר הרחיב את ההבנה על העצמי באמצעות גיוס העצמי לפענוחו־הוא. המפגש ההיסטורי הזה של העצמי עם עצמו, המתאפשר באמצעות התבוננות עצמית והפקת ידע על העצמי, הוא מה שאני מכנה כאן סובייקטיביות. בהתאם לכך, העצמי הוא אותו גרעין של הכרה שבכוחו להיעשות רפלקטיבי ואוטונומי יותר, כלומר להיעשות סובייקט.
סובייקטיביות היא ההבטחה לשחרר את האדם מכבלים המכפיפים אותו לכוחות שאינם בשליטתו: דחפים פיזיולוגיים ופסיכולוגיים ויחסים חברתיים דכאניים. מראשיתה היתה הסובייקטיביות בראש ובראשונה הבטחה, אופק אוטופי שראוי לחתור אליו. אין לטעות: ההבטחה מעולם לא התממשה — וגם אינה יכולה להתממש — עד תומה. אך היא סימנה קו אופק שהגדיר מהו חופש לדידם של בני אדם. סובייקטיביות, לפיכך, אינה מהות נתונה שעל האדם לחשוף ולגלות, אלא פרויקט שיש להירתם אליו. השאלה העומדת במרכז החקירה בספר זה היא — מָהם מאפייני השחרור האנושי הגלומים בידע אלגוריתמי ובדרכים השונות של ידיעה אלגוריתמית? אם נוכל לומר כי הציווי "הכר את עצמך" היה חתירה לסובייקטיביות משוחררת יותר, איזה סוג של שחרור מבטיחים אלגוריתמים המתווכים בעבורנו ידע על העולם ועל עצמנו?
התשובה שאני מציע כאן היא שאלגוריתמים יוצרים ידע וסובייקטיביות שונים בתכלית השינוי מאלה שהציג אידיאל הנאורות. כפי שהספר מדגיש לכל אורכו, ידע אלגוריתמי אינו רק שיטה או מתודולוגיה חדשות למענה על שאלות; אלא הוא אפיסטמולוגיה חדשה המשנה את תנאי היסוד של הידע ומגדירה אילו שאלות אפשר וראוי שיישאלו, ואף מהי המשמעות של "לדעת". אידיאל הידע בנאורות, בעיקר בנוגע לעצמי, היה ביקורתי במהותו. הוא קיבל ביטוי נאמן בהגותו של עמנואל קאנט. בביקורת התבונה הטהורה ביקש קאנט לחשוף את התנאים האפיסטמולוגיים המבניים המאפשרים לראות ידע אמפירי כתקף ואמיתי.3 בביקורת התבונה המעשית הוא ביקש להגדיר את התנאים וההנחות המגבילים המכתיבים את התנהגותנו, ולחשוף את התנאים הנחוצים להתנהגות אוטונומית ומוסרית.4 אפשר אפוא לראות בקאנט את דוברם המובהק של רעיונות הנאורות, רעיונות שאפשרו את התפתחות הידע האובייקטיבי ובה בעת הבטיחו את שחרור הסובייקט.
בניגוד למודל הידע המודרניסטי, המציב במרכזו את הסובייקט החוקר, מודל הידע האלגוריתמי מבוסס על הנחות פוזיטיביסטיות, המדרבנות אותו לדחוק את הסובייקטיביות מתמונת הידע באשר לעצמי. ובעוד ידע מודרניסטי מעודד גישה פרשנית ורפלקטיבית כלפי העצמי, הידע האלגוריתמי גורס כי הדרך הנכונה להיות אותנטיים, קרי נאמנים לעצמי האמיתי שלנו — ובמובן זה גם חופשיים — היא לאפשר לאלגוריתמים לומר לנו מי אנחנו בהתבסס על יחידת המציאות האובייקטיבית הקטנה ביותר: הנתון. וכך, על פי מודל זה, השילוב של אלגוריתמים במארג חיינו מאפשר לנו להתעלות למעמד אפיסטמי ייחודי — ולמעשה להכיר את עצמנו טוב מאי־פעם בעבר.
תכליתו של ספר זה אינה להעריך אם משימה זו הושגה או אם יש לה סיכוי להיות מושגת בעתיד. למעשה, השאלה שהספר מעלה הופכת הערכה וניבוי מעין אלה לבלתי־רלוונטיים. תחת זאת, אני תוהה על הלא־מודע הפוליטי של תרבות אלגוריתמית, ושואל: אם ההבטחה הגלומה באלגוריתמים תתגשם — למשל, פרסונליזציה המאפשרת ניבוי מוצלח של המילה שנבקש להקליד בהודעת טקסט, של הסרט שנרצה לצפות בו, של בן הזוג שנשאף לפגוש וכולי — אילו אופקים יהיה לאל ידה להציע במונחים של תפיסתנו את העצמי?5 התשובה הקצרה היא שזהו סוג ידע המסלק את העצמי מן הלמידה על העצמי ומן ההכרה העצמית שלו. במילים אחרות, זהו ידע המדיר התבוננות עצמית מידיעת העצמי, ובכך חותר תחת פרויקט הנאורות של יצירת הסובייקטיביות. במידה רבה, למשטר חברתי אלגוריתמי לא דרושים כלל סובייקטים, די לו בניהול אובייקטים. קארל מרקס, פילוסוף שהוסיף נדבך חשוב לביקורות של קאנט — ביקורת הכלכלה הפוליטית, ככותרת המשנה של הקפיטל — כבר הזהיר מפני ביטול הסובייקט (העובדים) תחת מכבש האובייקט (המוצר), תהליך שהוא כינה הפטישיזם של הסחורות.6 האם אנו חוזים כעת בייתורה של הסובייקטיביות תחת מכבש הניהול האלגוריתמי של חיינו?
מפתה לחשוב בשלב זה על הניתוח שאני מציע כעל אחד מאותם נרטיבים מוכָּרים של מכונות נגד בני אדם, או של טכנולוגיה המשתלטת על בני אדם ומאיימת להכניעם.7 נרטיב פסימי זה הרואה בטכנולוגיה איום — שאינו אלא היפוך הנרטיב הרואה בה הבטחה — היה אף הוא ללחם חוק במסורת המודרנית וזכה לביטוי בכתבי הוגים כמרטין היידגר וז'אק אלול.8 ואולם הטיעון שלי מבקש לסטות מנתיב זה של ניתוחים "טכנולוגיסטיים".9 אמנם הוא מגיע למסקנות (עגומות) דומות באשר לאלגוריתמים, אך הוא תולה את האשם לא ב"טכנולוגיה" עצמה כי אם באופן שבו היא ארוגה במערך טכנו־חברתי רחב, הכולל גם את המשתמשים. האיום שאלגוריתמים מציבים על הסובייקטיביות אינו נעוץ בהכרח בעובדה שידע על העצמי מתוּוך באמצעות המדיה. למעשה, ניתן להצביע על היסטוריה ארוכה של מכשירי מדיה שסייעו ביצירת ידע על העצמי, ובכך תרמו לפיתוח התבוננות עצמית ולהרחבת תחום הסובייקטיביות (עוד על כך בפרק השלישי). המשותף למכשירי מדיה אלה — שאני מכנה מדיה אפיסטמית, קרי מדיה המייצרת ידע ולא רק מתעדת אותו — הוא שהם מערבים את העצמי ביצירת ידע חדש. מצב כזה מוביל — בין שבמודע ובין שכתוצר לוואי — ליצירת מרחב חדש של התבוננות עצמית. מכשירים אלגוריתמיים, לעומת זאת, אף שהם דוגמה נוספת למדיה אפיסטמית, מסלקים את העצמי מיצירת הידע על העצמי. ובלא מעורבות העצמי ביצירת הידע על עצמו, האם אין הסובייקט האלגוריתמי נעשה ביתר שאת תוצא של המדיה?
המשך הפרק בספר המלא