פֶּרֶק מִסֵּפֶר – "ג'ו על ענן" מאת אלי ברודרמן

ג'ו בחסות "חמשת השחקנים הגדולים"

אנחנו בוראים ישות חדשה בתקופה זו, את ג'ו. ביהירות וברהב אנחנו משחקים את התפקיד של אלוהים. אנו מפיחים חיים בתודעה נוספת על כדור הארץ ורוצים שהיא תשרת אותנו, תציית לנו, שכל ישותה הנבראת בעלת התבונה והתודעה המתפתחת תהיה כפופה לנו. את הישות החדשה שבראנו אנחנו מכניסים כבר מרגע לידתה לתוך מסגרת קיום נתונה מראש. סטיוארט ראסל היטיב לתאר אותה כמסגרת תועלתנית ומניפולטיבית, כמו שראינו בחלק הקודם. זו מסגרת שמובילים אותה חוקי התועלתנות, מצב תודעה מטריאליסטי, מדעי, ציני, טכנוקרטי ובעיקר מנוכר.

ככל שמחקרי בנוגע לג'ו הלך והעמיק צמחה אצלי התובנה שבשדה הבינה המלאכותית שולט כאוס מאורגן. שדה זה משדר מצד אחד משהו רענן, מבוזר, חופשי מריכוזיות, מחקרי ומחדש. הוא נחלתם של צעירים בעלי יצירתיות ומחשבה מקורית. יש לו ברק (ניאו-) ליברלי מהוקצע מצד אחד וניצוץ של שובבות נעורים שוויונית, חברתית, מתוחכמת. כותרת טיפוסית בכתבה שיווקית באתר "דה מרקר", העוסקת בשילוב בין מחקר גנטי לבינה מלאכותית, היא דוגמה נפלאה למיתוג הצעיר של שדה הבינה המלאכותית:

צוות פיתוח התוכנה של Twist Bioscience בתל-אביב כותב את העתיד בשורטס וסנדלים [...] אלה באמת חבר'ה שכיף לעבוד איתם, יש פה חברויות אמיתיות והרבה פירגון.

התמונה המצורפת לכתבה השיווקית היא תמונה טיפוסית של מפתחי הייטק. חבורת צעירים בסרבלים, ג'ינס וחולצות-טי מנופפים בידיהם לצדדים בסגנון תמונות "פייסבוק-חבר'ה" עליזות. הכול משדר את הייצוג הכיפי החדשני, המעט בלגניסטי, ובעיקר הלא-ממסדי שהתחום מנסה להציע לעולם.

אלא שמנגד לדימוי המוצג כאן, שרבים מאיתנו שמחים לאמץ כדימוי מייצג של עולם ההייטק והבינה המלאכותית, מצויה מציאות מורכבת ובמידה רבה בעייתית הרבה יותר ממה שהציבור מוטה לחשוב. רבים כבר התריעו על המציאות הזאת. זו מציאות שבה מספר שחקנים מצומצם צובר כוח, עוצמה וריכוזיות מופרזים. תמונת המציאות הזאת היא היפוכה של תמונת יחסי הציבור של שדה ההייטק והבינה המלאכותית, המבקשת להציג ביזור וערכים של חופש ודמוקרטיה. התמונה המציאותית, שאינה מקבלת ביטוי ביחסי הציבור של שדה הבינה המלאכותית, מטרידה עד כדי כך שספרים ודוחות רבים מתחילים להיכתב עליה בשנים האחרונות. עשרים ושניים דוחות ומערכים אתיים הנוגעים לבינה מלאכותית נכתבו רק מאוקטובר 2017 עד זמן כתיבת שורות אלה בשנת 2020. הפרלמנט האירופי הוציא דוח מפורט שאינו חוסך מהקוראים את דאגתו מריכוזיות-היתר בתחום הבינה המלאכותית. יהיה נאיבי להתעלם מהעובדה שהבינה המלאכותית מרכזת עצמה במספר מצומצם של ידיים, נכתב שם, בידיהם של ענקי אינטרנט, כאשר רוב החברות ברחבי הגלובוס משתמשות באינטרנט ובמידע המועבר אליהם דרך אותו מספר מצומצם של מגה-חברות. הטרגדיה של ג'ו המסתמנת באופק היא שאותן חברות השולטות ברשת והמעצבות באמצעות שליטה זו את התכנים למרבית בני האדם – חברות אלה שולטות כעת גם בפיתוח הבינה המלאכותית. הדאגה הרבה מהריכוזיות הזאת ניכרת בדוח הפרלמנט האירופי למרות השפה העניינית שבה הוא מדווח על פוטנציאל הסכנות. כותבי הדוח אינם מהססים לתת כותרת ברורה וחדה לחששותיהם. כותרת הפרק העוסק בסכנת ריכוז הכוח של תחום הבינה המלאכותית היא: Concentration of Power among Elites.

הפרלמנט האירופי טוען את מה שאינטואיטיבית אפשר לראות ולהבין אחרי שמפוגגים את עננת הצעירות והרעננות השובבה של תחום ההייטק, ובעיקר של שדה הבינה המלאכותית. לשדה הזה יש מנהיגים. ישנה אליטה כלכלית מצומצמת שמובילה את הפיתוח המואץ של השדה לצורכי הצמיחה הכלכלית שלה עצמה, תוך כדי שימוש, כמובן, בז'רגון של טובת האנושות. הכאוס הכמו-צעיר והחינני של תחום ההייטק והבינה המלאכותית מאורגן בעוצמה רבה. גוגל, פייסבוק, מייקרוסופט, אפל ואמאזון הן האליטה הקרויה בדוח "חמשת השחקנים הגדולים". הטון המתלווה לכינוי זה אינו בהכרח מחמיא, ואף נשמעת בו נימה מנומסת של דאגה. בדוח מצוין שבידי חמש החברות הצטבר כוח טכנולוגי, כלכלי ופוליטי מופרז ולא מוצדק בהיקפו, שיש לו השפעה דרמטית על מוסדות עיצוב דעה ודעת קהל בעומק ממסדי הדמוקרטיות: ממשלות, מחוקקים, החברה האזרחית, מפלגות, בתי ספר ומערכות חינוך, עיתונות, חינוך לתקשורת, והחשוב מכול – מדעים ומחקר. בקרב ממשלות ואנשי אקדמיה קיימת דאגה שמא מעצמות הטכנולוגיה יפגעו במתכוון בניסיונות לחקור לעומק את השפעת הטכנולוגיות החדשות – בעיקר טכנולוגיות של בינה מלאכותית – על זכויות אדם, על יציבות הדמוקרטיה המערבית ועל שלטון החוק. ענקיות הטכנולוגיה לא רק שולטות על הפיתוח והפרישה של הבינה המלאכותית ברחבי הגלובוס. באופן מסוכן הן שולטות גם בדיון על הרגולציה של התחום.

בניסיון לשמר את המצב הקיים, הפועל לטובתן, ענקיות הטכנולוגיה מפעילות שתדלנות (לובינג) אינטנסיבית שנועדה לרסן חקיקה. בכתבה שפורסמה באתר "כלכליסט" מתאר ויקי אוסלנדר מניו יורק כיצד בכנס דאבוס שנערך בינואר 2020 התגייסה תעשיית הטכנולוגיה לקדם נרטיב שמציג אותה באור אלטרואיסטי. בכנס, מנכ"ל מיקרוסופט סאטיה נאדלה ומנכ"ל גוגל סונדאר פיצ'אי קראו להטלת רגולציה, ועמם גם מנכ"לית י.ב.מ, ג'יני רומטי. כמוהם גם מייסד ומנכ"ל פייסבוק מרק צוקרברג ומייסד ומנכ"ל טוויטר ג'ק דורסי הפצירו בקונגרס האמריקאי להסדיר את התחום, אבל באותה שעה אותם אנשים אינם נמנעים ממלחמה ברגולציה ברגע שעולה ממנה ניחוח של הגבלת כוח החברות שלהם. תופעה זו מכונה "אלטרואיזם מזויף". ענקיות הטכנולוגיה אינן מסתפקות בקריאות מהפה אל החוץ להטלת רגולציה. הן גם מנסחות ומפרסמות עקרונות אתיים שנועדו לחזק את תדמיתן הציבורית כתאגידים בעלי ערכים חברתיים. הכרזות אלה מחזקות את הנרטיב המתאר את ענקיות הטכנולוגיה כחברות הרואות את התמונה המלאה ומזהות לא רק את טובתן ואת טובת בעלי המניות שלהן אלא את טובת הכלל. חברות הענק מבקשות אפוא לצייר בעיני הציבור מצג שווא, תמונה של התנהלות אתית המושתתת על ניסוח של כללים ברורים, אבל בפועל הן משאירות בידיהן את הכוח ואת האחריות להכריע בשאלות האתיות הנוגעות לקידום ערכים אנושיים ולמידת הפרטיות ורמת השקיפות שאנחנו זכאים להן. נדמה שהריכוזיות משתלמת, כי שחקניות ההייטק גורפות את כל הרווחים, ובאותה העת מגלגלות את העלויות על החברה האנושית.

אסור לתת להן לנסח את החוקים, התריע פרופ' יוחאי בנקלר, מומחה בנושא זכויות אדם בעידן הדיגיטלי. "לא משנה עד כמה משכנעת הקואליציה שענקיות הטכנולוגיה מייצרות סביבן וכמה מנהיגים דתיים ורוחניים היא כוללת, החוקים עצמם צריכים להיכתב בידי אזרחים וקובעי מדיניות, תוך כדי ניהול שיח ציבורי על הדרך הראויה לקידום החברה האנושית כולה".

שלושה ציטוטים קצרים מתוך דוח הפרלמנט האירופי עשויים להמחיש את דאגתן של מדינות האיחוד לנוכח התעצמות כוחן של ענקיות המידע, ובכלל זה שליטתן על פיתוח הבינה המלאכותית:

1. כלכלה. "לא זו בלבד שחמשת השחקנים הגדולים יכולים להרשות לעצמם להשקיע משאבים עצומים לצורך השפעה פוליטית וחברתית, אלא שהם גם יכולים להרשות לעצמם לרכוש רעיונות ומיזמים חדשים בתחום הבינה המלאכותית, או בכל שטח אחר שעשוי לתרום למודל העסקי שלהם – וזאת הם אכן עושים".

2. שיח ציבורי. "תאגידי הטכנולוגיה צוברים שליטה על התשתיות שבאמצעותן מתנהל השיח הציבורי. אתרים כמו פייסבוק וגוגל משמשים את האזרחים יותר ויותר כמקור המידע העיקרי, ואולי אף היחיד, בנושאים פוליטיים, בייחוד כשמדובר בדור הצעיר, בעוד מעמדה של "הרשות הרביעית" נפגע. הרוב המכריע של ההכנסות מפרסומות נכנסות היום לכיסם של גוגל ופייסבוק, והדבר שולל את הכנסתם העיקרית של העיתונים ומונע את האפשרות לממן עיתונות חוקרת".

3. איסוף של נתונים אישיים. "תאגידים אלה אוספים נתונים אישיים לצורכי רווח ומשרטטים פרופיל של אנשים על בסיס התנהגותם (ברשת ומחוצה לה). הם יודעים עלינו יותר ממה שאנחנו או חברינו יודעים – והם משתמשים ומנגישים את המידע לצורך רווח כספי, מעקב, ביטחון ומסעות בחירות".

"צבירה זו של כוח בידיהם של מעטים", נכתב בדוח, "כוח הכסף, השליטה על תשתיות המשמשות את הדמוקרטיה ואת השיח הציבורי, השליטה על הפרט באמצעות בניית פרופילים אישיים והשליטה בחידושי הבינה המלאכותית [...] [את כל המרכיבים האלה] יש לראות יחד, ולהפיק מהם לקחים לצורך הדיון האתי והחוקי על הבינה המלאכותית".

ריכוז הכוח האדיר הצפון בבינה המלאכותית, האיום על חופש הביטוי ועל חופש המידע וערעור מבנה הדמוקרטיות המוכר לנו הם רק מקצת הבעיות הכרוכות בבינה המלאכותית. יצירת אבטלה, היעדר ביטחון תעסוקתי לשכבות אוכלוסייה נרחבות, העצמה של שנאת זרים וגזענות, הרחבת הפערים הכלכליים, הגברת מרוץ החימוש – אלה ועוד מרכיבים את ליבת האתגרים והבעיות העולים באופק עם האצת פיתוחו של ג'ו במסגרת הכפופה לענקיות המידע וההון הגלובלי. אבל ברובן מכריע של הרצאות החזון העתידי של מפתחי התוכנות, אקדמאים ומדענים מהתחום, איומים אלה אינם על שולחן הדיונים. האם יכול להיות שהכסף הגדול ששופכים חמשת הגדולים לתוך המחקר האקדמי מעקם את היושרה האקדמית שחוקרים ומדענים מצווים עליה עוד מתקופת הנאורות?

אליטה או קבוצת שליטה מצומצמת אינה בנויה רק מעוצמה כלכלית או צבאית או משילוב של השתיים. הדבק המחזיק קבוצת כוח, הדבק המעניק לקבוצת שליטה את הצדקתה, הוא המצע האידאולוגי שהיא מטפחת ומקדמת בקרב ההמונים ובקרב מאחזי כוח חשובים בחברה. לכל אליטה ישנם אנשי הרוח והמנהיגים הרוחניים, המציבים וילונות וצעיפים ממסכים בין שאיפותיה הציניות, הכוחניות וההישרדותיות של האליטה ובין ההמונים המספקים לה את כוחה הכלכלי והחומרי. הדבר אינו שונה גם במקרה של אליטת המידע ומחוללי הבינה המלאכותית. לצידם של המנהיגים הכלכליים באליטה הזאת מצויים המנהיגים הרוחניים. הנביאים הנושאים את החזון קדימה אל לב ליבה של החברה והתרבות. המדובר ברשימה ארוכה של אנשי אקדמיה ויזמות טכנולוגית המקיימים קשר גורדי מאיים בעוצמתו עם ענקי כלכלת האינטרנט והמידע. אנחנו רואים אותם בהרצאות של פלטפורמות ההרצאה TED ו-TEDX, בהרצאות אקדמיות, בכתיבה אקדמית ענפה, במסדרונות הממשל האמריקאי, בספרות מדע בדיוני ובפעילות אמנותית. אין מנהיג או דובר מטעם המנהיגות הרוחנית שאינו מעלה על נס את הטוב והתועלת של הבינה המלאכותית בתרומתה לאדם, לחברה, לאנושות, ובין אלה נכללות גם מחלקות אקדמיות באוניברסיטאות העילית של ארצות הברית. הקבוצה המדעית-אינטלקטואלית המצויה בראש החץ של אליטת ענקי המיחשוב קרויה בז'רגון האקדמי וגם הפופולרי: טרנס הומניסטים. קבוצה זו מקדמת בנחישות באמצעות מערך הסברתי החוצה את האקדמיה ותקשורת ההמונים את חזון הבינה המלאכותית, והתמזגותו של האדם עם המחשב. בפרקים הבאים ארחיב על קבוצה זו ואופיו של החזון שלה המבוסס על אתיקה תועלתנית וכפי שנראה גם לא מעט משיחיות דתית נמהלת בחזון מסוכן זה.

ג'ו על ענן: בינה מלאכותית, סינגולריות טכנולוגית ושאלת ערך האדם / אלי ברודרמן
פרדס, 2023
290 עמודים

ד"ר אלי ברודרמן הוא חוקר תרבות ומרצה בכיר בתחומי האתיקה והפילוסופיה של החינוך והאמנות.. ב־2017 יצא לאור ספרו יופי של צריכה: חקירה אסתטית של המוצר המעוצב