דווקא עכשיו, ודווקא בישראל, צריך לעסוק בסכנות ה-AI

פתיחה: למה כאן ולמה עכשיו

דווקא עכשיו, ודווקא בישראל, צריך לעסוק בסכנות של ההתפתחות הטכנולוגית המואצת. מזה כשנתיים כמעט ולא עובר שבוע בלי פרסומים על התפתחויות חדשות בטכנולוגיית הבינה המלאכותית. מדובר בתופעה עולמית, שעשויה לשנות ועלולה לשבש ולסכן יסודות חשובים של החברה בת זמננו. ההיקף האדיר של ההשקעות בטכנולוגיה, והאופי הגלובלי של פיתוחה, יוצרים את התחושה שלישראל הקטנה אין צורך, וממילא אין יכולת, להשפיע על המגמה. קל וחומר שבזמן מלחמה ובתקופה כה סוערת מבחינה פוליטית וחברתית לא ניתן להפנות את הקשב הציבורי לנושא שנתפס כאזוטרי. אלא שההיפך הוא הנכון.  

לישראל השפעה על עולם הטכנולוגיה העילית החורגת בהרבה מגודלה של המדינה. לצד זאת, קיימת במדינה תשתית חברתית, רעיונית ורוחנית החסרה במדינות מערביות אחרות רבות. מאידך, ישראל עלולה לסבול יותר מאשר מדינות אחרות מההשלכות השליליות של הפיתוח המואץ. אין מדובר רק בהשלכות חברתיות, תרבותיות או פוליטיות. אירועי ה-7 באוקטובר מצביעים על כך שבהיעדר יד מכוונת, ההתפתחות הטכנולוגית עלולה אף לסכן את ביטחון המדינה. כחברה וכמדינה, אין לנו את הפריבילגיה לשבת על הגדר בזמן שהעתיד הטכנולוגי יוכרע במקומות אחרים.

טכנולוגיית הבינה המלאכותית עשויה להביא ברכה רבה. וודאי שמדינת ישראל אינה יכולה להרשות לעצמה "להישאר מאחור". אך מהחששות שמעלה ההתפתחות המואצת הזו מסוכן מדי להתעלם. אלו מועצמים על ידי מה שנדמה כקצב התפתחות מעריכי של הבינה המלאכותית, מהיר לאין שיעור מכפי שהתקדמו טכנולוגיות קודמות שזכו לכותרות כבלוקצ'יין ומיזמים של מציאות מדומה ורבודה. הבינה המלאכותית היא עניין אחר.

מה כל כך מסוכן בבינה מלאכותית?

הבינה המלאכותית מעצימה מגמות בעייתיות שרווחו בשדה הטכנולוגי ובעיקר ברשתות החברתיות.  ידוע שתוכן מקטב וקיצוני מקודם על ידי פלטפורמות המדיה החברתית כיוון שהוא נוטה לייצר יותר אינטראקציות. הבינה המלאכותית מאפשרת כבר היום ליצור בלחיצת כפתור כמויות אינסופיות של תוכן מסוג זה. היא גם מאפשרת להפיץ את התוכן הזה באמצעים שנדמים יותר ויותר אמינים, דוגמת פרופילים מזויפים המבוססים על בינה מלאכותית. כך מתרחבת התפוצה של חדשות מזויפות ("פייק ניוז") ומתעצמות "תיבות התהודה", במסגרתן נחשפים משתמשי הרשתות לתכנים שנתפרו במיוחד על מנת להשפיע עליהם, תוך צמצום החשיפה לעמדות שונות והקצנה הולכת וגוברת של הדעות.

השילוב של בינה מלאכותית ורשתות חברתיות, עשוי אף ליצור סכנה של ממש להליך הדמוקרטי. גורמים בעלי עניין מסוגלים להשפיע, ואף משפיעים בפועל, על עמדותיהם של אזרחים בסוגיות ציבוריות, ולא רק באמצעים כשרים. על ידי הפגזה של מידע שקרי, חלקי או מעוות, כזה שכמעט בלתי אפשרי להבחינו מתוכן "לגיטימי", ניתן בקלות יחסית להטות תוצאות של בחירות דמוקרטיות. ישראל, שהקיטוב החברתי גובה ממנה מחירים אדירים, ואשר מערכת הבחירות הבאה שתתקיים בה צפויה להיות סוערת וגורלית במיוחד, נמצאת בהיבט זה בסיכון ייחודי.

לצד זאת, לטכנולוגיית הבינה המלאכותית צפויות השלכות אדירות על עולם העבודה. מקצועות שלמים צפויים להיעלם מן העולם או להשתנות במידה ניכרת. בתרחישים מסוימים, חדירת הבינה המלאכותית לשוק העבודה תגרום לאבטלה המונית ולהקצנה של פערים חברתיים. הכלכלה הישראלית, הנשענת על טכנולוגיה ושירותים, עתידה להיות מושפעת במידה רבה ביותר מהתפתחויות אלו.

ההשלכות הצפויות של הבינה המלאכותית על עולם העבודה מחוללות זירה נוספת של חדירה מאסיבית של בינה מלאכותית: מערכת החינוך. מתוך שאיפה להעניק לבוגריהם כלים רלוונטיים "לעולם העבודה של המחר", ממהרים בתי ספר ומוסדות להשכלה גבוה לשלב בינה מלאכותית בתכניות הלימוד. אלא ששילוב זה מחייב שינויים טקטוניים ומהירים בתחום שראוי כי יתאפיין בזהירות ובצעדים מדודים. למגמה זו ניתן להוסיף את ההשלכות של השימוש בבינה מלאכותית על המיומנויות האקדמיות של הלומדים, על האפשרות למנוע העתקות במבחנים ובעבודות ועוד. במשולב, עולה חשש אמיתי לעתידן של מערכות החינוך כפי שאנו מכירים אותן. ושוב, ההטיה הטכנולוגית של מערכת החינוך הישראלית הופכת אותה לפגיעה במיוחד, אך גם לכזו שבכוחה להצמיח פתרונות ייחודיים.

זווית מקומית טראגית של סכנות ההתפתחות הטכנולוגית טמונה בכשל הביטחון הישראלי של ה-7.10. רבות דובר על הישענות היתר של צה"ל על אמצעים טכנולוגיים, ועל מודיעין טכנולוגי, כגורמים למחדל. אך אלו במידה רבה סוגיות טקטיות. האליטה הישראלית, והאליטה הצבאית בכלל זה, היא טכנולוגית ביותר. ככזו, היא פגיעה לנטייה של הטכנולוגיה ליצור חייץ בין האדם לעולם, ולהחליף את העולם הממשי בייצוג. בתוך כך, יכולות ואינטואיציות אנושיות בסיסיות נוטות להיעלם. את השורשים של הזנחת המודיעין האנושי (ה"היומינט") ואף את אלו של ההתעלמות מאזהרות התצפיתניות ועוד, ניתן למצוא בין היתר במגבלות הקוגניטיביות שמייצרת החדירה הבלתי מבוקרת של הטכנולוגיה לחיינו. במובן זה, ישראל של 2024 היא ככל הנראה האומה הראשונה שנחלה מפלה בשדה הקרב לא על אף העליונות הטכנולוגית שלה, אלא בשל העליונות הזו.[1]

התחום האחרון של חשש מפני ההתפתחות הטכנולוגית הוא זה של "אפוקליפסת בינה מלאכותית". כאן, ניתן להבחין בשני אופנים בהם אותה אפוקליפסה עלולה להתממש. הראשון, הוא מעין "סופה מושלמת" שתאחד את המגמות שתוארו לעיל. החרפת "משבר האמת" שתביא לקריסה חברתית ופוליטית של המבנים הדמוקרטיים של המערב; לצד משבר אבטלה חמור, מערכות חינוך בלתי מתפקדות ופגיעוּת ביטחונית חסרת תקדים. בדומה למשבר האקלים, גרסה זו של האפוקליפסה כבר אינה לגמרי היפותטית, והיא במובנים רבים ממשות עובדתית.

האופן השני, שנדמה בדיוני אך נדון ברצינות מלאה בחוגים טכנולוגיים, הוא זה של "הבינה המלאכותית הרעה". בתרחיש זה, הפיתוח המהיר של הבינה המלאכותית יגיע לכדי "סינגולריות", כלומר נקודה בה הבינה המלאכותית תפתח מעין תודעה ותיקח פיקוד על הפיתוח שלה עצמה. בשל קצב הפיתוח הגבוהה באופן בלתי נתפס של טכנולוגיה במצב בשלות כזה, הבינה המלאכותית המדוברת תהיה בלתי נשלטת ובלתי ניתנת לעצירה. אם בינה מלאכותית זו תחליט לפגוע באנושות, ואין כל ערובה שהיא לא תחליט כך, כמעט ולא יהיה לבני האדם סיכוי להתגונן.

לאחרונה פורסם על ידי חברת מידע וטכנולוגיה מובילה ניתוח לפיו במבנה השוק הנוכחי ישנו תמריץ ברור לבעלי מניות להעדיף פיתוח מהיר של טכנולוגיית בינה מלאכותית על פני פיתח זהיר שלה.[2] כך, כאשר בין המפתחים תתגלע מחלוקת, יכריעו מקבלי ההחלטות ברוב מוחלט של המקרים לכיוון של פיתוח מהיר תוך התעלמות מהשלכות אפשריות על החברה – לרבות מהאפשרות של יצירת "בינה מלאכותית רעה" שלא במתכוון. חשיפות לפיהן חברות טכנולוגיה מעדיפות רווחים על פני רווחתם של משתמשיהן ושל החברה בכללותה, כבר אינן דבר חדש. אך כאן מדובר במשחק באש ברמה אחרת לחלוטין. ולמרות שמדובר באיוּם מסדר גודל חדש, מרבית הפתרונות המוצעים אינם מתעלים אל גודל האתגר.

מעבר לרגולציה, מעבר לסימולציה

לרוב, כאשר אנשי מדיניות טורחים להישיר מבט אל אתגרי הבינה המלאכותית, הם מטילים יהבם על רגולציה. מרחיקי הלכת מדגישים שבעיצוב הרגולציה הזו יש הכרח לשתף "בעלי עניין" כגון הורים ואנשי חינוך, עובדים, אנשי רווחה ובריאות הנפש ועוד.[3] רגולציה היא וודאי הכרחית. אלא שבמקרה דנן, רגולציה אינה מספקת. תעשיית התרופות נמצאת תחת רגולציה חריפה ביותר, אך רגולציה זו לא מונעת את משבר ההתמכרות לאופיאדים בצפון אמריקה, ולא מסייעת למאות אלפי קרבנותיו.[4] רגולציה היא תהליך איטי במכוון. זה לא באג, זה פיצ'ר. לרוב יש בזה היגיון.  אבל הקצב המעריכי של התפתחות הבינה המלאכותית, לצד התמריצים הכבירים להאצת הפיתוח שלה, הופך את הרגולציה למשענת קנה רצוץ.

הבינה המלאכותית מחייבת אותנו לחשוב על פתרונות דרמטיים יותר מאלו שנדונים כיום באופן רציני. אך ישנם מכשולים תודעתיים המקשים על קידומם של פתרונות כאלו. העולם הדמוקרטי נרתע ממה שנתפס כהתערבות בהתנהלות "השוק החופשי". חשש זה, גם אם יש לו סיבות היסטוריות מוצדקות, מונע נקיטת צעדים ממשיים כנגד מי שנתפשים כקטרי צמיחה עיקריים של הכלכלה. אך עוצמתו של השוק ה"חופשי" מנותבת דרך הבינה המלאכותית לאפיקים המאיימים על המרקם הדמוקרטי, ועל הציביליזציה האנושית בכללותה.

לפיכך, עלינו להפסיק לחשוב על הבינה המלאכותית כעל עוד מוצר או שירות. בהיבטים אחדים שלה, הבינה המלאכותית הולכת ומסתמנת כאחד מתחומי התשתיות. מעורבות ממשלתית החורגת מרגולציה גרידא, מקובלת בתחומי התשתיות יותר מאשר בתחומים אחרים של המשק גם בדמוקרטיות ליברליות. גם אם ניתן להשאיר לשוק החופשי פיתוח של יישומים ספציפיים, התשתית הטכנולוגית צריכה להיות בשליטה ציבורית. על היבטים אחרים של הבינה המלאכותית, עלינו לחשוב כפי שאנחנו חושבים על נשק להשמדה המונית. גם מי שרואים ברכה בטכנולוגיה גרעינית, אינם מעוניינים בכך שפיתוח, ייצור ומכירה של נשק גרעיני יהיו עניין המסור להגיון של השוק החופשי. כשם שמשאבים אדירים מושקעים במניעת זליגה של תוצרי לוואי גרעיניים לשוק השחור, כך יש להקפיד למנוע שימשו בבינה מלאכותית ליצירת חדשות כזב בקנה מידה נרחב לדוגמה. זה לא יפתור את הבעיה של מדינות סוררות, אבל יצמצם את הסיכון למשבר כלל עולמי.  

וישנה מגמה רעיונית-רוחנית נוספת, לצד הביטחון ביד הנעלמה המכווינה את השוק החופשי, המקשה על ההתמודדות עם סכנות הבינה המלאכותית. הניהליזם הטכנולוגי של היפותזת הסימולציה. בתמצית, היפותזת הסימולציה היא הטענה שהעולם שאנו מכירים אינו אלא סימולציה ממוחשבת. בעוד לאדם הסביר, הרעיון הזה נשמע מוכר מאינספור סרטי מד"ב ומופרך מיסודו, הרי שבחוגי הטכנולוגיה הוא פופולארי באופן מחשיד. יזם הטכנולוגיה אילון מאסק העריך בעבר שהסיכויים שאנו לא חיים בסימולציה "נמוכים ביותר"[5] ומגזין הטכנולוגיה המשפיע WIRED פרסם ב-2022 מאמר תחת הכותרת "כמובן שאנו חיים בסימולציה"[6]. לרעיון המוזר הזה יש גם תומכים מקרב השורה הראשונה של אנשי ההגות, והלך הרוח הזה משתקף גם בתרבות הפופולרית. זהו רעיון ניהליסטי מעיקרו, גם אם יש הטוענים אחרת.[7] האקלים הניהליסטי הזה, המחלחל לתודעה הציבורית,  הזה שוחק את יכולתה של האנושות להיאבק על עתידה.

האפשרות של חיי משמעות כרוכה בחד פעמיותם של החיים. אם האנושות כפי שאנו מכירים אותה אינה אלא סימולציה שניתן לייצר ממנה אינספור עותקים ולאתחל אותה בכל רגע נתון, הרי שבאמת אין כל סיבה להתגייס למאבק להצלתה. אלא שראיה זו מנוגדת לתובנות יסודיות בחשיבה היהודית והמערבית. במשנה נכתב "אָדָם טוֹבֵעַ כַּמָּה מַטְבֵּעוֹת בְּחוֹתָם אֶחָד, וְכֻלָּן דּוֹמִין זֶה לָזֶה; וּמֶלֶךְ מַלְכֵי הַמְּלָכִים הַקָּדוֹשׁ בָּרוּךְ הוּא – טָבַע כָּל אָדָם בְּחוֹתָמוֹ שֶׁל אָדָם הָרִאשׁוֹן, וְאֵין אֶחָד מֵהֶן דּוֹמֶה לַחֲבֵרוֹ. לְפִיכָךְ כָּל אֶחָד וְאֶחָד חַיָּב לוֹמַר: בִּשְׁבִילִי נִבְרָא הָעוֹלָם"[8]. הייחוד האנושי, לפי תפיסה זו, הוא המעניק משמעות לקיום. אך סימולציות אינן ייחודיות. בין העתקים דיגיטליים של אותו קובץ אין כל הבדל, בניגוד להעתקים פיזיים של יצירה אמנותית או לתאומים זהים מבחינה ביולוגית שלעולם אינם באמת ברי החלפה. העובדה שבמדינת ישראל חי ציבור גדול המעורה בעולם הטכנולוגי, אך בה בעת שומר על זיקה רוחנית ותרבותית למקורות מסוג זה, ממקמת אף היא את ישראל בפוזיציה ייחודית ביחס לאתגר שמייצגת הבינה המלאכותית.

סיכום: נדרש פרויקט

הפיתוח הפראי של הבינה המלאכותית מונע על ידי כסף. גם אם רבים מהעוסקים בפועל בפיתוח מונעים מתוך תשוקה לידע וחדוות יצירה, הרי שאת ההון מנווטת תאוות בצע. מזעור סכנות הבינה המלאכותית מחייב צמצום של המניע הכלכלי בפיתוחה. ואת זה ניתן לעשות רק תוך מעורבות ממשלתית משמעותית, ברמה בינלאומית. על ממשלות העולם להשקיע בעצמן בפיתוח של טכנולוגיות בינה מלאכותית. עליהן לשתף בתהליך לכתחילה קבוצות של הורים, אנשי חינוך, ועדי עובדים, אנשי רוח וגורמי רווחה ובריאות הנפש. כך יתאפשר לקבל החלטות בנוגע לטכנולוגיה מתוך ראייה של טובת הציבור, ותתאפשר לציבור השפעה על חדירת הטכנולוגיה לתחומי החיים השונים. צעדים כאלו, לצד רגולציה אגרסיבית ומיסוי ייעודי על רווחי בינה מלאכותית, ישיגו לאחור את הבולמוס של השוק החופשי ויאפשרו מיתון של הסיכונים. במקביל, יש להקים מוסדות רעיוניים, רוחניים וחינוכיים שיעמיקו את הבנתנו העצמית ואת הבנת העידן בו אנו חיים מתוך אותה רוח הומניסטית המשתקפת במשנה לעיל.

האמונה שלטכנולוגיה כוחות משל עצמה, או שנתיב התפתחות שלה קבוע מראש, היא ייחוס של עוצמה על-אנושית ליציר כפיו של האדם. זהו פטישיזם, המקביל לעבודה זרה בראייה היהודית. גם אם לא ניתן לחזות בדיוק את ההשלכות וההישגים שבכל פריצת דרך טכנולוגית, הרי שבכל זאת בכל פיתוח מעורבות אינספור החלטות אנושיות. בסופו של יום,  אנשים הם שמחליטים לסכן את עתיד האנושות בפיתוח משולח רסן מתוך תאוות בצע. ואנשים הם אלו שיכולים להחליט אחרת. לא בשם שנאה לטכנולוגיה אלא בשם אהבה לאדם.

כפי שראינו, מדינת ישראל צפויה להיות מושפעת מסכנות הבינה המלאכותית במידה מרובה ביותר. אך בחברה הישראלית צפונים כוחות בעלי חשיבות בראיה כלל עולמית המסוגלים להירתם למזעור הסכנה. קיים במדינה מגזר טכנולוגי בעל השפעה אדירה, שהוכיח שפעולה מתוך מניע ערכי אינה זרה לו. קיים ציבור האוחז במסורות תרבותיות ובדרכי חשיבה שאינן מיישרות קו באופן אוטומטי עם מגמות תרבותיות מערביות, אך מקיים אל אלו זיקה קרובה. קיימים ארגוני עובדים חזקים יותר מאשר בכל מדינות המערב כמעט. על ארגונים אלו לדרוש מהממשלה לפעול לשיכוך סכנות הבינה המלאכותית בשוק העבודה. כך גם בנוגע לארגוני מורים, שלצד מאבקם ההכרחי על תנאי ההעסקה של נשות ואנשי חינוך, יכולים לדרוש מהמדינה לפעול כדי לווסת את חדירת הבינה המלאכותית אל מערכת החינוך. קיימות בישראל מסגרות אזרחיות, תנועות נוער וישיבות, ארגוני מחאה וקהילות שהוכיחו לא אחת את יכולת ההתגייסות שלהם. ראוי שמדינה יהודית דמוקרטית תישא בשורה לעולם. נכון שתתייצב בראש ותוביל את הקריאה לשינוי כיוון יסודי באופן בו טכנולוגיה מיוצרת ומוטמעת. הדבר נכון שבעתיים כאשר המדינה היהודית הדמוקרטית גאה לראות בעצמה גם "סטארט אפ ניישן". ומעל לכל, החברה הישראלית משוועת לפרויקט. למשימה גדולה החורגת מהמחלוקות הפנימיות ומהמלחמות המקומיות, הרות גורל וכאובות ככל שאלו יהיו.