תחרות החיבור הקצר 2025

האונטולוגיה המשתנה של האוטונומיה: 

מבט דיאלקטי על יחסי הגומלין בין האדם והבינה המלאכותית

עדי ליואי

תקציר

עלייתה של הבינה המלאכותית מעוררת חששות באשר לפגיעה באוטונומיה האנושית.

בכוונתי לטעון שחששות אלה בלתי מוצדקים, וכי הבנה מעמיקה של מושג האוטונומיה עשויה להוביל להערכה כי ככל שהבינה המלאכותית תתפתח ותרחיב את מקומה בחיינו כך תועצם היכולת האנושית לחקיקה עצמית ויובהר: אין בכוונתי לשרטט תמונה מושגית אידיאליסטית המתעלמת מהסיכונים הכרוכים בכניסתה של הבינה המלאכותית לחלקים שונים של חיינו, אלא לטעון שכמו כל טכנולוגיה חדשה שהתקבלה בעבר, גם ה-AI תביא לשינויים מושגיים שיצרו בלמים ואיזונים שיעצבו מחדש את המרחב הסמנטי שבין האוטונומיה והטכנולוגיה.

מושג האוטונומיה זכה להתייחסויות מעמיקות, מפורשות ומשתמעות, אצל הוגים רבים בתרבות המערב.

לצורך הדיון כאן אתמקד במושג האוטונומיה הקאנטיאני ועל-כן אפתח את החיבור בתיאור קצר ובלתי ממצה של מושג האוטונומיה אצל קאנט. לאחר מכן אתייחס ליחסי הגומלין בין האדם לטכנולוגיה, תוך הישענות על רעיון ה-Extended Mind של צ'למרס וקלארק[1]. לבסוף, אטען שהבינה המלאכותית תביא להתאמות סמנטיות במושג האוטונומיה כשם שעשו זאת בעבר המצאת הכתב, הדפוס, האינטרנט וטכנולוגיות אחרות.

מושג האוטונומיה אצל קאנט 

פילוסופיית המוסר של עמנואל קאנט מתבססת על מושג האוטונומיה (אוטו=עצמי, נומוס=חוק), כלומר על יכולתו הייחודית של האדם לחוקק לעצמו את כללי המוסר. אוטונומיה זו היא לדידו מהות החירות האנושית, זאת בניגוד ל"הטרונומיה", שבה כללי המוסר נכפים עלינו מבחוץ, בין אם מסמכות דתית ו/או ממוסכמות חברתיות. מימוש האוטונומיה משמעה יכולתו של האדם לבטא את מהותו כיצור רציונלי ומוסרי בעולם.

בנוסף, לפי קאנט החירות האנושית מתגלה דווקא בקבלת הכלל המוסרי שהתבונה מנסחת. כאשר אנו פועלים מתוך דחפים, תאוות או אינטרסים אישיים, איננו באמת חופשיים אלא משועבדים לטבענו. במקרים אלה רצוננו עשוי להיות טוב, אך הוא אינו "בלא הגבלה", כלומר הוא מותנה ולכן אינו אוטונומי. רק כאשר אנו בוחרים לפעול מתוך הבנה של החוק המוסרי, שמקורו בתבונה שלנו עצמנו, אנו מממשים את חירותנו. האוטונומיה, על כן, אינה שרירותיות או הפקרות, להיפך, היא הכרה בחוק פנימי מחייב.

נוכחותה של האוטונומיה הקאנטיאנית ניכרת בכל פינה בחשיבה המודרנית. עקרון ההסכמה מדעת באתיקה רפואית, זכויות האדם האוניברסליות במשפט הבינלאומי, ואידיאל החינוך לחשיבה ביקורתית, כולם מושרשים בתפיסת האוטונומיה שפיתח קאנט. מורשתו הפילוסופית נותרה עמוד התווך של החשיבה האתית-מוסרית המערבית, המדגישה את ערכו המוחלט של האדם כיצור אוטונומי ורציונלי בעולם. 

האם הבינה המלאכותית מהווה אתגר לאוטונומיה הקאנטיאנית?

במבט ראשון נראה כי מערכות בינה מלאכותית עשויות לאתגר את התפיסה הקאנטיאנית של אוטונומיה. לדוגמה, מערכות AI עורכות מעקב אחר העדפותינו ומנתחות לא רק את התנהגותנו הגלויה אלא גם את בחירותינו הסמויות, רגשותינו ובמידה מסוימת אף את תת-המודע שלנו, ובכך יוצרות מאגרי מידע המאפשרים מניפולציות העלולות לעצב את החלטותינו. 

על כן, לכאורה ניתן לטעון, שאם האדם הוא מחוקק אוטונומי של חוקים מוסריים אוניברסליים, אזי בסביבה שבה אלגוריתמים יוצרים מערכת נורמטיבית סמויה המעצבת את העדפותינו עלולה יכולת החקיקה האוטונומית להתערער. בהקשר זה, יהיה מי שיטען  שהטכנולוגיה עלולה לאיים על הנאורות לפי קאנט. אם "הנאורות היא יציאת האדם מאי-בגרותו שהוא עצמו אשם בה",[2] אזי הבינה המלאכותית עשויה לגרום לנו לחשוב בטעות שאנו נאורים בעוד שלמעשה עברנו מאי-בגרות סתמית לאי-בגרות טכנולוגית.

אולם, להבנתי, עמדה זו לוקה בהבנת רעיון האוטונומיה הקאנטיאני ומבט נוסף בציווי המוחלט בנוסחו הכללי עשוי לשפוך אור על עניין זה. אכן קאנט מורה לנו "עשה מעשיך רק על פי אותו הכלל המעשי אשר בקבלך אותו תרצה גם שיהיה לחוק כללי",[3] אולם יש להבין את קאנט כמי שאומר שהרצון התבוני הוא אובייקטיבי, כלומר האדם אינו יכול לרצות אלא את הכלל המוסרי שהתבונה מנסחת לו. כלומר, אדם אוטונומי, אדם הקשוב לתבונתו, אינו מושפע ממערכות נסיבתיות המנסות לעצב את החלטותיו. למעשה המוסר הקאנטיאני מגן עלינו מפני מניפולציות מבוססות AI.

בינה מלאכותית כמעצימה של האוטונומיה האנושית

בניגוד לתפיסה המקובלת המעמידה את האדם והטכנולוגיה זה מול זה, ניתן ליישם תפיסה מורכבת יותר של יחסי הגומלין ביניהן. קלארק וצ'למרס טוענים שכלים טכנולוגיים הופכים להיות הרחבה של הגוף החי, כך לדוגמה המקל של העיוור אינו רק אובייקט חיצוני אלא הופך לחלק מהדרך בה הוא חווה את העולם. באופן דומה, טכנולוגיות דיגיטליות, ובייחוד מערכות AI אדפטיביות, אינן רק כלים חיצוניים אלא הופכות לחלק מהאופן שבו אנו תופסים את העולם, חושבים עליו ופועלים בו. הן הופכות למה שקלארק וצ'אלמרס מכנים extended mind. בהתאם, האוטונומיה אינה מתממשת במנותק מהטכנולוגיה, אלא דווקא דרך יחסי גומלין מודעים עימה. הטכנולוגיה אינה משנה רק את האופן שבו אנו פועלים בעולם אלא גם את האופן שבו העולם מתגלה בפנינו ואת האופן שבו אנו מבינים את עצמנו כסובייקטים. במובן זה, מערכות בינה מלאכותית אינן רק כלים המשרתים את מטרותינו אלא הן שותפות פעילות בעיצוב המטרות עצמן, כלומר הן מאפשרות לנו לנסח שאלות חדשות שאנו מציבים בפני התבונה כאתגר לחקיקה מוסרית חדשה.

האתגר האמיתי, אם כן, אינו לשמר אוטונומיה במובן של עצמאות מוחלטת מטכנולוגיה אלא לפתח מה שניתן לכנות "אוטונומיה רציונלית". כלומר, יכולת לנהל יחסים רפלקטיביים, ביקורתיים ובעלי משמעות עם הטכנולוגיות המעצבות את חיינו החיצוניים והפנימיים ולא לקבלן באופן צרכני וסביל. בהקשר זה, מתבקשת חשיבה המעודדת דיאלוג והרהור מחדש על היחסים עם הטכנולוגיה ככאלה המאופיינים בהדדיות, נוכחות ופתיחות.

טכנולוגיה ואוטונומיה: בין איום להעצמה

החששות בדבר השפעת הטכנולוגיה על האוטונומיה האנושית עלו בעבר מספר רב של פעמים והם החלו בעת העתיקה עם התפשטות הכתב, עת הביע אפלטון את חששו כי הכתב יפגע באוטונומיה הקוגניטיבית של האדם, יחליש את זיכרונו הטבעי ויערער את הדיאלוג החי כדרך להשגת ידע אמיתי. עם זאת, דווקא הכתב אפשר את שימור הידע מעבר למגבלות הזמן והמרחב, והעצים את האוטונומיה האינטלקטואלית של האדם על ידי הפיכת הידע לנגיש מעבר למעגלים סגורים של מורה-תלמיד, מה שהוביל להתפתחות החשיבה הפילוסופית, המדעית והביקורתית באמצעות היכולת לבחון רעיונות באופן שיטתי ומצטבר.

לאחר כאלפיים שנים, מנהיגי הכנסייה והאליטות הדתיות חששו שהדפוס יערער את מונופול הידע שלהם ויוביל ל"התפשטות סכנותיה של הבורות" כאשר אנשים יפרשו טקסטים ללא הכוונה סמכותית. אולם בפועל, הדפוס העצים את האוטונומיה של הפרט באופן חסר תקדים, הדמוקרטיזציה של הידע הובילה להתפתחות הרפורמציה, האוריינות ההמונית, ולבסוף לנאורות ולמהפכה המדעית - תנועות שקידשו את האוטונומיה האנושית, חופש המחשבה והביקורת הרציונלית.

עם תחילת העידן התעשייתי עלה החשש שהמכונות יחסלו את מקור פרנסתם של בני האדם  ואת האוטונומיה המקצועית שלהם כאומנים בעלי מומחיות וכישורים ייחודיים, על ידי הפיכתם לפועלים פשוטים התלויים במערכת התעשייתית. בראייה ארוכת טווח, ייעול הייצור דווקא שיחרר משאבים אנושיים עצומים, הוזיל מוצרים וייצר מקצועות חדשים, והמהפכה התעשייתית, חרף קשייה, הובילה לעלייה חסרת תקדים ברמת החיים שאפשרה לאנשים רבים יותר אוטונומיה כלכלית, השכלה והשתתפות פוליטית.

במאה ה-20, הזהיר אורוול, בספרו 1984, כי טכנולוגיות תקשורת ההמונים יאפשרו שליטה ומניפולציה של התודעה הציבורית, כאשר אידיאולוגיות ישודרו באופן מרוכז וישטפו את מוחו של הפרט ; אך בה בעת, הרדיו והטלוויזיה הפכו למדיום דמוקרטי שאפשר הפצת רעיונות ומידע לשכבות רחבות באוכלוסייה, חיזק תרבויות אזרחיות, אפשר העברת ביקורת על המשטר, ויצר "כיכר ציבורית" חדשה שהעצימה את יכולתם של אזרחים להבין את עולמם ולגבש דעה עצמאית.

בהמשך, עלו אזהרות מפני ערעור האוטונומיה המקצועית כאשר מערכות ממוחשבות החליפו את שיקול הדעת האנושי בתחומים כמו רפואה ותעופה. אולם המחשוב אפשר לאנשים מקצועיים לבצע את עבודתם ביעילות גבוהה יותר, להתמקד בהיבטים מורכבים הדורשים דווקא אנושיות, ולשחרר זמן וקשב ממשימות טכניות - הטכנולוגיה הפכה לכלי שהעצים את האוטונומיה המקצועית במקום לערער אותה.

סקירת ההיסטוריה הטכנולוגית מגלה דפוס עקבי: מהכתב דרך הדפוס, המיכון התעשייתי ועד האינטרנט - בכל תקופה התעוררו חששות עמוקים כי הטכנולוגיה החדשה תערער את האוטונומיה האנושית, אך בפועל היא דווקא העצימה אותה בדרכים בלתי צפויות.

ניסיון העבר מלמד שהחששות מבינה מלאכותית כאיום קיומי על האוטונומיה האנושית, אף שהם מובנים, עשויים להיות מוגזמים בדומה לחששות קודמים שהתגלו כלא מוצדקים. במקום חיסול האוטונומיה האנושית, הבינה המלאכותית עשויה להוביל להרחבתה בממדים חדשים, בדומה לטכנולוגיות קודמות ששינו את ההגדרה של אוטונומיה והעשירו אותה. זאת, כל עוד הפיתוחים הטכנולוגיים יסייעו לנו להעמיד בפני התבונה אתגרים אתיים חדשים, ידייקו את השאלות שאנו מציבים בפניה במטרה לשמר את החקיקה העצמית, ויאפשרו לנו להרחיב את יכולתנו להישמע לציוויה המוחלט.

סיכום: האונטולוגיה המשתנה של האוטונומיה

חיבור זה בחן את היחסים הדיאלקטיים בין מושג האוטונומיה האנושית ורעיון הבינה המלאכותית, תוך התמודדות עם החששות העכשוויים שהבינה המלאכותית תפגע באוטונומיה האנושית. בפתיחה הוצג מושג האוטונומיה הקאנטיאני, המתמקד ביכולת האדם לחוקק לעצמו חוקים מוסריים כביטוי לחירותו. על-פי קאנט, האדם מממש את חירותו האמיתית כאשר הוא פועל מתוך הבנה של החוק המוסרי הנובע מתבונתו, ולא כאשר הוא משועבד לדחפיו או להשפעות חיצוניות.

בהמשך, התמודד החיבור עם הטענה שהבינה המלאכותית מאתגרת את האוטונומיה הקאנטיאנית באמצעות מערכות המנטרות התנהגויות ומעצבות העדפות. כנגד טענה זו, הוצגה ההבנה שהמוסר הקאנטיאני דווקא מספק הגנה מפני מניפולציות טכנולוגיות, שכן הוא מניח שהרצון התבוני הוא אובייקטיבי ואינו מושפע מנסיבות חיצוניות.

בהקשר זה נראה כי יש לאמץ פרספקטיבה מורכבת יותר על יחסי אדם טכנולוגיה בהתבסס על רעיון                       ה Extended Mind- של קלארק וצ'למרס, לפיו טכנולוגיות אינן רק כלים חיצוניים אלא הופכות לחלק אינטגרלי מהאופן שבו אנו תופסים ומבינים את העולם ואת עצמנו. לפי תפיסה זו, האוטונומיה האנושית אינה מתקיימת בניתוק מהטכנולוגיה אלא דווקא דרך יחסי גומלין מודעים עימה.

סקירה היסטורית של דוגמאות קודמות של התפתחויות טכנולוגיות לימדה אותנו שדאגה באשר לאובדן האוטונומיה אינה נחלת דורנו הבלבדית. החל מהכתב בעת העתיקה, דרך הדפוס בתקופת הרנסנס, המיכון התעשייתי של המאה ה-19, תקשורת ההמונים במאה ה-20 ועד המחשוב - בכל אחד מהמקרים האלה התעורר חשש עמוק שהטכנולוגיה החדשה תצמצם את האוטונומיה האנושית, אך בפועל הטכנולוגיה דווקא העצימה אותה, לעיתים אף בדרכים בלתי צפויות.

במקום לראות בבינה המלאכותית איום על האוטונומיה האנושית, מוצע לראותה כהזדמנות להרחבת האוטונומיה בממדים חדשים, כפי שטכנולוגיות קודמות שינו והעשירו את הגדרתה של האוטונומיה.

האתגר האמיתי, לפי החיבור, אינו לשמר אוטונומיה במובן של עצמאות מוחלטת מטכנולוגיה, אלא לפתח "אוטונומיה רציונלית" - היכולת לנהל יחסים רפלקטיביים, ביקורתיים ובעלי משמעות עם הטכנולוגיות המעצבות את חיינו. יחסים אלה ידרשו ניהול דיאלוג פנימי וחיצוני לגבי האופן שבו הטכנולוגיה מעצבת את חיינו, מתוך הכרה ביחסי הגומלין ההדדיים בין האנושי לטכנולוגי. בנוסף, תידרש הבנה שהן האדם והן הטכנולוגיה משתנים דרך האינטראקציה ביניהם, ושהאוטונומיה מתממשת באמצעות היכולת לעצב באופן מודע את הטרנספורמציה הזו וכל זאת בדרך של יצירת מרחב משותף בין האנושי לטכנולוגי המאפשר צמיחה, יצירתיות ומשמעות תוך הכרה בייחודיות של כל צד.

הבינה המלאכותית עשויה להוביל להרחבת האוטונומיה האנושית בדרכים שעדיין איננו יכולים לצפות במלואן, בדיוק כפי שקרה עם טכנולוגיות מהפכניות קודמות לאורך ההיסטוריה האנושית.

# # # # #