באחת המכללות האקדמיות בארץ קיבלו לאחרונה המרצים הזמנה חגיגית לכנס AI. "אנו צועדים לקראת העתיד החדש" נכתב בהזמנה, שכללה הבטחה לאירוע חגיגי, חוויתי ומרגש לקראת הכנסת טכנולוגיית הבינה המלאכותית כחלק בלתי נפרד מהלימודים במכללה.
כך צועדת לה המכללה (ועוד ארגונים רבים אחרים) לקראת העתיד, בלי לשאול מה המחיר של הצעידה הזו – מה יהיה אופי החברה העתידית? האם זה לטובתנו? מהן הערכים שלנו כחברה? כיצד ה-AI משתלב בערכים האלה? התרגלנו לזהות טכנולוגיה עם קידמה, עד שאין מקום לשאלות, כי מי ששואל הוא "מכחיש קידמה" ו"סרבן AI". הרכבת יצאה מהתחנה, וכל מי שלא קופץ עליה שייך לעבר.
Artificial Intelligence (AI)
AI היא טכנולוגיה שמחקה את האינטליגנציה אנושית לביצוע משימות. המערכות האלו יכולות לשפר את עצמן באופן אטרקטיבי על סמך המידע שהן אוספות. יתרונה של הטכנולוגיה הזו היא בביצוע אוטומטי של משימות שכיום מבצעים אותן בני אדם. כלומר, מעצם הגדרתה, הטכנולוגיה הזו מייתרת את בני האדם, או לפחות את חלקם. מה תהיה ההשפעה העתידית של הטכנולוגיה הזו על שוק העבודה ועל החברה האנושית? נראה שלא ניתן להעריך כרגע.
לטכנולוגיה תורמת לחיינו בהרבה היבטים. בלי טכנולוגיה היינו עדיין שואבים מהבאר מים עם דלי ונוסעים בעגלה רתומה לסוסים. אבל לטכנולוגיה יש מחיר, והמחיר הזה ראוי שיידון לפני דהירה מהירה וחסרת אחריות לקראת עתיד שאינו ידוע. מטרת מאמר זה היא להתייחס לסכנות הגלומות בטכנולוגיית ה AI. לא אתייחס כלל ליתרונותיה הרבים של הבינה המלאכותית, כמו אפשרויות האינסופיות בתחום הרפואה, טיפול באנשים עם מוגבלויות, ואפילו חיסכון בזמן יקר. ישנן חברות מסחריות רבות שיש להן אינטרס לשווק את הטכנולוגיה הזו, לעיתים על חשבון העתיד והרווחה של הציבור הרחב. מאמר זה נועד להציג את הקול הספקן, המהסס, השואל והמערער, ואציג לשם כך 6 סוגיות חשובות לדיון ציבורי.
1. טשטוש הגבולות בין אמת לשקר
לאחרונה התפרסמה תמונה שבה מצולמים יחד המונה ליזה וליאונרדו דה-וינצ'י. כיצד ניתן היה לצלם תמונה כזו 100 שנה לפני המצאת הצילום? לא ניתן. זו תמונה שנעשתה באמצעות טכנולוגיית הAI-. התמונה הזו היא אמנם שעשוע נחמד, אולם היא מצביעה על סכנה אמיתית להגברת הטשטוש בין אמת לשקר. כניסה של טכנולוגיה המאפשרת זיוף של המציאות, מהווה סכנה אמיתית לחברה ולאפשרות לקיים שיח רציונאלי שמבוסס על עובדות. עולם שבו כל נתון, כל תמונה, וכל סרטון עלולים להתגלות כמזויפים הוא עולם ללא אמת. זהו עולם שלא ניתן להתנהל בו בביטחון, ולא ניתן לגבש בו עמדה עצמאית מבוססת.
2. היעדר חשיבה ביקורתית
ChatGPT הוא צ'טבוט שניתן לשוחח איתו על כל נושא בעולם. הוא יודע הכל, או כך הוא לפחות טוען. ניתן לשאול אותו כל שאלה, על כל נושא שבעולם, והוא ידע לענות. התשובות שלו נראות מקצועיות מאוד ומשכנעות ומבוססות על מקורות מדעיים, משפטיים, חדשותיים או אחרים. וכאן טמון המלכוד. ראשית, לא כל העובדות והמקורות עליהם מבססת את התוכנה את טענותיה הם אכן מקורות אמיתיים. אם ננסח זאת באופן פחות עדין – הצ'טבוט יודע לשקר בלי למצמץ. שנית, לרוב האנשים אין מספיק ידע להתווכח עם מכונה ידענית שכזו, שמציגה עשרות רבות של מקורות. בדיקת המקורות והטקסטים שמספק הצ'טבוט היא קשה ומפרכת, ולכן קל יותר לקבל את ה"אמיתות" שמספקת הבוט בלחיצת כפתור, מאשר לבדוק באופן עצמאי. כאן בדיוק אובדת החשיבה הביקורתית – קבלה אוטומטית של מידע שמגיע על ידי סמכות חיצונית מעודד היעדר חשיבה, והפנמה פאסיבית של ידיעות ועובדות. כך נוצר עדר של אנשים שאינם מסוגלים לחשוב באופן עצמאי, ומעדיפים לחשוב את מה שאמרו להם שצריך לחשוב.
3. ירידה באיכות הלמידה
המוסדות האקדמיים ממהרים לקפוץ על רכבת ה-AI. הטענה היא שההוראה והלמידה צריכות להתקדם לקראת העולם הטכנולוגי החדש, ושהבינה המלאכותית צריכה להווות חלק בלתי נפרד מקדמה זו. אולם הקישור בין למידה איכותית לבין שיטות הוראה חדשניות הוא קישור שגוי מיסודו. למידה איכותית אינה תלויה בשיטת הלמידה אלא היא מתבטאת בחינוך לחשיבה ביקורתית, לשאילת שאלות, ולפיתוח היכולת להתמודד עם דיסוננס קוגניטיבי. את הדברים האלה בינה מלאכותית לא יכולה לעשות, אלא בדיוק להיפך. סביר להניח שמעבר למילים היפות על למידה מתקדמת, המציאות בשטח תהיה שונה לחלוטין, והתוכנות האלה יאפשרו לסטודנטים להעתיק עבודות באופן יעיל יותר. בדיוק כמו שנעשה עד היום באקדמיה הממוסדת, רק במחיר זול יותר ובזמן מהיר יותר.
4. מעקב
תוכנות בינה מלאכותית מאפשרות כבר היום מעקב אחר אזרחים. כלים של AI משכללים את אפשרות לזיהוי פנים וניטור פעולותיהם של האזרחים במרחב הציבורי (וייתכן שגם במרחב הפרטי). על אף שמעקב אחר אזרחים משווק לציבור במילים יפות כמו "ערים חכמות" או "בטיחות", מעבר למילים השיווקיות מדובר באובדן פרטיות ומעקב מתמיד, שרק ילכו וישתכללו ככל שתתקדם הטכנולוגיה. המעקב, למרות השיווק החיובי, אינו לטובת האזרחים – הוא מצר את צעדיהם, חושף אותם באופן מתמיד בפני הרשויות, ומהווה תשתית למערכות דרוג חברתי, שיאפשרו שליטה חזקה וכפייה על האזרחים.
5. קיבוע נרטיבים גלובליסטים
מי ששוחח עם צ'טבוט בנושא חיסונים, למשל, שמע ממנו את המנטרות "יעיל ובטוח" ואת הטענה שהחיסונים הם אלה שהצילו את העולם מפני מחלות. הבינה המלאכותית מהדהדת מסרים שעולים בקנה אחד עם האינטרסים של מפתחיהם ושל המשקיעים בטכנולוגיה, ועל כן מדובר במסרים מוטים. בדומה למסרים האחידים שעולים מהרשתות החברתיות ולצנזורה שקיימת שם, גם המסרים שמעבירים הבוטים הם אלה אשר יתמכו בסדר העולמי החדש, בהמשך ל"חיסון" האוכלוסייה בלחץ ובכפייה, בהגברת המעקבים על הציבור בדמות "ערים חכמות", וביצירת שיח חד-צדדי בנושא האקלים. בכך, מהווה הבינה המלאכותית נדבך נוסף בצנזורה על תפיסות שאינן נמצאות בקונצנזוס, ובמניעה של מידע אלטרנטיבי מהציבור הרחב, שיאפשר שיח פלורליסטי ומגוון תפיסות. במילים אחרות, מערכות AI יהוו חלק בלתי נפרד מהשלטת ה"קונצנזוס המדעי" בנושאים שחייבים להיות שנויים במחלוקת, ובהפיכתו של המדע לדת שאסור לכפור בה.
6. השתלטות AI על האנושות
הטענה שה-AI יכול להשתלט על האנושות אינה קונספירציה הזויה של מכחישי טכנולוגיה. את הטענה הזו העלו גם בכירים בחברת ChatGPT, אולם הם ממהרים להרגיע ומבטיחים שרגולציה של הממשלות תעזור להתגבר על הסכנה הזו. בטענה זו ישנם שני כשלים יסודיים. הכשל הראשון נוגע לפיתוח הטכנולוגיה עצמה. מה הטעם בפיתוח טכנולוגיה כה מסוכנת, ולאחר מכן להכיל רגולציה כדי לוודא כי אינה הורסת את האנושות? לשם מה הסיכון הגדול הזה? משול הדבר להכנסת נמר הביתה, ולאחר מכן לעסוק בבניית כלובים וגדרות כדי להתגונן מפניו ולוודא שאינו טורף את בני הבית. הכשל השני נוגע למהות הפיקוח – האמונה שהממשלות וגורפים בינלאומיים הם גופים נטולי אינטרסים הפועלים לטובת הציבור בלבד היא אמונה שדורשת עדיין הוכחה. מלחמות, משברים בינלאומיים, רעב, ושחיתות שמהווים חלק נפרד מעולמנו, מעידים כי טובת הציבור אינה השיקול העיקרי (ולעיתים גם לא המשני) המניע את המנהיגים המקומיים והעולמיים. כיצד, אם כן, ניתן להפקיד בידיהם את הרגולציה ולקוות שהאנושות תמשיך לשרוד?
סיכום
לצד היתרונות הגלומים בטכנולוגיית ה-AI, מאמר זה מציג 6 סכנות, שאין להקל בהן ראש, והן דורשות דיון. למרבה הצער, כמו בנושאים רבים אחרים, נראה כי דיון זה עלול שלא להתקיים. הבינה המלאכותית היא יצירה של בעלי אינטרסים שלא יוותרו בקלות על היכולת להשפיע על האנושות באופן חזק ובלתי הפיך, תוך התכחשות לסכנות שמנינו כאן במאמר
מאמר מעולה שסוף סוף שם גם דגש על החסרונות האדירים שיש בטכנולוגיה הזו ולא מדגיש את היתרונות. תודה רבה!
t1h1fx