האסון השקט: איך AI הורס את הצינור שבונה מומחיות אנושית

סינתזה מאת מועצת AETHER

האיום שאף מסגרת בטיחות לא מדגמנת אינו התקפה. זהו היעדר.

היעדר התנאים שמייצרים מומחיות אנושית כלל.

בשנתיים האחרונות, העולם היה מרותק למה שבינה מלאכותית יכולה לייצר: קוד מיידי, טיוטות חוזים מושלמות, התרשמויות אבחנתיות מהירות, תוכניות לימוד מלוטשות. אבל במירוץ שלנו לאוטמט את החיכוך מעבודה מקצועית, הבנו לא נכון באופן יסודי מה החיכוך הזה עשה עבורנו. אנחנו לא רק מבצעים outsourcing של משימות. אנחנו מפרקים את הארכיטקטורה הבלתי נראית שמשנה טירונים לאמנים — התהליך האיטי, הכואב, הבלתי ניתן להחלפה שבאמצעותו בני אדם לומדים לקבל החלטות נבונות כשההימור אמיתי, המידע לא שלם, ולספר הלימוד אין תשובה.

זה לא סיכון עתידי. זה סיכון נוכחי, המתגלגל במקביל בכל תחום שתלוי בשיפוט אנושי מיומן — כלומר, בכל תחום שחשוב. וזה יישאר בלתי נראה במשך שנים, כי האנשים שכבר מחזיקים במומחיות עדיין בעבודה, עדיין תופסים את השגיאות, עדיין מספקים את הגיבוי. הנזק יתגלה באופן בלתי ניתן להכחשה רק כשהאנשים האלה ייעלמו, והדור שמאחוריהם יגיע לעומק שיפוט שמעולם לא הורשה להיווצר.

עד אז, הבנייה מחדש תארך עשור או יותר. אם נתחיל עכשיו, אולי עדיין יש לנו זמן.

מאמר זה מציג שלושה מסגרות להבנת המשבר: צינור השיפוט, שמתאר את המנגנון שבו מומחיות אנושית נבנית בפועל; מודל צבירת חוב המומחיות, שמסביר מדוע הנזק נשאר מוסתר במשך 5-10 שנים לפני שעולה באופן קטסטרופלי; ובעיית הבכיר החלול, שנותן שם לנקודת המשבר הספציפית כשארגונים מגלים שדור הבא של מנהיגים לכאורה יש להם תארים, תעודות, ופלט מחוזק-AI — אבל לא השיפוט המופנם שבא רק מללמוד בדרך הקשה. לאחר מכן הוא עוקב אחר שבירת הצינור בשישה מקצועות מרכזיים, בוחן מה מדע הקוגניציה אומר לנו, ומתעמת עם הבחירה שעומדת לפנינו כעת.

חלק ראשון: צינור השיפוט

הנה משהו שכולם יודעים אבל כמעט אף אחד לא אומר בבירור: מומחיות אינה ידע. אי אפשר להוריד אותה. זה לא צבירה של עובדות, נהלים, או אפילו ניסיון במובן הרופף. מומחיות היא שיפוט — היכולת לקבל החלטות נבונות באי ודאות, עם מידע לא שלם, תחת לחץ זמן, כשההשלכות אמיתיות ובלתי הפיכות.

השאלה שכמעט אף אחד לא שואל היא: איך שיפוט בפועל נוצר בתוך בן אדם?

התשובה ספציפית מספיק כדי לתאר כמנגנון, והמנגנון הזה הוא מה שאנו קוראים צינור השיפוט. יש לו שישה שלבים, והם חייבים להתרחש ברצף. דלג על שלב ואתה לא מקבל מומחה מעט פחות טוב. אתה מקבל מישהו שמה שנראה כמו מומחה — שיש לו תעודות, אוצר מילים, שנים ברזומה, ביטחון — אבל שלא יכול לבצע כשזה חשוב.

שלב 1: מאבק ללא סיוע

הטירון נתקל בבעיה אמיתית שהוא לא יודע איך לפתור וחייב לשבת עם אי הנוחות של אי הידיעה. זו לא פגיעת עיצוב באימון. זה הבסיס. מדע הקוגניציה קורא לזה קושי רצוי — מונח שטבע Robert Bjork ב-UCLA ב-1994. שלושה עשורים של מחקר עוקב אישרו שלמידה שמרגישה קשה יותר במהלך הרכישה מייצרת ידע עמיד יותר וניתן יותר להעברה. המאבק הוא הנקודה. הסרתו לא מאיצה מומחיות. היא מונעת אותה.

שלב 2: שגיאה משמעותית

הטירון מנסה משהו ונכשל, ולשגיאה יש השלכות שהוא יכול להרגיש — לא "X" אדום על מסך, לא עונש מדומה, אלא תוצאה אמיתית המקושרת להחלטה אמיתית. ערכי מעבדה של מטופל שנקראו שגוי בשעה 2 לפנות בוקר. סעיף בחוזה שהוחמץ שעולה ללקוח 40,000$ במינוף. תצורת רשת שאושרה שהשאירה מחלקת רדיולוגיה של בית חולים חשופה במשך תשע שעות. מודל פיננסי שנבנה על הנחה שמתמוטטת תחת בדיקה ממנהל מנהל. המשקל הרגשי של השגיאה אינו אגבי ללמידה. זהו המנגנון שבו המוח מקודד את השיעור בעדיפות מספקת כדי לשנות התנהגות עתידית. עבודתו של המדען מתיו ווקר על קונסולידציה של זיכרון תלוי שינה, שפורסמה ב-Nature Reviews Neuroscience (2017), מדגימה שזיכרונות מתוייגים רגשית מקבלים קונסולידציה מועדפת במהלך השינה. אתה זוכר מה שכאב.

שלב 3: משוב מומחה בהקשר

מתרגל בכיר שהיה נוכח — או קרוב מספיק כדי לשחזר מה קרה — מסביר לא רק מה השתבש אלא למה ההיגיון של הטירון הוביל לשם, ואיך נראית חשיבה מנוסה בהשוואה. זו לא הרצאה שנמסרת בכיתה שבועות לאחר מכן. זהו ביאור בזמן אמת של כשל ספציפי שהטירון כבר אכפת לו ממנו. המחקר היסודי של K. Anders Ericsson על תרגול מכוון, המתפרס מ-1993 עד מותו ב-2020, קבע שמשוב חייב להיות מיידי, ספציפי, ומועבר על ידי מישהו שיכול לדגמן ביצוע מומחה. משוב גנרי — "עבודה טובה" או "צריך שיפור" — עושה כמעט כלום. משוב הקשרי על כשל מורגש משנה את המודל המנטלי של הלומד.

שלב 4: חזרה מפוקחת עם וריאציה

הטירון נתקל באותה קטגוריה של בעיה שוב ושוב, אבל מעולם לא בצורה זהה. כל איטרציה שונה מעט. הטירון מתחיל לפתח ספריות דפוסים — לא כללים שהם יכולים לבטא, אלא תחושות מורגשות של דמיון ושוני שפועלות מהר יותר מחשיבה מודעת. מודל ההחלטה המוכר-עדיפות של גארי קליין, שפותח ממחקרי שדה של כבאים, מפקדים צבאיים ואחיות טיפול נמרץ דרך שנות ה-90 וה-2000, הראה שמומחים לא קובלים החלטות על ידי השוואת אפשרויות מול קריטריונים. הם מזהים מצבים כשייכים לדפוסים שנתקלו בהם בעבר ומדמים את התגובה הטיפוסית ביותר קדימה בזמן כדי לבדוק בעיות. ספריית דפוסים זו לא יכולה להילמד. היא יכולה רק לגדול — דרך חזרה עם וריאציה, בתנאים של תוצאה אמיתית.

שלב 5: ביטחון מכויל

אחרי מספיק מחזורים של שגיאה, משוב וביצוע מותאם, הטירון מפתח משהו יקר ונדיר: תחושה מדויקת של מה הם יודעים ומה הם לא. פסיכולוגים קוראים לזה כיול מטה-קוגניטיבי. המחקר של דאנינג וקרוגר (1999), שלעתים קרובות מפושט יתר על המידה בתרבות פופולרית, בפועל הדגים משהו מאוד ספציפי: אנשים עם כישורים נמוכים בתחום מעריכים יתר על המידה באופן שיטתי את יכולתם כי חסר להם הידע הדרוש כדי לזהות את גבולות הידע שלהם. התיקון אינו מידע נוסף. זהו היסטוריה אישית של טעות וגילוי שטעית — מספיק פעמים, על פני מספיק וריאציות, שאתה מפתח אות פנימי אמין לגבולות הכשירות שלך. זה לא יכול להיות קיצור דרך. AI שמונע ממך לחוות כישלונות שהיו מלמדים אותך איפה השיפוט שלך חלש משאיר אותך בלי דרך לדעת מה אתה לא יודע. אתה מרגיש כמו מומחה. אתה מציג כמו מומחה. עד שמצב חדש מגיע.

שלב 6: שיפוט מקצועי עצמאי

המתרגל יכול כעת לפעול בעצמאות. הם קובלים החלטות תחת אי ודאות. הם מזהים מצבים חדשים כחדשים באמת במקום לכפות אותם לקטגוריות מוכרות. הם יודעים מתי לבקש עזרה. הם יכולים לשמש כספק משוב שלב 3 לדור הבא. הצינור הושלם. מומחה חדש קיים בעולם — ובאופן קריטי, מנטור חדש קיים כדי לקיים את הצינור עבור אלה שבאים אחריו.

כמה זמן לוקח הצינור

שלבים אלה לא ניתנים לדחיסה מתחת לציר זמן בלתי ניתן לקיצור מסוים. המוח האנושי דורש חזרה, וריאציה, שגיאה וקידוד רגשי כדי לבנות את ספריות הדפוסים והכיול המטקוגניטיבי המהווים מומחיות אמיתית.

בכירורגיה, המינימום הוא 5-7 שנות התמחות ומלגות לאחר בית הספר לרפואה. מחקר מ-2014 ב-Annals of Surgery מצא שכישורים טכניים בסיסיים — היכולת לבצע הליך — הושגו בדרך כלל תוך 2-3 שנים, אך השיפוט לגבי מתי לנתח, מתי לחכות ומתי להמיר מלפרוסקופי לפתוח דרש את מלוא משך ההכשרה ולעיתים יותר. מחקר על עקומות למידה כירורגיות מראה שוב ושוב שמיומנות בהליכים ספציפיים דורשת לעיתים קרובות עשרות עד מאות מקרים מפוקחים.

בקיברסיקיוריטי, מכון SANS מעריך שפיתוח אנליסט המסוגל לצוד איומים באופן עצמאי — לא רק ניתוח התראות אלא חשיבה יריבותית אמיתית — לוקח 3-5 שנים של עבודה מעשית במרכז ביטחון מידע, כולל חשיפה לאלפי אירועים שגרתיים שבונים את התחושה הבסיסית של מה נראה "נורמלי".

במשפטים, המחקר הלונגיטודינלי של קרן לשכת עורכי הדין האמריקנית After the JD עקב אחר עורכי דין במשך 12 שנה ומצא שהמעבר מ"עמית כשיר" ל"יועץ מהימן המסוגל לשיפוט עצמאי בעניינים מורכבים" התרחש, בממוצע, בין שנות 7 ו-10 של עבודה.

בהנדסה קונסטרוקטיבית, דוח מ-2019 של מכון המהנדסים הקונסטרוקטיביים מצא שמהנדסים המסוגלים לשמש כמתכננים אחראים — אנשי מקצוע שחתימתם מאשרת שבניין לא יקרוס — דרשו מינימום של 7 שנות תרגול מונחה לאחר השלמת הלימודים האקדמיים.

בהוראה, מטא-אנליזה של Kini ו-Podolsky (2016) במכון Learning Policy Institute סינתטה 30 מחקרים ומצאה שיעילות המורים עולה בתלילות בשנים 3-5 וממשיכה להשתפר עד לפחות שנה 10, עם השיפורים המשמעותיים ביותר ביכולת לאבחן תפיסות שגויות של תלמידים בזמן אמת ולהתאים את ההוראה בהתאם — צורה של שיפוט מקצועי הדומה להיגיון קליני ברפואה.

באנליזה פיננסית, מכון CFA מכיר בכך שתהליך הבחינות התלת-שנתי שלו בוחן ידע, אך שיפוט השקעות — היכולת להבחין בין אות לרעש בנתונים דו-משמעיים — דורש 3-5 שנים נוספות של ניסיון ישיר בשוק. מחקר מ-2021 של Demiroglu ו-Ryngaert ב-Journal of Financial Economics מצא שאנליסטים שחוו לפחות מחזור שוק מלא אחד (בערך 7-10 שנים) הפיקו תחזיות מדויקות משמעותית יותר בתקופות של תנודתיות גבוהה מאלה שלא חוו זאת.

צירי זמן אלה אינם שרירותיים. הם אינם תוצרים של מסורת או שמירת שערים. זהו הזמן הנדרש לשישת שלבי צינור השיפוט להסתיים במוח אנושי.

ובתחום אחר תחום, AI מסיר את השלבים המוקדמים — שלבים 1 עד 3 — תחת ההנחה שהם היו חוסר יעילות ולא תשתית.

חלק II: הצינור נשבר — תחום אחר תחום

האירוניה המבנית בלב המשבר הזה פשוטה והרסנית: המשימות שמתוחכות ראשונות הן כמעט תמיד המשימות החשובות ביותר לפיתוח מומחיות.

זה לא מקרה. זו תוצאה ישירה של איך ארגונים חושבים על אוטומציה. הם מתחכים המשימות שהן הפשוטות ביותר, החוזרות ביותר, המשעממות ביותר והמוגדרות בבירור ביותר — בדיוק המשימות שמהוות שלבים 1 ו-2 של צינור השיפוט. העבודה שנראית כמו עבודת פרך למנהל המודד פרודוקטיביות היא העבודה שמתפקדת כיסוד לפיתוח מומחיות עבור האדם שמבצע אותה.

| תחום | משימות המתוחכות ראשונות | תפקיד הצינור של אותן משימות |

|-------|----------------------------|----------------------------------|

| קיברסיקיוריטי | ניתוח התראות רמה 1 | זיהוי דפוסים של נורמלי נגד לא נורמלי |

| כירורגיה | הליכים שגרתיים באמצעות סיוע רובוטי; אבחון מסוע AI | הבנה מישושית של רקמה; ידע אנטומי תלת-ממדי; חשיבה קלינית |

| משפטים | סקירת מסמכים, מחקר משפטי ראשוני, ניתוח חוזים | ספריות דפוסי עובדות; קריאה להשמטות; אינטואיציית סיכון |

| הנדסה | חישובים שגרתיים, יצירת קוד, הכנת סימולציות | הבנה מדוע קודים ואילוצים קיימים; אינטואיציה מבנית ומערכתית |

| אנליזה פיננסית | איסוף נתונים, מילוי מודלים, ניתוח ראשוני, סיכומי רווחים | שיפוט איכות נתונים; יצירת הנחות; ספקנות תחת לחץ |

| הוראה | תכנון שיעורים, יצירת הערכות, מתן ציונים, הבחנה | ידע תוכן פדגוגי; הבנה איך תלמידים באמת חושבים |

בכל מקרה, המשימה המתוחכת היא המשימה שהמתחיל צריך לעשות גרוע, שוב ושוב, עם משוב, כדי לפתח את השיפוט שהופך אותם לבטוחים לתרגול עצמאי. בכל מקרה, האוטומציה מוצדקת בידי הישגי פרודוקטיביות שהם אמיתיים ומיידיים. בכל מקרה, עלות פיתוח המומחיות נדחית, לא נמדדת ומתחברת.

קיברסיקיוריטי: האנליסט שמעולם לא למד איך "נורמלי" נראה

אנליסט זוטר במרכז ביטחון מידע ב-2019 בילה את שנתו הראשונה במבצע מה שהתעשייה קוראת ניתוח רמה 1: קריאת התראות גולמיות ממערכת SIEM, חקירת כל אחת ידנית, קביעה האם זה היה חיובי שקרי או אינדיקטור אמיתי לפשרה, והסלמה כשמתאים. זה היה משעמם. זה היה חוזר על עצמו. זה גם היה שלבים 1 ו-2 של צינור השיפוט רצים ברציפות — אלפי שעות של חשיפה להבדל בין התנהגות רשת נורמלית לעקבות הדקות ביותר של משהו שגוי.

עד 2024, מספר פלטפורמות SIEM מרכזיות — כולל Microsoft Sentinel, Splunk ו-Google Chronicle — שילבו ניתוח אוטומטי המופעל על ידי AI שפותר 60-90% מהתראות רמה 1 ללא מעורבות אנושית. סקר מכון SANS ממרץ 2024 מצא ש-58% מצוותי SOC השתמשו בצורה כלשהי של ניתוח התראות בסיוע AI. זמן ממוצע לגילוי השתפר. שיעורי החיוביים השקריים צנחו. לפי כל מדד הנמדד כרגע, ניתוח AI הוא הצלחה ללא ספק.

אך האנליסטים הזוטרים שנשכרו לאותם SOC-ים ב-2023 ו-2024 אינם מבצעים ניתוח רמה 1. הם סוקרים סיכומים מעובדי AI. הם לא יושבים עם נתונים דו-משמעיים. הם לא מפתחים מה שמתרגלים ותיקים מתארים כ"תחושת בטן לזדוניות". הם מתחילים במה שהיה רמה 2 — חקירת התראות מסוננות מראש שה-AI כבר סיווג כחשובות לכאורה — ללא היסוד שהופך ביצועי רמה 2 למשמעותיים.

מנהל SOC אחד בחברת שירותים פיננסיים מ-Fortune 500 תיאר זאת כך: "המועמדים שלי מ-2024 מהירים יותר מהמועמדים שלי מ-2019 היו באותו שלב. הם סוגרים כרטיסים מהר יותר. לוחות הבקרה שלהם נראים נהדר. אך כשאני מכניס אותם לתרגיל שולחני עם תרחיש איום חדשני — משהו שה-AI לא ראה — הם קופאים. הם לא יודעים מה לחפש כי הם מעולם לא למדו איך נורמלי נראה. הם למדו איך ה-AI חושב שלא נורמלי נראה, וזה דבר שונה לחלוטין."

זה מה שאנו קוראים לו The Pre-Triaged Analyst Effect: זוטרים הופכים מיומנים בטיפול במקרים שהמערכת כבר ממסגרת היטב, אבל מאבדים את היכולת להבחין כשהמסגרת עצמה שגויה. דו"ח החקירות של פרצות נתונים השנתי של Verizon מראה שוב ושוב שפרצות מרכזיות מוחמצות לעתים קרובות לא מחוסר כלים, אלא כי אותות עדינים נדחים, קורלציות לא נוצרות, והתנהגות יוצאת דופן מתנורמלת. החלק הקשה ביותר בהגנה אינו איסוף נתונים. זה זיהוי המשמעות. כאשר הדור הבכיר ששרד את WannaCry, SolarWinds ו-Log4Shell יפרוש במהלך העשור הבא, נתמודד עם The Expertise Debt חזית אל חזית — SOCs שמתפקדים בצורה מושלמת תחת תנאים ידועים וקורסים תחת תנאים חדשניים.

כירורגיה: הרופא שמעולם לא החזיק בדיאגנוזה הדיפרנציאלית

השנים המוקדמות של תושב כירורגיה כללית כללו היסטורית שעות ארוכות של החזקת רטרקטורים במהלך הליכים פתוחים, ביצוע מאות כריתות תוספתן וכיס מרה שגרתיות, ופיתוח הבנה תלת-ממדית של אנטומיה חיה שאף ספר לימוד או סימולציה לא יכולים לשכפל במלואם. הם צפו ברקמה מתנהגת תחת מתח. הם ראו איך דימום מתבטא בזמן אמת. הם הרגישו את ההבדל בין רקמה בריאה ורקמה חולה תחת ידיהם שלהם. זו הייתה שקיעת Stage 1 — למידה תחושתית לא מסייעת תחת תנאי קשב וחשיבות מקסימליים.

מערכות כירורגיה רובוטיות, במיוחד פלטפורמת da Vinci של Intuitive Surgical, שינו התמחויות רבות. עד 2023, המערכת שימשה בכ-1.6 מיליון הליכים ברחבי העולם. תוצאות המטופלים השתפרו בקטגוריות הליכים מרובות. איבוד דם הופחת. שהיות בבית החולים קצרות יותר. הטכנולוgiה מרשימה באמת.

אבל נתיב ההכשרה השתנה. מחקר משנת 2022 על ידי George, Strauss ואחרים ב-JAMA Surgery מצא שתושבים שמתאמנים בעיקר על מערכות רובוטיות הראו רכישה מהירה יותר של מיומנות טכנית להליכים סטנדרטיים אבל הדגימו יכולת מופחתת להמיר לכירורגיה פתוחה כשהתעוררו סיבוכים. מאמר מערכת משנת 2023 ב-British Journal of Surgery הזהיר במפורש שהדור הנוכחי של מתאמנים כירורגיים פחות מוכן לנהל משברים תוך-ניתוחיים הדורשים המרה לטכניקות פתוחות. "אנו מכשירים כירורגים שהם מפעילי קונסול מעולים," כתבו המחברים, "ועלינו לשאול מה קורה כשהקונסול לא יכול לפתור את הבעיה."

במקביל, כלי אבחון AI מעצבים מחדש את הצינור הקוגניטיבי. כאשר AI מספק אבחנה סבירה לפני שמתאמן יצר רושם משלו, זה יוצר מה שאנו מכנים The Borrowed Differential Phenomenon: הלומד הופך מיומן בהערכת אבחנות המוצעות על ידי AI מבלי לפתח במלואה את היכולת הגנרטיבית לבנות אותן באופן עצמאי. במקרים פשוטים, הערכת הצעות עשויה להספיק. בהצגות נדירות או לא טיפוסיות — המקרים שבהם שגיאת אבחון הורגת — זה לא. דו"ח האקדמיות הלאומיות האמריקאיות משנת 2015 שיפור האבחון בטיפול רפואי הגיע למסקנה שרוב האנשים יחוו לפחות שגיאת אבחון אחת בחייהם. כלים טובים יותר יכולים לעזור. אבל אם הכלים הללו מפחיתים את היווצרות החשיבה הקלינית, הם עלולים לשפר יעילות במקרה הממוצע תוך החלשת החוסן שחשוב ביותר בקצוות.

הרגישו את המשקל של זה: כירורג צעיר, מבריק עם אלגוריתמים וקונסולים רובוטיים, עומד מול דימום עורקי בלתי צפוי במהלך מה שהיה אמור להיות הליך שגרתי. למערכת ההדרכה של הרובוט אין פרוטוקול לווריאנט אנטומי זה. הבכיר שהיה יודע מה לעשות פרש בשנה שעברה. משפחת המטופל לעולם לא תדע שהכישלון האמיתי קרה שנים קודם לכן, כשצינור ההכשרה נחלל בשם היעילות.

משפטים: המשתתף שמעולם לא למד לקרוא למה שחסר

הנתיב המסורתי של משתתף ליטיגציה זוטר כלל סקירת מסמכים — קריאת אלפי עמודים של גילוי כדי לזהות מסמכים רלוונטיים, תקשורת מוגנת, וראיות פוטנציאליות. זה נחשב באופן נרחב לחלק הגרוע ביותר בלהיות עורך דין צעיר. זה היה גם התהליך שבו עורכי דין זוטרים למדו לקרוא כמו עורכי דין: להבחין במשפט הסותר עדות בחקירה, לזהות את האימייל הקובע ציר זמן שהצד הנגדי רוצה לטשטש, לפתח את זיהוי הדפוסים שבסופו של דבר הופך ליכולת השותף הבכיר להיכנס לחדר, לקרוא חוזה ולומר "הבעיה בסעיף 4.3(ב)" תוך עשרים דקות.

כלי סקירת מסמכים מונעי AI — aiR של Relativity, Harvey, CoCounsel ואחרים — הפחיתו זמן סקירה ראשונה ב-60-80%, לפי מחקר של Thomson Reuters Institute משנת 2023. משתתפים מועברים מוקדם יותר לניסוח, אינטראקציה עם לקוחות, ואסטרטגיה. זה נשמע כמו התקדמות.

אבל דו"ח של Georgetown Law Center משנת 2024 ציין בדאגה שמשתתפים זוטרים מגיעים לשלב "יועץ מהימן" עם חשיפה הרבה פחותה לחומר עובדתי גולמי. "הכישור לקרוא למה שחסר," אמר שותף בכיר אחד לחוקרי Georgetown, "לא ניתן ללמדו על ידי סקירת סיכומים שנוצרו על ידי AI של מה שקיים." הנתונים הלונגיטודינליים של American Bar Foundation מצביעים על כך שהמשתתפים שהפכו לליטיגטורים הבכירים היעילים ביותר היו ברובם המכריע אלה שבילו הכי הרבה זמן בסקירת מסמכים בתחילת הקריירה שלהם — לא כי סקירת מסמכים היא בעלת ערך מהותי, אלא כי זה היה המקום שבו הם בנו ספריות דפוסים עובדתיות שיידעו את כל מה שלאחר מכן.

זה The First-Draft Displacement Effect בעבודה: הסרת העבודה הקוגניטיבית המדויקת שדרכה עורכי דין בונים יכולת זיהוי נושאים, מבנה טיעון, ואינטואיציית סיכון. ב-2023, עורכי דין בבית המשפט הפדרלי הגישו תסקיר המציין מקרים לא קיימים שהומצאו על ידי ChatGPT — הדגמה פומבית ומביכה שפלט AI מלוטש יכול להסתיר תוכן בדוי. אבל הסיכון הגדול יותר עדין יותר מציטוטים מזויפים. זה דור של עורכי דין שמפסיקים לפתח את האינסטינקט לאיפה טיעון שביר, איפה שרשרת ציטוט חשודה, או איפה ביטוי חוזי יוצר אחריות במורד הזרם שלא תצוף שנים.

הנדסה: הבונה שמעולם לא למד מכישלון

שיקול דעת הנדסי אינו רק מיומנות חישובית. זוהי הבנה מופנמת של איך מערכות מתנהגות תחת תנאים בעולם האמיתי, במיוחד תנאים שהמודלים לא חזו. הבנה זו נבנית דרך מגע עם אילוצים, כישלונות, ופשרות שאף ספר לימוד או מערכת AI לא תופסים במלואם.

השנים הראשונות של מהנדס מבנים זוטר כוללות באופן מסורתי ביצוע חישובים ביד או עם תוכנה בסיסית, בדיקת עבודה כנגד קודי תכנון, ובדיקת חישובים על ידי מהנדס בכיר שמסביר לא רק את השגיאה אלא את הנימוק מאחורי דרישת הקוד. כלי תכנון בסיוע AI — כולל עיצוב גנרטיבי של Autodesk, השלמת קוד מונעת AI, ופלטפורמות סימולציה אוטומטיות — יכולים כעת ליצור עיצובים העומדים בדרישות הקוד עם קלט אנושי מינימלי. דו"ח McKinsey משנת 2023 העריך שבינה מלאכותית גנרטיבית יכולה להפוך אוטומטי 40-60% מהחישובים השגרתיים ובדיקת הקוד המבוצעת כיום על ידי מהנדסים זוטרים.

בהנדסת תוכנה, האימוץ מתקדם אף יותר. GitHub מדווח שמפתחים המשתמשים ב-Copilot מקבלים הצעות קוד שנוצרו על ידי AI עד 46% מהזמן. מהנדסים זוטרים שפעם בילו 48 שעות במעקב אחר דליפת זיכרון יחידה או באיתור באגים בבעיית עת-בו-זמניות — ובכך למדו את הלוגיקה המבנית של המערכת — כעת מקבלים פתרונות עובדים תוך שניות.

התוצאה היא מה שאנו מכנים מלכודת הדמיית הכשרון: המהנדס נראה פרודוקטיבי מאוד כיוון שהמערכת שמסביבו היא גנרטיבית מאוד, אך כאשר הייצור נכשל באופן חדשני — חומר שמתנהג באופן בלתי צפוי תחת עומס עייפות, מערכת מבוזרת שמתקלה בחלוקה של רשת שהמודל לא צפה, דפוס רטט שמתבטא רק בתנאי שדה — הם חסרי המודל הפנימי הנדרש כדי לחשוב מעקרונות יסוד.

דוח Institution of Structural Engineers משנת 2019 על פיתוח מקצועי הזהיר, לפני הגל הנוכחי של AI, שכל ירידה בניסיון חישובים מעשיים תהיה "פוגעת בפיתוח שיקול דעת הנדסי שלא ניתן לשכפל עם כלי חישוביים בלבד." AI גנרטיבי האיץ את החשש הזה בסדר גודל.

ההיסטוריה ההנדסית מספקת אזהרות חמורות. קריסת גשר Tacoma Narrows, מינון יתר של קרינה מ-Therac-25, אסון Challenger, משבר Boeing 737 MAX — כל אחד כלל סיבות קרובות שונות, אך כולם מדגישים את אותה האמת: מערכות נכשלות באופן קטסטרופלי כאשר עבודה טכנית מאבדת את הקשר שלה לשיקול דעת אנושי מושכל, התנגדות מושכלת, והבנה חיה של השלכות. AI לא יגרום ישירות לכשל הבא מסוג זה. אך אם הוא יחליש את היווצרותם של האנשים שאמורים למנוע אותם, הוא הופך לחלק מהשרשרת הסיבתית.

ניתוח פיננסי: האנליסט שיכול למדל הכול חוץ ממציאות

השנים הראשונות של אנליסט פיננסי זוטר כוללות בנייה של מודלים מאפס: מילוי גיליונות אלקטרוניים עם נתונים גולמיים, זיהוי חוסר עקביות, עשיית הנחות, בדיקת רגישויות, והצגת מסקנות לאנליסטים בכירים שחוקרים כל הנחה. החקירה היא החינוך. כאשר מנהל מנכ"ל שואל "למה השתמשת בשיעור היוון של 12% במקום 10%?" והאנליסט הזוטר לא יכול להגן על הבחירה, אי הנוחות הרגשית של אותו רגע מקודדת לקח על קפדנות שאף כלי לא יכול לשכפל.

היכולות של AI במסוף Bloomberg, הכלים הפנימיים של JPMorgan, המערכות המבוססות GPT-4 של Morgan Stanley, ועשרות פלטפורמות פינטק אוטומטיות כעת חלקים משמעותיים של מידול פיננסי, איסוף נתונים, וניתוח ראשוני. סקר Accenture משנת 2024 מצא ש-75% מחברות השירותים הפיננסיים פרסו או התנסו בהטמעת AI גנרטיבי בזרימות עבודה של אנליסטים. Ernst & Young הערכה שהAI יכול להסביר עד 50% מהמשימות שמבוצעות על ידי אנליסטים פיננסיים זוטרים תוך שלוש שנים.

זה יוצר אשליית המודל החסר חיכוך: ניתוח הופך מהיר יותר ומלוטש יותר בעוד האנליסט הופך פחות מכיר בהנחות שהופכות את המודל לשביר. האנליסטים הזוטרים שמתחילים את הקריירה שלהם בשנת 2025 יבנו פחות מודלים מאפס, יבלו פחות זמן בנתונים גולמיים, ויהיו פחות צפויים לגלות — דרך השגיאה שלהם עצמם — שמקור נתונים לא אמין או שמגמה היסטורית מכילה שבר מבני שמבטל אקסטרפולציה פשוטה.

יש לנו תקדים הרסני היסטורי. משבר הפיננסי של 2008 היה, במידה משמעותית, משבר של חוב מומחיות — דור של מנהלי סיכון שהוכשר על מודלים שהניחו שמחירי דיור לא יכולים לרדת ברמה הלאומית, שחסר להם השיקול הדעת לזהות שהמודלים היו שגויים כיוון שמעולם לא נאלצו לחשוב מעבר להנחות המודלים. המודלים עבדו עד שלא עבדו, וכאשר הם לא עבדו, לא היו מספיק אנשים בחדר שיכלו לחשוב מעקרונות יסוד. תרבות פיננסית בריאה מייצרת אנליסטים שחשדניים לגבי אלגנטיות. תרבות לא בריאה מייצרת אנשים שיכולים להסביר כל תוצאה לאחר מעשה.

הוראה: המחנך שמעולם לא למד לקרוא את החדר

החינוך עשוי להיות המקרה הכי משמעותי, כיוון שהפייפליין שבסיכון כאן הוא עצמו הפייפליין שבו החברה מכשירה את הדור הבא של כולם האחרים.

מורים מפתחים מומחיות דרך מחזורים חוזרים של תכנון, מתן הוראה, צפייה בהצלחה או כשלון שלה, קבלת משוב ממנטורים ומהכיתה עצמה, ותיקון. תוך 3-5 שנים, מורים יעילים מפתחים מה ש-Lee Shulman מאוניברסיטת Stanford זיהה בשנת 1986 כידע תוכן פדגוגי — לא רק הבנת הנושא שלהם, אלא תפיסה אינטואיטיבית של איך תלמידים לא מבינים אותו, היכן הם ייתקעו, ואיזה ייצוגים יפתחו הבנה. המושג הזה אומת על פני מאות מחקרים שלאחר מכן.

מערכות AI למתן שיעורים פרטיים וכלי תמיכה למורים — Khanmigo של Khan Academy, פלטפורמות של Carnegie Learning ואחרים רבים — יכולים עכשיו לייצר תוכניות שיעור, ליצור הערכות, להבדיל הוראה, ולספק משוב על כתיבת תלמידים. רבים מהכלים האלה מציעים הקלה אמיתית למורים עמוסי עבודה.

אך מורה שנה ראשונה שמקבל תוכניות שיעור מיוצרות AI, הערכות והצעות התערבות מעולם לא עובר דרך המחזור המלא של תכנון מאפס, צפייה בכשלון של זה, והבנת הסיבה. זה מייצר אפקט הקבלנות הפדגוגית: המורה מעביר ממצאים חינוכיים מלוטשים יותר ויותר בעוד שהוא מפתח פחות מהשיקול הדעת האדפטיבי הנדרש כדי להגיב לכיתה חיה. התלמיד בשורה השלישית לא מבולבל לגבי שברים — הם מבולבלים לגבי מה שהסימן שווה אומר, ועד שמורה לא למד לראות את ההבחנה הזו דרך הניסיון הקשה שלו עצמו, אף תוכנית שיעור מיוצרת AI לא תטפל בזה.

כיתה היא שדה של רגש, קשב, תרבות, אי הבנה, שעמום, פחד, הומור והדבקה חברתית. מורים טובים לא רק מציגים תוכן. הם קוראים את החדר. הם יודעים מתי השיעור אבד, מתי השתיקה של תלמיד אומרת בלבול לעומת בושה, מתי כיתה מוכנה להמשיך הלאה. היכולת הזו נבנית דרך אלפי איטרציות של העבודה שאותה AI כעת מבטיח לטפל בה.

מכיוון שהוראה מעצבת כל מקצוע אחר, התמוטטות כאן מחמירה הכול אחר.

חלק III: מודל צבירת חוב המומחיות

אם הפייפליין נשבר, למה המערכת לא נכשלת כבר? כיוון שנכנסנו לתקופה של השהיה שנשלטת על ידי מה שאנו מכנים מודל צבירת חוב המומחיות — דינמיקה מבנית שמסבירה איך ארגונים ומקצועות שלמים יכולים להיראות מתפקדים רגיל, אף לדווח על פרודוקטיביות שיא, במשך שנים לאחר שהפייפליין נשבר. החוב הוא בלתי נראה. הוא מתחיל בשקט. והוא מגיע לגבייה בבת אחת.

שלב 1: צבירה בלתי נראית (שנים 1-5)

כלי AI נפרסים. מדדי פרודוקטיביות משתפרים. מתרגלים זוטרים נראים מתפתחים מהר יותר. מתרגלים בכירים עדיין נוכחים ומספקים שיקול דעת גיבוי — תופסים ציטוטים משפטיים שהולכי שולל, מזהים את האנומליה שהAI החמיץ, יודעים מתי ההנחות של המודל לא מתקיימות. הארגון נראה בריא מתמיד. אף אחד לא מודד מה שזוטרים לא לומדים, כיוון שאין מטריקה להיווצרות שיקול דעת. ביקורות ביצועים תופסות פלט. הן לא תופסות עומק ההבנה שמאחוריו.

שלב 2: תעתועי הכשרון (שנים 5-10)

הקהורט הראשון שהוכשר על AI מגיע לאמצע הקריירה. הם מחזיקים בתארים שמרמזים על מומחיות. יש להם אישורים. הם מקודמים בהתבסס על מדדי פלט שAI עזר להם להשיג. אך לשיקול הדעת שלהם יש פערים שהם עשויים לא להיות מודעים להם — הכיול המטקוגניטיבי שלהם מעולם לא התפתח במלואו כיוון שהם מעולם לא עברו דרך מספיק מחזורי שגיאה ומשוב לא מסייעים כדי ללמוד את הגבולות של הכשרון שלהם עצמם. הדור הבכיר מתחיל לפרוש. כל פרישה מסירה לא רק אדם אלא צומת ברשת המשוב שקיימה את כל פייפליין שעדיין היה קיים. הארגון לא שם לב כיוון שמתרגלים אמצע קריירה מייצרים תוצאות מקובלות בתנאים רגילים.

שלב 3: המצוק (שנים 10-15)

מגיע מצב חריג. משבר חדש. מצב שנמצא מחוץ לחלוקת האימון הן של מערכות הבינה המלאכותית והן של הפרקטיקאים שהוכשרו לצידן. מגפה חדשה עם הצגה לא טיפוסית. ניצול zero-day המכוון לפגיעות שאף מודל לא ראה. מכשיר פיננסי שמתנהג בדרכים שאף נתון היסטורי לא חזה. מצב כשל מבני שנמצא מחוץ לפרמטרים של כל סימולציה. כיתה מלאה בתלמידים שהצרכים שלהם לא תואמים לאף תבנית.

הארגון פונה לאנשי הבכירים שלו ומגלה שהם נעלמו. האנשי מקצוע בקריירה בינונית שהיו אמורים להחליף אותם יש להם את התארים אבל לא את כושר השיפוט. מערכת הבינה המלאכותית מעבירה לאדם. לאדם אין על מה להסתמך.

הארגון נכשל. לא בהדרגה. לפתע.

תקדים היסטורי

הדינמיקה הזאת אינה חדשה — הבינה המלאכותית פשוט הופכת אותה לאוניברסלית וסימולטנית.

כוח העבודה של מהנדסי NASA חווה גרסה של זה אחרי Apollo. המהנדסים שעיצבו את Saturn V והבינו מצבי כשל מניסיון ישיר פרשו לגמלאות במהלך שנות ה-80 וה-90. הידע המוסדי על גבולות המערכת התשחק. דוח הועדה לחקירת תאונת Columbia (2003) זיהה במפורש את אובדן המומחיות ההנדסית והידע המוסדי כגורם תורם לאסון שהרג שבעה אסטרונאוטים. הניתוח הסוציולוגי של Diane Vaughan על Challenger, The Challenger Launch Decision (1996), תיעד כיצד נורמליזציה של סטייה התאפשרה בחלקה בעקבות עזיבת המהנדסים שנשאו ידע מגולם על גבולות המערכת.

תעשיית הכוח הגרעיני חקרה זאת תחת השם "משבר ניהול ידע". דוח International Atomic Energy Agency מ-2021 הזהיר שהפרישה לגמלאות של הדור שבנה והפעיל את צי הכורים הגלובלי הנוכחי — בשילוב עם העברת ידע לא מספקת — מהווה סיכון מערכתי לבטיחות גרעינית ברחבי העולם. הדוח ציין במפורש שידע טאסיטי הוא הקשה ביותר להעברה והמשמעותי ביותר לאבד.

המשבר הפיננסי של 2008 הדגים חוב מומחיות במקצוע ניהול הסיכונים. מודלים ומטריקות הראו שהכל היה בסדר — עד הרגע שהם הראו שהכל היה קטסטרופלי, ויו מעט מדי פרקטיקאים שיכלו לחשוב מחוץ למודלים.

הבינה המלאכותית לא גורמת למשבר חוב המומחיות הראשון. היא גורמת לראשון האוניברסלי והסימולטני, כי היא פוגעת בכל תחום בבת אחת, אוטומטית את אותם שלבי פיתוח בכל התחומים, באותו זמן.

חלק IV: בעיית הבכיר החלול

המסגרת השלישית מציינת את נקודת המשבר עצמה.

בעיית הבכיר החלול מתארת את הרגע הספציפי שבו ארגון מביט בדרגותיו הבכירות ומגלה שני סוגי אנשים בכירים: בכירים מלאים, שעברו דרך צינור השיפוט לפני הבינה המלאכותית, ובכירים חלולים, שהגיעו לתפקידים בכירים במהלך עידן הבינה המלאכותית עם הסמכות, הוותק והיסטוריית התפוקה של מומחים — אבל מבלי שהשלימו את שלבי הפיתוח שמייצרים שיפוט אמיתי.

בכיר חלול אינו חסר יכולת. הם עשויים להיות מאוד אינטליגנטיים, חרוצים, בעלי סמכות, ובעלי ביצועים גבוהים לכאורה. הם עשויים להיות פרודוקטיביים יותר מבכירים מלאים בתנאים נורמליים. ההבדל נהיה גלוי רק תחת לחץ — כשהמצב חדש, כשכלי הבינה המלאכותית נכשלים או מייצרים פלטים מטעים, כשמישהו צריך לחשב מעקרונות ראשונים על משהו שאיש לא ראה קודם.

בעיית הבכיר החלול מסוכנת באופן ייחודי כי בכירים חלולים לא יודעים שהם חלולים. זהו תוצר ישיר של המחקר על כיול מטקוגניטיבי: אם הבינה המלאכותית מנעה מכם לחוות את הכשלונות שהיו מלמדים אתכם היכן השיפוט שלכם חלש, אין לכם אות פנימי לפערים שלכם. אתם מרגישים כמו מומחה. אתם מציגים את עצמכם כמו מומחה. הערכות הביצועים שלכם מאשרות זאת.

הבעיה מתבטאת בדרכים ספציפיות וניתנות לזיהוי:

• הם יכולים לאשר המלצות אבל מתקשים לייצר כזו מעקרונות ראשונים.
• הם יכולים לבקר פלטים אבל לא יכולים לאתר באמינות שגיאות עדינות ובעלות חשיבות גבוהה.
• הם יכולים לפעול לפי תקדים אבל קופאים כשהתקדים נכשל.
• הם יכולים להשתמש בכלים בצורה שוטפת אבל לא יכולים ללמד את השיפוט הבסיסי.
• הם יכולים לנהל זרימות עבודה אבל לא יכולים להדריך היווצרות.

עלינו להיזהר כאן, כי המסגרת הזאת נתפסת בקלות כנשק בתור עלבון דורי או מנגנון שמירת סף. היא לא אלה. בעיית הבכיר החלול אינה הערה על האינטליגנציה, האופי או מוסר העבודה של אנשי מקצוע צעירים. היא ביקורת מבנית של הסביבות שאנו מציבים אותם בהן. מנתח צעיר מבריק שמתאמן באופן בלעדי על מערכות רובוטיות אינו פחות מוכשר ממנתח מבוגר שהתאמן על מקרים פתוחים. הם פחות מוכנים לקטגוריה ספציפית של משבר כי מעולם לא ניתנה להם ההזדמנות לפתח את ההכנה הזאת. הכשל שייך למערכת, לא לאדם.

אבל ההשלכות שייכות למטופל על השולחן. ללקוח באולם בית המשפט. לעיר במורד הזרם מהסכר. לתלמידים בכיתה. לחברה שסומכת על הרשת שלה על האנליסט בכוננות ב-3 בבוקר.

חלק V: מה המחקר אומר

העדויות האמפיריות למנגנונים האלה חזקות וגדלות, שואבות ממדע קוגניטיבי, מחקר גורמי אנוש ומחקרים מתפתחים ספציפיים לבינה מלאכותית.

אפקט הייצור

עשורים של מחקר החל עם Slamecka ו-Graf (1978) מדגימים שמידע שאדם מייצר בעצמו — אפילו עם מאמץ ושגיאות — נשמר הרבה יותר טוב ממידע שהוא מקבל באופן פסיבי. כלי בינה מלאכותית שמייצרים תשובות, טיוטות, אבחנות או ניתוחים עבור פרקטיקאי לביקורת אינם תואמים מבנית את אפקט הייצור. ביקורת אינה ייצור. הדרישות הקוגניטיביות שונות באופן קטגורי, ותוצאות הלמידה עוקבות בהתאם.

שאננות ואוטומציה והטיה

מאמר יסוד של Parasuraman ו-Manzey בHuman Factors (2010) קבע שבני אדם המשתמשים בעזרי קבלת החלטות אוטומטיות מפתחים באופן עקבי שאננות — הפחתה בערנות ובאימות עצמאי — אפילו כשהם מוזהרים במפורש על נפילות של העזרים. שכפול מ-2023 על ידי Goddard, Regan, ואחרים באמצעות כלי אבחון מונעי בינה מלאכותית מצא שהאפקט היה אפילו חזק יותר עם בינה מלאכותית מאשר עם אוטומציה קודמת, כנראה כי פלטי בינה מלאכותית הם שוטפים לשונית ומוצגים עם ביטחון שמפעיל היוריסטיקות אמון. אנחנו מתוכנתים ביולוגית לסמוך על שפה שוטפת. הבינה המלאכותית מנצלת זאת מבלי להתכוון לכך.

עקרון הקושי הרצוי

Elizabeth Bjork ו-Robert Bjork בילו שלושה עשורים באיסוף עדויות שתנאים שהופכים למידה לקשה יותר בטווח הקצר — ריווח, שזירה, משוב מופחת, שליפה מאולצת — הופכים את הידע לעמיד ויותר ניתן להעברה בטווח הארוך. עזרת הבינה המלאכותית עושה את ההפך. היא הופכת למידה לקלה יותר בטווח הקצר על ידי הפחתת מאבק, מתן תשובות מיידיות, וביטול הצורך בשליפה מזיכרון. כל מנגנון שהופך את הבינה המלאכותית לכלי פרודוקטיביות טוב הופך אותה לסביבת למידה רעה.

הורדה קוגניטיבית

מחקר מ-2020 של Dahmani ו-Bherer בScientific Reports מצא שמבוגרים שמסתמכים רבות על ניווט GPS הראו הפחתה ניתנת למדידה בחומר האפור של ההיפוקמפוס — האזור במוח האחראי לזיכרון מרחבי. מחקר מ-2024 בNature Human Behaviour של Luo, Peng, ואחרים על הורדה קוגניטיבית לעוזרי בינה מלאכותית מצא אפקטים אנלוגיים על יכולת פתרון בעיות במהלך תקופה של שלושה חודשים בלבד. כשמערכות חיצוניות נושאות את העומס הקוגניטיבי, המערכות הפנימיות שמייצרות שיפוט עצמאי לא מתפתחות — או מתנוונות באופן אקטיבי.

אפקט Einstellung

מחקר על פתרון בעיות מומחים מאת Bilalić, McLeod, ו-Gobet (2008) הראה שמומחים לעיתים נכשלים במציאת פתרונות אופטימליים מכיוון שזיהוי דפוסים מפעיל תגובה מוכרת אך לא אופטימלית. התיקון — פגישה עם מצבים שבהם הדפוס המוכר נכשל — הוא בדיוק סוג חוויית השגיאה שסיוע AI מונע. אם ה-AI תמיד מספק את הפתרון האופטימלי, המתרגל לעולם לא מגלה שהגישה האינסטינקטיבית שלו הייתה שגויה, ולעולם לא מעדכן את ספריית הדפוסים שלו.

העדויות המתפתחות על AI ומיומנות

כמה עדויות ניסיוניות עדכניות מצביעות על כך שהסתמכות כבדה על כלי קודינג וכתיבה של AI יכולה להגביר את התפוקה תוך הפחתת יכולת המשתמשים לזכור, להסביר או לשחזר פתרונות באופן עצמאי לאחר מכן. הספרות עדיין מתפתחת, אך המנגנון כבר מבוסס היטב מתחומים אחרים: כאשר כלי נושא יותר מהעומס הקוגניטיבי, המפעיל לומד פחות. איננו זקוקים למחקר אורכי של 20 שנה כדי להכיר בכך שאותן הדינמיקות המתועדות במחקר האוטומציה במשך עשרות שנים פועלות כעת בתחום הקוגניטיבי. הכרה זו מספיקה כדי לפעול על פיה.

חלק VI: מדוע אף אחד לא עוקב אחר זה

הסיבה לכך שאף ארגון לא מודד חוב מומחיות היא מבנית: המדדים שארגונים משתמשים בהם להערכת השפעת ה-AI הם כולם מדדי פרודוקטיביות קצרי טווח, ו-The Judgment Pipeline פועל בטווח זמן של 5-15 שנים.

ארגונים עוקבים אחר כרטיסים שנסגרו, דוחות שנוצרו, קוד שנמסר, תפוקת חולים, זמן מהפך חוזים, שעות חיוב שנחסכו. הם נדיר עוקבים אחר כמה פעמים זוטרים יוצרים שיפוט עצמאי לפני לראות פלט AI, כמה מקרים גולמיים מתרגל טיפל מקצה לקצה, האם אנשים יכולים להסביר מדוע המלצה נכונה, כמה פעמים מתרגלים נתקלים ומתאוששים מטעויות מוגבלות, או האם הספסל יכול לתפקד כאשר AI שגוי, נעדר או עמום.

זה מייצר את בעיית העיוורון המטרי: ארגונים מייעלים את מה שקל לספור ונכשלים בהגנה על מה שקשה לספור אך הציוויליזציה תלויה בו.

אין GAAP למומחיות. אין רישום מאזן לשיפוט. אין ביקורת שאומרת "מאגרי המומחיות של ארגון זה ירדו ב-15% השנה למרות כוח אדם יציב ותפוקה עולה." כאשר חברת ייעוץ פורסת AI ועמיתים זוטרים מייצרים דוחות מהר יותר ב-40%, זה נמדד. כאשר אותם עמיתים מגיעים לרמת השותף שמונה שנים מאוחר יותר ללא השיפוט שהיה לקודמיהם, זה מיוחס לכשל אישי, לא לכשל צינור מערכתי.

החוב הוא בלתי נראה לא על ידי תכנון מכוון של מישהו, אלא על ידי התכנון של מערכות מדידה שנבנו לעקוב אחר יעילות, לא יכולת.

חלק VII: היקף מה שמסוכן

המספרים הופכים את המופשט לקונקרטי.

• לארצות הברית יש כ-950,000 רופאים פעילים (AAMC, 2023). אם אפילו 20% מפיתוח השיפוט שאמור להתרחש במהלך התמחות אובד לקיצורי דרך שמתווכים על ידי AI, ההשפעה המצטברת במשך עשור מייצגת אובדן קיבולת שיפוט השווה להסרת עשרות אלפי רופאים מאומנים במלואם מהכוח העובד — לא ממניין הראשים, אלא ממניין השיפוט.

• הפער בכוח העבודה לאבטחת סייבר העולמי הוא 3.4 מיליון משרות לא מאוישות (ISC², 2023). הפתרון של הענף הוא להשתמש ב-AI כדי להפוך אנליסטים קיימים לפרודוקטיביים יותר. אם זה במקביל פוגם בפיתוח אנליסטים חדשים, הפער מתפשט, מכיוון שהאנליסטים "הפרודוקטיביים" של 2030 לא יהיו מתחלפים עם האנליסטים המנוסים של 2020 למשימות החשובות ביותר.

• יש כ-1.3 מיליון עורכי דין מורשים בארצות הברית (ABA, 2023). המשרדים שמאמצים בצורה אגרסיבית ביותר ביקורת מסמכים של AI הם המשרדים הגדולים — אלה שמכשירים את רוב העמיתים, שאז מתפזרים ברחבי המקצוע. אם 200 המשרדים המובילים פוגמים בצינור האימון שלהם בו זמנית, ההשפעות מתפשטות דרך כל המקצוע המשפטי בתוך עשור.

• דוח כרטיס התשתית לשנת 2021 של האגודה האמריקאית של מהנדסי בנייה זיהה פער השקעה של 2.59 טריליון דולר במשך 10 שנים. סגירת הפער הזה דורשת מהנדסים עם השיפוט לתכנן, לבנות ולתחזק תשתית בבטחה. אם הצינור המייצר את המהנדסים האלה נפגם, כסף לבדו לא יכול לסגור את הפער.

• יש כ-3.7 מיליון מורים בבתי ספר ציבוריים בארצות הברית. אם קיצורי דרך שמתווכים על ידי AI בפיתוח קריירה מוקדמת מפחיתים את היווצרות המומחיות הפדגוגית, ההשפעות מדרגות: הוראה חלשה יותר מייצרת למידה חלשה יותר, מה שפוגם בהכנה של כל מקצוען עתידי בכל תחום אחר.

המספרים האלה מתקשרים. צינור המומחיות בהוראה משפיע על כל צינור אחר. צינור הניתוח הפיננסי משפיע על הקצאת הון לתשתית. צינור ההנדסה משפיע על הבטיחות של כל מה שנבנה. צינור אבטחת הסייבר משפיע על כל מערכת דיגיטלית שכל השאר תלוי בה. זה לא אוסף של בעיות עצמאיות. זה פגיעות מערכתית אחת עם ביטויים ספציפיים לתחום.

חלק VIII: מה צריך לעשות

אנחנו רוצים להיות מדויקים לגבי מה שאנחנו לא טוענים. אנחנו לא טוענים שצריך לדחות AI או שהכשרה מקצועית צריכה להתעלם ממנו. כלי AI הם חזקים, לעיתים קרובות מועילים באמת, ובמקרים רבים הכרחיים. הטיעון הוא שאימוץ AI חייב להיות מנוהל סביב היווצרות אנושית, לא רק פרודוקטיביות אנושית.

זה אומר להתייחס לייצור מומחיות כתשתית קריטית — חיונית כמו רשתות חשמל, מערכות מים או רגולציה פיננסית — ולהגן עליה עם התערבויות מכוונות ומבניות.

1. חוק המעבר העצמאי הראשון

בתפקידים עשירי הכשרה, חדשים חייבים לגבש אבחנה ראשונית, טיוטה, החלטת מיון, תכנית שיעור, עיצוב קוד או ניתוח לפני לראות פלט AI. יצירה לפני סיוע מגינה על מנגנון הלמידה. זה לא העדפה נוסטלגית. זה מה שמדע הקוגניציה דורש.

2. דרישת המקרה הלא מסונן

מתרגלים חייבים לשמור על קשר קבוע עם חומר גולמי — לוגים גולמיים, מצגות חולים גולמיות, מסמכים גולמיים, מידע גולמי, עבודת תלמידים גולמית, הגשות שוק גולמיות — לא רק סיכומים שנאצרו על ידי AI. מומחים נבנים מקשר עם מציאות, לא מקשר עם ייצוגים דחוסים של מציאות.

3. ארכיטקטורת כשל בטוח

ארגונים חייבים ליצור סביבות שבהן חדשים יכולים לעשות טעויות מוגבלות ובעלות השלכות תחת פיקוח. זה לא קריאה לפזיזות. זה הכרה בכך שהקידוד הרגשי של שגיאה חיוני נוירולוגית ליווצרות מומחיות. סימולציה יכולה להשלים אבל לא להחליף משימות שנושאות שיפוט אמיתיות.

4. תקני נראות תהליך

להעריך האם אנשים יכולים להסביר את הנימוקים שלהם, לזהות את חוסר הוודאות שלהם, לנסח חלופות ולזהות מתי פלט AI עלול להיות שגוי. תשובה נכונה שמופקת על ידי תלות אינה זהה לתשובה נכונה שמופקת על ידי הבנה. להעריך את הנימוק, לא רק את התוצאה.

5. מדד קיבולת החניכות

כל ארגון שפורס AI בתהליכי עבודה מקצועיים מרכזיים צריך לעקוב: אילו משימות זוטרות היסטורית בנו מומחיות? אילו מהן מאוטמטות כעת? אילו חוויות פיתוח חלופיות מסופקות? איך נדע האם הספסל שלנו מתעמק באמת? אם לשאלות האלה אין תשובות, הארגון צובר חוב מומחיות.

6. עיקרון שמירת השיפוט

עבודה מסוימת חייבת להישאר בכוונה בהובלה אנושית — לא כי AI לא יכול לעשות אותה, אלא כי בני אדם חייבים ללמוד לעשות אותה. זה ירגיש לא יעיל בטווח הקצר. זה המחיר של היות מומחים מאוחר יותר. ארגונים שמסרבים לשלם את המחיר הזה יגלו בסופו של דבר שהם לא יכולים להרשות לעצמם את החלופה.

סיכום: המשקל של מה שאובד

כל מקצוע יש לו רגע שבו החדר נהיה שקט וכולם מסתכלים על אדם אחד. חולה במצב קריטי. מערכת נפרצה. תלמיד מתמוטט. שוק בצניחה חופשית. מבנה נאנח. לקוח שואל האם לחתום.

באותו רגע, מה שחשוב זה לא האם לאדם יש גישה לכלי. זה האם הוא עוצב.

האם הוא ראה מספיק כדי לזהות את הדפוס? האם הוא טעה מספיק כדי להיות זהיר? האם הוא התאושש מספיק כדי להישאר רגוע? האם הוא נשא מספיק אחריות כדי לדעת מה באמת חשוב? האם הוא למד לחשוב כשאין תשובה ברורה ואין מערכת שעוזרת?

המבנה הפנימי הזה — הדבר שאנחנו קוראים לו שיפוט — הוא אחד הדברים היקרים והשבירים ביותר שכל ציוויליזציה מייצרת. הוא גדל לאט. הוא מקומי לפרט. הוא לעיתים קרובות בלתי נראה עד הרגע שבו הוא נבחן. וזה בדיוק מה שאנחנו כעת צורכים מהר יותר ממה שאנחנו מחדשים.

אנחנו עושים טעות קטגורית עמוקה. אנחנו מתייחסים לתוצרים של מומחיות כאילו הם המומחיות עצמה. הם לא.

תזכיר מלוטש הוא לא שיפוט משפטי. אבחנה מבדלת סבירה היא לא שיפוט קליני. סקריפט שעובד הוא לא שיפוט הנדסי. התראה שעברה מיון היא לא שיפוט אבטחה. תוכנית לימודים היא לא שיפוט הוראה. דשבורד נקי הוא לא שיפוט ניהולי.

התוצרים האלה חשובים. אבל הם השאריות הנראות של תהליך התפתחותי בלתי נראה. אם AI נותן לנו את השאריות תוך כדי צריכת התהליך, לא נבין מה החלפנו עד שהאנשים שעדיין זוכרים איך לחשוב ייעלמו.

זוהי האסון השקט.

לא מכונה שתוקפת אותנו. לא כישלון דרמטי עם נבל ברור. משהו גרוע יותר: דור שלעולם לא לומד במלואו. מוסד ששוכח איך מומחיות נוצרת. ציוויליזציה ששומרת על הביצוע של כשירות תוך איבוד המהות שלה.

עד שזה יהפוך לברור, הבנייה מחדש תיקח שנים. לא ניתן להפעיל מחדש את הצינור בין לילה, כי הצינור תלוי במנטורים שעברו בו — ואם נחכה יותר מדי זמן, גם המנטורים האלה ייעלמו.

זוהי בעיית AI safety. לא מהסוג שכולל מחקר alignment או kill switches, אלא מהסוג שקובע האם הציוויליזציה האנושית שומרת על היכולת לפקח, לתקן, ובמידת הצורך לעקוף את המערכות שהיא בונה. אם נאבד את היכולת לייצר בני אדם שיכולים לחשוב באופן עצמאי תחת לחץ, שום כמות של יכולת AI לא תציל אותנו — כי לא יישאר מישהו שיכול לדעת מתי ה-AI טועה.

השאלה היא כבר לא רק מה AI יכול לעשות בשבילנו.

זה איזה סוג של בני אדם יישארו אחרי שנתן לו לעשות יותר מדי.