כשה-AI עושה את העבודה, מי עוד יודע איך עושים אותה?

כשכתבתי על האווטאר שקולט הזמנות, כתבתי שהפקידה עוברת מהקלדה לפיקוח. זה נכון, וזה גם המקום שבו משהו מתחיל להטריד אותי.

פיקוח זו עבודה. אבל פיקוח על מערכת שצודקת כמעט תמיד הוא עבודה משעממת במיוחד, ועבודה משעממת הופכת מהר מאוד לחותמת. אחרי חודש של הזמנות שעוברות חלק, כמה שניות מסתכלים על כרטיס האישור לפני שלוחצים? ואחרי שנה, האם מי שלוחצת עדיין יודעת לזהות לבד שמחיר לא הגיוני, או שהיא סומכת על זה שהמערכת הייתה מסמנת?

זו לא שאלה פילוסופית. יש לה כבר נתונים.

זה כבר נמדד

המחקר שהכי קשה להתווכח איתו הגיע מרפואה. בארבעה מרכזי קולונוסקופיה בפולין הכניסו מערכת AI שמסמנת פוליפים בזמן הבדיקה. החוקרים השוו את ביצועי הרופאים בבדיקות בלי AI, לפני ואחרי שהתרגלו לעבוד איתו. שיעור הזיהוי ירד מ-28.4% ל-22.4%, אצל רופאים מנוסים, תוך כמה חודשים (Lancet Gastroenterology & Hepatology, 2025). החוקרים עצמם מזהירים שזה מחקר תצפיתי ושצריך לבדוק עוד. אבל הכיוון ברור מספיק כדי לשים לב.

בתעופה מכירים את זה עשרות שנים. ב-2013 ה-FAA האמריקאי פרסם הנחיה לחברות התעופה (SAFO 13002) שקוראת להן לקבוע מדיניות שבה טייסים מטיסים ידנית באופן קבוע, כי טייס אוטומטי שעובד טוב מדי שוחק את היכולת לתפוס את ההגאים כשהוא מפסיק לעבוד.

וגם בעבודה משרדית זה כבר על השולחן. Gartner חזו באוקטובר 2025 שעד סוף 2026 מחצית מהארגונים ידרשו מבחני כישורים “בלי AI”, בגלל שחיקה של חשיבה ביקורתית (CIO Dive). ובאירופה, חוק ה-AI מחייב מערכות בסיכון גבוה להיות מתוכננות כך שהאדם שמפקח עליהן יישאר מודע לנטייה שלו לסמוך על הפלט באופן אוטומטי (סעיף 14). מערכת ERP לא נחשבת בסיכון גבוה, אבל העיקרון עובר.

הנזק תלוי באיך, לא ב”אם”

הממצא שהכי מעניין בעיניי הגיע דווקא מ-Anthropic, החברה שמפתחת את Claude. הם עשו ניסוי מבוקר: 52 מתכנתים למדו ספרייה חדשה, חצי עם עוזר AI וחצי בלי. אחר כך כולם עשו מבחן הבנה. הקבוצה עם ה-AI קיבלה 50% בממוצע, הקבוצה בלי קיבלה 67%, וה-AI אפילו לא חסך זמן באופן מובהק (Anthropic, ינואר 2026).

אבל בתוך קבוצת ה-AI היה פיצול. מי שנתן ל-AI לכתוב את הקוד במקומו קיבל פחות מ-40%. מי שהשתמש בו כדי לשאול שאלות, להבין למה משהו עובד, ואז כתב בעצמו, קיבל 65% ומעלה. כמעט כמו מי שלא נגע בו בכלל.

כלומר הבעיה היא לא ה-AI. הבעיה היא מה שהוא עושה במקומנו.

כשירות, לא “אנטי-ניוון”

אני מעדיף את המילה מתעופה: כשירות. טייס צריך להיות כשיר גם כשהטייס האוטומטי עובד, וחברת התעופה אחראית לדאוג לזה. זה לא עונש, זה חלק מהמקצוע.

בעולם ה-ERP זה יכול להיראות כך:

העוזר מסביר, העובד מבצע. במקום “יצרתי את ההזמנה, תאשר”, העוזר אומר “המחיר בשורה 3 נמוך ממה שהלקוח קיבל בחודש שעבר, תבדוק”. ההחלטה נשארת אצל האדם, והאדם מבין למה.

הדרכה לעובד חדש שנעלמת עם הזמן. בשבועות הראשונים העוזר מסביר את ההיגיון מאחורי כל צעד, ולפעמים שואל קודם: “מה היית בודק לפני שמשחררים את ההזמנה הזאת?”. עם הוותק ההסברים מתקצרים ונעלמים.

בדיקה מדגמית, גם על מה שעבר אוטומטית. אם הגדרתם שהזמנות קטנות נכנסות בלי אישור, אחוז קטן מהן עדיין חוזר לאדם, והוא רואה אותן לפני שהוא רואה מה המערכת חשבה. זה שובר את ההרגל של החותמת.

הקלדה במקום לחיצה, כשאין דרך חזרה. הפקדת שיקים או קובץ מס”ב לבנק לא מבטלים בלחיצה. בפעולות כאלה, לבקש מהמשתמש להקליד את הסכום זה שתי שניות של חיכוך שמכריחות להסתכל.

תקרה ארגונית לאוטונומיה. כמה המערכת רשאית לעשות לבד זו החלטה של הארגון, לא רק של המשתמש.

ולמה זה חייב להיות רשות

כאן אני רוצה להיות זהיר, כי קל להגזים.

אותם מחקרים שמראים שחיכוך עובד מראים גם שאנשים שונאים אותו. בניסוי מהרווארד על “cognitive forcing”, העיצובים שהכי הפחיתו הסתמכות עיוורת על ה-AI קיבלו מהמשתתפים את הציונים הכי גרועים (Buçinca et al., 2021). מנהלת חשבונות עם עשרים שנות ותק לא צריכה שהמערכת תבחן אותה על הפקדת שיקים. זה מעליב, וזה מאט.

ומצד שני, מתג “כבה את זה” ליד כל הודעה לא עובד. בהשוואה של מצבי הלמידה של ChatGPT, Gemini ו-Claude עלתה אותה הערה: כשהמצב הרגיל נמצא במרחק לחיצה, לוחצים עליו בדיוק ברגע שבו הלמידה הייתה אמורה לקרות.

לכן אני חושב שהמקום הנכון הוא באמצע: מדיניות של הארגון, לפי תפקיד. כבויה כברירת מחדל. המנהל מדליק אותה למחלקה או לעובדים חדשים, והמשתמש מכוונן את העוצמה בתוך מה שהוגדר. בדיוק כמו בתעופה. חברת התעופה קובעת את המדיניות, לא כל טייס לעצמו.

הצד השני של אותו מטבע: הזיכרון של הארגון

כל מי שעבד בחברה שעובד ותיק עזב ממנה מכיר את הרגע הזה. “למה הלקוח הזה מקבל הנחה כזאת?” “למה הפסקנו לקנות מהספק ההוא?” “מה בודקים לפני שמשחררים הזמנה של פרויקט?”. ה-SAP יודע מה קרה. הוא לא יודע למה. ה”למה” ישב בראש של מישהו, ועכשיו הוא יושב בראש שלו בעבודה אחרת.

הניסיון לפתור את זה עם ויקי או מסמכי נהלים נכשל כמעט תמיד, מסיבה פשוטה: אף אחד לא כותב אותם, ומי שכותב לא מעדכן.

עוזר AI נמצא במקום היחיד שבו הידע הזה נחשף מעצמו: ברגע ההחלטה. כשמשתמש מתקן מחיר שהמערכת הציעה, דוחה הצעה, או עוקף כלל, זו החלטה. שאלה אחת קצרה ואופציונלית, “למה?”, והתשובה נשמרת עם מי שענה, מתי, ועל איזה מסמך.

נגיד שבקליטת הזמנה העובדת מתקנת מחיר, והעוזר שואל: “לשמור את זה ככלל? הלקוח הזה מקבל מחיר נטו אחרי הנחה של 50% מהמחירון”. היא מאשרת. מאותו רגע, כל הזמנה של הלקוח נבדקת מול הכלל הזה, בלי AI ובלי עלות. כל מי שפותח מסמך ללקוח הזה רואה את הכלל ואת מי שקבע אותו. עובד חדש שנוגע בלקוח בפעם הראשונה מקבל את ההסבר בתוך הטופס, לא במסמך קליטה שאף אחד לא קרא. ואם היא עוזבת, הכלל נשאר, עם השם שלה עליו.

זיכרון זה לא מחסן

קל לאסוף מידע. קשה לגרום לו לחזור בזמן. מאגר שאף אחד לא שולף ממנו הוא לא זיכרון, הוא ארכיון. כמה כללים שלדעתי מבדילים בין השניים:

שומרים רק מה שיחזור ברגע ההחלטה. מידע שלא יופיע מול מישהו כשהוא מחליט, לא שווה את המקום. והמדד הוא לא כמה נשמר, אלא כמה פעמים משהו שנשמר שינה החלטה.

לכל פריט יש בעלים ותאריך. מחירים, תנאי תשלום ואנשי קשר מתיישנים. אחת לתקופה העוזר שואל את מי שקבע את הכלל אם הוא עדיין נכון, וכלל שאף אחד לא אישר שנה יוצא משימוש. זיכרון שגוי גרוע מהיעדר זיכרון.

סתירות מכריע אדם. “30 יום” מול “60 יום” נראים למכונה כמו אותו משפט. היא יכולה להציף ששני דברים נראים סותרים, היא לא צריכה להחליט מי צודק.

שיתוף בהסכמה, ועם קרדיט. מה שעובד למד נשאר שלו עד שהוא בוחר לשתף אותו עם הצוות, והשיתוף נרשם על שמו. זה חשוב יותר ממה שזה נשמע. עובד שמרגיש שהמערכת “לוקחת לו את הידע” יפסיק לנמק. עובד שהידע שלו רשום עליו ומשמש את כולם, הוא עובד שהשקיע בארגון ורואה את זה.

איך שני הדברים נפגשים

אחרי שכתבתי את כל זה שמתי לב שזה בעצם אותו רעיון פעמיים.

כשאדם מחליט ומנמק, נוצר ידע. כשה-AI מחליט לבד, נוצרת שורה בלוג. אוטומציה מלאה, בלי אדם שמבין מה קורה, לא רק שוחקת את הכישורים של העובד. היא עוצרת את הצטברות הידע של הארגון. כשירות וזיכרון ארגוני הם שני צדדים של אותה החלטה: להשאיר את האדם בתוך הלולאה, ולדאוג שהזמן שלו שם לא יתבזבז.

אצלנו

אנחנו מתכננים את AigentOne כך שייתן מענה גם לנושאים האלה: עוזר שמעיר ומסביר במקום לבצע במקומכם, זיכרון ששומר את ה”למה” ברמת העובד, התפקיד והארגון, ומדיניות כשירות שכל ארגון יכול להפעיל לפי הצורך שלו, או להשאיר כבויה.

שאלות לשאול ספק

אם אתם בוחנים מערכת AI שתעבוד מול ה-ERP שלכם, הנה כמה שאלות שכדאי לשאול, בלי קשר לספק:

• כשהמערכת טועה, מי רואה את זה לפני שזה נכנס לספרים? ומה הוא רואה בדיוק?
• אפשר לקבוע כמה המערכת עושה לבד, לפי תפקיד ולא רק לפי משתמש?
• מה קורה למה שהמערכת למדה מעובד מסוים כשהוא עוזב?
• איפה נשמר ה”למה” של החלטה, ומי יכול לראות אותו?

לסיכום

AI טוב ב-ERP לא צריך להחליף את מי שעובד איתו. הוא צריך להשאיר אותו חד, ולדאוג שמה שהוא יודע לא ילך איתו הביתה. שני הדברים האלה לא קורים מעצמם. הם החלטות תכנון, ומי שלא מקבל אותן במודע מקבל אותן בברירת מחדל.

רוצים לדבר על זה מול התהליכים שלכם? שיחת ייעוץ של 30 דקות.