רופא מקבל מטופל: מקליט AI כותב טיוטה, סיכום AI מתמצת את התיק, ו-OpenEvidence מחפש המלצות. כל חוליה עבדה כמו שצריך, אבל השרשרת הגיעה למסקנה שגויה: הניסוח "אין תסמינים במאמץ" התקבע, למרות שהכאב הופיע כשסוחבים שקיות. נקודת התורפה המרכזית של AI ברפואה היא בחיבורים שבין התוכנות, ולא במודלים עצמם.
למה השרשרת נשברת
בודקים כל כלי בנפרד, אבל במרפאה כל כלי קורא את הטקסט של זה שלפניו.
📉 פרדוקס האופטימיזציה — במחקר של Stanford, שילוב של הסוכנים הטובים ביותר בנפרד הציג דיוק של 68% לעומת 77% במערכת פחות מותאמת: מאבחן מעולה התקשה להבין את ההקשר של כלי איסוף נתונים אחר.
✂️ סכנת ההשמטות (omissions) — כלי תמלול (scribes) וסיכום בדרך כלל לא ממציאים, אלא משמיטים פרטים: ב-UC Davis רופאים מצאו השמטות ב-18% מסיכומי ה-AI; אמירה של מטופל כמו "אני לא מתאמן" מתומצתת בטעות ל"אין קוצר נשימה במאמץ".
🎭 אשליית הרציפות — מודל השפה עונה בצורה קולחת על סמך סיכום חלקי, וממעט לדווח על מחסור בנתונים: כשחוקרים הסירו צילומי הדמיה ממקרים קליניים, המודלים עדיין קבעו אבחנות בביטחון מלא.
🏥 מה זה משנה למרפאות ולרופאים
הרופא נשאר מבחן האינטגרציה היחיד של השרשרת כולה.
📝 שימת לב למסמך המקור — לעבור על האנמנזה לפני החתימה ולהכניס ציטוט ישיר של המטופל: הניסוח "שורף לי כשאני סוחב שקיות לקומה שנייה" שומר על המשמעות שהמשפט "אין תסמינים במאמץ" פשוט מוחק.
❓ לדרוש מהמודל לחפש פערים — לפני שמאשרים תשובה של עוזר קליני, לשאול אותו: איזה מידע חסר היה יכול לשנות את המסקנה.
🖥 לסובב את המסך למטופל — המטופל הוא היחיד בחדר שיודע בוודאות מה שכחו לשאול ומה חסר בתיק.
🧪 לעשות פיילוט לחיבור, לא לתוכנה בודדת — הנהלת המרפאה צריכה לבחון את מסלול המידע מקצה לקצה בין השירותים השונים ולמדוד איבוד מידע במעברים, במקום להסתמך על בדיקות נפרדות של הספקים.
🎯 למי ומה זה נותן: לרופאים ולמרפאות: אל תמדדו כלי AI בנפרד. פרט שהולך לאיבוד בשלב הראשון יעבור דרך כל החוליות ויעוות את ההחלטה הסופית.
🚀 מאיפה מתחילים: ממפים את כל כלי ה-AI בביקור לשרשרת אחת, ומוודאים אישית את האנמנזה מול דברי המטופל לפני שמאשרים את הסיכום.