איך מקרה חירום של פעוט שהורעל הוביל לגילוי טעות חמורה בספר רפואה - ואיך כל זה קשור לבינה מלאכותית? מה שהתחיל כמקרה חירום לילי במיון ילדים (מחלקה לרפואה דחופה) בבית חולים שניידר- פעוט שהגיע במצב מסכן חיים לאחר שקיבל בטעות מינון גבוה של תרופה - הפך לשרשרת אירועים בלתי צפויה שבסופה התגלתה שגיאה מסוכנת באחד מספרי הרפואה המרכזיים בעולם.
את הגילוי לא עשתה ועדת מומחים, אלא דווקא כלי בינה מלאכותית שד"ר יצחקי, מומחה בכיר ברפואת ילדים במרכז הרפואי שניידר, החליט להשתמש בו. מה שהתחיל כאינטואיציה מקצועית, הפך לתמרור אזהרה על מגבלות הידע האנושי, ולא פחות חשוב מכך - פותח דיון עמוק על תפקידם של מודלי שפה בעולם הרפואה.
6 צפייה בגלריה
"אני לא מסתמך על מינון או על פעולה שהבינה המלאכותית נותנת לי". ד"ר שי יצחקי, מומחה ברפואת ילדים בשניידר
(צילום: שניידר)
"באותו לילה הייתי בתורנות במחלקה לרפואה דחופה", מספר היום ד"ר יצחקי, "הסיטואציה היא סיטואציה של עומס. עשרות ילדים, זמני המתנה ארוכים". לתוך המציאות הלחוצה הזו נכנס פעוט כבן שנתיים עם תרחיש רפואי שלא משתמע לשתי פנים.
"מגיע פעוט עם סיפור של הרעלה, שקיבל תרופה במינון גבוה בהרבה ממה שהוא היה אמור לקבל, תרופה בשם קולכיצין לקדחת ים תיכונית משפחתית", מתאר ד"ר יצחקי, "אצלנו זה נחשב כמובן למקרה חירום. מהרגע של שלב האינטייק, כשהרופא שמע שיש סיפור של הרעלה, התינוק הוכנס מיד, עם כל התור שיש בחוץ, ומיד נדחף כמקרה דחוף לתוך חדר המיון".
ד"ר שי יצחקי: "הלכתי ופתחתי את הספר של ה-4,000 עמודים. דפדפתי וחיפשתי את הפרק ואת המשפט וחשכו עיניי. זה פשוט היה כתוב שם, מינון שהוא הורג. מדובר פה על ספר רפואת הילדים הכי נפוץ בעולם"
ד"ר יצחקי היה הרופא שקיבל את המקרה. "ממה שהבנתי מהאנמנזה, אותו ילד היה אמור לקבל 3 CC של התרופה מתוך מזרק של 10 CC, אך עקב טעות אנוש מצערת, הוא קיבל שלושה מזרקים מלאים של 10 CC. מיד בדקתי את המינון - מה זה אומר מבחינת מיליגרם לק"ג, וראיתי שהילד קיבל מינונים שהם קרובים למינונים מסכני חיים של התרופה. לתרופה יש שני ספים של מינון - אחד שמעליו יכולה להיגרם תחלואה מאוד קשה - נזק רב-מערכתי. ויש גם רף שידוע שמעליו יש 100% תמותה. הוא קיבל קרוב לרף הקצת יותר נמוך, שהוא עדיין מסכן חיים".
"מרגע האבחנה, החל טיפול מיידי. כמובן ש'התנפלנו' על הפעוט ועל המקרה והוא קיבל מאיתנו באופן מיידי את הבדיקות הראשוניות שצריך לקחת, וטיפול ראשוני, ומיד הועבר להמשך טיפול והשגחה ביחידה לטיפול נמרץ", מספר ד"ר יצחקי, "למרבה המזל, מצבו של הילד השתפר במהירות. לשמחתנו לא היינו צריכים לבצע התערבויות יוצאות דופן. לא הופיע אותו נזק רב-מערכתי שחששנו ממנו, והילד התייצב, היה בהשגחה, ושוחרר. מאוד תרם לזה אופן הזיהוי המהיר של ההרעלה בעת הכניסה לחדר המיון".
בינה מלאכותית מצילת חיים
האירוע הקליני אמנם הסתיים בשלום, אך פרטי האירוע עדיין נשארו בראשו של ד"ר יצחקי. "כל דבר מבחינתי זו הזדמנות ללמוד ממנו, להעמיק, לקרוא יותר", הוא אומר, "וכמובן שסביב המקרה קראתי שוב על המינונים ועל הספים של כל הרעלה שקשורה לקולכיצין".
אחד המקורות הראשונים שאליהם פנה היה ספר הלימוד המרכזי של רפואת הילדים - או כפי שהוא מכנה אותו: "התנ"ך שלנו". אלא שהפעם הוא בחר לגשת אליו בדרך לא שגרתית: בעזרת כלי של בינה מלאכותית.
"לקחתי את הפרק הרלוונטי בספר והעליתי אותו לבינה. רציתי לתשאל את הספר - לשאול אותו: מה כתוב שם על הרעלת קולכיצין? תוך כדי שאני קורא, אני רואה שכתוב שאפשר לתת עד מינון של 2-1 מ"ג לכל ק"ג, בעוד אני יודע שמינון של 0.8 מ"ג לק"ג מוגדר כבר כ-100% תמותה".
הפער בין הנתונים זעק לעין. ד"ר יצחקי לא האמין למה שהוא רואה. "בהתחלה לא באמת האמנתי. חשבתי שזו טעות של ה-AI. אבל משהו בזה ישב לי חזק מדי בראש. אמרתי לעצמי: אני חייב לבדוק את זה בעצמי. הלכתי ופתחתי את הספר של ה-4,000 עמודים. דפדפתי וחיפשתי את הפרק הזה ואת המשפט הזה וחשכו עיניי. זה פשוט היה כתוב שם, מינון שהוא הורג. מדובר פה על ספר רפואת הילדים הכי נפוץ בעולם".
הוא לא היסס לרגע. "מיד ניסחתי מייל משמעותי להוצאה של הספר שיש פה מינון שחייבים לשנות. תוך כמה ימים הם חזרו אליי שהם קודם כול הורידו מיד את הפרק מהאינטרנט ממאגרי המידע שבתשלום. אחרי כמה ימים שלחו לי מייל תודה ושהטעות תוקנה", הוא מספר.
אבל השאלה לא הרפתה ממנו: האם ייתכן שהבינה המלאכותית הייתה יכולה לזהות את הטעות הזאת בעצמה? ומה אם הייתה נבדקת כך מראש? "לקחתי את כל הפרק והעליתי אותו ביוזר חדש לכלי נוסף ושאלתי אותו האם יש בפרק הזה טעות מסכנת חיים. והוא מצא את זה. זה הכה בי שהכלי הזה יכול לשמש אותנו ככלי למציאת טעויות מסוכנות. הרי בהקשר הרפואי הרבה מדברים על הסכנות שבבינה מלאכותית, כמו מתן טיפול לא נכון, אבל אני חושב שלא מדברים מספיק על הסכנות של לא להשתמש בבינה מלאכותית".
כוח גדול, אחריות גדולה
המקרה הזה, שהתחיל בחדר מיון והסתיים בגילוי טעות חמורה בספר רפואה מרכזי, לא רק ממחיש את החשיבות של ערנות רפואית ותגובה מהירה - אלא מעלה גם שאלות רחבות הרבה יותר: עד כמה רופאים יכולים (וצריכים) להיעזר בכלים של בינה מלאכותית? האם נכון להכניס אותם לעבודה היומיומית? ואיפה עובר הגבול בין עזר טכנולוגי לבין הסתמכות עיוורת שעלולה לעלות ביוקר?
ד"ר יצחקי מכיר את החששות, אבל מציע מבט מפוכח. "אני תמיד בודק במקור. כלומר, אם אני עכשיו שואל שאלה כשאני משתמש בבינה מלאכותית ומקבל תשובה, אני הולך ובודק האם לתשובה הזו יש רפרנס. אני לא מסתמך על מינון או על פעולה שהבינה המלאכותית נותנת לי.
"עם זאת, לפעמים היא פותחת לי כיווני מחשבה שלא חשבתי עליהם. וגם אם היא אומרת לי שזו התשובה, אני תמיד הולך ומוודא את זה במקור נוסף. אני בוודאות לא סומך על זה שבינה מלאכותית תנחה אותי בצורה כזו או אחרת, ואני לא אשים את החותמת או הרישיון שלי על משהו שנאמר על ידי בינה מלאכותית מבלי לאמת את זה מול המקורות המהימנים שאנחנו מסתמכים עליהם היום".
עם זאת, גם אותם מקורות מהימנים לא חפים מטעויות, כפי שקרה במקרה של ספר הלימוד. "זה קצת מכניס אותך ללופ שאי אפשר לצאת ממנו", מודה ד"ר יצחקי, אך מה שחשוב להדגיש מהסיפור שלי הוא שזה גם כלי שיכול לשמור עלינו. אם אתה לרגע עושה זום אאוט - היכולות של הבינה המלאכותית לקרוא 4,000 עמודים ולחפש בהם טעויות, יכולה לעזור למצוא את החורים שבהם בני אדם לא מצליחים. אתה יודע, אנחנו בני אדם. טעויות אנוש יכולות לקרות".
דור חדש של דילמות רפואיות
אבל לצד הפוטנציאל, יש גם לא מעט סיכונים - בעיקר כשמדובר ברופאים צעירים או סטודנטים שטרם רכשו ניסיון קליני מוצק. החשש הוא שבמקום להפעיל שיקול דעת ולבנות מיומנות מקצועית, יתחילו להסתמך בעיוורון על מה שמודלים דוגמת ChatGpt מציעים. בדיוק שם, אומר ד"ר יצחקי, נכנסת האחריות של המערכת - וגם של כל אחד מאיתנו - ללמוד, להסביר, ולכוון לשימוש נכון.
"אין ספק שיש כאן איזשהו שחקן חדש שנכנס לסמארטפונים של כולנו, ומופיע בקצות האצבעות שלנו היום. חלק מהתפקיד שלנו, וזה גם משהו שאני עוסק בו לא מעט, הוא בעצם לחנך: גם ללמוד ברמה האישית, וגם ללמד אחרים על המגבלות של השימוש בכלים האלה, ועל הדרך הנכונה להשתמש בהם.
ד"ר שי יצחקי: "לא להשתמש בבינה מלאכותית - לפחות בסיטואציות מסוימות - יכול בעתיד להיחשב ל־'Below Standard of Care'. כמו שמערכת ABS התחילה במכוניות יוקרה, והיום כל רכב חייב להיות מצויד בה על פי רגולציה - כך גם ייראה השלב הבא של הרפואה"
"גם כשמדברים על להטמיע מערכות בינה מלאכותית בשניידר, אנחנו שואלים איך אנחנו מבהירים למשתמשים מהם הגבולות של האפשרות להסתמך על התשובה שמקבלים. איך בונים את המערכת מראש, בצורה הנכונה, שתאפשר לך לוודא את המידע שבינה מלאכותית נתנה לך".
הוא מוסיף: "כל אלה הן שאלות שאנחנו מתמודדים איתן. אבל זה עולם חדש — כמו שהוא מביא הרבה מאוד יכולות חדשות שאנחנו רוצים להבין את היכולות שלו, אנחנו גם צריכים להבין איך אנחנו מגינים מפני המגבלות. בטח כשמדובר על רמה מערכתית."
אם היום מדובר עדיין בכלי ניסיוני, חיצוני, שלעיתים מעורר חשש, ד"ר יצחקי מאמין שבעתיד זה ייראה אחרת לגמרי. בדיוק כמו שהתרגלנו לטכנולוגיות שבעבר נראו חדשניות, הוא מעריך שגם בינה מלאכותית תהפוך לחלק בלתי נפרד מהפרקטיקה הרפואית השוטפת. יותר מזה, הוא מזהיר שאי שימוש בבינה מלאכותית עלול להיחשב לסטייה מהפרקטיקה המקובלת.
"לא להשתמש בבינה מלאכותית — לפחות בסיטואציות מסוימות — יכול בעתיד להיחשב ל־'Below Standard of Care'", הוא אומר, ומשווה את השינוי לזה שעבר ענף הרכב: "כמו שמערכת ABS התחילה במכוניות יוקרה, והיום כל רכב חייב להיות מצויד בה על פי רגולציה – כך גם ייראה השלב הבא של הרפואה".
לא לפחד להתנסות, אך בזהירות
אבל האתגר האמיתי לא טמון בטכנולוגיה - אלא באיך בוחנים אותה. "איך אנחנו משווים בין מודלים? איזה מהם טוב יותר? מה הביצועים שלו דווקא בסביבת העבודה שלי?" הוא שואל. כאן, לדבריו, נדרשת אחריות מקומית של כל מוסד רפואי לבדוק את המודלים לא רק מול מבחני ידע, אלא מול הנתונים, התהליכים והאתגרים של השטח.
"אם אנחנו לא נבדוק בעצמנו - עם המטופלים שלנו, עם מערכות המידע שלנו, עם הדרך שבה אנחנו שומרים ומזינים נתונים - פשוט לא נדע", הוא מדגיש. הבעיה, לטענתו, היא שגם כשכבר נעשית בדיקה, קצב ההתקדמות של המודלים מהיר מכדי להספיק. "חצי שנה אחר כך כבר יוצא מודל חדש — ואז צריך לבדוק גם אותו מחדש."
אז מה בכל זאת כדאי לרופאים לעשות – צעירים וותיקים כאחד – כשהם נתקלים בכלי עוצמתי כמו בינה מלאכותית? עבור ד"ר יצחקי, התשובה ברורה: לא לפחד, אלא להתנסות בזהירות ובאחריות. "אני מציע לרופאים פשוט להתחיל, דווקא בתחום שהם חזקים בו, שבו הם יכולים להעריך את התשובות בצורה מושכלת. כדאי לשאול את הכלי שאלות מקצועיות, כאלו שלא חושפות פרטי מטופלים, ולבחון האם התשובות שהוא מספק מדויקות, רלוונטיות, ופותחות כיווני חשיבה חדשים".
הוא מדגיש כי התנסות בכלים האלה חשובה לארסנל הכלים של כל רופא. "אם כל אחד לא יבדוק בעצמו את המקרים שמעסיקים אותו ואת הדילמות שהוא נתקל בהן, הוא פשוט לא ידע למה הכלי הזה מסוגל". לשיטתו, הדרך הטובה ביותר לרכוש ביטחון בשימוש בבינה היא באמצעות צבירת ניסיון – ולא מהיכרות תיאורטית בלבד. "בעתיד הלא רחוק, אני מאמין שהחיכוכים הטכנולוגיים יתעדנו, והמערכות האלה יהפכו לנגישות וברורות הרבה יותר — גם עבור מי שפחות בקיא", הוא מסכם.
