שלושה ניסויים בבילינסון, באיכילוב ובהדסה יבדקו מערכות לניתוח אולטרסאונד ביתי, לניהול חולי אי־ספיקת לב ולהערכת משקל עובר. מעבר לדיוק האלגוריתם, הניסויים יצטרכו להתמודד עם שאלות של אחריות, פיקוח אנושי, החמצת ממצאים ועדכון המערכות לאחר כניסתן לשימוש
מי אחראי כאשר מערכת בינה מלאכותית מחליטה שאין צורך להעביר בדיקת אולטרסאונד לרופא? האם אלגוריתם רשאי להציע שינוי בטיפול תרופתי על סמך קולו של החולה, נתוני שעון חכם והתיק הרפואי שלו? ומהי רמת הדיוק הנדרשת ממערכת המאפשרת לאנשי צוות שאינם מומחי אולטרסאונד להעריך את משקל העובר?
שאלות אלה יעמדו במרכזו של ארגז חול רגולטורי חדש שהשיקו משרד הבריאות ורשות החדשנות. במחזור הראשון ייבחנו מערכות של שלוש חברות ישראליות – פלסאנמור, קורדיו מדיקל וסימהוק – בפיילוטים שייערכו בבתי החולים בילינסון, איכילוב, הדסה עין כרם והדסה הר הצופים.
החידוש אינו בעצם השימוש בבינה מלאכותית ברפואה. אלגוריתמים כבר מסייעים לרופאים לאתר ממצאים בצילומים, לדרג את הסיכון להידרדרות ולנתח כמויות גדולות של מידע רפואי. החידוש הוא במעבר ממערכת המציעה לרופא אפשרות, למערכת המבצעת חלק מן התהליך הקליני בעצמה.
זהו מעבר בעל משמעות רפואית ורגולטורית עמוקה. כאשר אלגוריתם מסמן אזור חשוד בצילום, הרופא יכול לבחון את ההמלצה, לקבלה או לדחותה. כאשר האלגוריתם מסנן בדיקה וקובע שאין צורך להעבירה לרופא, טעות שלו עלולה להישאר בלתי נראית.
ממערכת מייעצת למערכת שמחליטה
מערכות רפואיות רבות המשתמשות בבינה מלאכותית מוגדרות כיום כמערכות תומכות החלטה. הן מספקות מידע, התרעה או דירוג, אך ההחלטה הסופית מתקבלת בידי איש מקצוע.
הפיילוטים החדשים עוסקים במדרגה מתקדמת יותר. מערכת אחת אמורה להחליט אם בדיקת אולטרסאונד ביתית תקינה דיה ואינה מחייבת פענוח נוסף; מערכת שנייה אמורה להשתלב בניהול הטיפול בחולי אי־ספיקת לב; ומערכת שלישית אמורה לאפשר לצוותים שאינם מומחי אולטרסאונד לבצע בדיקה מורכבת בעזרת הנחיה בזמן אמת.
אין פירוש הדבר שהרופא נעלם לחלוטין. האוטונומיה תחומה למשימה מסוימת ולפרוטוקול שהוגדר מראש. אולם גם עצמאות מוגבלת מחייבת לקבוע מתי מותר למערכת לפעול לבדה, מתי עליה לבקש אישור אנושי ומתי היא חייבת להפסיק ולומר שאין בידיה די מידע.
פלסאנמור: האם אפשר לוותר על פענוח של כל בדיקה שגרתית?
פלסאנמור תבצע בבילינסון פיילוט למערכת המנתחת בדיקות אולטרסאונד שנשים בהיריון מבצעות בביתן. החברה כבר פיתחה מתמר המתחבר לטלפון חכם ומדריך את המשתמשת במהלך הסריקה.
באוקטובר 2025 קיבלה מערכת Pulsenmore ES הרשאת שיווק במסלול De Novo של מינהל המזון והתרופות האמריקני. ההרשאה מתייחסת להדמיית אולטרסאונד מוגבלת בהיריון יחיד, משבוע 14 ועד שבוע 38. האישה יכולה לבצע את הסריקה בבית, אך התמונות מועברות לבדיקה ולפענוח בידי רופא.
הפיילוט הישראלי מבקש לבחון שלב נוסף. האלגוריתם אמור לנתח את הסריקה ולקבל החלטה קלינית בנוגע לבדיקות שגרתיות, בלי שכל אחת מהן תועבר בהכרח לפענוח פרטני של רופא.
ההבדל חשוב: המערכת המאושרת בארצות הברית היא בעיקר אמצעי לאיסוף מידע רפואי מרחוק. המערכת הנבחנת בישראל אמורה להשתתף בקביעה מה משמעות המידע שנאסף.
אחד המבחנים המרכזיים יהיה יכולתה לזהות בדיקה שאינה באיכות מספקת. אלגוריתם בטוח אינו רק אלגוריתם המספק תשובה נכונה כאשר התמונות ברורות. עליו לזהות גם תמונה מטושטשת, זווית חריגה או מצב שאינו דומה למקרים שעליהם אומן, ולהימנע מקבלת החלטה כאשר רמת הוודאות נמוכה.
קורדיו: האם שינוי בקול יכול להתריע על הידרדרות?
קורדיו מדיקל תבצע במרפאת אי־ספיקת הלב באיכילוב פיילוט למערכת המיועדת לניהול עצמי של חולים בבית. המערכת תשלב ניתוח של קול החולה עם שאלונים, מידע מן הטלפון והשעון החכם ונתונים מן התיק הרפואי.
הטכנולוגיה של החברה מבוססת על האפשרות שהצטברות נוזלים הקשורה להחמרה באי־ספיקת לב גורמת לשינויים עדינים בדיבור ובקול. מערכת HearO משווה הקלטות יומיות לקו בסיס אישי של כל חולה ומחפשת שינויים שעשויים להעיד על הידרדרות.
במחקר שהוצג בכנס האגודה האמריקנית ללב השתתפו 416 חולי אי־ספיקת לב בישראל. בקבוצת האימות זיהתה המערכת 10 מתוך 14 אירועי ההידרדרות, כשלושה שבועות בממוצע לפני אשפוז או טיפול תוך־ורידי. לצד זאת, היא הפיקה כשלוש התרעות שלא הוסברו לכל מטופל בשנה. הממצאים הוצגו בכנס מדעי ולא פורסמו אז כמאמר מלא שעבר ביקורת עמיתים, ולכן יש לראות בהם ראיות מבטיחות אך ראשוניות.
הפיילוט החדש מרחיב את התפקיד האפשרי של המערכת. היא לא תסתפק בהתרעה על סיכון, אלא תיבחן כחלק ממנגנון שעשוי להתאים טיפול תרופתי לפי פרוטוקול שנקבע מראש בידי הרופא המטפל.
כאן מתחדדת שאלת האחריות: מה יקרה אם הקול מעיד על הידרדרות אך השעון החכם אינו מציג שינוי? כיצד תשקלל המערכת נתונים סותרים? באילו מצבים תוכל להפעיל את הפרוטוקול, ומתי תידרש התערבות של רופא?
סימהוק: להפוך את מומחיות האולטרסאונד להנחיה בזמן אמת
סימהוק תפעיל בהדסה עין כרם ובהדסה הר הצופים מערכת המסייעת לצוות רפואי לבצע הערכת משקל עובר. האלגוריתם אמור להנחות את המשתמש בזמן אמת כיצד להציב ולהזיז את המתמר כדי להשיג את התמונות והמדידות הנדרשות.
הערכת משקלו של עובר אינה שקילה ישירה. היא מתבססת על מדידות שמתקבלות בתמונת האולטרסאונד, למשל של הראש, הבטן והעצם הארוכה בירך, ועל הזנתן לנוסחה סטטיסטית. איכות ההערכה תלויה בין השאר במיומנות המפעיל, בזווית הסריקה ובדיוק סימון גבולות האיברים.
הפיילוט יבחן אם הנחיית AI יכולה לאפשר גם לצוותים שאינם מומחי אולטרסאונד לבצע את הבדיקה ברמה מספקת. המטרה אינה רק לחסוך זמן, אלא להרחיב את הנגישות לבדיקה במקומות שבהם מספר המומחים מוגבל.
בהודעת רשות החדשנות לא פורסמו עדיין נתונים על רגישות המערכת, שיעור הטעויות או תוצאותיו של מחקר קליני. הפיילוט יצטרך אפוא לספק לא רק הוכחה שהמערכת נוחה להפעלה, אלא גם השוואה מסודרת למדידות של מומחי אולטרסאונד ולתוצאות הלידה בפועל.
דיוק ממוצע אינו מספיק
אלגוריתם רפואי עשוי להגיע לדיוק ממוצע גבוה ועדיין להיות בלתי בטוח לשימוש אוטונומי. לדוגמה, מערכת יכולה להצליח מאוד בזיהוי בדיקות תקינות אך להחמיץ שיעור בלתי מתקבל על הדעת של מקרים חריגים.
לכן יש לבחון כמה מדדים שונים:
רגישות: איזה שיעור מן המקרים המחייבים התערבות המערכת מצליחה לזהות.
סגוליות: איזה שיעור מן המקרים התקינים מסווגים נכון.
התרעות שווא: כמה אנשים יישלחו לבדיקות או לטיפולים מיותרים.
החמצות: כמה מקרים חריגים לא יגיעו לעיני רופא.
יכולת להימנע מהחלטה: האם המערכת יודעת לומר “אינני בטוחה” ולהעביר את המקרה לאדם.
יציבות בין אוכלוסיות: האם הדיוק נשמר בגילים, בשפות, במצבים רפואיים ובקבוצות אוכלוסייה שונות.
גם הממשק עצמו הוא חלק מן הבטיחות. מערכת עלולה להפיק תשובה נכונה, אך להציג אותה באופן שמטעה את המשתמש או יוצר ביטחון מופרז. מנגד, מערכת המרבה להתריע עלולה לגרום ל“עייפות התרעות”, שבה אנשי הצוות מתחילים להתעלם גם מהתראות חשובות.
מה קורה כאשר האלגוריתם משתנה?
מכשיר רפואי מסורתי נשאר בדרך כלל זהה לאחר שאושר. תוכנת בינה מלאכותית עשויה לעבור עדכונים תכופים, לקבל נתונים חדשים ולשנות את ביצועיה.
ה־FDA פרסם הנחיות המאפשרות ליצרנים להגיש מראש “תוכנית מוסכמת לבקרת שינויים”. התוכנית מתארת אילו שינויים עתידיים מתוכננים באלגוריתם, כיצד יפותחו וייבדקו ומה תהיה השפעתם על בטיחות המכשיר. המטרה היא לאפשר שיפור של המערכת בלי לחייב הליך אישור נפרד לכל שינוי, אך תוך שמירה על פיקוח ובדיקות.
הצורך במעקב אינו מסתיים באישור. מערכת שעבדה היטב בבית חולים אחד עלולה לתפקד אחרת כאשר מעבירים אותה למכשיר אחר, לשפה אחרת או לאוכלוסייה שבה שכיחות המחלות שונה. משום כך יש לנטר את הביצועים גם לאחר הכניסה לשימוש ולבדוק אם הם נשחקים לאורך זמן.
ישראל אינה הראשונה, אך מצטרפת למגמה עולמית
רשות החדשנות הציגה את התוכנית כמהלך ראשון מסוגו בישראל לבחינת מערכות רפואיות בעלות אוטונומיה גבוהה. עם זאת, ארגזי חול רגולטוריים לבינה מלאכותית רפואית כבר פועלים במדינות אחרות.
רשות התרופות והמכשור הרפואי הבריטית, MHRA, השיקה באביב 2024 את תוכנית AI Airlock. התוכנית מאפשרת לרגולטור ולחברות לבחון יחד כיצד מערכות רפואיות מבוססות AI משתלבות בכללים הקיימים, ואילו שינויים נדרשים בנושאי בטיחות, ביצועים ומעקב לאחר השיווק. השלב השני של התוכנית נערך מאפריל 2025 עד מאי 2026.
באיחוד האירופי נקבע כי תוכנות AI רפואיות מסוימות יטופלו כמערכות בסיכון גבוה. הדרישות כוללות ניהול סיכונים, שימוש במאגרי נתונים איכותיים, תיעוד, מסירת מידע ברור למשתמשים ופיקוח אנושי.
ארגון הבריאות העולמי מדגיש כי השימוש בבינה מלאכותית בבריאות צריך לשמור על בטיחות, שקיפות, אחריות, שוויון ושליטה אנושית. הארגון גם קורא לשיתוף פעולה בין מפתחים, רגולטורים, אנשי רפואה ומטופלים ולא להסתפק בבדיקה טכנית של האלגוריתם.
מי נושא באחריות?
כאשר רופא מקבל החלטה, קיימת מסגרת ברורה יחסית של אחריות מקצועית. כאשר מערכת אוטונומית משתתפת בהחלטה, האחריות מתחלקת בין גורמים רבים: החברה שפיתחה את האלגוריתם, בית החולים שהטמיע אותו, אנשי הצוות שהפעילו אותו והרופא שהגדיר את הפרוטוקול.
אם המערכת מחמיצה ממצא משום שהוזנה תמונה גרועה, ייתכן שהבעיה היא בהדרכת המשתמש. אם היא נכשלת רק בקבוצת אוכלוסייה מסוימת, ייתכן שמאגר האימון לא היה מייצג. ואם העדכון האחרון שינה את הביצועים, האחריות עשויה להיות קשורה לתהליך התחזוקה והאישור.
ארגז החול אינו מעניק לחברות פטור מדרישות בטיחות. מטרתו לאפשר להן לעבוד עם הרגולטור בסביבת ניסוי מבוקרת, לזהות את החסמים ולברר אילו ראיות יידרשו לפני שניתן יהיה להפעיל את המערכות בשגרה. לצד הליווי הרגולטורי, החברות יקבלו תמיכה במסגרת קרן הפיילוטים של רשות החדשנות.
המבחן האמיתי של התוכנית לא יהיה עצם הפעלת שלושת הפיילוטים, אלא השאלה אם בעקבותיהם יוגדרו כללים ברורים: מהי רמת הראיות הנדרשת ממערכת עצמאית, באילו מצבים חייב להישאר אדם בתהליך, כיצד מדווחים על טעויות ומי רשאי לשנות אלגוריתם לאחר שאושר.
העתיד של הבינה המלאכותית הרפואית אינו בהכרח עולם שבו אלגוריתמים מחליפים רופאים. סביר יותר שהוא יהיה עולם שבו חלק מן המשימות יעברו אוטומציה, בעוד אנשי המקצוע יתמקדו במקרים המורכבים, החריגים והאנושיים יותר. כדי שהמעבר הזה יועיל למטופלים, על המערכת לדעת לא רק כיצד לקבל החלטה – אלא גם מתי אסור לה לקבל אותה לבדה.
עוד בנושא באתר הידען
- מחקר: כמעט כל עובדי ההייטק בישראל כבר משתמשים בכלי בינה מלאכותית יוצרת
- כפיל AI אישי ינבא מחלות – ויעזור למנוע אותן
- התקדמות בשימוש בתאומים וירטואליים בניסויים קליניים
- רשות החדשנות בחרה ב-Next silicon להקמת תשתית מיחשוב על למאגדי מו"פ בתחום הבינה המלאכותית
- שלושה מאגדים חדשים: תחבורה בערים חכמות, עיבוד חומרים בלייזר, תקשורת קוונטית
