ניק בוסטרום, אחד מהפילוסופים הראשונים של עידן הבינה המלאכותית חוזה כי מכיוון הבינה המלאכותית תהיה חכמה יותר מאיתנו, היא גם תהיה מדענית טובה יותר, ומהנדסת מדויקת יותר, ואומנית יצירתית יותר. היפנים ניסו זאת לאחרונה באמצעות מודלי השפה הגדולים המתקדמים
בשנת 2015 עלה ניק בוסטרום לבמת TED וטבע אימרה שהפכה מאז למזוהה עם שמו.
“בינת מכונה,” הודיע בוסטרום, “היא ההמצאה האחרונה שהאנושות תצטרך אי פעם ליצור.”
בוסטרום ידוע כפילוסוף פרובוקטיבי במיוחד. בין היתר הוא המציא גם את תיאוריית הסימולציה, לפיה כולנו חיים, ובכן, בסימולציה. הוא הקים וניהל את “מכון עתיד האנושות” באוניברסיטת אוקספורד, וחקר ועודו חוקר את הדרך בה אנו צריכים לחשוב על בינה מלאכותית מתקדמת.
כזו, למשל, שתהיה ההמצאה האחרונה שהאנושות תצטרך אי פעם ליצור.
אבל למה, בעצם?
בוסטרום טוען שמהרגע שבינה מלאכותית תגיע לרמה מתקדמת מספיק, היא תוכל לבצע מטלות מסוימות טוב יותר מבני-אדם. ואיזו מטלה חשובה יותר מזו המבדילה בין בני-אדם וחיות: יכולתנו לפתח המצאות חדשות?
וכך חוזה בוסטרום שהבינה המלאכותית המתקדמת תמציא עבורנו את ההמצאות הבאות שלנו. אבל היא לא תעשה זאת כמו בני-אדם, באיטיות מייסרת ובניסוי ובטעיה. מכיוון שהיא תהיה חכמה יותר מאיתנו, היא גם תהיה מדענית טובה יותר, ומהנדסת מדויקת יותר, ואומנית יצירתית יותר. היא תוכל לנסות את הרעיונות שלה בסימולציות ממוחשבות, לסנן החוצה את כיווני המחשבה הכושלים ולהתמקד במוצלחים. בזמן שנדרש לאדם לחשוב על רעיון אחד חדש, היא תפיק אלפי רעיונות. בזמן שנחוץ לחברה כדי לבחון האם מוצר חדשני מסוים באמת מוצלח, הבינה המלאכותית תוכל לבחון מאות מוצרים היפותטיים, ותבחר להתקדם רק עם הטובים מביניהם.
וכמובן, היא גם תוכל לפתח את הדור הבא של הבינות המלאכותיות, שיפתחו את הדורות שאחריהן, וכן הלאה.
בהשוואה לכל החדשנות הזו, כל ממציא אנושי ייוותר במהרה בצידי הדרך. לא נוכל להתחרות ביכולת ההמצאה של הבינה המלאכותית. נוכל – אולי – לשלוט עליה ולנתב אותה. אבל לא נוכל להתחרות בה.
ולכן, אליבא דבוסטרום, הבינה המלאכותית המתקדמת “היא ההמצאה האחרונה שהאנושות תצטרך אי פעם ליצור.”
בשבוע האחרון היא הפכה להיות קרובה יותר למציאות, בזכות חברה יפנית בשם סאקנה, שפיתחה “בינה מלאכותית מדענית”.
מדע בלחיצת כפתור
איך מדענים עושים מדע? לאט ובכאב. מחקר טוב מתחיל בהבנת הידע הקיים כיום, בזיהוי פערים וחללים בידע – ובגיבוש תיאוריות שמסבירות את החללים האלו. תיאוריות ראשוניות אלו נקראות “היפותזות”, וכדי להבין איזו מהן נכונה, צריך לערוך ניסויים. לשם כך המדען צריך לתכנן ניסויים חכמים שיפריכו את ההיפותזות השגויות, ויספקו ראיות לטובת ההיפותזה הנכונה. לאחר כל ניסוי צריך לאסוף את התוצאות, לעבד ולנתח אותן ולהגיע למסקנות. אז אפשר להתקדם לניסוי הבא, עד שמגיעים לרמת ודאות גבוהה לגבי ההיפותזה הנכונה ביותר.
הבינה המלאכותית המדענית של סאקנה עושה את כל זה, ועוד.
המדענית הממוחשבת מקבלת כקלט מהמשתמש את נושא המחקר, וגישה למידע שהיא זקוקה לו כדי לחקור את התחום. היא בוחנת את הידע הקיים עד כה במדע ומגבשת רשימה של שאלות מחקריות שראוי להעלות. היא ממשיכה בגיבוש רעיונות לניסויים, ואם מדובר במדעי המחשב – בהם הניסויים נערכים באמצעות קוד – היא מסוגלת גם להריץ את הניסויים בעצמה, לאסוף ולנתח את התוצאות ולהגיע לתובנות.
ואז היא עושה את ה- “עוד”.
לא נעים להודות, אבל נתח לא-מבוטל מזמנו של כל מדען היום נגזל לטובת כתיבת מאמרים אקדמיים. במאמרים הללו מתאר החוקר את המחקר שעשה, את השיטות בהן השתמש ואת ההיפותזות שהעלה והפריך או אישש. כתיבת המאמר יכולה בקלות לדרוש עשרות שעות מזמנו של המדען.
המדענית המלאכותית עושה גם את זה. לאחר ביצוע הניסוי, היא מסכמת את המחקר שביצעה ואת התוצאות שקיבלה ומשמעויותיהן בצורה של מאמר אקדמי שניתן לפרסם או להציג בכנס אקדמי מכובד.
אלא שעבודת המדען לא מסתיימת גם כאן. לאחר כתיבת המאמר, צריך המדען להגיש את המאמר ל- “ביקורת עמיתים”, בה מתבקשים עמיתיו לספק ביקורת על המאמר באופן אנונימי. הם מאתרים כל פגם וכל סדק בניסויים, וכך נאלץ איש המדע לחזור פעמים רבות למעבדה ולבצע ניסויים נוספים שיחזקו את המסר שבמאמר.
וכן, הבינה המלאכותית עושה גם את זה. בערך. לאחר שכתבה את המאמר, היא בוחנת אותו מחדש כשהיא עוטה על עצמה אישיות של איש מדע ביקורתי. היא מאתרת את הכשלים והבעיות במאמר, ומחליטה איזה ציון לתת לו, והאם יש צורך בתיקונים.
ובסוף? היא יכולה לקבל את המאמר שהיא עצמה יצרה – ולהשתמש בו כבסיס כדי לשפר את המחקר המקורי. ממש כפי שעושה מדען אנושי.
אבל קיים הבדל גדול אחד. המדען האנושי צריך להשקיע מאות שעות ברכישת ידע בתחום, בחשיבה על רעיונות חדשים, בפיתוח הניסויים, בעיבוד וניתוח התוצאות ובכתיבת המאמר ובשיפורו. הבינה המלאכותית יכולה להפיק כל מאמר כזה ברבע-שעה בערך, ובעלות של 15 דולרים בלבד.
המפתחים בסאקנה התרכזו במקומות בהם קל לבינה המלאכותית להגיע להצלחות ראשוניות. הם לא שלחו אותה לעשות ניסויים במעבדה, אלא התמקדו בתחום למידת המכונה, כדי שתוכל לעשות ניסויים במחשב. היא עשתה את הניסויים האלו באופן מרשים, הפיקה חמישים מאמרים תוך 12 שעות, ועברה עליהם כדי לוודא שהם באיכות מספיק גבוהה.
בסופו של התהליך, הפיקה הבינה המלאכותית עשרה מאמרים ברמה גבוהה – או לפחות כאלו שהיא טוענת שהם ברמה גבוהה. החוקרים עברו על המאמרים הללו, וגילו שרובם אכן ברמה גבוהה ומספקים תובנות חדשות בתחומי המחקר. מרתק לגלות שהבינה המלאכותית המדענית חקרה את הדרך בה מערכות עצבים מלאכותיות פועלות וכיצד הן יכולות להשתפר. כלומר, היא חקרה את המנגנונים שעומדים בבסיס הפעולה שלה עצמה. והמשמעות היא, כמובן, שככל שהבינה המלאכותית תשתפר ביכולת המחקר שלה – כך היא תוכל לשפר את עצמה בקצב מהיר יותר.
אה, והיא גם משקרת.
עדיין לא הכל מושלם
לפני שאתרכז במשמעות הגדולה של הבינה המלאכותית שעושה מדע, חשוב גם לדבר על המגבלות שלה כיום. המפתחים בסאקנה עשו שימוש במודלי שפה גדולים – קלוד 3.5, GPT4-O ואחרים – ואלו מסוגלים לספק תוצאות יפות… בדרך כלל. כפי שמשתמשים רבים גילו על בשרם, הבינות המלאכותיות הללו יכולות גם לשקר, או לספק “הלוצינציות” או הזיות.
אפשר להתמודד עם ההלוצינציות הללו ולהפחית מאד את הסיכוי שיופיעו, אבל הן עדיין מגיחות מפעם לפעם. כך היה גם בחלק מהמאמרים שהבינה המלאכותית ‘פרסמה’. באחד מהם, למשל, היא פירטה את נתוני המעבד הגרפי בו השתמשה, אך מכיוון שלא ידעה באיזה חומרה מדובר – היא פשוט זרקה למאמר שם של מעבד גרפי נפוץ (V100 GPU). האמת היא שמנוע גרפי אחר (H100 GPU) עמד מאחורי הניסוי, אבל קוראים שהיו נחשפים למאמר לא היו יכולים לדעת זאת.
משעשע לציין, אגב, שלא מצאתי אזכור לכשל המסוים הזה בשום סיקור עיתונאי על הבינה המלאכותית. כדי למצוא אותו, הייתי צריך לקרוא את… המאמר המדעי המקורי שכתבו החוקרים האנושיים אודות הבינה המלאכותית המדענית, כמובן.
אז הצלחנו ליצור בינה מלאכותית מדענית שמשקרת לגבי הניסויים שלה. כבר בשלב זה נהיה ברור שאי-אפשר פשוט להשאיר את הבינה המלאכותית מחוברת לחשמל – ושהיא תפתור את כל בעיות האנושות בעזרת המדע. עובדה זו לא מורידה מגודל החשיבות של הפיתוח, אבל היא כן מבהירה שאנחנו חייבים להתייחס בחשדנות ובביקורתיות לכל מאמר שהיא מפיקה.
או שאולי נכון יותר לומר שכאשר נדרוש מבינות מלאכותיות מדעניות לחשוב על ניסויי העתיד, נצטרך להבהיר להן שהן צריכות לבחון את המאמרים של קודמותיהן בביקורתיות-יתר.
שקרים בוטים אינם הבעיה היחידה במאמרים שכתבה הבינה המלאכותית של סאקנה. היא המשיכה ונתנה ‘ספין’ חיובי מסביב לכל תוצאה. כאשר היא נדרשה לבחון ביצועים של מודל מסוים במחקר, למשל, היא תיארה את התוצאות שלו כ- “הפחתה של 12.8%” (תוצאה חיובית), אבל תוצאות שליליות היא תיארה כ- “שיפור של 3.3%”. היא גם כוללת בכל מאמר את תיאור כל הניסויים שערכה וכל תוצאות הביניים שקיבלה. במילים אחרות, המאמר שהיא כותבת מתאים פחות לבני-אדם – ויותר לקריאה מצד מכונות ביקורתיות.
אבל זה בסדר.
כלומר, זה לא בסדר. ממש לא בסדר. מדענים שנתפסים בשקרים במאמרים שהם כותבים, מורחקים מהקהילה המדעית. נקודה. הם מפוטרים ממשרות המחקר הבכירות שלהם באוניברסיטאות, ואיש אינו מוכן לשתף עמם עוד פעולה. הקריירה האקדמית שלהם נגדעת באבחת גרזן אחת, ואין מחילה.
אבל הבינה המלאכותית עדיין בתחילת דרכה כמדענית. ואנשי הפיתוח של סאקנה – ביחד עם כולנו – עדיין לומדים בעצמם איך לתת לה את ההוראות המדויקות ביותר כדי שתערוך את המחקרים המהימנים ביותר. וכמובן, בעוד חודש-חודשיים-שלושה יופיע המודל הבא של הבינה המלאכותית – בין שזה יהיה GPT5 או מתחרה פורץ-דרך אחר כלשהו – והוא כבר יהיה מדויק יותר, הגיוני יותר ואמין יותר.
העקרון החשוב כבר הוכח: כן, בינה מלאכותית יכולה לעשות מחקר. ואפילו מחקר מוצלח. וגם אם היא עושה עדיין טעויות, ואפילו גסות, עדיין היא יכולה להוות עזר לנגדו של החוקר האנושי החכם.
וזה כנראה יהיה התפקיד שלה בשנים הקרובות.
חברתו הטובה ביותר של המדען
השימוש הסביר ביותר בבינה המלאכותית המדענית בשנים הקרובות יהיה להעמיד אותה כ- “חברתו של המדען”. המדען האנושי יבחר להפעיל את הבינה המלאכותית, יבחר את התחומים שהיא תחקור, ויגדיר לה את המגבלות ואת גבולות הגזרה של הניתוח. היא תפיק עבורו מחקרים, מחקרים ועוד מחקרים, עם מאמר עבור כל אחד מהם, ואפילו תדרג את המאמרים המוצלחים ביותר.
ואז התפקיד שלו יהיה לקרוא אותם בביקורתיות.
החוקר האנושי יצטרך לדקדק בכל פרט ופרט במאמרים. הוא יצטרך לבחון כל נקודה שמעלה הבינה המלאכותית ולהצליב אותה עם הניסויים שנערכו כדי לוודא שאין שום חריגה מהאמת. הוא ישקיע שעות ארוכות בכך – אבל יראה שכר בעמלו, מכיוון שהוא יוכל לפרסם כל מאמר מוצלח שכזה. וכך, כמות המאמץ הנדרשת להפקת כל מאמר מדעי – כולל גיבוש ההיפותזות, ביצוע הניסויים וניתוח התוצאות – תפחת באופן דרמטי. לא מוגזם לטעון שהיא תפחת בסדר גודל שלם – ממאות שעות, לעשרות בודדות.
בהינתן הכלי רב-העוצמה הזה, לא מוגזם לטעון שמספר המאמרים במדעי המחשב בעיקר, עשוי לזנק מעלה-מעלה בשנים הקרובות. אבל זוהי טענה שכמעט לא-מעניינת. למי אכפת ממאמרים? תוצרי המאמרים – התובנות המדעיות-טכנולוגיות – הם אלה החשובים באמת.
זו המשמעות האמיתית הראשונה של הבינה המלאכותית המדענית: אנו עתידים לראות זינוק משמעותי בקצב בו נגיע לתובנות חדשות, לתיאוריות מדעיות חדשות ולפיתוחים טכנולוגיים חשובים. הזינוק הזה עומד להשפיע על כולנו, בדרכים שאיננו יכולים אפילו לדמיין כיום. בין היתר, הוא יוביל לכך שבינות מלאכותיות חזקות יותר יפותחו מהר יותר. וברגע שבינות מלאכותיות יוכלו לעשות גם ניסויים במעבדות – ולא רחוק היום – נוכל להביא את אותו שיפור בקצב המחקר גם לכל תחומי המדע.
רוצים להישאר צעירים לנצח? לשפר את יכולת קצירת האנרגיה של פאנלים סולאריים למקסימום האפשרי? להבין איך לחולל היתוך גרעיני בטמפרטורת החדר? הבינה המלאכותית המדענית תעזור לנו למצוא את הדרך להפוך את כל זה לאפשרי.
ובמקביל, היא גם תעביר את המדע דמוקרטיזציה.
חברתנו הטובה ביותר, נקודה
בוודאי שמתם לב לכך שהעולם מתמלא לאחרונה בצבע. כל אדם מתחיל להשתמש בבינה מלאכותית ציירת – מידג’ורני, דאלי 3, פלאקס, או כל מודל אחר – כדי להעביר את רעיונותיו בדרך צבעונית יותר לציבור. האנשים שעושים זאת אינם יודעים לצייר עם מכחול וקנבס, או עם עט אלקטרוני ומסך מגע. אבל הם למדו להגיד לבינה המלאכותית מה הם רוצים לקבל – והיא מסוגלת לדלג על רוב שלבי היצירה הקונבנציונליים כדי לספק להם את מבוקשם.
התהליך הזה מכונה דה-סקילינג (DeSkilling): ירידה ברמת המיומנות הנדרשת כדי להפיק מוצר או שירות מסוים, בהשוואה לרמת המיומנות שנדרשה בעבר.
גם עבודת המדען תעבור תהליך דומה של דה-סקילינג בשנים הקרובות. זה לא יקרה מיד, מכיוון שהבינה המלאכותית המדענית עדיין לוקה בבעיות. אבל ככל שיכולותיה ישתפרו, וככל שנדע להשתמש בה טוב יותר, כך היא תוכל לעזור לכל אחד לבצע מחקר שיעזור לו להגשים את מאווייו וחלומותיו.
תמיד רצית עיניים כחולות, אבל לא ידעת מה לעשות בנידון? בעוד מספר שנים תוכל להריץ את המדענית האישית שלך על שפע של מחקר ביולוגי קיים – והיא תעלה רעיונות, תבחן אותם בניסויים ראשוניים, ובסוף גם תסייע לך לסנתז את החומר המתאים ביותר. אני עדיין ממליץ לבחון את הניסויים שלה בקפדנות, לפני שתטפטף את החומר לעיניים.
תמיד רצית שיקוי אהבה? או אולי חומר פסיכואקטיבי שמשפיע במיוחד על מעגלי התשוקה במוח ובאיברים שקרובים יותר לאדמה? הבינה המלאכותית המדענית תעזור לך לפתח גם את אלו.
תמיד רצית חומר לחימה כימי? ובכן, הבנת כבר מה אתה צריך לעשות.
הדמוקרטיזציה של המדע לא תגיע מחר בבוקר, אבל בקנה מידה היסטורי, היא בהחלט מעבר לפינה. עד סוף העשור, יזכו אינדיבידואלים חכמים במיוחד בכוח המחקר שהיה שמור בעבר רק למעבדות המתקדמות ביותר.
כן, זה מסוכן. וכן, זה מבטיח ומרגש ומלהיב, כי כל אדם יוכל לעשות את המחקר שמעניין אותו, להגיע לתוצאות ולשתף אותן עם כל היתר. כולנו נהיה מדענים וממציאים, כל אחד עם המיקוד שלו ועם הצרכים שלו. זה יהיה עולם של יצירה ושל חדשנות שמתורגמת כמעט מיידית למוצרים חדשים. וזה עשוי גם להיות עולם של קסמים, כי יהיו אלו שלא ישתפו את שאר האנושות בתהליך המחקר, אלא רק בתוצאותיו. וכפי שכתב ארתור ס. קלארק – “כל טכנולוגיה מתקדמת מספיק – אי אפשר להבדיל בינה לבין קסם”.
האם אנחנו מוכנים לעולם כזה, בו כוחו של המדען – של איינשטיין, של טסלה, של פסטר – נמצא בידיו של כל אדם? של כל ילד?
מוכנים או לא – הוא כמעט כבר כאן.
עוד בנושא באתר הידען
