אתם בטח מכירים את הבדיחה שהפכה בזמן האחרון לאחת המצוטטות ביותר בהרצאות על בינה מלאכותית. אדם שואל מערכת AI: תחנת שטיפת הרכב נמצאת במרחק של 200 מטר בלבד מהבית. האם כדאי להגיע אליה ברכב המלוכלך או ללכת ברגל?
המערכת משיבה מיד: אם מדובר רק ב־200 מטר, עדיף ללכת ברגל.
התשובה נשמעת הגיונית לחלוטין. היא אפילו נכונה מבחינה מילולית. ובכל זאת ברור לכולנו שהיא מגוחכת. הרי מי שרוצה לשטוף את הרכב חייב להביא את הרכב לתחנת השטיפה, גם אם המרחק הוא עשרים מטר בלבד. הבעיה איננה בתשובה, אלא בשאלה. השאלה מנוסחת באופן שמסתיר את המטרה האמיתית, ואז מפתיע אותנו כשהתשובה מתעלמת ממנה.
מה שמעניין הוא שהבדיחה הזו אינה עתיקה כלל. היא נולדה ממש בעידן הבינה המלאכותית החדשה. הגרסה הראשונה המתועדת הופיעה ברשת Mastodon, כאשר משתמש פרסם שאלה פשוטה: אדם רוצה לשטוף את מכוניתו ותחנת השטיפה נמצאת עשרות מטרים בלבד מביתו, האם כדאי ללכת או לנסוע. כאשר מערכות בינה שונות השיבו שעדיף ללכת ברגל, השאלה הפכה במהירות למה שמכונה כיום בעולם הטכנולוגיה "מבחן תחנת השטיפה" (Car Wash Test), דוגמה ויראלית שממחישה כיצד מערכת יכולה לענות תשובה נכונה מילולית אך חסרת היגיון מעשי. בתוך זמן קצר היא התפשטה בפורומים מקצועיים, ברשתות חברתיות ובהרצאות על בינה מלאכותית, והפכה כמעט לאגדה קטנה של עידן האלגוריתמים. מחקר קטן שלי בנוטבוק LM, העלה כי, באופן מפתיע, כאשר השאלה נשאלה בצורה רגילה, אף מודל שפה מרכזי לא הצליח לענות עליה נכון. מודלים כמו GPT-4, Gemini, ChatGPT, Mistral, Perplexity ו-Claude – כולם נכשלו והמליצו ללכת ברגל.
המערכת הראשונה שהצליחה לספק את התשובה הנכונה (לנסוע ברכב) הייתה מערכת אימון לראיונות עבודה בשם InterviewMate. הצלחה זו קרתה במקרה, בזכות העובדה שהמערכת השתמשה בהנחיות מורכבות הכוללות את מבנה ה-STAR.
נדמה שזו בדיחה על בינה מלאכותית "טיפשה". אבל אפשר ללמוד ממנה על טכניקה של חקירה
מי שנכנס לאולם בית המשפט מכיר היטב את הטכניקה הזו. חקירה נגדית בנויה לעיתים בדיוק כך: שאלה שנשמעת תמימה, אפילו הגיונית, אך כוללת בתוכה הנחות סמויות או הסחות דעת. עורך דין עשוי לשאול נפגע בתיק נזיקין: "המדרכה שבה נפלת נמצאת רק חמישים מטר מהבית שלך – נכון שיכולת להיזהר יותר?" המרחק מהבית איננו קשור לשאלה אם המדרכה הייתה תקינה, אבל עצם השאלה יוצרת רושם של אחריות מצד הנפגע. כמו בבדיחת תחנת השטיפה, פרט צדדי תופס את מקומו של העיקר.
במקרים אחרים השאלה מצמצמת את המציאות לצמד אפשרויות בלבד: "ראית את התאונה או לא ראית?" אלא שהחיים אינם מתנהלים בשחור ולבן. עד יכול לראות חלק מהאירוע, לשמוע חלק אחר, או להבין בדיעבד מה התרחש. תשובה מילולית לשאלה כזו עלולה להיות נכונה – אך מטעה.
עד מנוסה לומד מהר מאוד שהטעות הגדולה ביותר היא לענות רק על המילים. עד טוב אינו עונה על השאלה, הוא מתקן אותה. במקום לומר "כן" או "לא", הוא מסביר את המציאות: מה ראה, מה ידע, ומה באמת קרה. במילים אחרות, הוא משלים את ההקשר החסר.
בדיוק אותה מיומנות נדרשת היום ממשתמשי בינה מלאכותית. מערכות בינה אינן קוראות מחשבות; הן מגיבות לניסוח. פרומפט שאינו כולל במינימום את המטרה ואת ההקשר, עלול להוביל לתשובה מדויקת אך חסרת היגיון מעשי. לא משום שהמערכת אינה חכמה, אלא משום שהשאלה אינה שלמה.
הדמיון בין חקירה נגדית לבין עבודה עם בינה מלאכותית איננו מקרי. בשני המקרים מדובר בדיאלוג שבו מילים מנסות לייצג מציאות מורכבת יותר. בשני המקרים גם קיימת סכנה דומה: להיתפס לניסוח במקום למהות.
אולי משום כך הלקח האמיתי מבדיחת "200 המטר" איננו טכנולוגי אלא לכאורה משפטי כמעט באופיו. השאלה החשובה איננה עד כמה הבינה המלאכותית חכמה, אלא עד כמה אנחנו יודעים לשאול נכון. בעולם שבו יותר ויותר החלטות נשענות על ניסוח. משפטי או טכנולוגי, היכולת להבהיר את המטרה נעשית מיומנות יסוד.
כי בסופו של דבר, בין אם מדובר בעד על דוכן העדים ובין אם מדובר באלגוריתם, הכלל נשאר אותו כלל ישן: תשובה טובה מתחילה בשאלה טובה.
אולי דווקא משום כך הבדיחה הזו כל כך מטרידה: היא מזכירה לנו שהבנה איננה דבר מובן מאליו. היא דורשת מאמץ של פרשנות, הקשבה והשלמת פערים.
————————
האמור בטור זה מבטא את דעתה האישית של הכותבת בלבד ונועד למטרות הסברה ודיון ציבורי. אין באמור משום ייעוץ משפטי, חוות דעת מקצועית או תחליף לקבלת ייעוץ פרטני בהתאם לנסיבותיו של כל מקרה.
הדוגמאות המובאות בטור הינן לצורכי המחשה בלבד, ואינן מתייחסות למקרה מסוים או לאדם מסוים. כל דמיון למציאות הוא מקרי בלבד.
המידע הנוגע לבינה מלאכותית ולשימושיה מבוסס על מקורות גלויים ועל ידע מקצועי כללי, והוא עשוי להשתנות עם התפתחות הטכנולוגיה.
ט.ל.ח
