בפודקאסט המעולה Hard Fork , קווין רוז וקייסי ניוטון נגע בנושא נתוני האבטלה בקרב בוגרי קולג' בארה"ב וגם שוחחו עם מייק קריגר, סמנכ"ל המוצר באנטרופיק. ממליצה מאד להאזין לפרק.
אני דווקא רוצה להתמקד בשאלה שהם העלו – אם הצ'אטים השונים עושים עבודה כל כך טובה בתחומים רבים, מדוע יש תחומים שבהם ההתקדמות היא איטית ממש. כמו למשל – תחום המשפט?
מאחר וזה אתגר שאנחנו עוסקים בו בשנה וחצי האחרונות, חשבתי שההסבר שלהם מצוין וכדאי לשתף אותו-
- בעיית ההזיות– Hallucinations– כמה עורכי דין כבר נכנסו לצרות כשהשתמשו ב-ChatGPT לכתיבת כתבי טענות, רק כדי לגלות שהAI המציא תקדימים משפטיים שלא קיימים. בתחום שבו דיוק הוא הכל, זו בעיה גדולה.
הבעיה כל כך נפוצה שדמיאן שרלוטן (Damien Charlotin) חוקר משפטי מפריז, מנהל מסד נתונים מיוחד שמתעד כל המקרים בהם עורכי דין ציטטו פסקי דין מזויפים שנוצרו על ידי AI. עד כה הוא זיהה 95 מקרים כאלה בארה"ב בלבד מיוני 2023, כולל 58 רק השנה! המסד נתונים שלו כולל כבר 143 מקרים מ-12 מדינות שונות.
- חוסר החד-משמעות של התשובות המשפטיות כפי שציינו בפודקאסט, אחת הסיבות המרכזיות לעיכוב בפיתוח פתרונות AI לתחום המשפט היא שתשובות לשאלות משפטיות לעיתים קרובות אינן חד משמעיות. זה מקשה מאוד על אימון המודלים.
בניגוד למתמטיקה או תכנות, שבהם יש תשובה נכונה ברורה, במשפט שני עורכי דין יכולים להגיע למסקנות שונות לגמרי מאותם עובדות, ושניהם יכולים להיות צודקים. זה יוצר בעיה בסיסית עבור AI שמחפש דפוסים ברורים בנתונים.
הבעיות לא רק טכניות – הן גם עמוקות יותר. אולי זה עניין של הבנה שתחומים מסוימים דורשים יותר מעיבוד מידע. הם דורשים הבנה של הקשר, שיקול דעת אנושי, ויכולת להתמודד עם אי-וודאות – משהו שAI עדיין לא שולט בו לחלוטין.
רוצים להעמיק? לינק לפרק.
https://open.spotify.com/episode/4oxAeFSGOXBkzzvt2LWxsN?si=usmfN5r-TR-gIg23-Bpyjw
