התקשורת בארה"ב דיווחה בסוף השבוע על מקרה חריג ומביך, שבו עורך דין נעזר ב-ChatGPT, הצ'אטבוט שהפך בחודשים האחרונים ללהיט עולמי והסתבך כאשר הגיש לבית המשפט מסמך שבו מצוטטים תקדימים משפטיים שמעולם לא היו ולא נבראו, אלא הומצאו על ידי תוכנת המחשב.
התיק המדובר מתנהל בבית משפט בניו יורק ועוסק בתביעת פיצויים שהגיש אדם בשם רוברט מטה נגד חברת התעופה "אביאנקה איירליינס", בטענה כי רשלנות של אחד מעובדיה גרמה לו להיפצע מעגלת שירות בטיסה של החברה ב-2019. כדי לחזק את דרישתו לפיצויים הגיש צוות עורכי הדין שלו לבית המשפט מסמך, שבו מצוטטים מספר תקדימים משפטיים שנקבעו כביכול בתיקים קודמים. המסמך מצטט למשל תיקים המכונים "שאבון נגד איג'יפט-אייר" ו"פטרסון נגד איראן-אייר" שבהמשך התבררו כהמצאה מפוברקת.
עוד מבחזית החדשות
- מטח משמעותי של כטב"מים שוגרו אל עבר ישראל מכיוון עיראק
- "תהליכי עומק מדאיגים": בהרצליה ייאסר ללימוד במוסדות החינוך- ספר אזרחות המזוהה עם פורום קהלת
- איראן טוענת: ישראל ביצעה פעולה חשאית משמעותית במדינה
- תעלומת סינוואר: האם מנהיג חמאס חוסל? | גורמי מודיעין: מידע בלתי מבוסס
- מתקפה נוספת על החות'ים בתימן – הפעם על ידי הצבא האמריקני
מי שחשף שמדובר בהמצאה מוחלטת היה צוות ההגנה של חברת התעופה, שדיווח כי בבדיקה שערך לא מצא אף הוכחה לקיומם של תקדימי העבר המדוברים. החודש קבע גם השופט קווין קסטל שלפחות שישה מהתיקים שצוטטו במסמך הומצאו יש מאין, וכי נכללים בו גם "ציטוטים מזויפים ואסמכתאות מזויפות". לדבריו מדובר במקרה "חסר תקדים" של הגשת מידע מומצא לבית המשפט.
עורך הדין שייצג את התובע בדיונים הוא פיטר דו-לוקה, אבל מי שלקח אחריות על עריכת התחקיר המביך הוא עמיתו סטיבן שוורץ, עורך דין בעל ניסיון של 30 שנה. בתגובה כתובה שהגיש לבית המשפט ביום רביעי האחרון, הביע שוורץ "צער רב" על כך שהסתמך על ChatGPT. השופט קבע לשוורץ וגם לדו-לוקה שימוע בחודש הבא, שבו ייתכן כי יוטלו עליהם סנקציות שונות.
בתגובה טען שוורץ כי מעולם לא עשה בעבר שימוש בצ'אטבוט עבור תחקירים משפטיים, וכי לא ידע שהמידע שמספק ChatGPT עלול להיות שגוי. הוא הבטיח כי לעולם לא יעשה בו שימוש נוסף, מבלי לוודא "באופן מוחלט" את אמינות המידע שיקבל. לתגובה שהגיש צרף עורך הדין צילומי מסך משיחה וירטואלית שניהל עם ChatGPT, שבהם נראה שעורך הדין ניסה לוודא מול הצ'אטבוט שהתיקים שהציג בפניו אכן נכונים והצ'אט הבטיח לו שהם אכן אמיתיים.
באחד מצילומי המסך שואל שוורץ את התוכנה אם תיק בשם "ורגסי נגד צ'יינה סאות'רן איירליינס" הוא תיק אמיתי, והצ'אטבוט משיב: "כן, זה תיק אמיתי". שוורץ שואל אותו: "מה המקור שלך?", והצ'אט משיב לו כי ערך "בדיקה חוזרת" וכי אכן מדובר בתיק אמיתי שניתן למצוא לו אסמכתאות במאגרי מידע משפטיים כגון Westlaw או LexisNexis. "אני מתנצל על אי נוחות או בלבול כלשהם שהתגובות הקודמות שלי יצרו אולי", הוסיף ChatGPT בצ'אט עם עורך הדין.
ChatGPT פותח על-ידי חברת OpenAI והושק בנובמבר 2022, ומאז כאמור הפך ללהיט עולמי עם יותר מ-100 מיליון משתמשים. מדובר בתוכנת מחשב מבוססת בינה מלאכותית שיכולה לשוחח עם הגולשים בצורה המזכירה בן אדם רגיל, והם יכולים לנצל אותה לשלל משימות, מפתרון בעיות מתמטיות ועד ניסוח נאומים ועבודות אקדמיות. הצ'אטבוט נעזר במידע מהאינטרנט כפי שנסרק עבורו בשנת 2021, ולמשתמשים מובהר כי הוא עלול לספק מידע שגוי. השימוש הגובר בצ'אטבוט הזה ובצ'אטבוטים מתחרים, גורר ביקורת מצד גורמים שונים, החוששים מהסכנות של בינה מלאכותית, בהן גם הפצה של מידע שגוי.
