הזיות AI בעולם המשפט: כשהצ'אט ממציא פסקי דין ומקורות

מקרים נוספים של הזיות AI בעולם המשפט

זו אולי נחמה קטנה מאוד, אבל המקרה הישראלי לא חריג. פסקי דין ומקורות מומצאים כבר הגיעו לבתי משפט במדינות שונות, וגם למסמכים רשמיים שנועדו להשפיע על מדיניות ציבורית. הנה עוד כמה דוגמאות מביכות:

בריטניה: הלקוח נעזר ב-AI ועורך הדין לא בדק

בשנת 2025 קרה בבריטניה מקרה דומה לזה של AIG: בתביעה נגד הבנק הלאומי של קטאר (Al-Haroun v Qatar National Bank) הוגשו לבית המשפט 45 אסמכתאות משפטיות שהתובע איתר בין היתר באמצעות כלי בינה מלאכותית. 18 מהן לא היו קיימות, ובמקרים אחרים פסקי הדין היו אמיתיים אבל לא כללו את הציטוטים שיוחסו להם או לא תמכו בטענות.

בית המשפט מתח ביקורת על עורך הדין, שהסתמך על המחקר של הלקוח בלי לבדוק אותו בעצמו. בעקבות המקרה הסיר עורך הדין את עצמו מכל התיקים שהוא טיפל בהם והודיע שיעבור הכשרה מקצועית נוספת.

אוסטרליה: לפחות 39 מסמכים עם מקורות שנראו מומצאים

בספטמבר 2026 פרסם Guardian Australia תחקיר על מסמכים שהוגשו לוועדות חקירה של הפרלמנט האוסטרלי. במסגרת התחקיר נבדקו מקורות שהופיעו במסמכים באמצעות מאגרים אקדמיים ובדיקות ידניות. לפי הממצאים, לפחות 39 מסמכים הכילו הפניות שנראו כמו הזיות AI. בחלקם הופיעו כמה מקורות שגויים, ובאחרים לא נמצא אף מקור אמיתי אחד.

הבעיה מחמירה עוד יותר כשמבינים שמסמך כזה, אחרי שהתפרסם באתר רשמי של הפרלמנט, עלול לשמש בסיס לתשובות עתידיות של כלי AI. למשל, באחד המסמכים הופיע מחקר שלא קיים, אבל יוחס לחוקרת אמיתית. לאחר מכן כלי החיפוש של גוגל המבוסס על AI הציג סיכום של המחקר הפיקטיבי כאילו הוא אמיתי – וכך המקור המומצא עלול להפוך בעצמו למקור עבור מערכת AI אחרת, ולהיראות אמין יותר בכל סיבוב.

ארצות הברית: צ'אט ג'יפיטי המציא פסקי דין שלמים

בשנת 2023 נחשף כי עורכי דין שייצגו נוסע בתביעה נגד חברת תעופה (Mata v Avianca) השתמשו בצ'אט ג'יפיטי לצורך מחקר משפטי. הצ'אט סיפק להם פסקי דין ותקדימים שנראו אמיתיים, אך למעשה – ניחשתם נכון – לא היו קיימים. זה לא הפריע לעורכי הדין לשלב אותם במסמך שהוגש לבית המשפט, והם אפילו המשיכו להסתמך עליהם גם אחרי שהתגלה שלא ניתן לאתר אותם.

בסופו של דבר התברר ששישה מהתקדימים שהוזכרו בתיק היו מומצאים לחלוטין. בית המשפט הטיל על עורכי הדין ועל המשרד קנס כספי. המקרה הזה הפך לאחת הדוגמאות הבולטות לסכנה שבהסתמכות על תשובות שנשמעות אמינות מבלי לבדוק אם המקורות שה-AI מציג אכן קיימים.

למה הזיות AI מסוכנות במיוחד כשזה נוגע לתחומים משפטיים?

במקרים של "AI משפטי", דווקא רמת הפירוט גורמת לתשובה שגויה להיראות אמינה. מידע משפטי מלא בפרטים שנראים רשמיים: מספרי סעיפים, שמות תיקים, תאריכים וציטוטים. אפשר לתהות איך עורכי דין נופלים בפח, הרי הם אמורים להיות אנשי מקצוע שבקיאים בחומר; אבל אם זה קורה גם להם, ברור שאנשים שאינם משפטנים עלולים לקבל את התשובה כמו שהיא.

יותר מזה – החוק משתנה לפעמים, ותלוי במקום או בהקשר. תשובה שהייתה נכונה בעבר עלולה להיות לא מעודכנת, ופסק דין אמיתי לא בהכרח אומר את מה שה-AI מייחס לו.

גם קישור למקור הוא לא הוכחה. לפעמים ה-AI מפנה לעמוד אמיתי שלא תומך בטענה, למסמך אחר לגמרי או למקור שמצטט בעצמו מידע שגוי. לא מספיק לבדוק שהמקור קיים – צריך לבדוק שהוא באמת אומר את מה שנטען. בקיצור, לא תמיד אפשר לסמוך על צ'אט ג'יפיטי או כלי AI דומה.

אז אסור להשתמש ב-AI לצרכים משפטיים?

לא. אפשר להיעזר ב-AI כדי להבין מונח משפטי בשפה פשוטה, לסדר אירועים לפי ציר זמן, להכין שאלות לפגישה עם עורך דין, להשוות בין סעיפים במסמכים או ליצור טיוטה ראשונית של מכתב. אפשר גם לתת לו לסכם חוק או פסק דין מסוים (אבל עדיין צריך לחזור למקור ולוודא שהסיכום מדויק).

הוא פחות מתאים למציאת הדין העדכני שחל על מקרה מסוים, להערכת סיכויי תביעה או לקבלת החלטה משפטית משמעותית. במקרים כאלה צריך לבדוק את המידע במקור רשמי, ובמידת הצורך להתייעץ עם עורך דין.

אגב, אנקדוטה אישית: לאחרונה הגשתי בעצמי תביעה קטנה נגד חברה מסחרית. מכיוון שבמקרים של תביעות קטנות לא נהוג להיעזר בעורכי דין, נעזרתי בצ'אט כדי לסדר את הראש, לבנות ציר זמן ולבסס את הטענות שלי. הוא עזר לי, למשל, לחשוב אילו רכיבים כדאי להביא בחשבון כדי לחשב את סכום התביעה ואיך להציג את הטענות בצורה מסודרת בפני השופט. את המידע המשפטי בדקתי כמובן בעצמי כדי לוודא שהצ'אט לא הוזה שום דבר. בסופו של דבר ניצחתי בתיק, לשמחתי.

ולפי דבריו, גם לשמחתו. 🙂

איך בודקים מידע משפטי שקיבלתם מה-AI?

הכלל החשוב ביותר הוא פשוט מאוד: אל תקחו שום דבר שהצ'אט אומר מבלי לבדוק אותו. תמיד חשוב לעשות בדיקת עובדות לתוכן שנכתב על ידי AI, בפרט כשמדובר בנושא משפטי.

אם קיבלתם הפניה לפסק דין, בדקו שהוא מופיע במאגר משפטי אמין וששם הצדדים, מספר ההליך והתאריך תואמים. לאחר מכן קראו את החלק הרלוונטי ובדקו שהוא באמת תומך בטענה. כן, אני יודע שפסקי דין נוטים להיות ארוכים מאוד, אבל אל תתעצלו – תקראו.

אם קיבלתם הפניה לחוק או לתקנה, חפשו את הנוסח המעודכן במקור רשמי. אל תניחו שהסעיף עדיין בתוקף או שה-AI הציג את כל החריגים שלו.

ואם התשובה עלולה להשפיע על כסף, זכויות, עבודה, משפחה או הליך משפטי – אל תתנו לצ'אט לקבל את ההחלטה במקומכם.

השורה התחתונה

כלי AI הוא לא עורך דין. אפשר להיעזר ב-AI בעניינים משפטיים, אבל עדיין חשוב לוודא שהתשובות שלו הן לא הזיות של בינה מלאכותית – וזאת האחריות שלכם ושל עורך הדין שלכם (דבר שבעולם מתוקן לא היה צורך לציין, אם לא היו כל כך הרבה עורכי דין בארץ ובעולם שגם הם לא טורחים לוודא).

קיבלתם פסק דין, חוק או ציטוט? פתחו את המקור, קראו אותו בעיון, ותוודאו שהוא באמת קיים ואומר את מה שהצ'אט טוען. עדיף שאתם תגלו את הטעות לפני שהשופטת תגלה אותה במקומכם.

* המאמר מספק מידע כללי בלבד ואינו מהווה ייעוץ משפטי.