האם באמת אפשר לסמוך על צ'אט ג'יפיטי?

כשצ'אט ג'יפיטי כותב לנו תשובה שנשמעת טובה וסמכותית, קל לסמוך עליו. בעיקר כשהוא מצרף מקורות שהוא הסתמך עליהם. אבל מה קורה כשהמקור עצמו נוצר כדי להשפיע על מה שהוא יכתוב?

הניסיון הישראלי להשפיע על צ'אט ג'יפיטי (לכאורה! לכאורה!)

באוגוסט 2026 פורסמו בתקשורת תחקירים על "מכון הנובר למדיניות ציבורית", שהציג את עצמו כמכון מחקר אמריקאי ופרסם 124 דוחות בתוך תשעה ימים. הדוחות נראו אקדמיים, כללו נתונים ומקורות ועסקו בין היתר בטענות נגד ישראל, כשהנימה בהם הייתה אוהדת וחיובית כלפינו.

אלא שלפי הכתבה שפורסמה ב-ynet, כמו גם לפי תחקיר הגרדיאן, למכון לא הייתה ישות משפטית, כתובת פיזית, רשימת חוקרים או שמות מחברים. בדיעבד התברר שהאתר הוקם במסגרת פעילות שמומנה על ידי ממשלת ישראל, במטרה לפרסם תוכן פרו-ישראלי ולהגדיל את הסיכוי שצ'אט ג'יפיטי וצ'אטבוטים נוספים יסתמכו עליו בתשובות שלהם.

כמעט כל הכותרות באתר נוסחו כשאלות שאנשים עשויים להפנות לצ'אט. בבדיקה שערך הגרדיאן, צ'אט ג'יפיטי גם הפנה לארבעה מהדוחות כאשר התבקש להציג מחקרים חדשים של המכון – אם כי ראוי לציין גם שהוא הזהיר שקיימת מחלוקת לגבי זהות הגורמים שמממנים אותו. כמו כן, משרד החוץ הישראלי הכחיש בתגובה לגרדיאן כי המדינה מנהלת "מבצעי השפעה" בארצות הברית.

אז האם ישראל ניסתה להשפיע על התשובות של צ'אט ג'יפיטי? לא ברור, אבל הסיפור הזה מעלה שאלה רחבה יותר: האם אפשר לסמוך על צ'אט ג'יפיטי גם כשהתשובה שלו נשמעת משכנעת ומגיעה עם מקורות?

הנה חמישה דברים שאפשר ללמוד מהפרשה.

1. רושם אמין עלול להטעות

אנחנו רגילים לזהות מידע רציני לפי סימנים חיצוניים: אתר שנראה מקצועי, ניסוח אקדמי, גרפים, נתונים, הערות שוליים ורשימה ארוכה של מקורות. כל אלה בהחלט יכולים להופיע במחקר אמין, אבל הם יכולים להופיע גם באתר שהוקם כדי לקדם מסר מסוים. גם אם האריזה נראית אמינה – התוכן עדיין עלול להיות מגמתי.

מה אנחנו למדים מזה? שעיצוב מקצועי ורשימת מקורות לא מספרים לנו מי כתב את הטקסט, מי שילם עליו, איך נבחרו הנתונים ומה הושמט בדרך. כדי להחליט אם אפשר לסמוך על התוכן, צריך להסתכל מעבר לאריזה וממש לבדוק מי עומד מאחוריו.

2. גם מקורות צריך לבדוק

כשהצ'אט מצרף קישורים לתשובה, זה מאוד נוח. "אם יש מקורות, אז כנראה שהמידע נכון. נכון?"

לא בהכרח.

קודם כל, יכול להיות שהצ'אט נותן קישור למקור רק כי ביקשנו ממנו קישור, אבל בלחיצה עליו מגלים שהקישור בכלל שבור או מוביל למקור שלא קשור בכלל לעניין. זה קרה לי פעם כשכתבתי מאמר בנושא כלכלי כלשהו, כשהלקוח ממש ביקש שאסתייע בצ'אט – אבל כשביקשתי קישור למקור קיבלתי שני קישורים שבורים ושלישי שאמנם הוביל לכתבה באתר כלכלי אבל לא היה בינה לבין המאמר שום קשר.

וגם אם הקישור תקין – המקור שאליו הוא מוביל יכול להיות חלקי, מגמתי או לא מעודכן. בעיה יותר חמורה היא שלפעמים כמה אתרים מצטטים זה את זה, כך שנוצרת תחושה שאותה טענה מופיעה בהרבה מקומות ("אז זה בטח אומר שהיא נכונה!") – למרות שבעצם כולם מסתמכים בסופו של דבר על אותו מקור בעייתי.

לכן לא מספיק לקבל מהצ'אט רשימת קישורים, ולא מספיק לוודא שלחיצה עליהם מובילה למקור אמיתי. צריך אשכרה לפתוח, לקרוא, להבין מי פרסם את המידע, מה באמת כתוב בו – והאם הוא באמת אומר מה שהצ'אט טוען.

כן, זה דורש קצת יותר זמן. עדיין עדיף על פני פרסום עובדות לא נכונות בשם העסק, לא?

3. כמות היא לא אסטרטגיית תוכן

124 דוחות בתוך תשעה ימים הם דוגמה קיצונית למה שאפשר לעשות בעזרת AI: לייצר כמויות עצומות של תוכן בזמן קצר מאוד. אבל כמות גדולה של תוכן לא הופכת אותו אוטומטית למועיל, מדויק או אמין. היא גם לא מבטיחה שמישהו ירצה לקרוא אותו, לשתף אותו או לסמוך על מי שפרסם אותו.

הנקודה הזאת רלוונטית גם לעסקים: אפשר לבקש מהצ'אט לייצר עשרות מאמרים, פוסטים ודפי נחיתה בתוך יום אחד. אבל אם כולם גנריים, חוזרים על אותם רעיונות או כוללים מידע שאיש לא בדק, אז קיבלנו בסך הכול ערימה של טקסטים. הכמות לא מפצה על חוסר באמינות או אפס ערך אמיתי.

4. גם את הצ'אט צריך לבדוק

הסיפור הזה ממחיש בעיה מעגלית שמזינה את עצמה:

אנשים משתמשים ב-AI כדי לייצר כמויות גדולות של תוכן.
התוכן מתפרסם ברשת ונסרק על ידי מנועי חיפוש ומאגרי מידע.
צ'אטבוטים שמחוברים לרשת עלולים למצוא אותו ולהסתמך עליו. חלק מהתוכן עשוי גם להגיע בעתיד למאגרים המשמשים לאימון מודלים.
התשובות שלהם משמשות ליצירת עוד תוכן – וחוזר חלילה.

באיזה שלב בדיוק מישהו בודק את המקורות שמהם הצ'אט לוקח את המידע? עזבו רגע בצד את הנושא הכבד של תדמית מדינת ישראל. אם מספיק אתרים ברשת יכתבו שלחתולים יש כנפיים, האם בשלב מסוים צ'אט ג'יפיטי וחבריו יתחילו לקבוע כעובדה שלחתולים יש כנפיים?

5. מישהו צריך לקחת אחריות

AI יכול למצוא מידע ברשת, לסכם מקורות ולנסח טקסט. אבל הוא לא זה שיישא באחריות אם פרסמתם באתר נתונים שגויים, או הפניתם למחקר שלא קיים. כשלקוח יבוא להתלונן כי הוא קיבל מידע לא נכון, חלילה, לא תוכלו להגיד "אוי, סליחה, זה לא אנחנו, אלא הצ'אט".

ברגע שטקסט מתפרסם בשם העסק שלכם, הטעויות שבו הן הטעויות שלכם. לכן לפני כל פרסום צריך להיות בן אדם שקורא את התוצאה של הצ'אט בעין בוחנת וביקורתית, בודק את העובדות, משווה מול המקורות, מפעיל שיקול דעת – ומוכן לעמוד מאחורי התוצאה.

אז האם אפשר לסמוך על צ'אט ג'יפיטי?

גם אני משתמש בצ'אט מדי פעם. הוא חוסך לי זמן ועוזר לי בשלבים מסוימים של העבודה, כמו סיעור מוחות, מציאת כיוונים לכתיבה או יצירת טיוטה שאוכל לערוך אחר כך. אבל כשמדובר בעובדות, נתונים או ציטוטים, אני לא ממהר לסמוך עליו בעיניים עצומות – וממליץ גם לקוראיי ולקוחותיי לעשות אותו דבר.

כותבים עם AI ורוצים שעיניים אנושיות יעברו על התוכן לפני הפרסום? דברו איתי.

לשתף ב-