זו הבעיה הגדולה של ה-AI שאנשים רק עכשיו מתחילים להבין

זה מתחיל כמעט תמיד באותו משפט:

“אבל שאלתי את ChatGPT והוא אמר לי לעשות משהו אחר”.

מול האדם עומד בעל מקצוע עם שנים של ניסיון. הוא כבר ראה מקרים דומים, ניסה פתרונות שונים, טעה, הצליח ולמד לזהות את הפרטים הקטנים שמשנים את התמונה. אבל בצד השני נמצאת תשובה מסודרת של ChatGPT, שנכתבה בתוך כמה שניות ונשמעת בטוחה לחלוטין.

למי מאמינים?

באופן מפתיע, לא מעט אנשים מעדיפים את התשובה של המכונה.

וזו אחת התופעות המעניינות שה-AI יוצר: ChatGPT יודע משהו כמעט על כל נושא, ולכן קל לנו להרגיש שהוא מומחה בכל נושא. אלא שאלה שני דברים שונים לחלוטין.

ChatGPT יודע הרבה, אבל הוא לא מומחה

אפשר לשאול את ChatGPT על חוזים, השקעות, שיווק, פסיכולוגיה, תזונה, מחשבים או ניהול עסק. בתוך רגע נקבל תשובה מפורטת, מחולקת לסעיפים ומנוסחת בצורה משכנעת.

לעיתים התשובה תהיה מצוינת. לפעמים היא תהיה חלקית. במקרים אחרים היא תהיה שגויה, אבל תנוסח בדיוק באותו ביטחון.

וכאן נמצאת המלכודת.

אנחנו רגילים לזהות ידע לפי הדרך שבה הוא מוצג. אדם שמדבר בצורה ברורה, מסודרת ובטוחה נתפס בעינינו כאדם שמבין בנושא. ChatGPT מצטיין בדיוק בזה: הוא יודע לייצר תשובות שנשמעות מקצועיות.

אבל מודל שפה לא צבר ניסיון כפי שבעל מקצוע צובר אותו.

הוא לא ניהל עסק בתקופה קשה. הוא לא עמד בבית משפט מול שופט. הוא לא ניהל משא ומתן עם לקוח עקשן. הוא לא התמודד עם תקלה נדירה בשעה שתיים בלילה. הוא גם לא נאלץ לשאת בתוצאות של עצה שגויה שנתן.

הוא יודע להסביר איך דברים אמורים לעבוד. המומחה יודע גם מה קורה כשהם אינם עובדים לפי הספר.

מאיפה מגיע הידע של ה-AI?

ה-AI לא גילה בעצמו את רוב הדברים שהוא מספר לנו. מודלי שפה לומדים מתוך כמויות עצומות של טקסט שנוצר בידי בני אדם: מאמרים, מסמכים, מדריכים, ספרים, מחקרים, דיונים ותכנים נוספים.

במילים פשוטות, חלק גדול מהידע של ה-AI התחיל אצל בני אדם.

אבל יש כאן פרט חשוב: אנשים בעלי ניסיון אינם מפרסמים באינטרנט את כל מה שהם יודעים.

עורך דין יכול לכתוב מאמר על חוזים, אבל הוא לא יכול להכניס לתוכו את כל מה שלמד מניהול מאות תיקים. יועץ עסקי יכול להסביר כיצד בונים אסטרטגיה, אבל הוא לא יוכל להעביר בכתבה אחת את היכולת שלו לזהות מדוע עסק מסוים אינו מצליח. רופא יכול לפרסם מידע על תסמינים, אבל המאמר לא מחליף בדיקה, היסטוריה רפואית ושיקול דעת.

חלק מהידע החשוב ביותר אינו כתוב בשום מקום.

זהו הידע שנוצר מתוך ניסיון: מתי הכלל אינו מתאים, איזה פרט קטן משנה את האבחנה, מתי כדאי להמתין, מתי חייבים לפעול מיד ואיזו פעולה שנראית נכונה עלולה דווקא להחמיר את המצב.

ה-AI רואה את מה שנכתב. המומחה רואה גם את מה שחסר.

למה בכל זאת אנחנו מעדיפים את ChatGPT?

כי הפיתוי עצום.

ChatGPT זמין בכל שעה, עונה בתוך שניות ולא שולח חשבונית. הוא לא אומר שאין לו זמן, לא קובע פגישה לשבוע הבא ולא מבקש אלפי שקלים כדי לבחון את המקרה.

בנוסף, הוא כמעט תמיד נותן תשובה.

מומחה אחראי עשוי לומר: “אין לי מספיק מידע”, “צריך לבדוק את המסמכים” או “יש כאן כמה אפשרויות”. ChatGPT, לעומת זאת, מסוגל להציג מיד רשימה של צעדים ברורים.

באופן אירוני, הזהירות של המומחה עלולה לגרום לו להישמע פחות משכנע. התשובה המהירה של ה-AI מרגישה יעילה יותר, גם כאשר היא מבוססת על הבנה חלקית של המקרה.

אנחנו מעדיפים ודאות, ו-ChatGPT יודע לנסח ודאות בצורה נפלאה.

הפרדוקס החדש של המומחים

וכאן נוצר פרדוקס מעניין.

מומחים מפרסמים ידע באינטרנט. מודלי השפה לומדים מהידע הזה ומציגים אותו בצורה ברורה ונגישה. לאחר מכן מגיע אדם אל המומחה, מציג בפניו את התשובה שקיבל מה-AI ומטיל ספק בדברי המומחה מפני שהם אינם תואמים למה שהמודל אמר.

כלומר, ה-AI משתמש בחלק מהידע שנוצר בידי מומחים - ואז הופך בעיני הציבור לסמכות גדולה יותר מהם.

הוא מקבל את המידע ממי שחווה את המציאות, אבל נתפס כאמין יותר משום שהוא מרכז הרבה מידע ומציג אותו בביטחון.

זו אינה רק בעיה של תשובות שגויות. הבעיה העמוקה יותר היא שאנחנו מתחילים לבלבל בין גישה למידע לבין הבנה, ובין יכולת ניסוח לבין מומחיות.

עצה כללית אינה בהכרח עצה טובה עבורכם

נניח ששאלתם את ChatGPT כיצד להתמודד עם בעיה משפטית. הוא עשוי להסביר את העקרונות הכלליים בצורה טובה, אבל הוא לא בהכרח יודע אילו מסמכים קיימים, מה התרחש לפני כן, מה הצד השני רוצה להשיג ואילו השלכות עלולות להיות לכל פעולה.

אותו הדבר נכון גם באסטרטגיה עסקית.

אפשר לבקש מה-AI תוכנית שיווק ולקבל בתוך דקה רשימה מרשימה: לפרסם ברשתות החברתיות, ליצור תוכן, לבנות רשימת תפוצה ולשפר את האתר. הכול נשמע הגיוני. אבל האם זה הדבר הנכון לעסק שלכם? האם זה מתאים לתקציב, לקהל, לתחרות ולזמן שעומד לרשותכם?

ה-AI מסוגל להציע אפשרויות. מומחה טוב צריך לדעת איזו אפשרות מתאימה למצב שלכם - ומאיזו אפשרות כדאי להתרחק.

זה ההבדל בין מידע לבין שיקול דעת.

אז צריך להפסיק להשתמש ב-AI?

ממש לא.

השתמשו בAI ככלי כמו כלי אחר בחיים שלכם. AI הוא אחד הכלים המרשימים והשימושיים שנוצרו בשנים האחרונות. הוא יכול לעזור ללמוד נושא חדש, להבין מושגים, להשוות בין אפשרויות, לנסח שאלות ולבחון רעיונות. הוא יכול לחסוך שעות של עבודה ולשפר את היכולת שלנו להתייעץ עם אנשי מקצוע.

אבל כדאי להשתמש בו בתפקיד הנכון.

אפשר לבקש ממנו:

• להסביר נושא לפני פגישה עם מומחה.
• להציע שאלות שכדאי לשאול.
• להציג מספר אפשרויות ויתרונות וחסרונות.
• לאתר נקודות שאולי לא חשבנו עליהן.
• לעזור לנו להבין את התשובה שקיבלנו מבעל מקצוע.

לא כדאי להתייחס אליו כאל הגורם האחרון שמכריע בנושא משמעותי רק מפני שהתשובה שלו הייתה מהירה, מפורטת ובטוחה בעצמה.

כאשר מדובר בהחלטה משפטית, רפואית, עסקית או כלכלית, טעות יכולה לעלות הרבה יותר ממחיר ההתייעצות שניסינו לחסוך.

השאלה שצריך להתחיל לשאול

בפעם הבאה ש-ChatGPT נותן לכם תשובה מרשימה, אל תשאלו רק: “האם זה נשמע הגיוני?”

שאלו גם:

“על איזה מידע התשובה מבוססת?”
“איזה מידע חסר כאן?”
“האם יש פרטים במקרה שלי שמשנים את התמונה?”
“מי נושא באחריות אם העצה אינה נכונה?”

ה-AI יודע הרבה. לפעמים הוא אפילו ייתן תשובה טובה יותר מאדם מסוים. אבל הוא אינו מכיר בהכרח את המציאות שמאחורי השאלה שלכם, והוא אינו תמיד יודע לזהות את גבולות הידע שלו.

והנקודה החשובה ביותר היא אולי זו:

ChatGPT יכול לעזור לכם לחשוב, אבל אסור לתת לצורת הניסוח המרשימה שלו לגרום לכם להפסיק לחשוב.