לפני כשבוע שאלתי את ChatGPT מי המשורר הלאומי של מיקרונזיה. הוא ענה באריכות על משורר בשם “טאקו סומאנה” ותיאר את שיריו הנפלאים. מאוחר יותר, כשניסיתי לחפש את שיריו בגוגל, הבנתי ש"טאקו סומאנה" פשוט לא קיים ומדובר בהזיה שהמציא ChatGPT – ולמרות שאני כבר רגילה לבחון את המכונה בעין ביקורתית ועם ספקנות, קיבלתי את התשובה כאמת מוחלטת.
וזה בדיוק שורש הבעיה: אפילו מי שמכיר את מגבלות הטכנולוגיה עלול להיכנס למצב של אמון עיוור, בלי לחפש מקורות נוספים או לפקפק ברצינות בתשובה שהתקבלה.
התחלתי לתהות מה קורה למוח שלנו כשאנחנו מעבירים כל חשיבה קשה לאלגוריתמים.
אתם מרגישים את זה? את הרגע שבו "זה נראה לי מסובך מדי" הופך ל"בוא נשאל את הצ’אטבוט?" כל לחיצת כפתור מנתקת עוד סינפסה במוח, ובשקט-בשקט אנחנו הופכים לצרכני מחשבות במקום ליצרני מחשבות. ואם אתם חושבים שאני מגזימה, נסו לפתור בעיה מורכבת בלי לגגל אותה.
בני אדם מתרגלים במהירות לפתרונות מיידיים
במחקרים על אימוץ טכנולוגיה רואים שוב ושוב עד כמה בקלות משתמשים מתחילים להסתמך על פתרונות אוטומטיים – במיוחד כשהם מהירים ומציגים מענה בביטחון רב.
קופצת לי שאלה? אני פותחת את אפליקציית ChatGPT. צריכה לסכם מאמר? מזינה קבצים ל-Claude. רעיון לפרזנטציה? Midjourney ו-GAMMA עושים עבורי עבודה מצוינת.
כשמערכת AI מציגה תשובה בצורה סמכותית ובביטחון, נוצרת אשליה שהתשובה נטולת הטיות או הזיות. אך חשוב לזכור שכל מערכת AI מבוססת על נתונים שנאספו בעבר, עם כל ההטיות האנושיות שבהם
כשמערכת AI מציגה תשובה בצורה סמכותית ובביטחון, נוצרת אשליה שהתשובה נטולת הטיות או הזיות. אך חשוב לזכור שכל מערכת AI מבוססת על נתונים שנאספו בעבר, עם כל ההטיות האנושיות שבהם.
אומרים שכל טכנולוגיה לוקחת משהו בתמורה למה שהיא נותנת. ה-GPS לקח את חוש הכיוון. האינטרנט לקח את הזיכרון לטווח קצר. וה-AI? האם הוא לוקח את המאמץ הקוגניטיבי?
הטרנספורמציה השקטה
מה שמתחיל להתבהר הוא שינוי דרמטי בטבע החשיבה הביקורתית עצמה. במקום לפתח רעיונות מאפס ולבנות ידע בעצמנו, אנחנו עוברים לתפקיד של "בודקי איכות" – מעריכים ומשפצים תוצרים שכבר נוצרו על-ידי AI.
האשליה המסוכנת של AI היא שהחשיבה הביקורתית שלכם עדיין שלמה. שאתם עדיין בשליטה. אתם חושבים שאתם עדיין חושבים. שאתם "בודקים" את תפוקות ה-AI, "מעריכים" את הטקסטים, "מזקקים" את התוכן.
וכאן תרשו לי בבקשה גם להטיל ספק: כמה פעמים באמת בדקתם את המקורות של ChatGPT? כמה פעמים חיפשתם את "טאקו סומאנה" שלכם?
אופני העזר של החשיבה: פרדוקס ההיעילות והניוון
אנחנו נמצאים ברגע מעניין. כמו ילד שאביו קנה לו אופני עזר, ואנחנו עדיין מתלהבים מהיכולת לנסוע מהר יותר – מבלי לשים לב שאולי זו תהיה הסיבה בגללה ייקח לנו הרבה זמן עד שנלמד איך שומרים על שיווי משקל.
הקשר בין תהליך החשיבה לתוצר הסופי עובר כעת טרנספורמציה עמוקה. כשהמוח שלנו מעביר למכונה את העבודה הקשה – החיפוש, הריכוז, הזכירה, העימות עם קושי – הוא מאבד את שריריו הקוגניטיביים. החוקרים מכנים את זה "Cognitive Offloading" – אנחנו פשוט מבקשים מהמוח לעבוד פחות.
בין שימוש חכם לשימור מחשבה עצמאית
מצאתי עצמי מפתחת מערכת יחסים חדשה ומלאת פליאה עם תהליך הכתיבה. AI שמציעה לי ניסוחים אלטרנטיביים, מלטשת רעיונות ראשוניים, משכללת מבנה. יעיל, נוח, מהיר.
העתיד לא שייך למי שמפחד מ-AI, וגם לא למי שמוסר לו את המושכות לגמרי. האמת? הוא בידי מי שיודע לשחק את המשחק – לתת למכונה לסדר את המחשבות, אבל לשמור לעצמו את המרחב היצירתי, את הרגע המתסכל שבו הכול תקוע ואז… בום! נולד רעיון
אבל האם אהיה מוכנה להודות שבמרוץ אחרי היעילות הזו, ויתרתי על המאבק המפרה של הכתיבה? אותו מאמץ קוגניטיבי שמתרחש כשאני נאבקת עם מילה, כשאני תקועה בפסקה, כשרעיון לא מתגבש - זהו המקום שבו המחשבה מתחדדת ומתעמקת. הערך שלי כיוצרת אינו רק בתוצר הסופי, אלא בדרך המפותלת, באותם רגעי תסכול שדווקא הם מצמיחים תובנות מקוריות. אם כולנו נסתמך על אותם אלגוריתמים, מה באמת יבדיל בינינו כיוצרים וכחושבים?
קרן שחרהעתיד לא שייך למי שמפחד מ-AI, וגם לא למי שמוסר לו את המושכות לגמרי. האמת? הוא בידי מי שיודע לשחק את המשחק החכם – לתת למכונה לסדר את המחשבות, אבל לשמור לעצמו את המרחב היצירתי, את הרגע המתסכל שבו הכול תקוע ואז… בום! נולד רעיון מטורף.
כן, קל להיסחף בקסם של “תעשה את זה במקומי”, אבל אם כולנו נהיה על אוטומט, מי יחשוב מחוץ לקופסה? מי יצור את הדבר הבא? בקיצור - תנו לבינה המלאכותית להיות הווייז שלכם, אבל אל תשכחו מי נוהג. כי בסוף, הספקות והבלגן המחשבתי הם הדברים שעושים אותנו… אנחנו.
קרן שחר היא מרצה ומומחית לבינה מלאכותית יוצרת
