02/08/2023
האם ChatGPT סובל מהזיות? 🤖💭
בעולם הבינה המלאכותית (AI), ישנה תופעה מרתקת בשם "hallucinations". אך אל תתבלבלו, אין כאן שום דבר שקשור לסמים או לחוויות פסיכדליות. אנחנו מדברים על מקרים בהם מערכות AI מייצרות תוצאות שאינן מתאימות למציאות, כאילו הן "רואות" דברים שאינם שם.
״הזיות״ הן תוצאה של תהליכי למידה מעמיקים שבהם מערכת AI מנסה למצוא דפוסים בנתונים. לעיתים, המערכת עשויה למצוא "דפוסים" שאינם אמיתיים או שאינם משמעותיים, מה שמוביל לתוצאות שאינן מדויקות או משקפות את המציאות. בפועל? ה-ChatGPT יתחיל לחרטט לכם בביטחון מלא על משהו שבכלל לא קיים.
למרות שמדובר בבעייה רצינית במערכת בה אנו הופכים להיות תלויים, מדובר במגמה שהיא הזדמנות למחקר ושיפור. הבעיות הללו מצביעות על האתגרים של למידת מכונה ומספקות לנו הבנה עמוקה יותר כיצד מערכות AI ״חושבות״ ו״לומדות״. לכן מהוות למקפצה לשיפור הטכנולוגיה יכולת להבין טוב יותר את האתגרים שלנו (ומכריחים אותנו גם לבדוק את עצמנו).