הרגש הוא המסר: תכנון מערכות AI שיוצרות אמון והבנה

הגזע האנושי חייב להבין. אנחנו חייבים להבין מדוע דברים קורים, ותמיד מחפשים סיבה והסבר, גם כשהם לא שם. זו הסיבה לכך שאנשים צריכים לדעת מדוע הבנק דחה את בקשת ההלוואה שלהם או מדוע המרק יצא תפל. זה ממש לא משנה אם מדובר במערכות אנושיות או במערכות טכנולוגיות.

אבל הנה העניין: מערכות AI – ובמיוחד המורכבות והמתוחכמות שביניהן – קשות מאוד להבנה על ידי משתמשים.ות. כלומר, הן מספקות למשתמשים.ות המלצות והחלטות נפלאות. אבל זה מגיע עם מחיר כבד של הבנת ה"מדוע קיבלתי את ההמלצה הזו?" – ומי אוהבת לסמוך על המלצה שהיא לא מבינה את הרציונל שלה?

בהרצאה זו יעקב ידבר על הדרכים להסביר למשתמש.ת את תוצאות פעילותה של מערכת AI באופן פשוט ונהיר. כיצד מאפשרים למשתמשות.ים לבטוח בתוצאות? כיצד מונעים רגשות שליליים של משתמשים.ות? אלו הם אתגרי UX חדשים לחלוטין שאף זכו לשם XAI – קיצור של eXplainable AI , אתגרים ששכיחותם הולכת ועולה עם חדירת מערכות AI לעולמנו. מבחינת עולם ה-UX, התחום עדיין בחיתוליו, אבל ישנם לא מעט דברים שכבר אפשר לעשות. ובניתוח הבעיה, דוגמאות לפתרונות והצגת כלים למומחי.ות UX לאתגרים אלו תעסוק ההרצאה כולה.

‍