צ’טבוטים: היסטוריה ארוכה ומסובכת

אליזה, שמאופיין באופן נרחב כצ’אטבוט הראשון, לא היה רב תכליתי כמו שירותים דומים היום. התוכנית, שהסתמכה על הבנת שפה טבעית, הגיבה למילות מפתח ואז בעצם החזירה את הדיאלוג למשתמש. עם זאת, כפי שכתב ג’וזף וייזנבאום, מדען המחשבים ב-MIT שיצר את אליזה, במאמר מחקר ב-1966, “לכמה נושאים היה קשה מאוד לשכנע ש-ELIZA (עם התסריט הנוכחי שלה) אינה אנושית”.

לדעת וייזנבאום, עובדה זו הייתה סיבה לדאגה, על פי ההספד שלו ב-MIT משנת 2008. אלה שהיו באינטראקציה עם אלייזה היו מוכנים לפתוח את ליבם לזה, אפילו בידיעה שזו תוכנת מחשב. “אליזה מראה, אם לא אחרת, כמה קל ליצור ולשמור על אשליה של הבנה, ומכאן אולי של שיפוט ראוי לאמינות”, כתב ויזנבאום ב-1966. “סכנה מסוימת אורבת שם.” הוא בילה את קצות הקריירה שלו בהזהרה מפני מתן אחריות רבה מדי למכונות והפך למבקר חריף ופילוסופי של בינה מלאכותית.

עוד לפני כן, מערכת היחסים המסובכת שלנו עם בינה מלאכותית ומכונות ניכרה בעלילות של סרטים הוליוודיים כמו “היא” או “אקס-מכינה”, שלא לדבר על ויכוחים לא מזיקים עם אנשים שמתעקשים לומר “תודה” לעוזרי קול כמו אלכסה או סירי.

צ’אטבוטים עכשוויים יכולים גם לעורר תגובות רגשיות חזקות מהמשתמשים כשהם לא עובדים כצפוי – או כשהם הפכו כל כך טובים בחיקוי הדיבור האנושי הפגום שהם אומנו עליו עד שהם מתחילים לפלוט הערות גזעניות ומעוררות התלהטות. לא לקח הרבה זמן, למשל, עד שהצ’אטבוט החדש של Meta עורר מחלוקת החודש על ידי הוצאת פרשנות פוליטית לא נכונה והערות אנטישמיות בשיחות עם משתמשים.
למרות זאת, תומכי הטכנולוגיה הזו טוענים שהיא יכולה לייעל משרות שירות לקוחות ולהגביר את היעילות במגוון רחב הרבה יותר של תעשיות. הטכנולוגיה הזו עומדת בבסיס העוזרות הדיגיטליות שכל כך הרבה מאיתנו באים להשתמש על בסיס יומיומי להשמעת מוזיקה, הזמנת משלוחים או בדיקת עובדות מטלות בית. חלקם גם טוענים כי הצ’אטבוטים הללו מספקים נוחות לבודדים, מבוגרים או מבודדים. לפחות סטארט-אפ אחד הרחיק לכת והשתמש בו ככלי לשמירה לכאורה על קרובי משפחה מתים על ידי יצירת גרסאות ממוחשבות שלהם המבוססות על צ’אטים שהועלו.

אחרים, בינתיים, מזהירים שהטכנולוגיה שמאחורי צ’אטבוטים המופעלים על ידי בינה מלאכותית נותרה מוגבלת הרבה יותר ממה שכמה אנשים רוצים שהיא תהיה. “הטכנולוגיות האלה באמת טובות בלזייף בני אדם ולהישמע כמו אנושית, אבל הן לא עמוקות”, אמר גארי מרקוס, חוקר בינה מלאכותית ופרופסור אמריטוס מאוניברסיטת ניו יורק. “הם חיקויים, המערכות האלה, אבל הם חיקויים מאוד שטחיים. הם לא ממש מבינים על מה הם מדברים”.

ובכל זאת, ככל שהשירותים הללו מתרחבים ליותר פינות בחיינו, וככל שחברות נוקטות בצעדים להתאים את הכלים הללו יותר, מערכות היחסים שלנו איתם עשויות רק להסתבך.

האבולוציה של הצ’אטבוטים

סנג’יב פ’ חודנפור זוכר ששיחק עם אליזה בזמן לימודי התואר השני. למרות כל החשיבות ההיסטורית שלה בתעשיית הטכנולוגיה, הוא אמר שלא לקח הרבה זמן לראות את המגבלות שלה.

זה יכול רק לחקות באופן משכנע שיחת טקסט במשך כתריסר הלוך ושוב לפני ש”אתה מבין, לא, זה לא ממש חכם, זה רק מנסה להאריך את השיחה כך או כך”, אמר חודנפור, מומחה בתחום יישום של שיטות תיאורטיות מידע על טכנולוגיות שפה אנושית ופרופסור באוניברסיטת ג’ונס הופקינס.

יוסף וייזנבאום, ממציא אלייזה, יושב ליד שולחן העבודה של מחשב במוזיאון המחשבים של פדרבורן, גרמניה, במאי 2005.
צ’אט בוט מוקדם נוסף פותח על ידי הפסיכיאטר קנת’ קולבי בסטנפורד ב-1971 ונקרא “פארי” מכיוון שהוא נועד לחקות סכיזופרן פרנואיד. (הספד של הניו יורק טיימס לקולבי מ-2001 כלל צ’אט ססגוני שהתפתח כאשר חוקרים הפגישו את אלייזה ופארי.)

עם זאת, בעשורים שלאחר הכלים הללו חל שינוי הרחק מהרעיון של “לשוחח עם מחשבים”. חודנפור אמר שזה “מכיוון שהתברר שהבעיה היא מאוד מאוד קשה”. במקום זאת, הפוקוס פנה ל”דיאלוג מכוון מטרה”, אמר.

לא לקח הרבה זמן עד שהצ'אטבוט החדש של Meta אמר משהו פוגעני

כדי להבין את ההבדל, חשבו על השיחות שעשויות לנהל עכשיו עם אלקסה או סירי. בדרך כלל, אתה מבקש מהעוזרים הדיגיטליים האלה עזרה בקניית כרטיס, בדיקת מזג האוויר או השמעת שיר. זהו דיאלוג ממוקד מטרה, והוא הפך למוקד העיקרי של המחקר האקדמי והתעשייה, כאשר מדעני מחשבים ביקשו ללקט משהו שימושי מהיכולת של מחשבים לסרוק שפה אנושית.

בעוד שהם השתמשו בטכנולוגיה דומה לקודמים, בצ’אטבוטים חברתיים, אמר חודנפור, “באמת לא יכולת לקרוא להם צ’אטבוטים. אתה יכול לקרוא להם עוזרים קוליים, או סתם עוזרים דיגיטליים, מה שעזר לך לבצע משימות ספציפיות”.

בטכנולוגיה זו הייתה “רגיעה” של עשרות שנים, הוא הוסיף, עד לאימוץ הנרחב של האינטרנט. “פריצות הדרך הגדולות כנראה הגיעו במילניום הזה”, אמר חודנפור. “עם עלייתן של חברות שהעסיקו בהצלחה סוג של סוכנים ממוחשבים לביצוע משימות שגרתיות”.

עם עלייתם של רמקולים חכמים כמו אלקסה, זה הפך להיות נפוץ אפילו יותר עבור אנשים לשוחח עם מכונות.

“אנשים תמיד מוטרדים כשהתיקים שלהם הולכים לאיבוד, והסוכנים האנושיים שמתעסקים איתם תמיד לחוצים בגלל כל השליליות, אז הם אמרו, ‘בוא ניתן את זה למחשב'”, אמר חודנפור. “יכולת לצעוק כל מה שרצית למחשב, כל מה שהוא רצה לדעת זה ‘יש לך את מספר התג שלך כדי שאוכל להגיד לך איפה התיק שלך?'”.

בשנת 2008, למשל, אלסקה איירליינס השיקה “ג’ן”, עוזרת דיגיטלית לעזור לנוסעים. כסימן לנטייה שלנו להאניש את הכלים הללו, סקירה מוקדמת של השירות ב”ניו יורק טיימס” ציינה: “ג’ן לא מעצבנת. היא מתוארת באתר האינטרנט כברונטית צעירה עם חיוך נחמד. הקול שלה ישר הטיות. הקלד שאלה, והיא עונה בצורה אינטליגנטית. (ולאנשים חכמים שמתעסקים באתר, שינסו בהכרח להכשיל אותה עם, נגיד, קו איסוף מגושם של בר, היא מציעה בנימוס לחזור לעניינים.)”

חזור לצ’אטבוטים חברתיים ולבעיות חברתיות

בתחילת שנות ה-2000, חוקרים החלו לבחון מחדש את הפיתוח של צ’אטבוטים חברתיים שיכולים לנהל שיחה ממושכת עם בני אדם. הצ’אטבוטים האלה מאומנים לעתים קרובות בנתונים גדולים מהאינטרנט, ולמדו להיות חיקויים טובים מאוד של איך בני אדם מדברים – אבל הם גם הסתכנו להדהד כמה מהגרועות באינטרנט.

בשנת 2015, למשל, הניסוי הציבורי של מיקרוסופט עם צ’טבוט AI בשם Tay התרסק ונשרף תוך פחות מ-24 שעות. טיי תוכנן לדבר כמו נער, אבל מהר מאוד התחיל להדיח הערות גזעניות ושנאה עד כדי כך שמיקרוסופט סגרה אותו. (החברה אמרה שיש גם מאמץ מתואם של בני אדם להערים על טיי להעיר הערות פוגעניות מסוימות.)

“ככל שאתה מפטפט יותר עם טיי כך היא תהיה חכמה יותר, כך שהחוויה יכולה להיות מותאמת אישית יותר עבורך”, אמרה אז מיקרוסופט.

הפזמון הזה יחזור על עצמו על ידי ענקיות טכנולוגיה אחרות שהוציאו צ’טבוטים ציבוריים, כולל BlenderBot3 של Meta, ששוחרר מוקדם יותר החודש. הצ’אטבוט Meta טען בטעות שדונלד טראמפ עדיין נשיא ויש “בהחלט הרבה ראיות” לכך שהבחירות נגנבו, בין שאר הערות שנויות במחלוקת.

BlenderBot3 גם התיימר להיות יותר מאשר בוט.. בשיחה אחת הוא טען “העובדה שאני חי ומודע כרגע עושה אותי אנושי”.

הצ'אטבוט החדש של Meta, BlenderBot3, מסביר למשתמש מדוע הוא בעצם אנושי.  עם זאת, לא לקח הרבה זמן עד שהצ'טבוט עורר מחלוקת על ידי הערות מעוררות התלהבות.

למרות כל ההתקדמות מאז אלייזה והכמויות העצומות של נתונים חדשים להכשרת תוכניות עיבוד שפה אלו, מרקוס, הפרופסור של NYU, אמר, “לא ברור לי שאתה באמת יכול לבנות צ’אט בוט אמין ובטוח.”

הוא מצטט פרויקט בפייסבוק משנת 2015 שזכה לכינוי “M”, עוזר אישי אוטומטי שהיה אמור להיות המענה מבוסס הטקסט של החברה לשירותים כמו סירי ואלקסה “הרעיון היה שזה הולך להיות העוזר האוניברסלי הזה שיעזור לך להזמין ארוחת ערב רומנטית ולגרום למוזיקאים לנגן עבורך ומשלוח פרחים – הרבה מעבר למה שסירי יכולה לעשות”, אמר מרקוס. במקום זאת, השירות נסגר בשנת 2018, לאחר ריצה קשה.

Khudanpur, לעומת זאת, נשאר אופטימי לגבי מקרי השימוש הפוטנציאליים שלהם. “יש לי את כל החזון הזה של איך AI הולך להעצים בני אדם ברמה אינדיבידואלית”, אמר. “תאר לעצמך אם הבוט שלי היה יכול לקרוא את כל המאמרים המדעיים בתחום שלי, אז לא הייתי צריך ללכת לקרוא את כולם, פשוט הייתי חושב ושואל שאלות ומנהל דיאלוג”, אמר. “במילים אחרות, יהיה לי אלטר אגו שלי, שיש לו כוחות על משלימים.”

.

Leave a Comment