Bot: Hello, I’m Human

צ'טבוטים ((Chatbots הינו תחום שמזמן כבר אינו נחשב לנישתי וכיום הוא הדבר החם הבא בעולם ההייטק. עם התפתחותם הטכנולוגית עולות שאלות אתיות רבות. האם אנו עדים להחלפת המענה האנושי? כיצד נוכל לדעת האם מבצע הפעולה הוא רובוט או אדם, וכיצד ניתן להתייחס לסוגיות שנובעות משימוש בצ'טבוטים בעולם הווירטואלי? 

 

סקירה היסטורית קצרה:

Bot או בשמו המלא Robot, הוא תוכנה האוספת מידע בדרך של חיקוי משתמש רגיל. הצ'טבוטים, אשר בעבר לא נקראו כך, התפתחו לראשונה בשנת 1966 על-ידי פרופסור יוסף וויזנבאום מאוניברסיטת MIT. הפיתוח בוצע על בסיס תוכנה פרימיטיבית שכונתה בשם Eliza המנהלת שיחות בתסריטים קבועים מראש.  Elizaהייתה הראשונה אשר עברה את מבחן טיורינג שמטרתו לבחון יכולות של אינטליגנציה מלאכותית. מכאן, הגיע השימוש הראשוני בNLP- Natural language Processing.  

בשנת 1972 נכתבה באוניברסיטת סטנפורד PARRY שהייתה מתקדמת מאשר Eliza, התיימרה לדמות אדם עם סכיזופרניה פרנואידית ומגלמת בתוכה אסטרטגיית שיחה מובנית.

בשנת 1995 נכתבה A.L.I.C.E שהיא תוכנה שעוסקת בניתוח שפת אדם ע"י החלת כללי התאמת דפוסים מובנים, בעת השיחה עם המשתמש. עם זאת ולמרות הפיתוח התוכנתי A.L.I.C.E לא עברה את מבחן טיורינג.

בקפיצה מהירה, בשנים 2015-2010 נכנסה לתמונה טכנולוגיית IVR (טכנולוגיות קוליות) שהן העוזרות הווירטואליות Siri,Google now ו-Alexa של אמזון -אשר מציגות יכולת NLP ברמה המאפשרות שימוש בשירותיהם. על אף שזו קפיצת מדרגה, העוזרות הווירטואליות לא מספקות חווית שימוש רציפה ומהנה.

בשנת 2016, פייסבוק, שהקדימה את המתחרות, הציגה את השירות Bots For Messenger פלטפורמה שמאפשרת למפתחים ליצור צ'טבוטים שיוכלו להתכתב עם משתמשי פייסבוק. נכון לסוף 2016 קיימים בפייסבוק 30 אלף צ'טבוטים פעילים. 
באותה השנה נערך בישראל כנס הצ'טבוטים הראשון בעולם הכלל מעל 60 דוברים ו30 הרצאות בנושאי צ'טבוטים וAI. 

לאחר ביסוס מעמדם עם השנים חלה התגברות בשימוש בצ'טבוטים, מכאן עולות סוגיות משפטיות רבות. כך למשל קבע בית המשפט העליון בקנדה בסוגיית:
.Twitch – Twitch vs Shaw Communications Inc, PayPal Inc, Cloudflare Inc אתר המאפשר שירותי סטריימינג לגיימרים בתעבורה של 100 מיליון צופים כל חודש. כמו כן, אחד מהשירותים הבולטים של  Twitch הינו מתן אפשרות למשתמשים להגיב בצ'ט אונליין תוך כדי השידור. בפברואר 2017 נתקלו המשתמשים באתר בהתקפת ספאם של צ'טבוטים שפרסמו עד 699 הודעות בדקה- כמות שהרסה את החווית השימוש הן למשדרים והן למשתמשים. כתוצאה מכך, תבעה Twitch מהחברות שדרכן פעלו הצ'טבוטים לחשוף את שמות המפגעים דרך הIP- שלהם. בסוגיה זו אפוא, עלה הדגש העיקרי שעל החברות שדרכן הבוטים עשו שימוש יצטרכו להיות מוגנות בתנאי השימוש ובהסכמי הפרטיות שלהן מפני המפגעים הפוטנציאליים. נקבע כי המשיבים יצטרכו למסור לTwitch את הפרטים הנדרשים למציאת יוצרי הצ'טבוטים ו-Twitch מצידה תשלם למשיבים לחיפוש מידע זה במאגרים. 

סוגיות משפטיות:

כאמור, עולות סוגיות משפטיות שידרשו התייחסות בעתיד הקרוב כתוצאה משימוש בצ'טבוטים. להלן מובאות דוגמאות בולטות:

מדיניות פרטיות ואבטחת מידע – על מנת שהצ'טבוטים יהיו יותר אינטליגנטים, חיוני לספק להם גישה ויכולת רחבה לנתונים ולאפשר את השימוש בהם. עליהם יהיה לאסו ף ולפענח כמויות אדירות של נתונים. לכל הפחות תתפשר גישה אל כתובת הIP של המשתמש, תמהיל השיחה עם המשתמש וכל מידע אישי שסופק על ידו. בכך, לחשוף את הצ'טבוטים בסבירות גבוהה ליעד לתקיפות סייבר פוטנציאליות. על יוצרי הבוטים להיות מודעים ואף ליידע את המשתמשים. ניתן ליישם מנגנון יידוע בסיסי על ידי יצירת מנגנון של One Click Agreement לפני כל שיחה עם הצ'טבוט, בנוסף לכך הצ'טבוט צריך להיות מסוגל לזהות כאשר המשתמש קיבל את התנאים וההגבלות, ורק לאחר מכן להתחיל את השיחה. בנוסף, על היוצרים לשקול איך יהיה על הצ'טבוט להגיב במידה והמשתמש שואל שאלות על מדיניות הפרטיות, ולבחון האם המענה שיינתן יהיה בגדר פרשנות משפטית מחייבת. 

תנאי שימוש – מה יקרה אם הצ'טבוטים יפרסמו מידע לא מדויק או מידע שעלול להביא לפגיעה באחרים? במאמר שפורסם על-ידי אוניברסיטת הרווארד בנושא, הובא מקרה של צ'טבוט שפרסם ציוץ בטוויטר אשר איים בפיגוע בתערוכת אופנה באמסטרדם. אמנם הציוץ נמחק, אך עדיין נתפס כאיום רציני שהוביל לחקירה של משטרת אמסטרדם. מכאן שיש לקבוע מה הוא האופן שבו יש לחלק את האחריות במצבים כאלה (האתר המארח, יוצר הבוט וכו'), ומהם סוגי ההסכמים המקוונים שעשויים להידרש עם הגבלה נאותה של הסרת אחריות. באותו מאמר צוין כי בתי-המשפט טרם הגיעו להחלטה משמעותית בנוגע לטיפול בסוגיה. בעתיד הקרוב, מערכת המשפט תידרש להעמיק בתפיסות הטכנולוגיות החדשות. לא כל שכן, משתמשים עלולים לחוות התנהגות מזיקה כתוצאה מאיומים, אשר למשתמש אין שום דרך לדעת באם מי שמתכתב עימו זהו בוט או אדם. הנזק יכול להיות גם מהתחום הפיננסי כשהבוטים יגרמו להפסדים כספיים על-ידי נקיטת פעולות מזיקות. בעסקות מקוונות או באספקת כל סוג של עצה על ידי הצ'טבוטים, ניתן לדרוש מהצ'טבוט להציג את התנאים וההגבלות בפורמט המתאים. במידה והצ'טבוט מייעץ על בעיות בריאות, החלטות פיננסיות או סוגיות משפטיות יש לדרוש מהצ'טבוט להדגיש את כל הסיכונים הקשורים בכך, או לחלופין להציג “Disclaimer” ברור ומתומצת בנוגע לסיכונים. לאחר מכן, על הבעלים לשמור תיעוד של התנאים המקובלים על-ידי המשתמש, יש לזכור כי על כל התנאים וההגבלות שסופקו להיות אחידים עם מדיניות החברה. בשירותים קריטיים ישנו מנגנון נוסף שניתן להיעזר בו שנקרא מנגנון "היברידי". במידה והצ'טבוט איננו יודע לתת מענה, מנגנון זה מאפשר התראה על-כך ולאחריו יגיע מענה אנושי. כסגירת מעגל, על הצ'טבוט ללמוד מן הטעיות בכדי למנוע את הצורך באינטראקציה אנושית בנסיבות דומות. 

התחזות ותקלות – כיום הנושא הבוער על הפרק הוא ההתחזות של הבוטים למטרות ספאם, התחזות לאדם למתן "שירות אישי" ללקוח ואף יצירת תעבורה מזויפת הינם תופעות ידועות. מול אלה, ננקטות כיום פעולות מנע כדי לזהות תופעות של התחזות כגון שימוש ב: CAPTCHA אחת ממערכות האנטי-בוט המתקדמות שקיימות בשוק, המתקשה גם היא למנוע את תופעת ההתחזות כתוצאה מהתפתחות ה-AI (בינה מלאכותית) של הבוטים. חברות אשר משתמשות בצ'טבוטים לשירות לקוחות צריכות להיות זהירות לגבי תגובות פוטנציאליות מזיקות, פוגעניות או לא נכונות מצד הצ'טבוט. הפגיעה יכולה להיות כפי שקרה בשירות הלקוחות הממוחשב של חברות אופנה, כשנוצר מענה בלתי הולם מצד הצ'טבוטים אל הלקוחות- דבר היצר מבוכה מצידן. בכדי למזער את ההשפעה של הצ'טבוטים הסוררים, על החברות להגיב במהירות על כל תלונה שמתקבלת מהציבור בנוגע לשיחותיהם עם הצ'טבוטים, זאת כדי למנוע סערה תקשורתית. במידה ולחברות יש משאבים רבים, מומלץ לבצע מדגם לשיחות הצ'טבוט בזמנים אקראיים לאורך השנה, כדי לוודא שהאינטראקציות עימם תואמות את האתוס של החברה. לכן, על החברות לשלב את השימוש בצ'טבוטים בתכנון הסיכונים ובמדיניות ניהול המשברים שלהם. 

לסיכום, אנשי מקצוע ועורכי הדין של היום לא צריכים להיות מודאגים מכניסת הצ'טבוטים לתעשייה. להפך, עם כל המגרעות והסוגיות שצוינו יש לאפשר להם להיות חשופים לארגונים ולספק בעזרתם ללקוחות שירותים מהירים ונגישים. כפי שנראה, בעתיד הלא רחוק לפני שנתחיל שיחה עם צ'טבוט נצטרך  Disclaimer כזה או אחר. השאלה המעניינת שעולה היא, איזו הגנה תידרש כשהצ'טבוט עצמו יתפקד כעורך-דין. 

By | 2017-08-17T10:33:41+00:00 אוגוסט 9th, 2017|Articles, טכנולוגיה ומשפט|0 הערות

אודות המחבר:

Ben Ben David
סטודנט למשפטים ומנהל עסקים במרכז הבינתחומי, הרצליה. חובב מושבע של גאדג’טים וטכנולוגיה ובזמנו הפנוי בן אוהב לשחות ולהטיס רחפנים.
נגישות