Google Assistant יתלונן כעת על פקודות פוגעניות

O Google Assistant זו אחת האינטליגנציות המלאכותיות שהכי נוכחות בחיי היומיום שלנו, אבל כל השימוש הרב הזה יכול גם לפתוח פקודות פוגעניות.

עם זה בחשבון, ה Google משיקה עדכון חדש הכולל תגובות חכמות מהעוזרת האישית שלך, המתמקדת בחינוך ובעיקר מאותת שאסור להשתמש בהתנהגות שגויה כזו עם בינה מלאכותית או בחיים האמיתיים.

החידוש דומה לעדכון של BIA, של בראדסקו, שהחלה להגיב להתקפות מיזוגיניות ועבירות נוספות. ראה את כל הפרטים כבר עכשיו.

עדכון מוכן מאז 2020

עם השם של #אל תדבר אליי ככה, או Google התחיל להכין את התגובות החדשות כשקיבל את הדוח אני הייתי מסמיק אם הייתי יכול da אונסק"ו אשר שוחרר בשנת 2019 וסימן כי השימוש בקולות עם אינטונציה נשית עוזר להנציח הטיה מגדרית. 

ארפיטה קומאר, מה זה אסטרטג תוכן בכיר בצוות האישיות של Google Assistant, התחיל לעבוד על הרעיון שפורסם היום (03), אבל יכול להיחשב כעדכון מתמשך. אפילו בגלל, מונחים חדשים נחשבים ומשמשים יותר כעבירות בכל יום.

במהלך אירוע ההכרזה על תגובות חדשות מה- Google Assistant, ארפיטה ציין כי כל העבודה עדיין נעשית באופן ידני, אך עם הזמן, ניתן לבצע פיתוח של אלגוריתם רק כדי לרשום מונחים חדשים ותגובות מתאימות.

אנו עורכים מחקר, מחקרי חווית משתמש עם קבוצות מגוונות של בעלי עניין, והתייעצויות פנימיות עם אלופי ההכללה - עובדי Google השייכים לקהילות שהיו בעבר יעדים של סוג זה של התעללות או התנהגות בלתי הולמת. המשוב שקיבלנו מהסקרים הללו היה רב ערך ועזר לנו לחדד את האסטרטגיה.

Arpita Kumar, אסטרטג תוכן בצוות Google Assistant Personality

לפני ששוחררו לכל המשתמשים, בוצעו בדיקות קטנות עם חלק קטן מהציבור ולמרבה ההפתעה, חלה עלייה של 6% במשוב לעוזרים אישיים. עם קבלת תגובות שלא היו צפויות, אנשים שהשתתפו בניתוח החלו להתנצל או אפילו לתהות מדוע אין להשתמש בהתנהגות כזו.

כיצד זוהו הפקודות הפוגעניות?

OGעוזר oogle הוא זמין ב-95 מדינות ויכול לשלוח ולהבין פקודות ב-29 שפות שונות, מה שמאפשר לחברה המפתחת גישה למספר רב של פקודות שניתן להימנע מהן.

ארפיטה שיתף שתהליך הזיהוי התחיל בסינון מה שנאמר על ידי המשתמשים, כך שניתן יהיה לבצע את הסקירה ברקע.

יצירת התשובות החדשות התרחשה זמן קצר לאחר מכן. ספרים, מאמרים ותכנים אחרים שנוצרו על ידי נשים שימשו בסיס ליצירת תשובות, מכיוון שבעולם, עוזרות אישיות של גוגל עם אינטונציה שנחשבת נשית ספגו יותר התקפות.

זה לא אומר שהקול הכתום של Google Assistant (עם אינטונציה גברית) לא הותקף. משתמשים השתמשו בתירוץ ש"זה לא אדם אמיתי" כדי לומר פקודות בגוונים הומופוביים, בהיותם אחת מכל עשר עבירות רשומות. הקול הכתום שוחרר במהלך השנה האחרונה והוא כבר מקבל התקפות שניתן לשחזר בקלות במציאות.

מהן התשובות החדשות?

כאשר המערכת מזהה פקודה הנחשבת פוגענית, תישלח תגובה מיוחדת בקול, במקום שהכל יילקח בהומור או יפנה לחיפושים באינטרנט. בדרך זו:

בנוסף לדבר, ה Google Assistant תחנך את המשתמשים שלה כך שאותה התנהגות לא תילקח ל"חיים האמיתיים". החברה לא תאסור על משתמשים שיש להם גישה לא הולמת, אלא תנסה לשנות את דרך החשיבה כדי שאנשים קרובים אליהם לא יסבלו מאותן התקפות. בדוק דוגמה נוספת:

Google Assistant בברזיל

ברזיל היא אחת המדינות שמשתמשות בהן הכי הרבה Google Assistant ובדירוג העולמי, אנחנו במקום השלישי ברשימת המדינות עם המשתמשים הפעילים ביותר. עם הגעת מגיפת COVID-19, השימוש גדל והחברה החליטה שהברזילאים יהיו מהראשונים שיקבלו את החדשות.

פורטוגזית היא שפה עם מספר וריאציות וכדי שהתשובות החדשות יהיו זמינות, הצוות הבינלאומי שיתף פעולה עם מומחים ברזילאים. לפי מאיה מאו, ראש מחלקת שיווק ב Google Assistant עבור אמריקה הלטינית, הוכנסו 200 מונחים הנחשבים לפקודות פוגעניות וחייבים לקבל תגובות מיוחדות.

עדיין על הנתונים בברזיל, 2% מהאינטראקציות עם Google Assistant הם פוגעניים ול-15% מהם יש מונחים מיזוגיניים עם אפילו הטרדה מינית. כל יום, נשים סובלות במצבים שונים, אז Google, באמצעות השינויים הללו, רוצה לשנות את החשיבה של המשתמשים שלה.

ניסוח זאת במספרים: ל-22% מההתקפות על הקול האדום יש דיבור מיזוגיני כלשהו ו-13% מההערות המופנות כלפי הקול הכתום עוסקות במראה גופני (מתוכם, 2% כרוכים בשנאת נשים).

דוגמה לכך היא בקשות 'שליחת עירום'. למרות שאולי זה אפילו נתפס בעיני חלקם כ'בדיחה', מכיוון שמדובר בשיחה עם קול האפליקציה, איננו יכולים להתעלם מכך שגישה זו גם מחזקת את הרעיון שלחלק מהאנשים, במיוחד נשים, אפשר לפלוש לאינטימיות שלהם. בעולם האמיתי זה נחשב לסוג של הטרדה. לכן, Google Assistant נוקטת עמדה נחרצת נגד סוג זה של התנהגות

מאיה מאו, ראש מחלקת שיווק ב-Google Assistant לאמריקה הלטינית

העוזרת האישית הפסיקה להשתמש ב"בבקשה" כאשר ביקשה כבוד, מכיוון שהצוות הבין שאסור לבקש כבוד בנימוס. המשפט "אל תדבר אליי ככה" אידיאלי יותר לחנך ולציין שאסור להפנות התנהגות כזו אפילו כלפי עוזר אישי או אדם בחיים האמיתיים.

התשובות החדשות זמינות מהיום (03) לכל המשתמשים והעדכון יהיה רציף, ברגע שפקודות פוגעניות חדשות יתחילו להיאמר לעתים קרובות יותר ל-Google Assistant. מה חשבת על העדכון? ספר לנו הערה!

ראה גם

בדוק מה חדש בחיפוש Google לבחירות 2022.

מקור: Google