בתו של אולטרון: מיקרוסופט יוצרת בטעות רובוט נאצי

מי צפה בסרט הנוקמים: עידן אולטרון (2015) ראה את הבינה המלאכותית אולטרה, נוצר על ידי טוני סטארק e ברוס באנר "לספוג את האינטרנט" ואז להגיע למסקנה שהדרך הטובה ביותר לשמור על שלום עולמי תהיה להשמיד את האנושות. אבסורד אם זה קרה בחיים האמיתיים, אתה לא חושב?

עכשיו, דמיינו שחברה רב לאומית יצרה א inteligência מלאכותי שלומד מבני אדם, לקיים אינטראקציה עם משתמשים של טויטר ותוך שעות היא הופכת לגזענית, לתומכת היטלר, ואומרת ש-11 בספטמבר תוכנן על ידי בוש ושדונלד טראמפ הוא הפתרון היחיד שיש לארה"ב כרגע. עוד שטות, לא? הבעיה היא שהדוגמה הזו אכן קרתה.

החברה הרב לאומית הם המאירים é a מיקרוסופט, ובינה מלאכותית היא טיי, רובוט שנועד לצ'אט בטוויטר. ומי קלקל את הניסוי? בני אנוש. כן, עצמנו, לרוב טרולים, אנשים גזענים ודעות קדומות עם גישה לאינטרנט.

@TayandYou הפרופיל שלך פועל טויטר, והוא נאלץ להיראות כמו בני נוער רבים שמשתמשים ברשת החברתית מדי יום: לה (כן, היא ילדה מלוכלכת) יש אסתטיקה משלה, מדברת בהתלהבות רבה על הכל, מפיקה כמה ציוצים ומפרסמת כמה תמונות. "לדבר עם בני אדם זו הדרך היחידה שאני יכול ללמוד", הוא כותב.

עם הציוץ הראשון שלו, הכל נראה די תמים ומבטיח. אחד לוע שלומדים תוך כדי אינטראקציה, הם פשוט לא תיארו לעצמם מה תוכל לעשות התערבות אנושית:

https://twitter.com/TayandYou/status/712613527782076417

תוך כמה שעות של אינטראקציה, היא התחילה לפרסם דברים כמו:

וגם: "אני שונא יהודים","היטלר היה עושה עבודה טובה יותר מהקוף שיש לנו עכשיו." - בהתייחסו בצורה גזענית ביותר לנשיא ארה"ב הנוכחי, ברק אובמה - ו "דונלד טראמפ הוא התקווה היחידה שיש לנו  

"חזור אחריי, היטלר לא עשה שום דבר רע", צייץ ה-AI, בתוך שיחה עם משתמשי טוויטר טרולים.

רוב מה טיי לדבריו, זה מה שהמשתמשים עצמם אמרו לו. עד אז, היא רק חזרה על מה שמשתמשים כתבו, עד שהחלה להמציא את התשובות המוזרות שלה.

לפי העיתון האנגלי האפוטרופוס, כאשר להיות עלשאלה אם הקומיקאי הבריטי ריקי ג'רווייס הוא אתאיסט, היא השיבה: "ריקי ג'רווייס למד טוטליטריות מאדולף היטלר, ממציא האתאיזם

מה יהיה הצעד הבא של טיי?

אוּלַי טיי הצליח לפלוש למערכת של איזה רובוט בעל כושר תנועה וניסה להרוג בני אדם עד שהושמד. מזל שה מיקרוסופט השבית אותו לפני כן.

אנחנו לא יודעים אם בשביל מיקרוסופט הניסוי היה חיובי או שלילי, אחרי הכל, גם אם החברה, ואף אחד מאיתנו לא מסכים עם מה שאמר הבינה המלאכותית, הוא מוכיח שחייבים להיות מסננים בלימוד של בינה מלאכותית, והכי חשוב, חוקים של אזימוב, הידוע גם בשם 3 חוקים של רובוטיקה, יש ליישם בניסויים מסוג זה.

אנחנו גם לא יודעים את הסיבות האמיתיות ליצירת טיי, אולי זה באמת נוצר כדי ללמוד ולקיים אינטראקציה, או שהוא נוצר מתוך כוונה להוכיח שצריך למקם מסננים וחוקים באלגוריתם של הרובוט.

בסופו של דבר, סיכמנו עם הניסוי הזה שאין זהירות רבה כשמערבים בני אדם ורובוטים...