OpenAI מציע שפע עבור דיווח על באגים ב-ChatGPT

A OpenAI, חברה האחראית על פתרונות בינה מלאכותית (AI), מציעה עד $20 עבור דיווח על באגים ChatGPT. כדי להיות מסוגלים להתריע על נקודות תורפה, המשתמשים חייבים להציג שגיאות דרך הפלטפורמה של באג באונטי המון שדים, שם פורסמה ההודעה.

תוך מתן פרסים, ה OpenAI מזהיר כי ניסיונות להפעיל את מערכות ה-AI של החברה למטרות זדוניות לא יקבלו שום תגמול. הבן במאמר זה כיצד החברה תעניק את הפרסים הללו למי שמוצא את החסרונות של שירותי AI ואת הכללים הכרוכים בהשגתם.

כיצד מתגמל OpenAI משתמשים שמוצאים באגים ב-ChatGPT?

החברה שהכריזה על הצעות הפרס לאיתור באגים אמרה שהיא מפעילה את התוכנית הזו מכיוון שהיא מבינה ש"מחקר מהותי וגישה רחבה" נחוצים לנושאים מסוימים. לפיכך, בכוונת החברה לתגמל על שגיאות שהתגלו שיכולות "להקל את הרף" ולשפר את תפקודם של שירותים כמו ChatGPT.

"התגמולים שלנו נעים בין 200 דולר לתגליות בסיכון נמוך ל-20 דולר עבור תגליות יוצאות דופן"

OpenAI

במילים אחרות, בהתייחס לשער החליפין הנוכחי של המטבע האמריקאי, אם משתמש ברזילאי ידווח על שגיאה הנחשבת לבסיסית יותר, הפרמיה שלו עלולה לעלות על R$980. כמעט 100 אלף R$.

הרעיון הוא שעם תוכנית התגמולים, OpenAI תוכל לצמצם את האפשרות של כשלים בעיבוד נתוני המשתמש. מתוך תשומת לב רבה יותר לקהילה שמשתמשת בפתרונות שלה, החברה רוצה שאנשים לא ישאירו פרטי פגיעות מפורשים.

באגים ונושאים אחרים שאינם כלולים בתוכנית הבאונטי

ישנם מספר דוחות ומאמרים שכבר מראים את הפוטנציאל המועיל של ChatGPT - הן עבור משימות פשוטות, כגון תכנון טיולים, והן עבור פעילויות אחרות מורכבות יותר, כגון הערכת קודי תכנות - ומצד שני, דיווח על תגובות שעשויות להיות יותר מסוכן - ניתן להשתמש בשירות כדי ליצור פיסות של דיסאינפורמציה או אפילו לפרט שלבים ליצירת תוכנות זדוניות. באשר לנושאים אלה, Open AI מונה כמה קווים מנחים להגדרה מי יכול לקבל תגמולים עבור דיווח על באגים.

הרשימה בדף Bugcrowd, נקראת מחוץ לכוונת (מחוץ לתחום, בתרגום חופשי), מצביע על כך שטעויות על ידי התקפה, בין אם על ידי שבירת סיסמאות, השמדת נתוני צד שלישי, דליפת זהויות, בין שאר סוגי העבירות, לא יקבלו את התגמול שהוכרז. ההנחיות גם מגבילות כל ניסיון לתקוף את OpenAI עצמה, ספאם או ניסיונות הונאה. ובכל זאת, החברה לא תתגמל את אלה שמתכננים לבקש משירותי בינה מלאכותית להמציא שיטות להערים על אנשים דרך אתרי אינטרנט, עם כפתורים ושירותים מזויפים.

פגיעויות שהוזעקו ב-ChatGPT עם השלכה גדולה: כמה דוגמאות

לפני מספר שבועות, ChatGPT הפכה לחדשות על הצגת פוטנציאל מזיק, שכן היא הצליחה לעקוף מערכות אימות, כגון CAPTCHA. אבל שגיאות אלו ואחרות יכולות להיות קשורות לסיבות אחרות, כלומר הן לא בהכרח נובעות מניהול לקוי של OpenAI.

במרץ, למשל, האקר בשם rezO אפילו חשף 80 "פלאגינים סודיים" בתוך ה-API - קיצור של ממשק תכנות יישומים, או ממשק תכנות יישומים, בתרגום חופשי; משמש ליצירת אינטראקציה בין שירותים דיגיטליים, בהיותה חשובה לתפקודן של מערכות אלו לשימוש אנשים. מסתבר שהתכונות הללו למעשה עדיין לא יושמו עבור שירות ה-AI.

כפתרון, OpenAI הצליחה לתקן את בעיית הפלאגין באותו יום שבו התרעה ההתרחשות. כמו כן, במרץ, OpenAI אפילו התנצלה על כך שקיבלה הודעה על שגיאה נוספת במערכת התגובה המהירה של AI שלה. האזהרה הייתה שקורה באג שהוביל להדלפת פרטי תשלום ואפילו היסטוריית צ'אט עבור חלק מהמשתמשים.

ראה גם:

Google Bard: מתחרה ChatGPT הוכרז עבור "בקרוב"

ביל גייטס מצטט "עידן AI רק התחיל" ומשקף את ChatGPT

מקור: הסף | המחשב מאג