איך לדעת אם טקסט נכתב על ידי AI או בוט?

ממתי inteligência מלאכותי שולב בכלי GPT-2, רבים הופתעו מהיכולת ליצור טקסטים. הכלי, שנוצר על ידי OpenAI, אפילו יצר טקסט בדיוני שהראה את גילוי חדי קרן על ידי מדענים. אבל השימוש הרחב בטקסטים שנעשו על ידי בוטים, בסופו של דבר הביא למחלוקת: איך לדעת אם טקסט באמת נכתב על ידי AI?

מכוון לתכנת אלגוריתם המסוגל לבדוק מה היה נכתב על ידי AI, צוות מדענים מה- המכון הטכנולוגי של מסצ'וסטס (MIT)) פיתח מערכת בשם GLTR. אבל MIT לא לבד במירוץ הזה.

מחפש גם סרגל כדי לקבוע מה מיוצר או לא מיוצר על ידי אלגוריתמים אינטליגנטיים, ה OpenAI השיקה תכונה חדשה במערכת ChatGPT שלה ב-31 בינואר. כעת, מי שמשתמש במפיק הטקסט האוטומטי יכול לבחור באפשרות כלי מסווג (כלי סיווג) לבדיקת טקסטים של AI.

הופעתו של ChatGPT: כיצד התגלו טקסטים אוטומטיים

כדי להבין היכן ChatGPT, אנשים צריכים להכיר את הארגון מאחורי האפליקציה. נוצר בשנת 2015, זה היה OpenAI שהתחיל את בניית האלגוריתם, שכיום יש לו כמנכ"ל את סם אלטמן. החברה שואפת לבצע מחקר מתקדם בתחום inteligência מלאכותי. השחרור של צ'אט התקיים ב-30 בנובמבר 2022, והוא נועד לענות על מספר שאלות של משתמשים.

"[ChatGPT נועד] לענות על שאלות, לזהות שגיאות, לזהות הנחות שגויות ולדחות בקשות בלתי הולמות."

פתח AI על איך צ'אט עובד עם בינה מלאכותית

יש אוטומציות דומות אחרות שנוצרו על ידי OpenAI. דוגמאות הן ה הוראה GPT, שמטרתו לספק הנחיות ותשובות למשתמשים ו DALL · E, המסוגל ליצור תמונות לפי בקשת המשתמש.

מתוך מודעות לכך שהכלי האוטומטי ליצירת טקסט עלול להגביר את ייצור המידע השגוי, החליטה החברה להחיל שינוי. בנוסף להכרזה על כלי הדירוג, ה OpenAI הזהיר כי השימוש ב-ChatGPT עלול להוות איום אם משתמשים בו ליצירת חדשות מזויפות.

כיצד פועלת ההערכה של טקסטים שנכתבו על ידי AI

או פרויטו GPZero היה תפקיד של אימות מחברם של טקסטים שנעשו על ידי AI. ביסודו של דבר, האלגוריתם מעריך אם קיימת מחבר של ChatGPT בטקסטים המנותחים. כמו כן, האפליקציה רואה אם לטקסט יש מורכבות ווריאציות של משפטים, באמצעות חישובים. ממציא האפליקציה היה אדוארד טיאן, בן 22, סטודנט ב אוניברסיטת פרינסטון, בארצות הברית. בנוסף לפיתוח שיטות החישוב, הוא בנה את האלגוריתם עם Python, באמצעות ספריית Streamlit.

בראיון עם האפוטרופוס, טיאן ציין כי ללא האינטרס של חברות טכנולוגיה גדולות, קשה להפסיק את השימוש ב-ChatGPT לגניבת עין. לגבי המוטיבציה, הוא קבע שהרעיון היה להימנע משימוש ב תוכנה שהצליח לחמוק מגלאים של עותקים לא תקינים.

איך פועל כלי הדירוג OpenAI, בתורו, יש כמה מגבלות. בנוסף, הוא עובר כמה מבחנים ושיטת היצירה שלו כללה למידת מכונה. בשלב זה הושווה הטקסט שנכתב על ידי בינה מלאכותית להפקות שנעשו על ידי בני אדם, העוסקות באותו נושא.

זיהוי טקסט שנכתב ב-AI ב-GPTZero

הכלי שנוצר על ידי MIT יכול לאמת מחבר רובוטי בטכניקה פשוטה. כלומר, הוא עוקב אחר הנתיב שנוצר על ידי ה GPT-2 לייצר את טקסטים: לראות אילו מילים צפויות להגיע מיד אחרי כל אחת. אז ה GLTR בודק אם מה שנכתב אכן נעשה על ידי א לוע.

O GLTR מראה למשתמשים אם זה טקסט שנכתב על ידי בינה מלאכותית באמצעות אות פשוט. אם יש לך השתתפות של אלגוריתם כמו ה GPT-2, הטקסט מופיע בירוק. צבעים אחרים, כגון סגול, אדום וצהוב, מראים שסביר יותר שהטקסט נעשה על ידי א אדם.

ההנחה של אילו מילים יכולות לבוא בזו אחר זו היא הגורם המכריע לכך שטקסט יעבור כפי שנכתב על ידי בן אדם. אבל המדענים שיצרו את GLTR מצביעים על כך שדווקא חוסר החיזוי הוא שמונע טקסט שנכתב על ידי IA לא ישימו לב.

"כתיבה רגילה, למעשה, בוחרת לעתים קרובות מילים בלתי צפויות שהגיוניות יותר עם נושא הטקסט. זה אומר שאנחנו יכולים לבדוק אם טקסט אכן נראה יותר סביר שיגיע מאדם".

מדענים שאחראים על אלגוריתם GLTR לאתר פוטוריזם

עם זאת, הטכנולוגיה GLTR צריך לעבור שיפורים. לפעמים, הטקסט יכול להיעשות על ידי אדם, אבל האלגוריתם מאשים בטעות שהוא נוצר על ידי מישהו. לוע. בדרך זו, בדיקת התרחשותם של טקסטים של AI תהיה משימה שתצטרך יותר כלים.

OpenAI דירוג כלי ב-ChatGPT

A כלי מסווג יש את המגבלה של אימות המחבר האוטומטי או האורגני של הפקות טקסטואליות של לפחות אלף תווים. הפתרון, שנוצר מאימון מכונה, עדיין צריך לעבור כמה התאמות, כי הוא עדיין מבלבל את מה שנכתב על ידי IA עם מה שמייצר אדם כלשהו.

"בהערכות שלנו, עם קבוצה של טקסטים באנגלית, המסווג שלנו מזהה נכון 26% מהטקסטים שנכתבו בבינה מלאכותית (מבחנים אמיתיים) כ'כנראה שנכתבו בבינה מלאכותית', תוך זיהוי שגוי של טקסטים שנוצרו על ידי אדם כיצירת אדם. בינה מלאכותית 9 % מהמקרים (תוצאות חיוביות שגויות)".

OpenAI

סכנה נוספת נמצאת על הרדאר של חברת AI. בסופו של דבר, טקסטים עם ייצור אוטומטי יכולים להתאים מחדש על ידי תלמידים המבקשים למצוא דפוסים בתוכן שנוצר על ידי inteligência מלאכותי ולדעת להערים עליהם. בדרך זו, ה OpenAI זה כבר אומר שלעת עתה, עדיין לא ניתן להשתמש בתכונת הסיווג החדשה כדי לקבוע אחת ולתמיד אם ייצור מגיע מבוט, למשל. הצפי הוא שהחברה תוכל להתקדם באתגר זה בעתיד הקרוב.

ראה גם: ChatGPT עובר בחינות MBA, משפטים ורפואה בארה"ב.

מקורות: האפוטרופוס | להסתכל מצלמה | המחשב מאג | פוטוריזם | Hitc.

נסקר על ידי ירקרק