Meta משיקה את Llama 3, דגם AI המסוגל לייצר תמונות בזמן אמת בוואטסאפ
אינדקס
היום (18/4) ה meta הכריזה על שני הדגמים הראשונים של הדור הבא של הלאמה, ה מטא לאמה 3, מוכן לשימוש מקיף. גרסה חדשה זו כוללת דגמי שפה מאומנים ומכוונים מראש, עם פרמטרים 8B e 70B, מסוגל לענות על מגוון רחב של צרכים. בעקבות המסורת של תמיכה בקהילת הקוד הפתוח, Meta עשתה את לאמה 3 עבור הקהילה. זה גם אומר שה מטא AI, בינה מלאכותית הקיימת ברשתות החברתיות של החברה, תשופר גם היא, כולל היכולת ליצור תמונות בזמן אמת ב- וואטסאפ. ראה עוד!
הכירו את לאמה 3
עם לאמה 3 החברה מתכוונת לפתח מודלים פתוחים המתחרים בדגמי השפה הקניינית הטובים ביותר הקיימים כיום, כפי שקורה עם GPT-4. משוב למפתחים קיבל עדיפות לשיפור השימושיות הכוללת של Llama 3, לפי Meta, "שמירה על מחויבות למנהיגות בשימוש אחראי ויישום של מודלים של שפה גדולה (LLMs)
בעקבות העקרונות של קוד פתוח, אומצה גישת שחרור מוקדם ותכוף, המאפשרת לקהילה לגשת ולתרום לפיתוח המודלים הללו בזמן אמת. התבניות מבוססות הטקסט שהוצגו היום הן רק הראשונות בסדרת Llama 3 החזון לעתיד כולל הרחבת Llama 3 כדי להציע תמיכה רב-לשונית ורב-מודאלית, להגדיל את יכולת ההקשר ולשפר ללא הרף את הביצועים בכל ההיבטים המרכזיים של. לימודי תואר שני, כגון נימוק וקידוד.
בהתאם לגישת העיצוב ב לאמה 3, Meta בחרה בארכיטקטורת שנאי מפענח בלבד, שהיא ברירת מחדל. Llama 3 משתמש בטוקניזציה עם אוצר מילים מורחב של 128 אלף אסימונים, וכתוצאה מכך קידוד שפה יעיל יותר, וכתוצאה מכך, ביצועי מודל משופרים. כדי לייעל את יעילות ההסקה של דגמי Llama 3, החברה שילבה את טכניקת תשומת הלב של שאילתות מקובצות (GQA) בשני גדלים שונים: 8B ו-70B. במהלך האימון, לרצפים שבהם נעשה שימוש יש אורך של 8.192 אסימונים, ומסיכה מוחלת כדי להבטיח שתשומת לב עצמית תישאר בגבולות המסמך.
כדי להכשיר את מודל השפה הטוב ביותר, חיוני להחזיק מערך נתוני אימון גדול ואיכותי. בהתאם לעקרונות העיצוב שלנו, השקענו רבות בנתוני טרום אימון עבור Llama 3. דגם זה עבר הכשרה מוקדמת על יותר מ-15 טריליון אסימונים, הכל ממקורות זמינים לציבור. מערך ההדרכה שלנו גדול פי שבעה מזה המשמש עבור Llama 2 וכולל פי ארבעה קוד.
כהכנה למקרים עתידיים של שימוש רב-לשוני, יותר מ-5% ממערך הנתונים של קדם ההדרכה של Llama 3 מורכב מנתונים באיכות גבוהה בשפות שאינן אנגלית, מכסה יותר מ-30 שפות. עם זאת, Meta לא מצפה להשיג את אותה רמת ביצועים בשפות אלו כמו זו שהושגה באנגלית.
כדי להבטיח ש-Llama 3 מאומן עם הנתונים האיכותיים ביותר, פותחה סדרה של צינורות סינון נתונים. צינורות אלה כוללים שימוש ב מסננים היוריסטיים, מסננים לתוכן לא הולם, טכניקות ביטול כפילות סמנטיות ומסווגים של טקסט להערכת איכות הנתונים. גרסאות קודמות של לאמה יעילות ב זיהוי נתונים באיכות גבוהה, אז נעשה שימוש ב-Llama 2 ליצירת נתוני האימון עבור מסווגי איכות הטקסט שמזינים את Llama 3.
בנוסף, Meta השתמשה בניסויים כדי לקבוע את הדרכים הטובות ביותר למיזוג נתונים ממקורות שונים לתוך מערך הנתונים הסופי של ההכשרה. ניסויים אלה אפשרו לנו לבחור שילוב של נתונים המבטיח ביצועים טובים של Lama 3 במגוון מקרי שימוש, כולל שאלות טריוויה, גזע (מדע, טכנולוגיה, הנדסה ומתמטיקה), קודיפיקציה, ידע היסטורי, בין היתר.
השוואה עם לאמה 2
הדגמים החדשים לאמה 3, עם פרמטרים של 8B ו-70B, מייצגים התקדמות ביחס ל- לאמה 2, קובע סטנדרט חדש לדגמי LLM בקנה מידה אלה. Meta טוענת כי בשל שיפורים הן בטרום אימון והן לאחר אימון, מודלים שהוכשרו מראש והוראה מותאמים הם כיום המובילים הבלתי מעורערים בסולם הפרמטרים 8B ו-70B.
אופטימיזציות בהליכים שלאחר האימון הביאו א הפחתת שיעורי הדחייה השגויים, בנוסף לשיפור ההתאמה והגדלת הגיוון בתגובות המודל. שיפורים משמעותיים נצפו גם בתכונות כמו חשיבה, יצירת קוד והדרכה עתידית, מה שהופך את Llama 3 לסתגלנית וממוקדת עוד יותר.
במהלך הפיתוח של Llama 3 היה ניתוח של ביצועי המודל, הן במדדים סטנדרטיים והן בתרחישים בעולם האמיתי. כדי להבטיח אופטימיזציה יעילה ליישומים מעשיים, נוצרה חבילת הערכה אנושית חדשה ואיכותית. סט זה מורכב מ-1.800 הנחיות המכסות 12 מקרי שימוש עיקריים, כולל לבקש עצות, סיעור מוחות, מיון, מענה על שאלות סגורות, קידוד, כתיבה יצירתית, חילוץ, התחזות לדמויות/פרסונות, מענה על שאלות פתוחות, נימוקים, כתיבה מחדש e סיכום.
כדי למנוע את התאמת יתר (או יתר על המידה, המונח הנפוץ ביותר) במקרה של מודלים לסט הערכה זה, אפילו לצוותי הדוגמנות של Meta אין גישה אליו. הגרף המוצג מציג את התוצאות המצטברות של הערכות אנושיות בקטגוריות ובהנחיות אלה, תוך השוואת הביצועים של לאמה 3 עם המודלים קלוד סוֹנֶטָה, מיסטרל בינוני e GPT-3.5.
כיצד Llama 3 משפר את Meta AI
בשל ההתקדמות שנעשתה עם Meta Llama 3, החברה מכריזה על התרחבות בינלאומית של Meta AI - לזכור שהמשאב היה בלעדי לארצות הברית. נכנסת כמתחרה חזקה לדגמים קיימים, Meta AI זמינה כעת ליותר אנשים ברחבי העולם, ומאפשרת למשתמשים ב- פייסבוק, אינסטגרם`, וואטסאפ e Messenger תהנה מהטכנולוגיה החינמית הזו כדי לבצע מגוון פעולות, ליצור תוכן ולגשת למידע בזמן אמת.
Meta AI נחשפה בתחילה במהלך Connect בשנה שעברה, וכעת משתמשים במדינות כמו אוסטרליה, קנדה, גאנה, ג'מייקה, מלאווי, ניו זילנד, ניגריה, פקיסטן, סינגפור, דרום אפריקה, אוגנדה, זמביה e זימבבואה יכול גם ליהנות מהיתרונות שלו. כחלק מהרחבת Meta AI, אנשים יוכלו כעת גם לגשת אליו meta.ai, בגרסת האינטרנט.
האם אתה מתכנן לצאת בלילה עם חברים? בקשו מ-Meta AI להמליץ על מסעדה עם נוף מדהים ואפילו אפשרויות טבעוניות. מארגנים טיול לסוף השבוע? בקש מ-Meta AI למצוא הופעות למוצאי שבת. מתכוננים למבחן? בקש מ-Meta AI להסביר כיצד עובדות תכונות תורשתיות. אתה עובר לדירה הראשונה שלך? בקש מ-Meta AI "לדמיין" את האסתטיקה שאתה רוצה והעוזר יפיק כמה תמונות השראה עבור הרהיטים שלך.
מטא מסביר מעט כיצד AI יכול לעזור לך
O מטא AI הוא גם יהיה זמין ישירות בפונקציית החיפוש של פייסבוק, אינסטגרם, WhatsApp ומסנג'ר. זה אומר שאתה יכול גישה למידע מהאינטרנט בזמן אמת מבלי לעבור בין יישומים. לדוגמה, דמיינו שאתם מתכננים טיול עם חברים בצ'אט קבוצתי של Messenger. עם חיפוש Messenger, אתה יכול לבקש מ-Meta AI - המופעל על ידי Llama 3 החדש - למצוא טיסות מהמוצא שלך ליעד שלך, ולגלות את סופי השבוע האיטיים ביותר לביקור. וכמובן, כל זה מבלי לצאת מאפליקציית Messenger.
לאנשים תהיה גם היכולת לגשת ל- Meta AI בזמן הגלישה בפיד שלהם בפייסבוק. אם אתה מוצא פוסט שמעורר עניין שלך, אתה יכול לבקש מידע נוסף ישירות מ-Meta AI מאותו פוסט, בדיוק כמו חיפוש רגיל בגוגל, רק בתוך פוסט בפייסבוק.
Meta מאיצה את תהליך ההדמיה כדי לאפשר לאנשים ליצור תמונות בזמן אמת מטקסט באמצעות תכונת Imagine של Meta AI. השקת תכונה זו החלה בגרסת בטא היום, זמינה בוואטסאפ ובחוויית האינטרנט Meta AI בארצות הברית. כשהם מתחילים להקליד, אנשים יראו תמונה מופיעה באופן מיידי. תמונה זו תתפתח עם כל כמה אותיות שתקליד, ותאפשר לך לצפות ב-Meta AI מביאה את הרעיון שלך לחיים בזמן אמת.
לטענת החברה, תמונות אלו שנוצרו מציגות א חדות ואיכות משופרים, המציע יכולת טובה יותר לכלול טקסט בתמונות. בנוסף, הוא יספק הצעות לשיפור התמונה, ויאפשר לך להמשיך ולחדד מנקודת ההתחלה הראשונית שלך. כאשר אתה מוצא תמונה, פשוט בקש מ-Meta AI להנפיש אותה, להתאים אותה לפורמט חדש, או אפילו להפוך אותה ל- GIF לחלוק עם חבריך.
בעוד שהעדכונים הללו ספציפיים ל-Meta AI בפייסבוק, אינסטגרם, WhatsApp, Messenger והאינטרנט, חשוב לזכור כי Meta AI זמין גם בארצות הברית עבור משקפיים חכמות ריי-באן מטא, ובקרוב פנימה מטה קווסט - מכשירי מטא מציאות מדומה.
שקיפות עם קוד פתוח ואבטחה
הפוטנציאל של טכנולוגיית AI גנרטיבית יכול באמת לשפר את חווית המשתמש של המוצרים של Meta ואת האקולוגי הרחבה יותר. ובכל זאת, נקודה נוספת שחייבים להתייחס אליה היא להבטיח שהדבר ייעשה ב-a אחראי e סגורה. לכן, החברה נוקטת בצעדים להערכת והפחתת סיכונים בכל שלבי הפיתוח והיישום של AI. זה כולל שילוב אמצעי הגנה בתהליך התכנון והשחרור של מודל הבסיס של לאמה, כמו גם תמיכה באקוסיסטם של המפתחים כדי לקדם שיטות אחראיות.
לכן, עם לאמה 3, אומצה גישה שיטתית המשתלבת אמצעי הגנה בכל שלבי הפיתוח. המשמעות היא שהוחלה הקפדה מיוחדת על תהליכי הדרכה וכיוונון, בנוסף להצעת כלים המאפשרים למפתחים ליישם מודלים בצורה אחראית.
גישה זו לא רק מחזקת את המאמצים בבינה מלאכותית אחראית, אלא גם משקפת את החזון של חדשנות פתוחה, המעצימה מפתחים להתאים בבטחה את המוצרים שלהם לטובת המשתמשים שלהם. למטא יש גם את מדריך שימוש אחראי, מקור חשוב למפתחים, מספק הנחיות לבניית מוצרים.
כפי שהסברנו כאשר שחררנו את Llama 2, חשוב להיות מכוון בתכנון האמצעים הללו, מכיוון שיש כאלה שניתן ליישם ביעילות רק על ידי ספק המודל, ואחרים שפועלים ביעילות רק כשהם מיושמים על ידי המפתח כחלק מהספציפיות שלהם. יישום.
מחזק את החברה
מאז השקת Meta AI בשנה שעברה, המותג שיפר ללא הרף את החוויה בכמה תחומים:
- התגובות של Meta AI לנושאים פוליטיים וחברתיים שוכללו, תוך שילוב הנחיות ספציפיות לנושאים אלו. המטרה היא להציע מגוון נקודות מבט רלוונטיות בנושא, תוך כיבוד כוונות המשתמש בעת שואל שאלות ספציפיות.
- כולל הוראות ותגובות ספציפיות כדי להפוך אותו ליותר שימושי, שימוש במודלים של תגמול כדי להנחות את ההתנהגות שלך.
- הביצועים של Meta AI מוערכים במדדים ובאמצעות בדיקות עם מומחים אנושיים, תוך התייחסות לכל בעיה שזוהתה בתהליך מתמשך.
- אמצעי הגנה ברמת הבקשה והתגובה, כולל מסננים ומסווגים כדי להבטיח שהאינטראקציות יתאימו להנחיות ומאובטחות.
- כלי משוב למשתמשים לחלוק את החוויות שלהם, מה שמאפשר לנו לשפר ללא הרף את הביצועים של Meta AI.
ואתה, מה חשבת על החדשות? אנחנו לא יכולים לחכות להגיע לברזיל, נכון? ספר לנו מה מצאת בנו הערה!
ראה גם:
אלבומי Google חינם עריכת תמונות AI בחינם לכל המשתמשים.
עם מידע מ: יעד [1], [2] e [3].
נסקר על ידי גלאוקון ויטל ב-18/4/24.
גלה עוד על Showmetech
הירשם כדי לקבל את החדשות האחרונות שלנו בדוא"ל.
