CPU או GPU/NPU: מה חשוב יותר בבחירת מחברת עבור AI?

עם התקדמות inteligência מלאכותי והשקה של מחשבי AI על ידי יצרני מחשבים, הנושא אמור להיות אחד המדוברים ביותר בעולם הטכנולוגיה בשנת 2024. NPUs הפכו לשחקני מפתח בעיבוד עומסי עבודה של בינה מלאכותית, אבל האם אתה באמת צריך מחשב מצויד בתכונה זו כדי לבצע פעילויות בינה מלאכותית?

בהזמנתו של NVIDIA, בדקנו כיצד מחברת מצוידת כרטיס מסך ייעודי מבצע משימות בינה מלאכותית גם ללא מעבד שאינו מתאים לקטגוריית מחשבי בינה מלאכותית הבינו להלן מה הכי חשוב למי שעובד עם בינה מלאכותית על בסיס יומי. CPU ou GPU.

מה זה מחשב AI?

המונח החל להיות מיושם על ידי אינטל ומיקרוסופט עם השקת משפחת המעבדים Intel Core Ultra. בשנת 2023, ה מיקרוסופט קבע כי למחשב להיות מסווג כ AIPC, עליו לעמוד בשלוש דרישות. האם הם:

• יש מפתח טייס para ativar א inteligência מלאכותי במקלדת שלך;
• יכולת הפעלת בינה מלאכותית טייס, נוכח ב Windows 11;
• יש מעבד עם NPU מסור שמגיע לפחות חולצות 40 (טריליוני פעולות בשנייה)

Uma NPU הוא אזור ייעודי של המעבד המתמקד בפעילויות בינה מלאכותית. בפועל, המעבד צובר שבב נוסף כך שה-CPU וה-GPU מוקדשים לפעילותם העיקרית. רכיבים אלה יכולים אפילו לספק תמיכה עבור ה-NPU, אך פעילויות AI יעובדו למעשה ב-NPU.

מעבדים עם NPU זה מפורסמים גם כבעלי יעילות אנרגטית טובה יותר, המספקים חיי סוללה ארוכים יותר בעת הצורך, ללא צורך לאבד ביצועים. זה ההבדל הגדול בין השורות גלקסי ספר 3 e Book4, הושק על ידי סמסונג.

במאי 2024, ה מיקרוסופט יצרה קטגוריה משלה של מחשבי AI, אשר לוקח את השם של Copilot+ PC, עם דרישה גבוהה יותר לביצועי TOPS עבור פעילויות בינה מלאכותית. להיחשב א Copilot+ PC, מחשב חייב לעמוד בדרישות הבאות:

• יש לפחות 16 GB של זיכרון RAM;
• יש אחסון של לפחות 256 GB באמצעות SSD;
• יש NPU משולב עם לפחות 40 TOPS של ביצועים;
• יש מפתח המוקדש לבינה מלאכותית טייס על המקלדת;
• אין חריץ בתצוגה.

מחשבים מוסמכים כ Copilot+ PC נוצרו בעצם כדי להתעדכן במחשבים Macכי תפוח עץ. אחד הדגמים הראשונים שהוכרזו היו מחשבים ניידים משטח, משלו מיקרוסופט, שיש להם מעבדים Snapdragon X Eliteכי קוואלקום. ראה את ביצועי TOPS בקווי מעבדי NPU שהושקו השנה:

• AMD Ryzen AI 300: עד 50 TOPS של ביצועים;
• Intel Lunar Lake: עד 48 TOPs של ביצועים;
• Snapdragon X Elite: עד 45 TOPS של ביצועים.

TOPS הוא ראשי התיבות של טריליוני פעולות בשנייהאו טריליון פעולות בשנייה. זהו הפרמטר למדידת יכולת ה-NPU לעבד בינה מלאכותית על מעבדים. כאן, הכלל הבסיסי: ככל שיש ל-NPU יותר TOPS, כך תהיה לו יכולת גדולה יותר להפעיל פעילויות בינה מלאכותית. 

אבל האם למחברות קודמות אין בינה מלאכותית?

יש משהו שיצרני המעבדים לא סומכים עליו: לכרטיסי מסך ייעודיים יש כבר ביצועי TOPS הרבה מעל הנדרש למחשבי AI, ומציעים יותר פרודוקטיביות במשימות בינה מלאכותית למשתמשים שלהם אפילו במחשבים שאין להם NPU.

עם זאת, ההגדרה של מיקרוסופט סעיף מחשבי AI e מחשבי Copilot+ אינו מאפשר למחשבים אלו עם ביצועים גבוהים ב-AI לקבל את הסיווגים הללו, בדיוק בגלל שאין להם NPU משולב. וכאן אנחנו נכנסים לדיון שה NVIDIA מתקשרת: מחשבים עם בינה מלאכותית היו קיימים עוד לפני שחברות כמו סמסונג, לנובו, ASUS והשלה מיקרוסופט להתחיל להשקיע בתנאים האלה.

ההגדרה שנועדה ליצור קטגוריה, אך ללא NPU אינה שוללת שימוש במחשב עם GPU חזק במשימות הכרוכות בבינה מלאכותית. למעשה, שום דבר לא ימנע ממך להריץ אפליקציות עם יכולות AI במחשבים עם כרטיסים גרפיים ייעודיים ומעבד ללא NPU.

שוק מחשבי הבינה המלאכותית נמצא עדיין בשלבים מוקדמים עם הגעתם של המחשבים הניידים הראשונים עם NPU, אך תהליך פיתוח תכונות ויישומי בינה מלאכותית נוקט בצעדים קטנים, עם מעט משאבים זמינים למשתמשים באופן כללי.

בשלנו סקירת Galaxy Book4 Pro, מחברת עם מעבד Intel Core Ultra 7 וללא GPU ייעודי, אנו מזכירים שהשימוש המעשי ב-NPU יכול להיות בולט יותר בתכונות שיחות וידאו וביעילות אנרגטית. עם זאת, אלו נקודות שניתן לראות גם במחברות ללא NPU, אפילו כאלו שהושקו לפני 2023.

החשיבות של כרטיס גרפי (GPU) עבור AI

כדי להבין את הנושא הזה, הבה נבין את ההבדלים ביניהם CPU e GPU.

שני הרכיבים משמשים לעיבוד משימות במחשב, וההבדל העיקרי בין ה CPU ו - GPU הן הפעילויות להן הן מיועדות. א CPU - או יחידת עיבוד מרכזית - מתמקד בביצוע הפעילויות הכלליות של המחשב, כגון הפעלת מערכת ההפעלה עצמה וכל היישומים שלה. זה מקובל להגדיר כ"מוח" של מחשב, ובלעדיו זה אפילו לא היה עובד: זה נע בין גלישה באינטרנט ליצירת גיליונות אלקטרוניים.

A GPU מספיק כדי לספק את התמיכה שה-CPU צריך בעת טיפול בפעילויות מורכבות יותר, ביצוע פעילויות גרפיות ביעילות. ראשי תיבות באנגלית של יחידת עיבוד גרפי (וידוע בשמו העממי כרטיס מסך), ה-GPU מאיץ את עיבוד התמונה באמצעות אלפי ליבות קטנות יותר, מיוחדות יותר, הפועלות יחד כדי לספק ביצועים במשימות גרפיות.

למעבדים רבים - במיוחד אלה המיועדים למחברות - יש א GPU משולב, שהוא חלק מהמעבד. אפליקציה זו מתאימה למחשבי PC לשימוש כללי, שאינם דורשים עיבוד גרפי אינטנסיבי יותר. אבל כשיש לנו עיבוד תמונה אינטנסיבי, כמו במשחקים ועריכת תמונות ווידאו, ה GPU ייעודי (או GPU נפרד) עושה את כל ההבדל.

ה-GPU יכול להפנות את כל הכוח שלו למשימות ספציפיות, כמו משחקים ואפילו עיבוד תוכן באיכות גבוהה, מה שמגביר את כוח העיבוד ומקל על ביצוע פעילויות חזקות במחשב עליו הוא מותקן, ומספק מהירות ויעילות גבוהות יותר מסוג זה. של משימה.

ולמה להשתמש ב-GPU עבור AI? NVIDIA מציינת שלוש סיבות:

• GPUs משתמשים בעיבוד מקביל;
• מערכות GPU יכולות להתאים לרמות מחשוב-על;
• פיתוח תוכנת AI עבור GPUs מאוחד.

פעילויות inteligência מלאכותי דורשים רמה גבוהה של חישובים מיוחדים. על ידי אצווה של הוראות ועיבוד כמויות גדולות של נתונים, GPUS ייעודי יכול להאיץ עומסי עבודה מעבר ליכולות של מעבד. אם נעמיק יותר, NVIDIA עצמה מצהירה זאת השקעה במחברת עם כרטיס ייעודי מעניינת יותר מהשקעה בדגם עם NPU משולב.

דוגמה לחשיבותם של GPUs ייעודיים לפעילויות בינה מלאכותית היא ChatGPT: בוט יצירת התוכן המפורסם שכותב, פותר בעיות ואפילו יוצר תמונות עובד על בסיס פלטפורמות GPU.

A OpenAI נכנסה לשותפות עם NVIDIA כך שמודל השפה הגדול שלה יכול לשמש יותר מ-100 מיליון אנשים. המידע העדכני ביותר הוא שה GPT-4, מעודכן כעת על ידי GPT-4o, היו לו יותר מטריליון פרמטרים, מדד של הצפיפות המתמטית שלו - קפיצה מפחות מ-100 מיליון פרמטרים ב-LLM פופולרי בשנת 2018, שהתאפשרה באמצעות GPUs.

עם זאת, אם אתה אדם שעובד עם יצירת תוכן, עושה הרבה שיחות וידאו או אפילו אוהב לשחק הרבה, אתה בהחלט צריך משאבי בינה מלאכותית כדי לבצע ביצועים טובים יותר. וזה נכון לגבי הכל:

• אפקטים של שיחות וידאו להפחתת רעש חיצוני וטשטוש רקע;
• יש גישה לטכנולוגיה DLSS e מעקב אחר ריי;
• היכולת לפתוח תמונות מהר יותר;
• עיבוד תוכן וידאו (אנכי או אופקי);
• שימוש בבינה מלאכותית כלשהי למילוי תמונות, ביצוע שינוי קנה מידה או אפילו המרת פורמט וידאו;
• היכולת לייצא תוכן בפחות זמן.

הרווח הגדול בשימוש בכרטיס גרפי הוא עיבוד משימות AI בפחות זמן. בהזמנתו של NVIDIA, עקוב אחר הבדיקות שלהלן תוך השוואה בין השימוש ב-GPU ו-CPU/NPU עבור פעילויות בינה מלאכותית כדי לגלות את התוצאות ולהסיק את המסקנות שלך.

השוואות בין GPU לעומת. CPU/NPU עבור AI

כעת, הבה נשווה איך ה-GPU משתווה בביצוע משימות AI מול ה-NPU, שנוצר במיוחד למטרה זו. בדוק את המתודולוגיה ואת תוצאות הבדיקה.

איך אנחנו מבצעים את הבדיקות

כדי לבצע את הבדיקות הללו, נעבור על מספר יישומים ומשחקים המשתמשים ב-GPU כדי לספק ביצועים טובים יותר. א NVIDIA, בשיתוף עם ה avell, השאיל את המחברת A65 ION עם מעבד דור 9 של Intel Core i12900-12HX, עם כרטיס מסך ייעודי RTX XNXX ו-16 GB של זיכרון RAM (מחולק לשני מקלות 8 GB) מסוג DDR5.

כדי להבטיח ביצועים מקסימליים, אנו מחברים את המחשב הנייד לשקע חשמל. לאחר מכן ניתחנו את ביצועי המשאבים כדי לראות אם, גם ללא NPU, פעילויות בינה מלאכותית יפעלו אותו דבר. לצורך בדיקה, רזולוציית הווידאו הייתה 2560×1600, עם קצב רענון שהגיע ל-240Hz.

את כרטיס המסך RTX 4060 הקיים במחברת מבצע 233 טריליון פעולות בשנייה. לשם השוואה, ראה את מספרי ההפעלה של כל הדגמים בסדרת RTX 40 עבור מחשבים ניידים של NVIDIA:

• RTX 4050: 194TOPS של ביצועים;
• RTX 4060: 233 TOPS של ביצועים;
• RTX 4070: 321 TOPS של ביצועים;
• RTX 4080: 521 TOPS של ביצועים;
• RTX 4090: 686 TOPS של ביצועים.

המחברת מצוידת ב-500 GB NVME SSD. ביצענו את כל עדכוני מערכת ההפעלה כך שהמכשיר היה בגרסה השלמה ביותר שלו, וכך גם לגבי מנהלי ההתקן של ה-GPU.

צ'אט RTX

זהו עוזר אישי שפותח על ידי NVIDIA אשר, בעתיד, יכול להיות מתחרה מעניין עבור אפשרויות כגון טייסכי מיקרוסופט. הדבר המעניין ביותר הוא שהוא פועל באופן מקומי אך ורק על מחשב נייד או שולחן עבודה עם כרטיסים גרפיים ייעודיים של NVIDIA.

זה עובד הכי טוב בתור מארגן מידע, אבל זה יכול לקרוא קבצים שנשמרו באחסון המחשב שלך, מה שיכול לעזור מאוד למי שירצה לקבל גישה לסיכומים.

אם מעולם לא השתמשתם באפליקציה הזו, כדאי לזכור שתצטרכו לאמן אותה מאפס, כך שהתכונות הטובות ביותר יראו בטווח הארוך. אבל זו אפליקציה שמאפשרת לקבל עוזר אישי שפועל באופן מקומי וללא צורך בחיבור לאינטרנט.

NVIDIA Canvas

זוהי האפליקציה הבלעדית למי שאוהב לצייר עם העכבר, לגעת במסך או אפילו דרך הלוח הלבן עם עט. עם Canvas, אתה לא צריך להיות אמן: פשוט צור סקיצה עם צורות פשוטות וללא פרטים כדי שהתוכנית תיצור תמונה מפורטת. האפליקציה פועלת רק על מחשבים או מחברות עם כרטיסים ייעודיים מ NVIDIA, לא זמין עבור מחשבים עם NPU בלבד.

הדבר המעניין ביותר הוא שבזכות כרטיס המסך הייעודי עם עיבוד מקומי, ניתן לראות את התוצאות בזמן אמת. בנוסף להחיות את השרבוטים שלך, אתה יכול לשנות לחלוטין ציור בנגיעה אחת בלבד.

זמן הופעת התוצאה על המסך הוא פחות משנייה וגם שינוי הנושא מתרחש בכמה אלפיות השנייה. כשתסיים את הציורים, פשוט ייצא אותם לאפליקציית עריכה וסיים את עבודתך.

שידור NVIDIA

זהו אחד מהיישומים שהכי מאפשרים השוואה עם מה ש-NPU יכול לעשות עד לסגירת מאמר זה. כפי שכבר אמרנו אצלנו מאמר מיוחד על יישום זה, זה עובד כעוזרת נהדרת עבור אלה שמבצעים הרבה שיחות וידאו ושידורים חיים, על ידי הפחתת הרעש הן באודיו והן בווידאו.

בניתוח השימוש במעבדים עם NPU שהושק בשנת 2023, הכל עדיין מאוד בסיסי. שבבים המתמקדים בפעילויות בינה מלאכותית יכולים אפילו לטשטש את הרקע וגם לבצע מיקוד אוטומטי, אבל לא יותר מזה. אין הפחתת רעש, החלפת רקע מקורית ואפילו שימוש בוויגנט, שהן תכונות הקיימות ב-NVIDIA Broadcast.

עם זאת, זו עובדה: ה שידור NVIDIA, שעובד רק על מחשבים ניידים ומחשבים שולחניים עם כרטיסי מסך של NVIDIA, הוא הרבה יותר מתקדם.

פוקוס

זה הכלי שמשתמש ב- דיפוזיה יציבה כבסיס להפקת תמונות מקומית במחשב, ללא צורך באינטרנט. אולי אתה תוהה אם Windows Copilot ו-ChatGPT לא יכולים ליצור תמונות יותר, נכון? כן, הם יכולים, אבל עדיין יש צורך בחיבור לאינטרנט כדי שהכלים האלה יעבדו, וזה לא הכרחי איתו פוקוס. ראה תמונה זו שנוצרה על ידי הפקודה "פיל על החוף ביום שמש":

יישום זה פותח להפעלה על מחשבים ניידים ומחשבים עם כרטיסים גרפיים ייעודיים, יישום זה עובד באמצעות ה-GPU כבסיס ותוכל להשבית את האינטרנט כדי להשתמש בו. והתמונות מרשימות: תוך 57 שניות אנו מקבלים תמונות איכותיות על גבול הריאליזם, והכל מבוצע במקום. תראה:

למרות שיש להם שבב המתמקד אך ורק בפעילויות בינה מלאכותית, מעבדים עם NPU 2023 עדיין זקוקים ליותר ביצועים כדי לבצע עיבוד מקומי. מי יודע, אולי זה ישתנה עם ההשקה של Copilot + תקן PC ממיקרוסופט, אבל בואו נחכה לעתיד לקבל תשובות.

פרוקיון

ביצוע בדיקות עם NPU הוא מעט קשה כרגע, מכיוון שכאשר אנו נמצאים בשלב הראשון של יישום טכנולוגיה זו, יישומים המותאמים למשאב זה עדיין נדירים. עם זאת, דרך ה AI Benchmark Vision da פרוקיון, ניתן היה להבחין בהבדל, מכיוון שהוא יכול למדוד עיבוד בינה מלאכותית בשני GPUs ו-NPUs.

מלכתחילה, ה Galaxy Book4 Ultra, עם מעבד Intel Core Ultra 9, שהושק בשנת 2023 ועם NPU ייעודי, הושג 494 נקודות.

כבר ב Avell A55 ION קיבלנו, כאשר השתמשנו בכרטיס הגרפי לפעילויות בינה מלאכותית, השגנו יותר מזה. הם היו 539 נקודות, הופעה כמעט גבוה ב-10%.. התמונה למטה מציגה את התוצאות שהושגו עם המחברת מחוברת, במצב הביצועים הגבוהים שלה.

לכן, אמת מידה פשוטה זו מראה לנו שכרטיס מסך שמגיע ליותר מ-200 TOPS מעניין יותר ממעבד עם פחות מ-50 TOPs של ביצועים באמצעות NPU.

משאבי אדובי

הנה, יש לנו את המובן מאליו: יש כמה תכונות של פוטושופ ו Lightroom שפועלים רק על מחשבים ניידים עם כרטיסי מסך ייעודיים, כמו פילטרים להסרת רעשים, צביעת תמונות לשחור לבן ועוד.

עם כרטיסי מסך מ NVIDIA, למי יש גישה ל פוטושופ יכול להשתמש ב מסננים עצביים, המאפשרים לשנות הבעות פנים, כיוון תאורה ואפילו לגרום לאנשים להיראות צעירים יותר (או מבוגרים יותר). כל זה קורה באמצעות AI, אך עם תמיכה של הכרטיס הגרפי וללא צורך ב-NPU.

כמה כלים, כמו אדובי גחלילית ou מילוי גנרטיבי (מילוי גנרטיבי), פועלים ישירות משרתי Adobe (כמו גם Windows Copilot ו-ChatGPT, מהחברות בהתאמה).

במילים אחרות: מחשב עם NPU יכול לעזור לך לגשת לכלי תיקון תמונה, אבל כרטיס מסך ייעודי חשוב יותר לפרודוקטיביות יומיומית רבה יותר בשל עיבוד מקומי.

מסקנה

כשמגיעים לסוף ההשוואה הזו, קל להבין שמחברת או מחשב עם כרטיס מסך ייעודי יש יותר ביצועי AI מאשר מחברת עם NPU ייעודי, הנקרא AI PC. והסיבות הן רבות.

ראשית, לכרטיסי מסך יש א המספר הגבוה ביותר של TOPS ביצועים מאשר NPUs, מה שמאפשר לכמה יישומי AI לפעול באופן מקומי וללא צורך בחיבור לאינטרנט. זה מועיל במספר משימות: יצירת טקסט ותמונה, תיקון תמונות, אפקטים של שיחות וידאו ואפילו במשחקים, באמצעות תכונות כמו Ray Tracing ו-DLSS.

גורם נוסף שמועיל במחשבים עם GPU הוא הגבוה זמינות של יישומים ופונקציות עבור דגמים אלה. בנוסף ליישומים הבלעדיים של NVIDIA עצמה, שחקנים מרכזיים בשוק הטכנולוגיה כבר פיתחו (ועדיין מפתחים) דרכים לנצל את הביצועים הגבוהים של מעבדי GPU ייעודיים.

NPUs מבטיחים גישה רחבה ליכולות AI, אך בזמן פרסום התוכן הזה, ניתן היה לבדוק את הביצועים שלהם רק באפקטים של שיחות וידאו. עדיין חסרים יישומים למעבדי NPU חדשים לבדיקה, אך יש הבטחה שיישומים חדשים יתחילו להופיע במספרים גדולים.

מצד שני, נקודה חיובית מאוד לגבי אלה המעובדים עם NPU (בין אם מיוצרים על ידי קוואלקום, אינטל ou AMD) הוא שיש להם א הוצאת אנרגיה נמוכה יותר, משהו חיוני למי שצריך יותר זמן מחוץ לשקע. בדיקות הסוללה שלנו עם Galaxy Book4 Ultra הם הראו שימוש של שש שעות, משהו מדהים בהשוואה לדורות הקודמים.

מחשבים ניידים עם GPU ייעודי דורשים יותר אנרגיה לרמת הביצועים שהם מספקים, ולכן צורכים יותר סוללה ומגבילים את הזמן שלך הרחק מהשקעים.

אז הבחירה בין שני סוגי המחברת תלויה בתשובה לשאלה הבאה: האם אתה צריך מחברת שתספק ביצועי בינה מלאכותית תוך שימוש ביותר אנרגיה, או שאתה מעדיף דגם עם אוטונומיה גדולה יותר של כוח ופחות ביצועי בינה מלאכותית? התשובה לשאלה זו תהיה תלויה רבות בסוג המשתמש שאתה, למעשה.

אם אתה אדם שלא היה משתמש במשאבי AI כל כך הרבה ומעדיף שיהיה לך מחברת כזו משתמש מעט באנרגיה, הבחירה היא מחברת עם מעבד בעל NPU. עכשיו אם אתה צריך אחד עיבוד משימות בינה מלאכותית גבוהה בחיי היומיום שלך, ההמלצה הטובה ביותר היא לבחור במחשב עם GPU ייעודי.

הבנתם את הנושא? מה הסוג האהוב עליך? עם GPU ייעודי או NPU משולב? תגיד לנו הערה!

ראה גם

NVIDIA מבקרת את מחשבי הבינה המלאכותית ואומרת כי מחברות עם כרטיסים גרפיים חזקים יותר

מי היא NVIDIA, החברה ששווה R$10 טריליון

NVIDIA מבקרת את מחשבי הבינה המלאכותית ואומרת כי מחברות עם כרטיסים גרפיים חזקים יותר

מי היא NVIDIA, החברה ששווה R$10 טריליון

עם מידע: אחסון טהור l אנליטיקה וידיה l פוגט מערכות l ASUS l צ'יל בסט l שולחן אוטומטי l PC World l Quora l NVIDIA

נסקר על ידי גלאוקון ויטל ב-18/6/24.