מחסור ב- GPU פוגע ב- Openai, מעכב את ההפעלה של Chatgpt-4.5

Openai נאלצה להדהים את שחרורו של דגם ה- GPT-4.5 החדש שלה מכיוון שהוא מחוץ לשבבי GPU (יחידות עיבוד גרפיקה). אלה משמשים להכשרת דגמים, לעבד כמויות גדולות של נתונים ולבצע חישובים מורכבים. אם אתה תוהה מדוע לא משתמשים בשבבי CPU (יחידת עיבוד מרכזית), התשובה די קלה להבנה. נתוני תהליכי GPUs בו זמנית המתאימים יותר לפעולות המטריצה ​​של AI מאשר לעיבוד הרצף המשמש את ה- CPUs.

בציוץ שפורסם על ידי מנכ"ל Openai סם אלטמן, הוא אומר שהגולגולת בדרך. למעשה, מה שאלטמן אמר היה שמאות אלפי שבבי GPU יגיעו בקרוב, והוא כנראה ישתמש בכל אחד די מהר. הדגם החדש היה זמין רק לאלה שמוכנים להפיל 200 דולר לחודש עבור גרסת ה- Pro של ChatGpt. לאחר קבלת ה- GPUs החדשים, המשתמשים ChatGpt Plus המשלמים 20 דולר לחודש יקבלו גם את היתרונות של השימוש במודל החדש.

ניגש לוולמארט כדי לאסוף עוד GPUs, בדומה לאופן שבו אתה ואני מרעננים את דיו המדפסת שלנו כשאנחנו בחוץ, זו לא אפשרות כאן. זו הסיבה ש- Openai בוחנת לפתח שבבים משלה אשר ישאירו אותו פחות פגיע לרמות מלאי משתנות ב- NVIDIA.

באלטמן דיבר על המודל החדש של GPT-4.5 בציוץ שלו, מציין כי זה לא מודל הנמקה ולא יקבע רשומות מדד חדשות. הוא ממשיך ואומר שמבחינת GPT-4.5, "זה אינטליגנציה מסוג אחר ויש לזה קסם שלא הרגשתי קודם. ממש נרגש מאנשים לנסות את זה!"

אלטמן אכן מזהיר כי GPT-4.5 הוא "דגם יקר ענק" שעולה 75 דולר למיליון אסימוני קלט ו -150 דולר למיליון אסימוני תפוקה. לשם השוואה, GPT-4O עולה רק 2.50 דולר למיליון אסימוני קלט ו -10 דולר למיליון אסימוני תפוקה. אסימון הוא יחידת טקסט שיכולה להיות אות יחידה, מילה יחידה או אפילו פיסוק. דגמי שפה גדולים (LLM) מפרקים טקסט לאסימונים לפני שעיבדו אותו. השווה את העלויות של GPT-4.5 לזו של GPT-4O שעולה הרבה פחות 2.50 דולר למיליון אסימוני קלט ו -10 דולר למיליון אסימוני תפוקה.

אם אתה תוהה איך NVIDIA הפכה ליקירת וול סטריט העולה ב -1,748.96% מדהימים בחמש השנים האחרונות, זו התשובה שלך. שום דבר לא חם יותר ברחוב ההוא אנו מכנים קיר מאשר AI והביקוש לשבבי הדגל של NVIDIA צומחים במהלך השנים האחרונות.