קירור מים חמים: הסטנדרט החדש לתשתיות בינה מלאכותית

  • המעבר לקירור נוזלי ישיר לשבב הוא הכרחי עקב צפיפות הספק העולה על 50 קילוואט לכל מתלה.
  • השימוש במים חמים (עד 45 מעלות צלזיוס) מאפשר ביטול השימוש במקררים ומפחית באופן דרסטי את צריכת המים והאנרגיה.
  • האינטגרציה המתואמת בין חלוקת חשמל לניהול תרמי יכולה להגדיל את תפוקת החישוב בעד 33%.

מערכות קירור עבור בינה מלאכותית

ניהול תרמי במרכזי נתונים חדל להיות פרט טכני בלבד והפך לציר המרכזי המגדיר את כדאיות הבינה המלאכותית. עם התפוצצות הבינה המלאכותית הגנרטיבית, אנו רואים ארונות תקשורת בעלי צפיפות הספק העולה על 50 קילוואט, מה שהופך את מיזוג האוויר המסורתי ללא מספק וללא מעשי לחלוטין. זה לא שינוי איטי, אלא מעבר פתאומי לקירור נוזלי ישיר של המעבד, שכבר אינו ניסוי מעבדתי אלא הבסיס לכל התקנה שרוצה להישאר תחרותית.

בתרחיש חדש זה, הקונספט של קירור מים חמים , שבו נוזל הקירור נכנס בטמפרטורות העולות על 40 או אפילו 45 מעלות צלזיוס, מחולל מהפכה בתכנון מרכזי הנתונים. זה לא רק עניין של שינוי הנוזל; זה דורש חשיבה מחודשת על הארכיטקטורה החשמלית ומערכות ההפצה. כיום, הצלחה אינה נמדדת אך ורק על ידי PUE, אלא על ידי הערכת כמות כוח המחשוב בפועל שניתן להפיק מכל קילוואט המחובר לרשת החשמל, מה שהופך את היעילות התרמית לעניין של רווחיות גרידא עבור העסק.

תשתית בינה מלאכותית למרכזי נתונים
Artaculo relacionado:
מהפכת תשתית מרכזי הנתונים של בינה מלאכותית מגדירה מחדש את המושגים אנרגיה וריבונות טכנולוגית.

הקפיצה הטכנית: למה להשתמש במים חמים?

במבט ראשון, קירור שבבים עם מים בטמפרטורה של 45 מעלות צלזיוס נשמע מטורף, כמעט כמו שימוש במי ג'קוזי, אבל כאן בדיוק טמון קסם היעילות. ההיגיון פשוט: ככל שטמפרטורת הנוזל במחזור גבוהה יותר, כך קל יותר לפלוט את החום החוצה מבלי להזדקק למדחסים או צ'ילרים זוללי אנרגיה. זה מאפשר למרכזי נתונים להשתמש במקררים יבשים בלולאה סגורה , מה שמבטל כמעט לחלוטין את התלות בקירור אידוי ומפחית את צריכת המים כמעט לאפס באקלים נוח.

כדי שזה יעבוד, חיוניים לוחות קרים מתקדמים עם מיקרו-מבנים פנימיים . רכיבים מדויקים אלה מאפשרים ל-80% עד 90% מהחום להיקלט ישירות במעבד הגרפי או במעבד. אם הלוח בינוני, המערכת נכשלת; אם הוא באיכות גבוהה, ניתן לנהל את החום ברמת השבב בצורה כה יעילה, כך שתקציב האנרגיה שהושקע בעבר בקירור האוויר יכול כעת להיות מנותב להפעלת מעבדים גרפיים נוספים , וכתוצאה מכך כוח מחשוב מוגבר והתאמה למהפכת החומרה התרמית הנוכחית.

ברית של אינטל ופוקסקון לתשתית בינה מלאכותית
Artaculo relacionado:
אינטל ופוקסקון מאחדות כוחות כדי לשנות את תשתית הבינה המלאכותית העולמית

רכיבים קריטיים: CDU וארכיטקטורת רשת

לב ליבה של מערכת זו הוא יחידת חלוקת נוזל קירור ( CDU) חכמה . יחידות אלו לא רק מזיזות את נוזל הקירור, אלא גם משמשות כמוח שמתאם את תהליך הקירור עם הארכיטקטורה החשמלית. כאשר שתי המערכות מתוכננות יחד, מושגת אמינות רבה יותר מהשבב ועד לרשת , מה שמונע מה-CDU להפוך לצוואר בקבוק תפעולי.

  • צלחות קרות: מתוכנן להתמודד עם תפוקות תרמיות של עד 1.500 וואט, תואם ל-NVIDIA, AMD או Intel Silicon.
  • יחידות CDU חכמות: הם מנהלים קצבי זרימה וקיבולות הנעות בין 105 קילוואט ל-2,3 מגהוואט.
  • סעפות מתלה: קולטי נירוסטה המבטיחים זרימה חלקה וללא דליפות בין הלוחות ל-CDU.
  • מחליפי חום בדלת האחורית (RDHx): פתרונות להסרת חום באמצעות אוויר מקורר נוזל עם הספקים של עד 75 קילוואט.

יישום טכנולוגיות אלו מאפשר קירור נוזלי להיות יעיל עד פי 3.000 מאשר אוויר בלכידת אנרגיה תרמית. יתר על כן, על ידי הפחתת רעש ופליטות פחמן, נוצרות סביבות הפעלה בנות קיימא ובטוחות הרבה יותר, מה שמפחית את התלות בתשתיות כבדות כמו מערכות CRAH מסורתיות או מעבים.

תכונות והבטחות של Intel 18a
Artaculo relacionado:
אינטל 18A: תכונות, הבטחות והשפעתה על בינה מלאכותית

השפעה כלכלית והחזון של "מפעלי בינה מלאכותית"

אנו עוברים מראייה במרכז הנתונים כחדר קירור מלא בשרתים להבנתו כמפעל תעשייתי אופטימלי . תפיסת "מפעל בינה מלאכותית" זו שואפת למקסם את ייצור האסימונים ואת אימון מודלים מסיביים. על פי נתוני התעשייה, שילוב של קירור נוזלי מתקדם יכול להביא לחיסכון באנרגיה של בין 20% ל-40% , דבר המשפיע ישירות על השורה התחתונה.

האסטרטגיה של ענקיות כמו NVIDIA, עם פלטפורמות הייחוס שלהן כמו DSX ודור Rubin, שואפת לתשתית מקוררת נוזלים לחלוטין. זה כרוך בביטול מוחלט של מאווררים פנימיים, שילוב רשתות, מחשוב וחשמל במערכת אקולוגית אחת. על ידי אופטימיזציה של התכנון התרמי, ניתן להשיג עד 33% יותר תפוקת מחשוב לכל חיבור חשמל, מה שמאפשר לארוז יותר כוח בשטח קטן יותר.

למרות שזה אולי נראה כמו תרופת פלא, המעבר ממערכת קירור אוויר מכווננת היטב למערכת קירור נוזלית כרוך בסיכונים תפעוליים ומורכבות אינטגרציה ניכרת. עם זאת, כאשר מדפים עולים על 50 קילוואט, קירור נוזלי מפסיק להיות אופציונלי . זה כבר לא מותרות עבור HPC או מחשוב מדעי, אלא דרישה הכרחית כדי לעמוד בעומס העבודה של מודלים לשפה גדולה (LLM) ללא תקלות בציוד עקב התחממות יתר או תוחלת חיים קצרה יותר.


הוסף כמקור מועדף בגוגל