JN½­ÄÏ¡¤(Öйú)ÌåÓý¹Ù·½ÍøÕ¾-ÍøÒ³°æµÇ¼Èë¿Ú

  • ÔÚÏ߼ƼÛ
    ÓïÑÔ

    ÖÐÎÄ English

    ÐÂÎŶ¯Ì¬

    AI·þÎñÆ÷µÄºËÐÄÖ®GPU¼ÓËÙ¿¨

    2024.10.17

    AI·þÎñÆ÷ VS ͨÓ÷þÎñÆ÷


    ͨÓ÷þÎñÆ÷


    ͨ³£Å䱸2¸öCPU£¬¾ß±¸¸ü¼Ó×ۺϵļÆËãÄÜÁ¦¡¢´æ´¢ÄÜÁ¦ºÍÍøÂçÄÜÁ¦£¬ÒÔÂú×ã¸÷ÖÖÊý¾ÝµÄ´¦ÀíºÍ¼ÆËãÐèÇó£¬ÍùÍùÓÃÓÚ´«Í³µÄ¼ÆËãÈÎÎñºÍÍøÂçÓ¦Óᣠ


    ÎÞ±êÌâ22.png

    ͼԴ£º»ªÎª¹ÙÍø



    AI·þÎñÆ÷



    ͨ³£²ÉÓÃÒì¹¹ÐÎʽ£¬³ýÁË2¸öCPUÖ®Í⻹ÐèÅ䱸4-8ÕżÓËÙ¿¨,ÀýÈçCPU+GPU¡¢CPU+TPU¡¢CPU+ÆäËûµÄ¼ÓËÙ¿¨µÈ£¬AI·þÎñÆ÷¾ß±¸´óÁ¿µÄ²¢ÐмÆËãÄÜÁ¦£¬Òò´ËÐèÒª²ÉÓøü¸ßÐÔÄܵĴ¦ÀíÆ÷¡¢´óÁ¿µÄÄÚ´æºÍ´æ´¢×ÊÔ´ÒÔ¼°ÊÊÓÃÓÚAI¼ÆËãµÄ¼ÓËÙ¿¨¡£


    ÔÚÓ¦Óó¡¾°·½Ã棬AI·þÎñÆ÷Ö÷ÒªÕë¶Ô´óÊý¾Ý¡¢¿ÆÑ§¼ÆËã¡¢È˹¤ÖÇÄܵȼÆËãÃܶȽϸß¡¢Êý¾Ý´¦ÀíÅÓ´óµÄ³¡¾°¡£ 


    ÎÞ±êÌâ333.png

    ͼԴ£º»ªÎª¹ÙÍø


    GPU¼ÓËÙ¿¨ÊÇAI·þÎñÆ÷µÄ¹Ø¼ü


    GPU¼ÓËÙ¿¨£¨OAM)£¬Ö÷ÒªÓÉGPUоƬ¡¢ÄÚ´æÐ¾Æ¬¡¢µçÔ´Ä£¿é¡¢É¢ÈÈÆ÷µÈ²¿¼þ×é³É£¬Í¨¹ýPCBÀ´Á¬½ÓºÍ´«ÊäÐźÅ¡£


    GPU¼ÓËÙ¿¨¿ÉÒÔ·ÖΪÁ½ÖÖÀàÐÍ£ºSXM°æ±¾ºÍPCIE°æ±¾¡£SXM°æ±¾ÊÇָʹÓÃNVIDIA¹«Ë¾¿ª·¢µÄSXM½Ó¿ÚÁ¬½ÓGPUоƬºÍÖ÷°åµÄ¼ÓËÙ¿¨£»PCIE°æ±¾ÊÇָʹÓñê×¼µÄPCIE½Ó¿ÚÁ¬½ÓGPUоƬºÍÖ÷°åµÄ¼ÓËÙ¿¨¡£


    0da2ddb428f26.png

    SXM°æ±¾ VS PCIE°æ±¾


    SXM°æ±¾Ïà±ÈPCIE°æ±¾¾ßÓиü¸ßµÄ´ø¿íºÍ¸üµÍµÄÑÓ³Ù£¬µ«Ò²ÐèÒª¸ü¸ß¼¶±ðµÄPCBºÍÉ¢ÈÈϵͳ¡£


    GPU¼ÓËÙ¿¨ÊÇĿǰPCBÐÐÒµÖи߶ËÇÒ°º¹óµÄ²úÆ·Ö®Ò»£¬¶ÔÖÆÔ칤ÒÕÒªÇó·Ç³£¸ß£¬Ò»°ã»áÓõ½5-7½×HDI£¬²ãÊýÔÚ20-26²ã¡£


    GPU¼ÓËÙ¿¨¶ÔPCBµÄÒªÇóÖ÷ÒªÓÐÒÔϼ¸µã£º


    BGAоƬ¸ßÃܶȲ¼¾Ö

    GPUºÍÄÚ´æBGAоƬÓкܶàÒý½ÅºÜ¶à£¬ÐèÒª¶à²ãºÍ¶à½×HDI¹¤ÒÕÀ´ÊµÏÖ»¥Áª¡£


    ¸ßËÙÐźŴ«Êä

    ÓÉÓÚGPU¼ÓËÙ¿¨ÉÏÓкܶà×é¸ßËÙÐźţ¬ÎªÁ˱£Ö¤ÐźŵĵÍËðºÄ´«ÊäÐèҪѡÔñ¾ßÓнϵ͵Ľéµç³£Êý£¨Dk£©¡¢½éµçËðºÄ£¨Df)¡¢±íÃæ´Ö²Ú¶È£¨Rz£©µÈ²ÎÊýµÄ¸ßËÙ°å²Ä½øÐмӹ¤¡£


    ¿É¿¿ÐÔ

    ÓÉÓÚGPU¼ÓËÙ¿¨ÐèÒª³¤ÆÚÎȶ¨ÔËÐУ¬Òò´ËÔÚÑ¡Óðå²ÄµÄʱºòÐèÒª°å²Ä¾ßÓнϸߵĵ¼ÈÈϵÊý£¨K)ºÍ½ÏµÍµÄÈÈÅòÕÍϵÊý£¨CTE£©±£Ö¤PCBµÄÈÈÎȶ¨ÐÔ¡£


    ͬʱÐèÒª°å²Ä¾ßÓнϸߵIJ£Á§»¯×ª±äζȣ¨Tg)¡¢½ÏµÍµÄË®·ÖÎüÊÕÂÊ£¨MOT)¡¢½ÏÇ¿µÄ»úеǿ¶ÈºÍÄÍ»¯Ñ§¸¯Ê´ÐÔ¡£


    666666.png

    7½×HDI 26²ã GPU¼ÓËÙ¿¨£¨¾Ö²¿Í¼£©

    JN½­Äϵç·Éú²ú


    GPUÄ£×é°åÊÇGPU¿ÉÀ©Õ¹µÄ¹Ø¼ü


    GPUÄ£×é°å£¨UBB)£¬¼´Unit Base Board£¬ÓÃÓÚ´îÔØ¶à¸öGPUÕûºÏΪ¾ØÕóƽ̨£¬ÎªGPUÖ®¼äºÍGPUÓëCPUÖ®¼ä£¬Ìṩ¸ßËÙµÄÊý¾Ý½»»»ÄÜÁ¦¡£


    GPU-Board-Components.png

    GPUÄ£×é°å£¨UBB) Óë GPU¼ÓËÙ¿¨£¨OAM£©

    The NVIDIA DGX A100 GPU Board


    GPU¼ÓËÙ¿¨£¬ÊÇÒ»ÖÖ»ùÓÚ¿ª·Å±ê×¼£¨Open Accelerator Module£©Éè¼ÆµÄGPUÄ£¿é£¬¿ÉÒÔ²åÈëµ½GPUÄ£×é°åÉÏ¡£


    GPUÄ£×é°å£¨UBB) ¶ÔPCBµÄÒªÇóÖ÷ÒªÓÐÒÔϼ¸µã£º


    ²ãÊý

    ÓÉÓÚGPUÄ£×é°åÐèҪͨ¹ý½»»»Ð¾Æ¬Á¬½Ó¶à¸öGPU¼ÓËÙ¿¨£¬²¢ÇÒÐèÒª¶à¸öµçѹµÄµçÔ´·ÖÅäÍøÂç(PDN)£¬Òò´Ë²ãÊýÒ»°ãÔÚ16²ãÒÔÉÏ¡£


    ¿×½á¹¹

    ÓÉÓÚGPUÄ£×é°åµÄÃæ»ý±È½Ï´ó£¬Òò´Ë¿ÉÒÔÖ±½ÓʹÓÃͨ¿×À´ÊµÏÖ²»Í¬²ãÖ®¼äµÄ»¥Áª£¬Õë¶Ô¸ßËÙÐźŵĹý¿×¿ÉÒÔʹÓñ³×깤ÒÕÀ´¼õÉÙstub´øÀ´µÄÐźŷ´Éä¡£


    ¸ßËÙÐźŴ«Êä

    GPUÄ£×é°åÉϵĽ»»»Ð¾Æ¬ºÍGPUÄ£×éÖ®¼äÓдóÁ¿µÄ¸ßËÙÐźÅÏߣ¬ÎªÁ˱£Ö¤ÐźŵĵÍËðºÄ´«Êä°å²ÄÐèҪѡÔñPPOµÈ¸ßÐÔÄÜÊ÷Ö¬²ÄÁÏ¡£


    ÈÈÎȶ¨ÐÔ

    GPUÄ£×é°åÓдóÁ¿µÄµçÔ´·ÖÅäÍøÂç(PDN)£¬Í¬Ê±»¹ÒªÊܵ½¶à¸öGPUÄ£×éºÍCPUĸ°æµÄÈÈ´«µ¼£¬ÐèҪѡÔñÓнϸߵĵ¼ÈÈϵÊý£¨K) ºÍ½ÏµÍµÄÈÈÅòÕÍϵÊý£¨CTE£©µÄ°å²Ä¡£


    AI·þÎñÆ÷µÄCPUĸ°å


    CPUĸ°å×é¼þ°üÀ¨CPU¡¢CPUÖ÷°å¡¢ÄÚ´æÌõ¡¢PCIe½»»»»ú¡¢Íø¿¨¡¢À©Õ¹¿¨ºÍ´æ´¢°å¡£ÒÔDGX A100 CPUĸ°åΪÀý£º

    DGX-A100-CPU-motherboard.png

    DGX A100 CPUĸ°å

    ͼԴ£ºfibermall


    CPUÖ÷°å

    ¸ºÔð°²×°CPUоƬ¡¢PCIE SwitchоƬ¡¢TPMÄ£¿éÒÔ¼°¸÷ÖÖ¹¦ÄÜ¿¨£¬CPUÖ÷°åÖ§³ÖAMD Rome 64ºË CPUºÍPCIE 4.0×ÜÏߣ¬PCB²ãÊýÒ»°ãΪ12-16²ã£¬²ÉÓÃͨ¿×Éè¼Æ£¬Ê¹ÓõÍËðºÄ°å²Ä¡£


    CPUÄÚ´æÌõ

    32¸öÄÚ´æÌõ£¬×î´óÖ§³Ö2TB RAM¡£


    Íø¿¨

    Mellanox ConnectXϵÁÐÓÐ10ÖÖÐͺţ¨8¸öµ¥¶Ë¿Ú200Gb/s IBºÍ2¸öË«¶Ë¿Ú200Gb/sÒÔÌ«Íø£©¡£


    Riser¿¨

    ÓÃÓÚÀ©Õ¹PCIe½Ó¿Ú¡£


    Ó²Å̰å

    ×°ÓÐÁ½¸ö 1.92TB M.2 NVMe Ó²ÅÌ¡£


    ÎÄÕ²ο¼À´Ô´£º

    Breaking down the Five Key Components of an AI Server-fibermall

    AI·þÎñÆ÷/EGSƽ̨Éý¼¶À­¶¯¸ßËÙPCBÐèÇ󣬸ßËÙPCB²úÒµÁ´½âÎö-°²ÐÅ֤ȯ

    ÉùÃ÷£ºÎÄÕÂÄÚÈÝÕûÀí×ÔÍøÂ繫¿ªËز쬰æÈ¨¹éÔ­×÷Õ߯½Ì¨ËùÓУ¬½öÓÃÓÚÐÅÏ¢·ÖÏí£¬ÈçÓÐÇÖȨÇëÁªÏµÉ¾³ý¡£



    ÉÏÒ»Ìõ£º µç¶¯´¬²°²úÒµ»¯»úÓö£ºÈýµçϵͳÓë²¹ÄÜÉèÊ©

    ÏÂÒ»Ìõ£º ÈçºÎÉè¼Æ5GºÁÃײ¨»ùÕ¾£¿

    ·µ»ØÁбí
    ·Ö¹«Ë¾£ºµÂ¹úJN½­ÄÏ  |  µÂ¹úJN½­ÄÏ£¨¹¤³§£©  |  ÃÀ¹úJN½­ÄÏ
    °æÈ¨?2025 JN½­Äϵ緿Ƽ¼¹É·ÝÓÐÏÞ¹«Ë¾±£ÁôËùÓÐȨÀû. ÔÁICP±¸05084072ºÅ     ¼¼ÊõÖ§³Ö£ºÉ³Ä®·ç
    ¡¾ÍøÕ¾µØÍ¼¡¿¡¾sitemap¡¿