124. AI時代のGPUクラスタ、DCネットワーク w/ markunet, aztecher_

LINEヤフーのKobayashiさん、Michishitaをゲストに、GPUネットワークやGPUクラスタの仮想化の複雑さなどについて語っていただいたエピソードです。 話したネタEthernetベースのGPUクラスタ導入による学びと展望GPUクラスタとその必要性GPUクラスタの運用上の課題自社でGPUを運用するメリットとデメリットGPUを自前で運用する際の課題と対策GPUネットワークと従来のネットワークとの違いCLOSRDMA（Remote Direct Memory Access）とその特性TCP/IPとの比較、およびRDMAの利点GPU間通信のための専用物理GPUネットワークGPUネットワークにおける輻輳制御とその課題ロスレスイーサネットRoCEv2仮想化による複雑性とネットワーク構成への影響仮想化環境でのGPUとNICの扱いJANOG55LINEヤフー Tech Blog See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.