Google Cloud en NVIDIA lanceren Vera Rubin-infrastructuur

Google Cloud en NVIDIA hebben de algemene beschikbaarheid aangekondigd van de A5X-instanties, die volgende maand beschikbaar komen, met een uitbreiding van de beschikbaarheid naar Europa. Deze geïntegreerde platformen zijn ontworpen voor training, inferentie en grootschalig reinforcement learning. De A5X-instanties combineren onder meer de NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs en de geavanceerde vloeistofkoelingstechnologie van Google Cloud, gericht op veeleisende inference- en reinforcement learning-werkload.

Google Cloud is van plan de infrastructuur op basis van Vera Rubin uit te breiden tot het gebruik van maximaal 960.000 Rubin GPU's op verschillende locaties. Het Londense bedrijf Ineffable Intelligence, opgericht door David Silver, de creator van AlphaGo, was de eerste klant die toegang kreeg tot de A5X-instanties. Ineffable gebruikt dit platform voor het bevorderen van grootschalig reinforcement learning en het ontwikkelen van "superlearner"-systemen die continu leren van ervaring.

De A5X-instantie ondersteunt een continue cyclus van leren door interactie, waarbij ervaringen worden gegenereerd, resultaten worden geëvalueerd en modellen worden bijgewerkt. Dit vraagt om infrastructuur die het hele proces op grote schaal kan ondersteunen. David Silver, oprichter en CEO van Ineffable, benadrukt dat het combineren van hoge rekencapaciteit en hoge bandbreedteconnectiviteit met de A5X-instantie noodzakelijk is om de schaal en ambitie van hun reinforcement learning-onderzoek te bevorderen.

Een ander voorbeeld van toepassing is WPP, een marketing- en communicatiebedrijf. Zij hebben hun creatieve agentreferentie-architectuur gedemonstreerd op de A5X-instanties door gebruik te maken van NVIDIA Nemotron-modellen en NVIDIA OpenShell. Deze technologie maakt het mogelijk om conversatieverzoeken om te zetten in complexe creatieve workflows, met een menselijke goedkeuring voor uitvoering. Bovendien zijn Google Cloud en NVIDIA van plan om NVIDIA Confidential Computing aan te bieden op bare metal-instanties en G4 VM's, waarmee klanten kunnen profiteren van vertrouwelijke inferentie en fijn afstemming.

Daarnaast onderzoeken de twee bedrijven de mogelijkheden van NVIDIA DSX MaxLPS voor energie-efficiënte implementatie van de Vera Rubin-infrastructuur, om prestaties per watt te optimaliseren en de capaciteit binnen beschikbare datacenter-energiebudgetten uit te breiden.

Lees het volledige artikel van Nvidia.