Google Cloud hat die allgemeine Verfügbarkeit seiner virtuellen TPU-Maschinen angekündigt.
Tensor Processing Units (TPUs) sind von Google entwickelte anwendungsspezifische integrierte Schaltkreise (ASICs), die zur Beschleunigung von Arbeitslasten beim maschinellen Lernen eingesetzt werden.
Mit Cloud TPU können Sie Ihre Workloads für maschinelles Lernen auf der TPU-Beschleunigungshardware des Cloud-Hosting-Riesen mithilfe der Open-Source-Plattform für maschinelles Lernen TensorFlow ausführen.
Was können virtuelle TPU-Maschinen für Benutzer tun?
Laut Google hat seine Benutzergemeinschaft virtuelle TPUs angenommen, weil sie ein besseres Debugging-Erlebnis bieten und auch bestimmte Trainingskonfigurationen ermöglichen, einschließlich verteiltem Verstärkungslernen, die mit der von Google vorhandenen UPT-Knotenarchitektur (Internet Access) nicht möglich seien .
Laut Google sind Cloud-TPUs für umfangreiche Bewertungs- und Empfehlungs-Workloads optimiert und verweisen darauf, dass Snap zu den ersten Anwendern dieser Funktion zählte.
Darüber hinaus führt Google mit der GA-Veröffentlichung von TPU-VMs eine neue TPU-Integrations-API ein, die nach eigenen Angaben ML-basierte Klassifizierungs- und Empfehlungsarbeitslasten beschleunigen kann.
Google hat hervorgehoben, wie viele moderne Unternehmen auf Ranking- und Empfehlungsanwendungsfälle wie Audio- und Videoempfehlungen, Produktempfehlungen und Anzeigenranking angewiesen sind.
Der Technologieriese sagte, TPUs könnten Unternehmen dabei helfen, einen auf tiefen neuronalen Netzwerken basierenden Ansatz zu implementieren, um die oben genannten Anwendungsfälle zu bewältigen, die seiner Meinung nach teuer und ressourcenintensiv sein können.
Google behauptet außerdem, dass seine TPU-VMs aufgrund ihrer lokalen Laufzeitkonfiguration mehrere zusätzliche Funktionen gegenüber der bestehenden TPU-Knotenarchitektur bieten, da die Eingabedatenpipeline direkt auf den TPU-Hosts laufen kann, was es Unternehmen ermöglicht, IT-Ressourcen zu sparen.
TPU VM GA Release unterstützt auch andere wichtige ML-Frameworks wie PyTorch und JAX.
Sind Sie an der Implementierung einer virtuellen TPU interessiert? Sie können einer der Schnellstartanleitungen oder Tutorials von Google folgen.