CapordiaEine Kette qualifizieren, nicht einen einzelnen Vorgang
Die NVIDIA L4 verbindet die Ada-Lovelace-Architektur mit 24 GB GDDR6. Ihre Videoverarbeitungsfunktionen können nützlich sein, wenn die Software sie nutzt. Prüfen Sie die Formate, Codecs und Parameter Ihrer Dateien in der Dokumentation Ihrer Anwendung und verwenden Sie dann eine Stichprobe aus Ihrer Tätigkeit für die Abnahme.
Unterscheiden Sie Lesen, Dekodieren, Inferenz und Erzeugen der Ausgaben. Ein auf der CPU ausgeführter Schritt oder eine Dateiübertragung kann die Gesamtzeit bestimmen. Der Test muss daher dieselben Eingaben und denselben Verarbeitungspfad beibehalten wie die künftige Arbeit des Teams.
Zwischen Durchsatz und Antwortzeit wählen
Eine Warteschlange zu verarbeitender Dateien und ein Dienst, der einzelne Anfragen beantwortet, werden nicht gleich dimensioniert. Verfolgen Sie bei der ersten die Anzahl der akzeptierten Ausgaben; beobachten Sie beim zweiten auch die Wartezeiten und die Nebenläufigkeit. Legen Sie die Aufnahmegrenzen anhand Ihrer Messungen fest und kontrollieren Sie den Speicher, wenn mehrere Anfragen gleichzeitig eintreffen.
48 GB bevorzugen, wenn der Speicher zum Bremsfaktor wird
Die L40S bietet 48 GB pro GPU und bleibt in der Ada-Familie. Sie ist eine zu prüfende Alternative, wenn das Modell oder die aktiven Daten den Rahmen der L4 überschreiten. Wenn die 24 GB ausreichen, vergleichen Sie die Optionen mit der gesamten Kette: Mehr Speicher allein bedeutet nicht automatisch eine kürzere Antwortzeit.
Dauer und Testszenario in Einklang bringen
Nutzen Sie einen Zeitraum von 3 Tagen zur Qualifizierung der Formate und der Abfolge, 7 Tage zur Beobachtung mehrerer Aktivitätsprofile oder 30 Tage für ein bereits festgelegtes wiederkehrendes Programm. Bereiten Sie bei jedem wichtigen Schritt ein Kontrollset und eine Methode zum Abrufen der Ausgaben vor.
Wählen Sie Ihre L4-Lose, die Dauer und die Umgebung und geben Sie dann die Kontaktdaten für die Verfolgung an. Halten Sie in Ihrem Projektblatt das Kriterium fest, das die Wahl begründet: verarbeitetes Volumen, akzeptable Antwortzeit oder Speicherkapazität. Das macht den Empfang leichter teilbar.