Deep-Learning-Workstation

Computing auf Cloud-Infrastrukturen ist mit vorkonstruierten Komponenten direkt verfügbar und bietet viele operative Vorteile. Die Liste der namhaften Anbieter umfasst u.a. Amazon Web Services, Google Cloud Platform und Microsoft Azure. In der Praxis ist es dennoch nützlich oder sogar unerlässlich, Hardware vor Ort zu haben. Dieser Leitfaden zeigt die Vorteile einer vor Ort verfügbaren Deep-Learning-Workstation auf und gibt Ihnen eine Starthilfe für Ihre Einkaufspläne in 2020 unter Berücksichtigung von Verfügbarkeit und Preisstruktur.

Wann eine lokale Workstation zu bevorzugen ist

Erstens: Kosten. Den Vorteil der Skalierungsflexibilität der Cloud-Infrastruktur außer Acht gelassen, kann die Durchführung von ernstzunehmenden Deep-Learning-Projekten schnell in den vierstelligen Kostenbereich gehen. In der Praxis limitiert der so erzeugte Kostendruck die Kreativität, denn Experimente sind teuer. Die Rentabilitätsschwelle einer lokalen Workstation im Vergleich zur Cloud-Nutzung wird recht schnell erreicht, in der Regel nach einigen Monaten.

Zweitens, die Verbindung mit einer Cloud-Instanz über SSH oder ein Webportal ist für den täglichen Arbeitsablauf immer noch deutlich unkomfortabler, als wenn Sie direkt mit der lokalen Workstation verbunden sind. Verzögerungen und Verbindungsabbrüche sind Teil des Arbeitsalltags für fast alle Nutzer.

Drittens bedeutet Computing auf Cloud-Servern automatisch, dass Ihre Daten auf den Servern des Cloud-Anbieters gespeichert werden. Je nach Sensitivität der zu analysierenden Daten ist dies möglicherweise keine wünschenswerte Situation oder sogar illegal. Die daraus resultierende Nichtverfügbarkeit von Daten wirkt sich als limitierender Faktor für Kreativität und schnelles Prototyping aus.

Hardwarekomponenten

Aus der folgenden Liste von Komponenten können Sie eine Workstation State-of-the-Art-Projekte zu einem akzeptablenen Preis zusammenstellen. Der Zusammenbau ist ein interessanter Teil des Prozesses. Ein Experte benötigt etwa 15 Minuten, ein Hobbybastler zwei Stunden. Personen ohne vorherige Erfahrung sollten sich ein Wochenende reservieren.

• Workstation-Gehäuse: Da die physischen Abmessungen des Gehäuses normalerweise kein begrenzender Faktor sind, empfehlen wir ein Gehäuse, das dem E-ATX-Standard entspricht. Beachten Sie, dass der gewählte Größenstandard die Optionen für die Wahl der Hauptplatine beeinflusst. Gute Wahl: Corsair Carbide Air 540.
• Netzteil: Die Grafikkarte(n) verbrauchen sehr viel Strom. Abhängig von der Anzahl der zu installierenden Karten muss das Netzteil in der Lage sein, eine ausreichende Menge an Strom zu liefern. Der Versuch, hier zu sparen, kann auf Kosten der Stabilität während der Arbeit gehen. Wenn Sie bei zukünftigen Erweiterungen auf der sicheren Seite sein wollen, nehmen Sie ein 1600-W-Netzteil. Eine hochwertigere Zertifizierung spart im täglichen Gebrauch eine nicht zu unterschätzende Menge an Energie und Kosten. Gute Wahl: Super Flower Leadex 80 PLUS Platinum 1600W.
• Hauptplatine: Nehmen Sie ein besonders zuverlässiges Mainboard der Workstation-Klasse ohne Multimedia-Ausstattung, aber mit PCI-Steckplätzen in konstantem Abstand zueinander, so dass sich alle Ihre Grafikkarten verbauen lassen. Beachten Sie die Standards: X299 für Intel-Prozessoren, X399 für AMD-Prozessoren. Gute Wahl: Asus WS X299 SAGE.
• Hauptprozessor: Ihre Wahl: Intel oder AMD. Der Vorteil der AMD-Prozessoren ist, dass sie billiger sind und mehr Threads aufweisen. Die Prozessoren von Intel bieten hingegen eine höhere Single-Thread-Leistung, die neueste Generation zudem die VNNI-Technologie. Cascade-Lake-Prozessoren erfordern möglicherweise ein Update des BIOS Ihrer Hauptplatine, was je nach Typ auch ohne installierte CPU erfolgen kann. Gute Wahl: Intel Core i9-10920X.
• Prozessorkühler: Ein passendes Kühlungssystem für Ihren Hauptprozessor. Gute Wahl: Corsair Cooling Hydro Series H100i Platinum.
• Arbeitsspeicher: Nehmen Sie 8x 16GB DDR4-RAM. Wenn Sie einen Intel-Prozessor nutzen, werden die kostengünstigsten Varianten ausreichen. Gute Wahl: 8x G.SKILL RipJaws V 16GB DDR4-3200 CL16 DIMM.
• Festplatte(n): Eine 1TB-NVMe-SSD-Festplatte für das Betriebssystem sowie zwei große magnetische Festplatten zu Speicherungszwecken. Gute Wahl: 1x SSD 1TB Samsung M.2 PCI-E NVMe 970 EVO Plus, 2x Seagate BarraCuda SATA 6G, 7200 U/min, 2 TB.
• Grafikkarte(n): In 2020 empfehlen wir eine bis vier NVidia RTX 2080 Ti. Diese Karten gibt es von einer Reihe von Anbietern, es spielt keine große Rolle, für welchen Sie sich entscheiden. Durch das Hinzufügen einer zweiten Karte wird die Leistung nicht verdoppelt, sondern etwa um die Hälfte erhöht. Um der Hitze im Inneren des Gehäuses Herr zu werden, muss die Ausführung Blower-Style gewählt werden, wenn die Workstation mehr als eine Karte enthalten soll. Gute Wahl: 1-4x ASUS GeForce RTX 2080 Ti Turbo 11G.
• Bildschirmkabel: Passende Auswahl von HDMI- und DisplayPort-Kabeln, abhängig von Konfiguration und Anzahl der anzuschließenden Bildschirme. Die ASUS-Karte verfügt beispielsweise über 2x DisplayPort und 1x HDMI.
• Bildschirm(e): Einen bis drei Bildschirme, jeweils mit Abmessungen zwischen 20 und 27 Zoll Bildschirmdiagonale.
• Peripheriegeräte: Maus, Tastatur und USB-Hub.
• Betriebssystem und Software: Die Kandidaten sind Windows 10 und Linux. Gute Wahl: Laden Sie eine aktuelle Version von Ubuntu Linux herunter und booten Sie das Image von einem USB-Stick. Die Installation ist eine recht simple Angelegenheit. Installieren Sie anschließend die erforderlichen Softwarekomponenten aus den Ubuntu-Paketquellen und dem pip-Paketmanager, u.a. Compiler, Interpreter, Python-Paketmanager, die IDE Ihrer Wahl, TensorFlow, Keras, PyTorch, das Cloud-Plattform-SDK und natürlich den Midnight Commander. Für den Fernzugriff per Kommandozeile richten Sie SSH und für den grafischen Fernzugriff xRDP via SSH-Tunnel ein.

Die Gesamtkosten für dieses System werden je nach Anzahl der enthaltenen GPUs zwischen 4000 und 7000 EUR liegen. Der Zusammenbau der Komponenten stellt für einen erfahrenen Serveradministrator kein wesentliches Hindernis dar.