Teilen

Veröffentlicht August 13, 2022

Verfasser Solidigm Team

Artikel

Telescope points to heaven to demonstrate how DUG Technology switched from HDD to petabytes of SSD flash storage to conduct exascale computation
Telescope points to heaven to demonstrate how DUG Technology switched from HDD to petabytes of SSD flash storage to conduct exascale computation

DUG Technology: Exascale-Flash-Datenspeicher

DUG Technology wechselte basierend auf der Intel® (jetzt Solidigm™) Technik von Festplattenlaufwerken zu Petabyte an Flash-Datenspeicher.

Der Wechsel von HDDs zu SSDs

  • DUG Technology nimmt eine Vorreiterrolle beim High-Performance-Computing (HPC) ein und kombiniert innovative Hardware- und Software-Lösungen, die es den Kunden ermöglichen, große und komplexe zusammenhängende Datenmengen zu nutzen.
  • Um eine robuste und anpassungsfähige Speicherumgebung aufzubauen, die die Erweiterung in neue Märkte ermöglicht, wechselte DUG von Festplattenlaufwerken zu Petabytes an Flash-Speicher mit VAST

Solidigm SSDs helfen, seismische Daten nutzbar

zu machen  Die

seismische Analyse ist eine High-Performance-Computing (HPC)-Disziplin, die aus nichts anderem als der Reflexion von Schall zusammensetzt, was unter der Erdoberfläche liegt. Nützliche 3D-Analysen erfordern Petabytes (PB) an Daten und Tausende von leistungsstarken Computern mit riesigen Mengen an SSD-Speicher.

Die

Ölgesellschaften verfügen nicht über die notwendigen Rechenressourcen, um diese Analysen intern durchzuführen. Deshalb wenden sie sich an Unternehmen wie DUG Technology, um die Details herauszufinden.

High-Performance Computing as a Service 

DUG bezieht sich auf diese Fähigkeit als HPC-as-a-service (HPCaaS): spezialisierte, Full-Stack-Exascale-Berechnungen, die auf Anfrage verfügbar sind. Traditionell war die Computing-as-a-Service-Technologie von DUG nur für bestimmte Kunden wie große Öl- und Gasunternehmen verfügbar. Als der Markt seine Fähigkeiten erkannte, erweiterte DUG sein Angebot auf andere Branchen, die denselben Service nutzen, um eine Vielzahl extremer Rechenanforderungen zu bewältigen. DUG hat sich entschieden, Unternehmen außerhalb des Energiesektors denselben unkomplizierten Service anzubieten, der nichts weiter als die Bereitstellung der Daten erfordert. DUG wusste, dass sein Angebot an diese neuen Branchen aufgrund des speziellen DUG-McCloud-Dienstes für HPC rentabel ausfallen würde. VAST Data Universal Storage mit Solidigm Technik untermauert die DUG McCloud und ermöglichte es DUG, erfolgreich auf neue Gebiete wie den universitären Bereich, die Astrophysik, die Medizin und Genomik, die Simulation von Waldbrandverläufen und die COVID-19-Forschung vorzudringen. Um an diesen Punkt zu gelangen, musste DUG ihren Umgang mit der Speicherung grundlegend ändern. Solidigm SSDs nehmen die Herausforderung an Im ersten Jahrzehnt seines Betriebs hat DUG HDD-basierten Speicher bereitgestellt und verwaltet, um die Skalierbarkeit und Kostenersparnis zu erreichen, die seine seismischen Workloads erforderten. In dieser Zeit hat DUG seine Anwendungen gründlich optimiert, um die Möglichkeiten der Lustre-HDD-basierten Infrastruktur zu nutzen, während Sie mit ihren Grenzen arbeiten. DUG musste Kompromisse eingehen, um die Produktivität zu maximieren und gleichzeitig die Kosten zu verwalten. Wenn zum Beispiel Lustre-Dateisystem-Clients bei einem bestimmten Arbeitsablauf den maximalen Durchsatz erreichen, werden andere Benutzer, die dasselbe Dateisystem nutzen, verlangsamt. Obwohl DUG ihre Software so konzipiert hat, dass sie vor Festplattenausfällen schützt, war der wöchentliche Austausch ausgefallener Festplatten ein ständiger Dorn im Auge von DUG und trieb die Kosten sowohl für Zeit als auch für Ressourcen in die Höhe .

Neue Anwendungen für HPCaaS fordern neue Speicherlösungen

Während die Anwendungen von DUG zwar gut für Lustre und Festplattenspeicher optimiert waren, unterstützte DUG neue Anwendungen, die den Datenspeicher-I/O alle unterschiedlich handhabten. Diese Anwendungen erfordern vielseitige Speichermöglichkeiten und Mehrmandantenfähigkeit. DUG benötigte neue Lösungen, die eine breite Palette von Anforderungen im Exascale-Bereich unterstützen. DUG benötigte außerdem Speicherlösungen, die die Vielzahl der Durchsatzanforderungen für verschiedene Anwendungen handhaben könnten. DUG entschied sich für SSD-basierten Speicher, um eine höhere Leistung und Zuverlässigkeit zu erreichen. Die Umstellung auf SSDs auf Lustre wäre jedoch unerschwinglich teuer gewesen, und die Erschwinglichkeit war für DUG von größter Bedeutung. Um eine belastbare und anpassungsfähige Speicherumgebung aufzubauen, die den Ausbau in neue Märkte ermöglichte, benötigte DUG einen neuen Ansatz für die Speicherung. Lösung: VAST Data Universal Storage mit Solidigm SSDs DUG entschied sich bei der Expansion seiner Geschäftstätigkeit für VAST Data Universal Storage, um den vielfältigen Bedürfnissen neuer Marktsegmente und Kunden nachzukommen. Das „Universal Storage“-Angebot kombiniert Schnelligkeit und Umfang eines parallelen Dateisystems mit einem neuen Niveau wirtschaftlicher Flash-Technik und Mandantenfähigkeit und stellt damit für DUG einen umfassenden technologischen Fortschritt dar. Die DASE-Architektur (Disaggregated Shared Everything) von VAST Data sorgt darüber hinaus durch die Isolierung von nicht optimierten I/O-Vorgängen von anderen Mandanten für gleichbleibende Leistung.

Durch das DASE-Konzept eliminiert VAST Data die Probleme bei gleichzeitigem Zugriff auf parallelen Datenspeicher, um für bestimmte Aufgaben hohe Leistung bereitzustellen, die nicht auf Kosten anderer Workloads geht.

Neben deutlich verbesserten Leistungseigenschaften für die Kunden vereint VAST Data Zuverlässigkeit, Verwaltbarkeit und Support in einer Weise, wie sie bei der bisherigen HPC-Datenspeichertechnik nicht zu finden ist.

Skalierbarkeit im Exascale-Bereich mit DASE-Architektur von VAST Data  Die DASE-Architektur von

VAST Data bringt Skalierbarkeit im Exascale-

Bereich, was DUG in einer Architektur ermöglicht, Diese Architektur ermöglicht eine schnelle Wiederherstellung von Fehlern, da es keine Single Points of Failure gibt. Die Zuverlässigkeit der DASE-Architektur stellt sich von selbst ein: Sie ist ein direktes Resultat der effizienten Datensicherheit von VAST Data und der Zustandslosigkeit

 

der Architektur. Ab

gesehen von der Ausfallsicherheit vereinfacht VAST Data Universal Storage auch die

Bereitstellung

 

und Verwaltung. Die integrierte Scale-out-Appliance, die kontinuierlich neue Funktionen ausgibt, welche dann zur Vermeidung von Ausfallzeiten automatisch bei laufendem System appliziert werden. Überblick über VAST Data Universal Storage mit Solidigm Storage Technologies

VAST Data Universal Storage bietet einen einzigen, globalen Namensraum, so dass jede Anwendung Zugriff auf alle zugehörigen Daten für diese Arbeitslast hat. Die VAST Data Lösung kombiniert

 

  • Datenspeicherleistung reiner Flash-Technik
  • Massive Skalierbarkeit
  • Die Ökonomie des Archivspeichers
  • Die Einfachheit der Plug-and-Play-Vernetzung von Netzwerkspeicher (NAS) Solidigm SSDs bieten die Hardware-Basis für die Kosteneffizienz und Zuverlässigkeit von VAST Data Universal Storage. Solidigm kombiniert die vertikale Floating-Gate-Technologie mit der komplementären Metall-Oxid-Halbleiter-Architektur (CMOS), die die höchste Flächendichte (Gigabyte Speicher pro Quadratmillimeter) in der Branche bei gleichen Bits pro Zelle

     

    bietet.1

    Das bedeutet, dass Solidigm QLC 3D NAND SSDs nicht nur eine größere Flächendichte als die vorherige Generation von Triple-Level-Cell (TLC) Medien bieten, sondern auch eine größere Flächendichte und höhere Zuverlässigkeit als konkurrierende Quad-Level-Cell (QLC) Designs, die auf Charge-Trap-Technologie basieren.1 Die Innovationen von Solidigm in der Speicherarchit

ektur ermöglichen es der Lösung von VAST Data, kostengünstig alle Daten auf Flash-Datenträgern zu speichern.

dug-technology-article-supported-clients

Das Geschäftsergebnis

Die Kosteneffizienz und hohe Zuverlässigkeit von Intel (jetzt Solidigm) QLC-3D-NAND-SSDs bilden die Grundlage der von VAST Data implementierten Architektur zur Kostenreduzierung um bis zu 85 % gegenüber Festplattenlaufwerken (HDDs), was bedeutet, dass die auf die Kapazität bezogenen Kosten (Dollar-per-Gigabyte) denen von Systemen mit Festplatten über einen Zeitraum von etwa 10 Jahren entsprechen.2 3

Intel® Optane™ SSDs steigern zusätzlich die Schreibleistung bei Workloads, die mit VAST Data Universal Storage arbeiten. Entscheidend dafür ist, dass Intel Optane SSDs Schreibzugriffe auf den Datenspeicher puffern, was vollständige QLC-Erase-Block-Schreibvorgänge ermöglicht. Die geringe Latenz, hohe Beständigkeit und hohe Leistung bei wahlfreien 4K-Schreibvorgängen der Intel Optane SSDs trägt dazu bei, sicherzustellen, dass langfristig und kurzfristig gespeicherte Daten nicht in großen QLC-Blocks beieinanderliegen. Die Intel Optane Technik schützt Intel QLC-3D-NAND-SSDs vor ineffizientem Schreibverhalten, was ein Grund dafür ist, dass VAST Data eine 10-jährige SSD-Haltbarkeitsgarantie und zugleich die wirtschaftlichen Vorteile der kostengünstigen QLC-NAND-Technik anbieten kann.2 3

DUG Technology: Exascale-Flash-Datenspeicher