Neuer Prozessor speziell für KI-Anwendungen

Die meisten KI-Berechnungen in Rechenzentren wie das Training und Re-Training von KI-Modellen laufen derzeit auf Grafikprozessoren (GPUs). Wie sich dem Namen jedoch schon entnehmen lässt, sind GPUs aber nie für KI-Anwendungen entwickelt worden. Es handelt sich um Grafikprozessoren. Graphcore hat mit seiner IPU (Intelligence Processing Unit) einen neuen Prozessor speziell für künstliche Intelligenz und maschinelles Lernen entwickelt, der nicht nur erhebliche Leistungsvorteile bei den derzeit am häufigsten verwendeten KI-Workloads bieten soll, sondern auch so konzipiert wurde, dass er sich optimal für KI-Anwendungen der nächsten Generation eignet.

GPUs eignen sich gut für datenparallele Workflows, die das Single-Instruction Multiple-Thread (SIMT)-Design nutzen können. Dagegen haben die IPUs von Graphcore ein Multiple-Instruction Multiple-Data Design (MIMD), das die gleichzeitige Ausführung vieler unterschiedlicher Instanzen unabhängig voneinander ermöglichen soll. Forscher der Universität Bristol haben zusammen mit Graphcore neue Techniken zur Verwaltung experimenteller Daten aus dem Large Hadron Collider (LHC) am CERN entwickelt. Sie konnten nach eigener Aussage bei ihren KI-Berechnungen eine bis zu 5,4-fache Beschleunigung gegenüber GPUs erreichen.

Das Graphcore Academic Programme von Graphcore soll Forscher, Professoren, Master-Studenten, Doktoranden sowie Postdoktoranden unterstützen, die Graphcore-Systeme in ihrer Forschung oder Lehre einsetzen wollen. Die Teilnehmer erhalten kostenlosen Zugriff auf Graphcore IPU-Rechensysteme, die aus 16x Mk1 GC2 IPUs auf 8x C2 PCIe-Karten in einem DSS8440-Server von Dell bestehen.

Weitere Vorteile des Programms sind der Support und regelmässige Check-ins durch das Graphcore Entwicklerteam. Weitere Details über das Graphcore Academic Programme und Informationen zur Teilnahme finden Sie her.

Das Graphcore Poplar SDK ist ein kompletter Software-Stack, der gemeinsam mit der IPU von Grund auf neu entwickelt wurde, um Graphcores Graph-Toolchain in einer flexiblen Software-Entwicklungsumgebung zu implementieren. Poplar ist laut Graphcore vollständig in Standard-Frameworks für maschinelles Lernen integriert, sodass Entwickler bestehende Modelle einfach portieren und neue Anwendungen in einer vertrauten Umgebung sofort einsetzen können.

Unterhalb dieses Frameworks befindet sich Poplar. Für Entwickler, die volle Kontrolle über die maximale Leistungsfähigkeit der IPU erhalten wollen, ermöglicht Poplar die direkte IPU-Programmierung in Python und C++.

Graphcore stellt seine Poplar-Bibliotheken (PopLibs) als Open-Source-Version zur Verfügung und bietet Entwicklern Zugriff auf über 50 optimierte Funktionen für gängige Maschinenlernmodelle und 750 Hochleistungs-Rechenelemente, um neue Ansätze für die maschinelle Intelligenz zu unterstützen. Das Unternehmen stellt auch seine TensorFlow- und PopART-APIs als Open-Source-Lösung bereit, um Entwicklern Einblick in die Integration von Frameworks in IPU-Hardwareplattformen zu geben, was die Modelloptimierung unterstützt.

Das Developer Portal von Graphcore bietet alle Informationen, die erforderlich sind, um mit dem Poplar SDK kommende Anwendungen für maschinelle Intelligenz zu erstellen. Zudem stehen Tutorials, Schulungsvideos, Benutzerhandbücher und Dokumentation bereit.