Künstliche Intelligenz / Architekturen / Plattform
Eine gemeinsame Plattform für künstliche Intelligenz statt eines Prototyps pro Abteilung
Mehrere Modelle, mehrere Anwendungsfälle, eine Governance, eine Überwachung, eine einzige Basis.Der Kundenservice hat seinen Mitarbeiter, die Recherche ihren Assistenten für Ihre Dokumente, die Produktion ihre Kamerakontrolle, die technische Leitung ihren Programmierassistenten. Vier Prototypen, vier Server, vier Arten der Rechteverwaltung – und niemand, der das Ganze zusammenhält. Die Unternehmensplattform vereint all dies in einer gemeinsamen Infrastruktur – bei Ihnen vor Ort, wenn es nötig ist, bei Microsoft, wenn es möglich ist – mit einheitlicher Steuerung, Überwachung und Betrieb.
Drei Anzeichen dafür, dass es Zeit ist, sich zusammenzuschließen
Eine Plattform ist nicht der Ausgangspunkt eines KI-Projekts. Sie wird erst dann notwendig, wenn mehrere Projekte erfolgreich sind – und sich gegenseitig ins Gehege kommen.
Jede Abteilung hat ihren eigenen Prototyp entwickelt
Ein Server, der von der Produktion gesteuert wird, ein Abonnement, das vom Kundenservice abgeschlossen wurde, ein Modell, das von einem Entwickler auf einem Testrechner installiert wurde. Alle funktionieren. Keines davon wird gesichert, überwacht oder von einer dafür zuständigen Person verwaltet. An dem Tag, an dem eines davon ausfällt, stellt man fest, dass es von dreißig Personen genutzt wurde.
Vier Prototypen, kein Einsatz.
Die Rechte haben nicht überall dieselbe Bedeutung
Der Mitarbeiter der Rechtsabteilung sieht Dokumente, die der Vertriebsmitarbeiter eigentlich nicht sehen dürfte, da sie mit zwei Indizes verknüpft sind, die von zwei Teams erstellt wurden. Niemand kann für eine bestimmte Person sagen, welche Dokumente ihr von allen Mitarbeitern insgesamt angezeigt werden.
Ein Recht wird einmalig entschieden, nicht für jeden Assistenten einzeln.
Grafikprozessoren sind die Hälfte der Zeit im Ruhezustand
Der Produktionsserver läuft während der Werkstattzeiten, der Forschungsserver nachts und der Kundendienstserver zu den Bürozeiten. Drei nur zur Hälfte ausgelastete Server kosten mehr als ein einziger, der für den gesamten Bedarf ausgelegt ist und gemeinsam genutzt wird. Und die gemeinsame Nutzung muss gesteuert werden – sie lässt sich nicht einfach so improvisieren.
Das Rechnen wird verteilt, so wie es bereits bei der Virtualisierung der Fall war.
Was eine Plattform Schicht für Schicht vereint
Vom Material bis hin zu den Anwendungsfällen: acht Ebenen, die jeder Prototyp für sich durchläuft und die eine Plattform einmalig aufbaut.
Die „farbigen“ Schichten sind jene, die kein Prototyp aufbaut, und jene, die den Unterschied zwischen einer Plattform und einer Sammlung von Servern ausmachen. Sie werden vom ersten Tag an gemeinsam konzipiert.
Die Anwendungsfälle, die eine Plattform vereint
Es sind dieselben wie an anderen Stellen auf diesen Seiten. Der Unterschied besteht darin, dass sie sich den Sockel teilen – und dass das fünfte nur einen Bruchteil des ersten kostet.
Unternehmensassistent in Privatunterkunft
Ein Assistent pro Berechtigungsbereich, die alle auf denselben Vorlagen und denselben Index zurückgreifen.
Ganz nah an Ihren DatenPrivater RAG
Mehrere vertrauliche Korpora, eine einzige Suchmaschine für Dokumentenrecherchen, aufeinander abgestimmte Zugriffsrechte.
Dokumente und AutomatisierungIntelligente Dokumentenverarbeitung
Die Rechnungen aus der Buchhaltung und die Verträge aus der Rechtsabteilung werden über denselben Prozess abgewickelt, wobei zwei verschiedene Berechtigungskreise gelten.
KundenserviceKundenservice und Kontaktzentrum
Der Set-Mitarbeiter und der interne Assistent nutzen gemeinsam die Wissensdatenbank und korrigieren sich gegenseitig.
Assistent für private Entwicklungsprojekte
Das Codemodell teilt sich die Grafikprozessoren mit den anderen Instanzen, wenn diese im Ruhezustand sind.
Qualitätskontrolle per Kamera
Inferenz am Standort, Training und Lebenszyklus der Modelle auf der zentralen Plattform.
Was eine Unternehmensplattform am Laufen hält
Die Technologien kommen erst an letzter Stelle, und eine Plattform vereint viele davon. Wir stellen das Ganze so zusammen, dass je nach Bedarf bestimmte Komponenten in Ihren Räumlichkeiten verbleiben und andere bei Microsoft untergebracht werden können.
Dell AI Factory mit NVIDIA
Das „ Dell Technologies “-Programm kombiniert Server PowerEdge, NVIDIA-Grafikprozessoren und -Software sowie Speicher- und Netzwerkkomponenten in validierten Architekturen – von Allzweckservern mit einem oder zwei Beschleunigern bis hin zur XE-Reihe, die für mehrere Grafikprozessoren und eine entsprechend angepasste Kühlung ausgelegt ist. Die NVIDIA-Unternehmenssoftware ist über Dell zusammen mit den dazugehörigen Dienstleistungen erhältlich.
Was sich für Sie dadurch ändert: eine vom Hersteller geprüfte Konfiguration anstelle einer individuell zusammengestellten Lösung sowie ein einziger Ansprechpartner von der Auslegung bis zum Support – nämlich wir.
Azure Lokal und Azure Bogen
Die Microsoft-Basis in Ihrer „ datacenter “ auf validierter Dell-Hardware, gesteuert von Azure : gleiche Richtlinien, gleiche Protokolle, gleiche Updates – sowohl für die Systeme in Ihren Räumlichkeiten als auch für die bei Microsoft. Unter bestimmten Voraussetzungen gilt dies auch für den Offline-Betrieb.
Kubernetes, Foundry Local und Open-Weight-Modelle
Kubernetes verteilt die Rechenlast auf die Knoten und bedient mehrere Modelle parallel. Foundry Local auf Azure Local – derzeit als Vorschau bei Microsoft verfügbar – bietet den Microsoft-Modellkatalog und eine knotenübergreifende Planung. Offene Modelle ergänzen das Angebot, wenn es die Größe oder der Anwendungsbereich erfordert.
Microsoft Foundry, „ Copilot Studio “ und Agent 365
Was den bei Microsoft gehosteten Teil betrifft: die Plattform für Vorlagen und Agenten, die Erstellung von Agenten mit Zugriffsbereich und Berechtigungen sowie die unternehmensweite Steuerung der Agenten. Die Unternehmensplattform stellt lokale Systeme und Microsoft nicht gegeneinander – sie steuert beide gemeinsam.
Entra ID, Dell-Speicherlösungen, Datenschutz
Die eindeutige Identifikation, die Datei- und Objektspeicherung für Millionen von Indexfragmenten sowie die Sicherung, die im Falle eines Vorfalls einen Index oder ein Modell wiederherstellt. Das sind die Ebenen, die ein Prototyp außer Acht lässt, die eine Plattform jedoch nicht außer Acht lassen darf.
Die Architekturen von „Dell AI Factory with NVIDIA“, die Konfigurationen Azure „Local“ sowie die Funktionen von „Foundry Local“ werden von „ Dell Technologies “ und Microsoft dokumentiert und vor jedem Angebot erneut überprüft. Hier werden keine Leistungs- oder Preisangaben aufgeführt, da sich diese vierteljährlich ändern.
Was Sie vor einer Zusammenlegung wissen sollten
Vier Punkte, die eine Plattform, die ihren Zweck erfüllt, von einer unterscheiden, die zum fünften Prototyp wird.
Eine Plattform rechtfertigt sich durch ihre Anwendungsfälle, nicht durch sich selbst
Mindestens drei identifizierte Anwendungsfälle, von denen mindestens einer bereits im Einsatz ist, sind das Minimum. Eine Plattform, die nur „für alle Fälle“ aufgebaut wurde, wartet auf eine Nutzung, die ausbleibt, und ihre Rechenleistung bleibt ungenutzt. Wir lehnen es ab, sie ohne konkrete Anwendungsfälle zu dimensionieren.
Governance hat Vorrang vor der Hardware
Wer entscheidet, ob ein Agent erstellt werden darf, auf der Grundlage welcher Daten, nach welchem Modell und in welchem Umfang er agiert: Diese Governance-Regeln werden festgelegt, bevor der erste Server bestellt wird. Danach hat sich jede Abteilung bereits ihre eigenen Gewohnheiten angeeignet.
Das verteilte Rechnen lässt sich steuern
Gemeinsam genutzte Grafikprozessoren erfordern Prioritäten: Die Produktionssteuerung hat Vorrang vor dem internen Assistenten, der Kundenservice vor der nächtlichen Analyse. Diese Prioritäten werden festgelegt, konfiguriert und gemessen. Ohne sie wird die gemeinsame Nutzung zu einer Warteschlange.
Es muss nicht alles in Ihren Räumlichkeiten sein
Eine Unternehmensplattform kann einen Teil bei Microsoft haben – Copilot für die Büroarbeit, Dienste Azure zum Auswerten von Dokumenten – sowie einen lokalen Teil für vertrauliche Datensätze und große Datenmengen. Die Governance deckt beide Bereiche ab. Dies ist oft die kostengünstigste Architektur.
So gehen wir vor
Eine Plattform baut auf dem auf, was bereits vorhanden ist. Der erste Schritt ist eine Bestandsaufnahme, kein Konzept.
Die Bestandsaufnahme der Prototypen und Anwendungsfälle
Was bereits läuft, wo, für wen, mit welchen Daten und mit welchen Rechten. Was geplant ist. Was in Ihren Räumlichkeiten bleiben muss und was an Microsoft übertragen werden kann. Und der tatsächliche Aufwand für jeden einzelnen Fall, gemessen.
Governance und Architektur
Die Regeln: Wer erstellt was, auf welcher Grundlage, in welchem Umfang, wer überwacht. Dann die Schichten: Identität, Orchestrierung, Modelle, Suche, Überwachung. Dann die Hardware, deren Dimensionierung sich nach der Summe der Lasten und deren Prioritäten richtet.
Der Bau und die Überarbeitung der Prototypen
Die Plattform wurde montiert und an Entra ID und an Ihre Systeme angeschlossen. Anschließend werden die vorhandenen Prototypen nacheinander auf die gemeinsame Basis übertragen, zusammen mit ihren Nutzern und ohne Unterbrechung.
Der tägliche Betrieb und die folgenden Fälle
Aktualisierung der Modelle, Überwachung, Kosten pro Dienst, Überprüfung der Governance. Und die Umsetzung des folgenden Anwendungsfalls, die nun Wochen statt Monate in Anspruch nimmt.
Der Umfang wird vor Beginn festgelegt. Was wir übernehmen, was Sie beibehalten, der geplante Rückbau und die klar definierte Grenze. Dieselben Ingenieure begleiten Sie von der Bestandsaufnahme bis zum täglichen Betrieb.
Die dazugehörigen Seiten
Die Architekturen, die die Plattform vereint, und die Hardware, auf der sie läuft.
In Ihren Räumlichkeiten: Was „alles vor Ort“ bedeutet
Der lokale Teil der Plattform und die sechs Dinge, die zu einem Server gehören.
Zur Seite HybridDie Benutzeroberfläche bei Microsoft, die Daten in Ihren Räumlichkeiten
Die Grenze, die die Plattform in allen Fällen gleichzeitig regelt.
Zur Seite Dell-Server PowerEdgeDer auf Ihre Anwendungen zugeschnittene Server
Die Dimensionierungskette und die XE-Reihe für beschleunigte Berechnungen.
Zur Seite Dell-SpeicherlösungenJede Information auf der für ihn geeigneten Plattform
Datei und Objekt für Korpora und Indizes, einschließlich der damit verbundenen Reduktionsraten.
Zur Seite Dell APEXDie nutzungsabhängige Plattform
Abonnement und verbrauchsabhängige Abrechnung – wenn die Rechenkapazität ohne neue Investitionen erweitert werden können muss.
Zur Seite Ihr ProjektVon der Konzeption bis zum täglichen Betrieb
Der Weg vom ersten Anwendungsfall zur Plattform, ohne dabei einen Schritt zu überspringen.
Zur SeiteLassen Sie uns über Ihre Plattform sprechen
Sagen Sie uns, wie viele Prototypen bereits im Einsatz sind
Was bereits vorhanden ist, was geplant ist, was in Ihren Räumlichkeiten verbleiben soll und was all das heute zusammenhält. Wir kommen mit der Bestandsaufnahme zurück, die wir erstellen würden, der Aufteilung, die wir zwischen Ihren Räumlichkeiten und Microsoft vorschlagen würden, sowie dem ersten Prototyp, den wir auf der gemeinsamen Basis umsetzen würden.
Was wir anbieten, ist ein Treffen mit den Ingenieuren, die die Arbeit ausführen werden. Bestandsaufnahme, Projektleitung und Dimensionierung sind Teil des Projekts. Die vorherige Besprechung kostet hingegen nichts.
Renens, Sion, Châtel-Saint-Denis
Microsoft Solutions Partner und Dell Technologies Gold Partner. Die acht Ebenen einer Plattform – mit demselben Ansprechpartner.
Renens VD +41 21 806 37 15
Sion VS +41 27 552 00 22
Châtel-Saint-Denis FR +41 26 322 59 05

