Künstliche Intelligenz / Architekturen
Welche Architektur eignet sich für Ihr KI-Projekt?
Bei Microsoft, in Ihren Räumlichkeiten, im Hybridmodus oder direkt am Gerät: Zuerst die Kriterien, dann eine vorläufige Antwort.Die Frage, die uns gestellt wird, lautet: „ cloud oder lokal?“. Das ist fast immer die falsche Frage. Die richtigen Fragen lauten: Wo befinden sich Ihre Daten, wer darf sie einsehen, wie schnell muss die Antwort kommen, und was passiert, wenn die Verbindung abbricht? Sieben Fragen reichen aus, um eine Orientierung zu finden, und eine der möglichen Antworten ist, gar nichts aufzubauen.
Drei Fehler, die schon vor der ersten Zeile Code gemacht werden
Das sind keine technischen Fragen. Es hängt mit der Reihenfolge zusammen, in der die Fragen gestellt werden, und die Entscheidung für die Architektur kommt fast immer zu früh.
Die Entscheidung über die Unterkunft treffen, bevor die Daten vorliegen
Man entscheidet sich aus Vorsicht für „lokal“ oder aus Gewohnheit für „online“, bevor man überhaupt geprüft hat, wo sich die Dokumente befinden, wer darauf zugreift und welche davon tatsächlich nicht vertraulich sind. Der Ort lässt sich aus den Daten ableiten, nicht umgekehrt.
Die Einstufung als vertrauliches Dokument wird von Dokument zu Dokument entschieden.
Den Server mitzählen, den Betrieb außer Acht lassen
Eine Plattform in Ihren Räumlichkeiten besteht aus einem Server mit Grafikprozessoren, aber vor allem aus einer Person, die die Modelle aktualisiert, die Kosten im Auge behält und auch an einem Sonntag eingreift. Diese Position ist im Kostenvoranschlag für die Hardware nicht aufgeführt.
Die Miete für die Räumlichkeiten wird monatlich gezahlt, nicht einmalig.
Zu glauben, dass der Online-Service immer günstiger ist
Bei geringem Aufkommen, ja. Ab einer bestimmten Anzahl von Abfragen pro Tag oder wenn monatlich Millionen von Seiten neu gelesen werden müssen, wird die lokale Berechnung kostengünstiger. Diese Schwelle wird über einen Zeitraum von drei Jahren berechnet und lässt sich nicht einfach schätzen.
Der Wendepunkt existiert, und er lässt sich beziffern.
Vier Möglichkeiten, dieselbe Lösung umzusetzen
Ein Assistent für Ihre Dokumente, die Rechnungsbearbeitung oder eine Endkontrolle können auf vier verschiedene Arten ablaufen. Jede hat ihre Vor- und Nachteile sowie bestimmte Anwendungsfälle, für die wir sie empfehlen. Weitere Informationen finden Sie auf den jeweiligen Detailseiten.
OnlineBei Microsoft
Die Daten sind bereits in Microsoft 365. Die Funktionen sind in den Lizenzen enthalten. Es muss keine Hardware gekauft werden, es gibt nichts zu betreiben, und der erste Fall ist in wenigen Wochen erledigt.
Die Kosten fallen nutzungsabhängig an und steigen mit zunehmendem Volumen. Die Daten müssen vom Dienst verarbeitet werden können. Die Latenz hängt von der Verbindung ab.
Assistenten in „ Teams “, Suche in SharePoint, E-Mail-Sortierung, Kundenservice. Alles, was bereits in Ihrer Tenant vorhanden ist.
On-premisesIn Ihren Räumlichkeiten
Es wird nichts nach außen übertragen: weder die Dokumente noch die Anfragen noch die Vorlage. Die Kosten pro Anfrage sind nach der Anschaffung der Hardware nur noch marginal. Die großen Datenmengen verbleiben in Ihren Räumlichkeiten.
Ein Server mit Grafikprozessoren, dessen Stromversorgung, Kühlung und dem damit verbundenen Betrieb. Die Modelle entwickeln sich schnell weiter; man muss mit ihnen Schritt halten.
Vertrauliche Datenbestände, Quellcode, regulierte Daten, große Dokumentenmengen oder ein Vertrag, der die Nutzung des Online-Dienstes untersagt.
HybridEin Teil bei Microsoft, ein Teil in Ihren Räumlichkeiten
Identität, „ Teams “ und die Schnittstelle verbleiben bei Microsoft; die Dokumentensuche, sensible Daten und die Schlussfolgerungen bleiben in Ihren Räumlichkeiten. Das Beste aus beiden Welten – wenn es richtig aufgeteilt ist.
Zwei Standorte, die es zu nutzen gilt, eine Grenze, die langfristig gesichert werden muss, und eine Verbindung zwischen beiden, die mittlerweile kritisch geworden ist.
Der häufigste Fall: Ein Assistent in „ Teams “, dessen Korpus und Modell die Website datacenter nicht verlassen. Oder die Verarbeitung von Dokumenten, deren vertrauliche Teile vor Ort verbleiben.
EdgeNeben der Maschine
Die Entscheidung wird vor Ort getroffen – innerhalb weniger Millisekunden, mit oder ohne Internetverbindung. Die Bilder und Messwerte werden nicht über ein Netzwerk übertragen.
Robuste Geräte in einer für sie ungünstigen Umgebung, Fernverwaltung und Vorlagen, die an jedem Standort aktualisiert werden müssen.
Kameras in einer Linie, Sensoren an Anlagen, Industrieanlagen oder abgelegene Standorte, die nicht auf das Internet angewiesen sein dürfen.
Die Unternehmensplattform
Beim dritten Prototyp ändert sich die Fragestellung: Es geht nicht mehr um die Frage „Wo funktioniert dieser Fall?“, sondern um die Frage „Welche gemeinsame, gesteuerte und überwachte Infrastruktur werden sich mehrere Dienste teilen?“. Das ist eine fünfte Antwort.
Die Kriterien, Zeile für Zeile
Acht Kriterien, vier Modelle und was jedes Kästchen für Sie bedeutet. Es gibt keine „gewinnbringende“ Spalte: Entscheidend ist die Zeile, die in Ihrer Situation am stärksten ins Gewicht fällt.
| Kriterium | Bei Microsoft | In Ihren Räumlichkeiten | Hybrid | Neben der Maschine |
|---|---|---|---|---|
| Vertraulichkeit der Daten | Verarbeitung in der Microsoft-Anwendung; Speicherort der Daten in der Schweiz muss überprüft werden | Es kommt nichts heraus | Was vertraulich ist, bleibt in Ihren Räumlichkeiten | Nichts verlässt das Gelände |
| Datenvolumen | Nutzungsabhängige Abrechnung: steigt mit dem Volumen | Unbegrenzt, sobald die Hardware bezahlt ist | Der größte Teil bleibt lokal begrenzt | Vor Ort, direkt im fließenden Wasser behandelt |
| Latenz | Hängt von der Verbindung ab, einige hundert Millisekunden | Internes Netzwerk | Je nach der angerufenen Partei | Ein paar Millisekunden |
| Konnektivität | Unverzichtbar – jederzeit | Unabhängig vom Internet | Die Verbindung zwischen den beiden wird kritisch | Weitermachen, wenn die Verbindung unterbrochen wird |
| Inferenzkosten | Am günstigsten bei geringen Stückzahlen | Am günstigsten ab einer bestimmten Anzahl von Anfragen | Der Schwellenwert wird auf lokaler Ebene berechnet | Vor Ort dimensionierte Ausrüstung |
| Integrationen | Natives mit Microsoft 365, Dynamics 365, Power Platform | Zur Anbindung an Ihre Systeme | Beides, mit einer Grenze, die es zu wahren gilt | Auf dem Weg zu industriellen Systemen und zurERP |
| Täglicher Betrieb | Unterstützt von Microsoft | Ganz Ihnen gehörend oder anvertraut | Geteilt | Aus der Ferne, Standort für Standort |
| Frist im ersten Fall | Ein paar Wochen | Einige Monate, inklusive Ausrüstung | Laut der örtlichen Zeitung | Je nach Standort und Sensoren |
Die beschriebenen Mechanismen stammen aus der Microsoft-Dokumentation und von Dell Technologies und werden vor jedem Angebot erneut überprüft. Hier werden keine Preise angegeben: Diese ändern sich vierteljährlich, und ein Fehler bei den Preisen ist genau die Art von Fehler, die dazu führt, dass man dem Rest keinen Glauben mehr schenkt.
Sieben Fragen, eine vorläufige Antwort
Antworten Sie so, wie Sie es bei einem ersten Treffen tun würden. Das Ergebnis dient als Orientierung, es legt nichts fest: Es benennt die Architektur, die wir als Erstes untersuchen würden, die damit verbundene Falle und die Seite, die als Nächstes zu lesen ist.
Was ist Ihr Anwendungsfall?
Wo befinden sich die Daten?
Können die Daten Ihre Infrastruktur verlassen?
Welches Volumen muss verarbeitet werden?
Ist eine Antwort in Echtzeit erforderlich?
Muss das System ohne Internet funktionieren?
Verfügen Sie bereits über Server mit Grafikprozessoren?
Beantworten Sie die sieben Fragen
Die Schlussfolgerung ergibt sich, wenn alle sieben Antworten gegeben sind. Sie nennt die Architektur, mit der wir uns als Erstes befassen sollten, die erste Falle und die Seite, die als Nächstes zu lesen ist.
Zunächst den Anwendungsfall identifizieren
Solange der Anwendungsfall nicht benannt ist, kann keine Architektur ausgewählt werden: Der Ort ergibt sich aus dem Problem, niemals umgekehrt. Ein halber Tag mit den Fachverantwortlichen reicht oft aus, um drei Kandidaten in die engere Wahl zu nehmen und einen davon auszuwählen.
Die erste Falle: Von der Technologie auszugehen, die man gerne ausprobieren möchte.
Die richtigen Anwendungsfälle identifizierenNeben der Maschine: Edge-KI
Ohne Internet oder wenn innerhalb weniger Millisekunden Entscheidungen über Maschinen getroffen werden müssen, muss die Verarbeitung vor Ort erfolgen. Robuste Geräte vor Ort, die ferngesteuert werden, und Modelle, die vom Zentrum aus aktualisiert werden, sobald eine Verbindung besteht.
Die erste Falle: die Umgebung – Staub, Hitze, fehlendes IT-Personal – sowie die Kosten für die Aktualisierung jeder einzelnen Website zu unterschätzen.
Zur Edge-AI-ArchitekturIn Ihren Räumlichkeiten: Private künstliche Intelligenz
Ihre Daten können nicht nach außen gelangen: Die Vorlage, die Dokumente und die Berechnung werden auf Ihrer datacenter verarbeitet. Die gesetzlichen Vorgaben haben oberste Priorität und sind nicht verhandelbar.
Die erste Falle: Den Server zu kaufen, bevor entschieden ist, wer die Plattform betreibt, die Vorlagen aktualisiert und die Kosten im Auge behält.
Zur privaten ArchitekturEine Unternehmensplattform
Vielfältige Anwendungsfälle, hohe Datenmengen oder bereits bestehende Rechenkapazitäten: Die Frage lautet nicht mehr „Wo wird dieser Anwendungsfall ausgeführt?“, sondern „Welche gemeinsame Infrastruktur werden sich mehrere Abteilungen teilen?“. Governance, Überwachung und Kosten werden ein für alle Mal festgelegt.
Die erste Falle: Jede Abteilung entwickelt ihren eigenen Prototyp, und am Ende hat man vier Plattformen und keine Nutzung.
Zur UnternehmensplattformHybrid: Die Benutzeroberfläche bei Microsoft, die Daten in Ihren Räumlichkeiten
Ein Teil der Daten kann nach außen gelangen, ein anderer Teil nicht, oder sie sind auf mehrere Standorte verteilt. Die Identitätsdaten, „ Teams “ und die Schnittstelle verbleiben bei Microsoft; sensible oder umfangreiche Daten bleiben in Ihren Räumlichkeiten. Dies ist die häufigste Aufteilung, die wir umsetzen.
Die erste Falle: eine unscharfe Grenze zwischen beiden, die sich je nach den Anforderungen verschiebt und letztendlich niemanden mehr schützt.
Zur HybridarchitekturBei Microsoft, online – und oft reicht das, was Sie bereits haben, schon aus
Ihre Daten befinden sich in Microsoft 365, sie können dort verarbeitet werden, und es besteht kein Bedarf an einer Echtzeit-Antwort. Ein Infrastrukturprojekt ist hier nicht erforderlich. Copilot in Ihren Lizenzen, ein Agent Copilot Studio oder ein Dienst Azure decken den Fall ab – vorausgesetzt, Sie haben zuvor die Zugriffsrechte bereinigt.
Die erste Falle: Einen Assistenten für einen SharePoint , dessen Freigaben noch nie überprüft wurden. Der Assistent verursacht keine Sicherheitslücken; er deckt lediglich bereits bestehende auf.
Architektur online ansehenDas Ergebnis dient nur als Anhaltspunkt. Die endgültige Entscheidung wird auf der Grundlage Ihrer tatsächlichen Daten, Ihrer Systemanbindungen und Ihres Betriebsbudgets während Ihres assessment getroffen.
Was sieben Fragen nicht entscheiden können
Drei Dinge lassen sich während Ihrer assessment anhand Ihrer Zahlen regeln. Sie zu ignorieren ist der sicherste Weg, um auf dem Papier die richtige Wahl zu treffen, in der Spielhalle aber daneben zu liegen.
Wo befinden sich die Systeme, die das Ergebnis verbrauchen?
Ein Assistent, der einen Ordner in Dynamics 365, in das „ERP “ schreiben oder einen Alarm in „ Teams “ auslösen muss, lenkt die Architektur dorthin, wo diese Systeme angesiedelt sind. Der Speicherort der Daten allein reicht nicht aus.
Die Schwelle, ab der Ihre Räumlichkeiten günstiger werden
Anzahl der Anfragen pro Tag, pro Monat aufgerufene Seiten, Minuten an Sprachaufnahmen: Diese drei Zahlen ergeben im Vergleich zu den Kosten für die Hardware und deren Betrieb einen Schwellenwert. Wir berechnen diesen vor Ihren Augen.
Wer betreut die Plattform an einem Sonntag?
Eine Infrastruktur in Ihren Räumlichkeiten oder an einem Standort erfordert jemanden, der sie aktualisiert, überwacht und bei Bedarf eingreift. Wir können das übernehmen; dies muss jedoch vor dem Kauf beschlossen und kostengerecht veranschlagt werden.
Jede Architektur im Detail
Auf fünf Seiten werden die Vorteile, die Einschränkungen, die Anwendungsfälle, die für ihren Einsatz sprechen, sowie die Technologien, auf denen sie basieren, beschrieben.
Bei Microsoft: Wenn es die richtige Antwort ist
Copilot, Copilot Studio, Microsoft Foundry, die Dienste Azure : Was mit Ihren Lizenzen geschieht und in welchen Fällen dies ausreicht.
Zur Seite On-premisesIn Ihren Räumlichkeiten: Daten, Modelle und Berechnungen auf Ihren Servern
Wenn nichts nach außen gelangen darf. Azure Local, Foundry Local: Modelle mit offenem Gewicht auf Dell-Servern PowerEdge mit Grafikprozessoren.
Zur Seite HybridDie Benutzeroberfläche bei Microsoft, sensible Daten in Ihren Räumlichkeiten
Die in der Praxis am häufigsten vorgenommene Einteilung und die Grenze, die langfristig eingehalten werden muss.
Zur Seite EdgeEdge-KI: Dort, wo die Daten entstehen
Fabrik, Lager, Geschäft, abgelegener Standort: Entscheidungen vor Ort und der Betrieb bei Ausfall der Verbindung.
Zur Seite PlattformEine gemeinsame Infrastruktur für mehrere Abteilungen
Mehrere Modelle, mehrere Fälle, eine Governance und eine Aufsicht: die Antwort auf den dritten Prototyp.
Zur Seite Ihr ProjektVon der Konzeption bis zum täglichen Betrieb
So trifft man die richtige Entscheidung bei der Architekturauswahl: anhand Ihrer Daten, gemeinsam mit Ihren Nutzern und noch bevor Sie irgendetwas kaufen.
Zur SeiteLassen Sie uns über Ihre Architektur sprechen
Ihre Antworten, Ihre tatsächlichen Daten und eine Entscheidung, die Bestand hat
Senden Sie uns Ihre sieben Antworten und zwei Größenordnungen: die Anzahl der Dokumente oder Abfragen sowie die Informationen, die nicht weitergegeben werden dürfen. Wir melden uns dann mit der Architektur, die wir in Betracht ziehen würden, der Kostenschwelle und den Kennzahlen, die zur Bestätigung gemessen werden müssten.
Was wir anbieten, ist ein Treffen mit den Ingenieuren, die die Arbeit ausführen werden. Die Berechnung des Schwellenwerts und die detaillierte Planung sind Teil des ersten assessment. Das vorhergehende Gespräch ist hingegen kostenlos.
Renens, Sion, Châtel-Saint-Denis
Microsoft Solutions Partner und Dell Technologies Gold Partner : Wir beherrschen alle vier Architekturen, und genau das macht die Beratung erst möglich.
Renens VD +41 21 806 37 15
Sion VS +41 27 552 00 22
Châtel-Saint-Denis FR +41 26 322 59 05