Künstliche Intelligenz / Architekturen / Hybrid
Hybride künstliche Intelligenz: Die Benutzeroberfläche bei Microsoft, sensible Daten in Ihren Räumlichkeiten
Die in der Praxis am häufigsten verwendete Einteilung – und die einzige, bei der eine Grenze über einen längeren Zeitraum hinweg beibehalten werden muss.Ihre Mitarbeiter arbeiten unter Teams und melden sich mit Entra ID. Ihre sensibelsten Dokumente, Ihr Forschungskorpus oder Ihre umfangreichsten Datenbestände dürfen Ihr „ datacenter “ nicht verlassen. Bei der Hybridlösung verbleibt das eine bei Microsoft und das andere in Ihren Räumlichkeiten, und beide werden durch klar definierte Regeln miteinander verbunden: Was darf passieren, was nicht und wer ist dafür verantwortlich.
Warum die meisten Projekte letztendlich hybride Formen annehmen
Selten ist dies von vornherein beabsichtigt. Drei Situationen führen dazu, und sie treten in fast allen Unternehmen mit mehr als fünfzig Mitarbeitern auf.
Nicht alle Daten weisen denselben Sensibilitätsgrad auf.
Interne Abläufe, Briefvorlagen und Produktdokumentationen können über einen Online-Dienst eingesehen werden. Kundenakten, Pläne und Suchergebnisse hingegen nicht. Ein einziger Ort für alles zwingt dazu, die strengste Einschränkung für das Gesamtpaket zu wählen – und für Dokumente zu zahlen, die dies gar nicht erforderten.
Man entscheidet nach Gefühl, nicht nach Prinzipien.
Die Benutzeroberfläche und das Corporate Design sind bereits bei Microsoft vorhanden
Ihre Teams öffnen morgens Teams , melden sich über Entra ID an und suchen in SharePoint. Würde man ihnen eine zweite Benutzeroberfläche für den lokalen Assistenten aufzwingen, würde man die Hälfte der Anwendungsfälle verlieren. Der hybride Ansatz belässt den Einstieg dort, wo die Nutzer sind, und verlagert nur das, was verlagert werden muss.
Die Akzeptanz entsteht dort, wo die Menschen bereits arbeiten.
Aufgrund des hohen Datenvolumens sind einige Berechnungen online zu teuer
Jede Nacht Millionen von Seiten erneut zu lesen oder pro Minute Hunderte von Abfragen in einem Korpus zu bearbeiten, ist auf einem Server in Ihren eigenen Räumlichkeiten kostengünstiger als bei einer Abrechnung pro Abfrage. Doch die Konversation selbst, die Koordination und die Funktionen Microsoft 365 sind online nach wie vor günstiger. Die Schwelle wird Funktion für Funktion berechnet.
Die Kostengrenze spielt eine ebenso große Rolle wie die Vertraulichkeit.
Wo verläuft die Grenze bei der gängigsten Einteilung?
Ein Assistent in „ Teams “, dessen Korpus und Modell die „ datacenter “ nicht verlassen. Hier ist, was auf jeder Seite lebt und was dazwischen liegt.
Der Einstieg, die Identität, die Inszenierung
- Teams und Microsoft 365: Die Benutzeroberfläche, auf der die Frage gestellt wird und die Antwort angezeigt wird.
- Entra ID : Wer ist die Person, zu welchen Gruppen gehört sie, was darf sie lesen?
- Copilot Studio oder Microsoft Foundry: Der Agent, der die Frage entgegennimmt, entscheidet, wo gesucht werden soll, und formatiert die Antwort.
- Nicht vertrauliche Dokumente: Verfahren, Dokumentation, Vorlagen, die bereits SharePoint und vor Ort eingesehen werden.
Sensible Daten, Dokumentenindex, Schlussfolgerung
- Das vertrauliche Archiv und sein Verzeichnis: Verträge, Akten, Pläne, Ergebnisse – die nirgendwo anders kopiert wurden.
- Die Literaturrecherche: Die relevanten Passagen werden vor Ort unter Berücksichtigung der Urheberrechte der jeweiligen Person Entra ID gefunden.
- Das Modell, das diese Passagen vorliest: Foundry Local oder ein Modell mit offenen Gewichten auf einem Server mit Grafikprozessoren.
- Die Zeitungen: Wer hat was gefragt, und was wurde als Antwort gelesen?
Die Frage und die Antwort – nicht die Dokumente
Die Anfrage des Nutzers gelangt zusammen mit seiner Identität zu Ihnen; die Antwort wird zusammen mit den angegebenen Quellen zurückgesendet. Die Dokumente, der Index und das Modell bleiben unverändert. Dieser Satz ist die Grenze selbst: Er ist in der Architektur verankert und lässt sich in den Protokollen nachverfolgen.
Anwendungsfälle, die dies rechtfertigen
Vier Fälle, in denen ein hybrider Ansatz empfehlenswert oder naheliegend ist, wobei jeweils angegeben wird, was bei Microsoft und was in Ihren Räumlichkeiten verbleibt.
Unternehmensassistent in Privatunterkunft
Teams Um die Frage zu stellen: Entra ID für die Rechte; den Textkorpus und die Vorlage finden Sie unter datacenter.
MöglichKundenservice und Kontaktzentrum
Die Gesprächsaufzeichnung im „ Dynamics 365 “ Contact Center; die Aufzeichnungen und deren Transkription in Ihren Räumlichkeiten, wenn sie dort verbleiben müssen.
MöglichIntelligente Dokumentenverarbeitung
Der Workflow und die Validierung in „ Power Platform “; das Lesen von regulierten Dokumenten in Containern in Ihren Räumlichkeiten.
MöglichPrivater RAG
Standardmäßig vollständig lokal; hybrid, wenn die Schnittstelle „ Teams “ und die Microsoft-Orchestrierung beibehalten werden sollen.
Überwachung von Anlagen
Sensoren und Vorverarbeitung vor Ort; historische Daten und Modelle im Zentrum.
Assistent für private Entwicklungsprojekte
Der Editor und die Unternehmensauthentifizierung; das Codemodell auf Ihren Grafikprozessoren.
Was der Hybridbetrieb auf lange Sicht kostet
Das ist die häufigste Anordnung und die, bei der man am leichtesten vom Kurs abweichen kann. Vier Punkte, die beim Ausrichten eingestellt werden, da sie sich anschließend im Flug von selbst anpassen.
Die Grenze verschiebt sich, wenn niemand sie bewacht
Eine Anfrage an eine Abteilung, eine Ausnahme für ein Projekt, eine Abkürzung, um schneller voranzukommen: Nach einem Jahr sind sensible Dokumente durchgesickert, ohne dass dies von irgendjemandem beschlossen worden wäre. Die Grenze wird in einem Dokument festgehalten, in den Protokollen überprüft und vierteljährlich erneut durchgesehen.
Die Verbindung zwischen den beiden wird kritisch
Wenn sich die Schnittstelle bei Microsoft und das Modell in Ihren Räumlichkeiten befindet, führt ein Verbindungsabbruch zum Stillstand des Assistenten. Die Verbindung wird entsprechend dimensioniert und bei Bedarf doppelt ausgeführt, und das Verhalten im Falle eines Verbindungsabbruchs wird festgelegt: Wie reagiert der Agent, wenn er Ihre Räumlichkeiten nicht mehr abfragen kann?
Zwei Betriebe, eine gemeinsame Verantwortung
Microsoft übernimmt seinen Teil; Ihr Teil – der Server, das Modell, der Index, die Protokolle – muss von jemandem übernommen werden. Wir können dies im Rahmen unseres Outsourcing-Angebots übernehmen oder Ihr Team entsprechend schulen. Was nicht funktioniert, ist, keine Entscheidung zu treffen.
Die Rechte müssen auf beiden Seiten dasselbe besagen
Entra ID ist die Quelle. Wenn sich bei Microsoft eine Gruppe ändert, muss die Suche in Ihren Räumlichkeiten dies innerhalb einer Minute erkennen, da sonst eine Person, die ein Projekt verlassen hat, weiterhin über den Assistenten auf die Dokumente dieses Projekts zugreifen kann. Dies ist ein Integrationspunkt, der vor der Freischaltung getestet wird.
Was eine Hybridarchitektur am Laufen hält
Die Technologien kommen erst an letzter Stelle. Auf beiden Seiten der Grenze setzen wir sie je nach Situation ein.
Teams, Microsoft 365, Entra ID
Die Benutzeroberfläche, die Ihre Teams bereits nutzen, und die Identitätsverwaltung, die festlegt, wer was lesen darf. Das Hybridmodell ersetzt diese nicht, sondern lässt sich in sie einbinden.
Copilot Studio und Microsoft Foundry
Der koordinierende Sachbearbeiter: Er nimmt die Anfrage entgegen, veranlasst die Recherche in Ihren Räumlichkeiten und formuliert die Antwort unter Heranziehung seiner Quellen. Sein Aufgabenbereich und seine Befugnisse sind in einer Stellenbeschreibung festgehalten.
Azure Bogen
So können Sie von Azure Servern und Containern, die in Ihren Räumlichkeiten laufen: gleiche Regeln, gleiche Protokolle, gleiche Updates, ohne dass Daten verschoben werden müssen.
Azure „Local“ und „Foundry Local“
Die Microsoft-Basis in Ihrem „ datacenter “ sowie lokale Inferenz auf einem Arc-aktivierten Kubernetes-Cluster – in dieser Variante bei Microsoft als Vorabversion verfügbar, mit der Möglichkeit, den Vorgang fortzusetzen, falls die Verbindung unterbrochen wird.
Das lokale Dokumentenverzeichnis
Der Index Ihres Korpus, der vor Ort erstellt und abgefragt wird und die für die Menschenrechte relevanten Passagen anzeigt. Edge RAG auf Azure Local oder gegebenenfalls eine auf Open-Source-Komponenten basierende Lösung.
Dell PowerEdge mit Grafikprozessoren, Speicher von Dell
Der Server, auf dem das Modell und der Index laufen, ist auf die am Prototyp gemessene Auslastung ausgelegt. Er wurde vor der Auslieferung vorbereitet, angeschlossen und in Betrieb genommen.
Die Fähigkeiten vonAzure Arc, vonAzure Local und von Foundry Local werden von Microsoft dokumentiert; die der „ PowerEdge “-Server von Dell Technologies. Sie werden vor jedem Angebot erneut überprüft, da die von uns gezogene Grenze davon abhängt, was die einzelnen Komponenten in dem jeweiligen Quartal leisten können.
So gehen wir vor
Ein Hybridprojekt lässt sich durch die Grenze definieren. Alles andere ergibt sich daraus – einschließlich der Ausrüstung.
Die Datenkarte und die Grenze
Welche Dokumente, welche Vertraulichkeitsstufe, welche Zugriffsrechte, welche Mengen. Und dann die Abgrenzung: Was verbleibt bei Microsoft, was verbleibt in Ihren Räumlichkeiten, was wird übertragen, in welche Richtung.
Das ist die Hälfte des Projekts, und die einzige Entscheidung, die man später nicht mehr rückgängig machen kann.
Der Prototyp, von beiden Seiten
Ein Agent unter Teams, ein Auszug aus dem Korpus in Ihren Räumlichkeiten auf vorhandener oder ausgeliehener Hardware, etwa zwanzig Nutzer, drei Wochen. Wir messen die Genauigkeit, die End-to-End-Latenz und die Belastbarkeit der Verbindung.
Architektur, Hardware, Integration
Der Server und der Speicher, die auf den Prototyp ausgelegt sind, Azure Steuerbogen, Entra ID , verbunden mit der lokalen Suche, Protokolle, die die Grenze belegen.
Industrialisierung und Ausbeutung im Alltag
Schrittweise Öffnung, Überwachung auf beiden Seiten, vierteljährliche Überprüfung der Grenze und der Reaktionen. Durch uns oder durch Ihr Team.
Der Umfang wird vor Beginn festgelegt. Was wir übernehmen, was Sie selbst übernehmen, der geplante Rücklauf und die klar definierte Grenze. Dieselben Ingenieure begleiten Sie von der Datenkarte bis zum täglichen Betrieb.
Die dazugehörigen Seiten
Die beiden Komponenten des Hybridsystems und die Seite, die sich mit der hybriden Infrastruktur im weiteren Sinne befasst.
Bei Microsoft: Wenn es die richtige Antwort ist
Die Online-Komponente des Hybridmodells: Copilot, „ Copilot Studio “, Foundry und das, was Ihre Lizenzen bereits beinhalten.
Zur Seite On-premisesIn Ihren Räumlichkeiten: Daten, Modelle und Berechnungen
Der lokale Anteil des Hybrids: Was „alles lokal“ erfordert und welche Technologien dafür sorgen, dass es funktioniert.
Zur Seite Hybride InfrastrukturWas in Ihren Räumlichkeiten bleiben muss und was dort keinen Platz mehr hat
Die gleiche Logik gilt auch für Server, Verzeichnisse und Datensicherungen – also die Infrastruktur, auf der die hybride künstliche Intelligenz aufbaut.
Zur Seite PlattformWenn sich mehrere Dienste die lokale Hälfte teilen
Eine gemeinsame, verwaltete und überwachte Infrastruktur statt eines Servers pro Anwendungsfall.
Zur Seite Azure Lokal auf DellDas Microsoft-Ökosystem in Ihrem datacenter
Die für Azure Lokal: die Basis der lokalen Hälfte.
Zur Seite Der VergleichsrechnerWelche Architektur passt zu Ihrem Projekt?
Sieben Fragen, eine vorläufige Antwort und die vier Architekturen in ein und derselben Zeile.
Zur SeiteSprechen wir über Ihre Grenze
Sagen Sie uns, was veröffentlicht werden darf und was nicht
Die Dokumentgruppen, ihre Vertraulichkeitsstufe, die Personen, die Zugriff darauf haben sollen, und die Benutzeroberfläche, in der Ihre Teams arbeiten. Wir kommen auf die Grenze zurück, die wir ziehen würden, darauf, was sie durchquert, und darauf, was sich mit einem dreiwöchigen Prototyp auf beiden Seiten messen ließe.
Was wir anbieten, ist ein Treffen mit den Ingenieuren, die die Arbeit übernehmen werden. Die Datenkarte, die Abgrenzung und der Prototyp sind Teil des Projekts. Die vorhergehende Besprechung kostet hingegen nichts.
Renens, Sion, Châtel-Saint-Denis
Microsoft Solutions Partner und Dell Technologies Gold Partner : auf beiden Seiten der Grenze, mit demselben Ansprechpartner.
Renens VD +41 21 806 37 15
Sion VS +41 27 552 00 22
Châtel-Saint-Denis FR +41 26 322 59 05