KI im Mittelstand: ChatGPT oder Microsoft 365 Copilot – was passt zu Ihrem Unternehmen?

Künstliche Intelligenz ist längst mehr als ein Experiment. E-Mails formulieren, Informationen zusammenfassen, Dokumente auswerten, Ideen entwickeln oder Wissen schneller finden: Viele Aufgaben im Büro lassen sich heute bereits mit KI unterstützen.

Gerade für kleine und mittelständische Unternehmen stellt sich deshalb nicht mehr nur die Frage „Brauchen wir KI?“, sondern vielmehr: Welche KI passt zu unserem Unternehmen – und wie führen wir sie sinnvoll und sicher ein?

Zwei Namen fallen dabei besonders häufig: ChatGPT und Microsoft 365 Copilot. Dazu kommen individuelle KI-Lösungen und sogenannte KI-Agenten. Doch die Systeme haben unterschiedliche Stärken.

ChatGPT: der flexible KI-Assistent

ChatGPT eignet sich vor allem für Aufgaben, bei denen Sprache, Wissen und Ideen im Mittelpunkt stehen. Ein erster Entwurf für eine Kundenmail, eine Zusammenfassung eines längeren Dokuments, neue Ideen für das Marketing oder die Strukturierung komplexer Informationen sind typische Beispiele.

Für Unternehmen ist dabei wichtig, zwischen privaten Angeboten und den Business-Produkten von OpenAI zu unterscheiden. Nach Angaben des Anbieters werden Eingaben und Ausgaben aus ChatGPT Business und ChatGPT Enterprise standardmäßig nicht zum Training der OpenAI-Modelle verwendet. Für die Unternehmensangebote stellt OpenAI zudem Vereinbarungen zur Datenverarbeitung (DPA) bereit.

Microsoft 365 Copilot: KI direkt in der Arbeitsumgebung

Wer bereits intensiv mit Microsoft 365 arbeitet, sollte sich besonders mit Microsoft 365 Copilot beschäftigen.

Der entscheidende Unterschied: Copilot kann – abhängig vom jeweiligen Produkt, der Konfiguration und den vorhandenen Berechtigungen – den Arbeitskontext aus Microsoft 365 einbeziehen. Dazu können beispielsweise Dokumente, E-Mails, Kalenderinformationen, Chats oder Besprechungen gehören. Dabei gelten die vorhandenen Microsoft-365-Berechtigungen: Copilot soll nicht einfach Zugriff auf Informationen erhalten, für die der jeweilige Benutzer keine Berechtigung besitzt.

Für ein KMU kann das interessant sein, weil die KI näher an der täglichen Arbeit sitzt. Statt Informationen erst in ein separates Werkzeug zu übertragen, kann KI direkt innerhalb der vorhandenen Microsoft-Umgebung unterstützen.

Auch beim Thema Training gibt es eine wichtige Aussage von Microsoft: Prompts, Antworten und Daten, auf die über Microsoft Graph zugegriffen wird, werden laut Microsoft nicht zum Training der zugrunde liegenden Foundation-Modelle verwendet.

ChatGPT oder Copilot – was ist für KMU besser?

Eine pauschale Antwort gibt es nicht.

Und manchmal lautet die richtige Antwort sogar: beides.

Entscheidend ist nicht, welches Produkt gerade am meisten Aufmerksamkeit bekommt. Entscheidend ist, welche Aufgaben im eigenen Unternehmen tatsächlich verbessert werden sollen.

Der nächste Schritt: KI-Agenten und eigene Lösungen

Spannend wird es, wenn KI nicht nur Fragen beantworten, sondern Teil eines konkreten Geschäftsprozesses werden soll.

Denkbar sind beispielsweise Lösungen, die Informationen aus definierten Unternehmensquellen zusammenführen, Mitarbeitende bei wiederkehrenden Abläufen unterstützen oder vorhandene Systeme in einen KI-gestützten Prozess einbinden.

Hier beginnt der Bereich individueller KI-Lösungen und KI-Agenten. Für KMU kann das interessant sein – aber nicht jeder Prozess braucht sofort einen eigenen Agenten. Häufig ist es sinnvoller, zunächst mit wenigen klar definierten Anwendungsfällen zu starten und Erfahrungen zu sammeln.

Und was ist mit der DSGVO?

Das Thema darf bei der Einführung von KI nicht fehlen.

Wichtig ist zunächst: Aussagen wie „ChatGPT ist DSGVO-konform“ oder „Microsoft Copilot ist automatisch DSGVO-konform“ greifen zu kurz. Anbieter können technische, organisatorische und vertragliche Voraussetzungen bereitstellen. Ob der konkrete Einsatz in einem Unternehmen datenschutzrechtlich zulässig ist, hängt jedoch unter anderem davon ab, welche Daten für welchen Zweck verarbeitet werden und wie die Lösung eingesetzt und konfiguriert wird.

Sowohl für entsprechende OpenAI-Unternehmensdienste als auch für Microsoft-Produkte stehen Vereinbarungen zur Datenverarbeitung zur Verfügung. Das ersetzt jedoch nicht die Prüfung des konkreten Einsatzes.

Ein weiterer praktischer Punkt wird häufig unterschätzt: Berechtigungen und Datenhygiene. Wenn eine KI vorhandene Unternehmensinformationen verwenden darf, sollte vorher klar sein, wer auf welche Informationen zugreifen kann. Gerade bei Microsoft 365 lohnt es sich deshalb, bestehende Berechtigungen und Datenstrukturen vor einer breiteren Copilot-Einführung zu überprüfen. Copilot respektiert bestehende Zugriffsrechte – gut gepflegte Berechtigungen bleiben damit eine wichtige Grundlage.

KI einführen heißt auch: Mitarbeitende mitnehmen

KI ist kein reines IT-Projekt.

Mitarbeitende müssen verstehen, wofür sie die Systeme einsetzen dürfen, welche Informationen hineingehören, wo Grenzen liegen und warum Ergebnisse weiterhin kritisch geprüft werden müssen.

Das Thema hat inzwischen auch regulatorische Bedeutung: Der EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen zur Förderung der KI-Kompetenz der Personen zu ergreifen, die in ihrem Auftrag mit solchen Systemen arbeiten. Die entsprechenden Vorgaben gelten bereits; ihre Überwachung und Durchsetzung hat 2026 begonnen.

Schulungen und klare interne Spielregeln sind deshalb keine Nebensache. Passende Angebote finden Sie bei unseren KI- und Microsoft-Schulungen.

Lieber klein anfangen – aber richtig

Für KMU muss der Einstieg in KI kein riesiges Projekt sein. Oft reichen zunächst drei Fragen:

1. Wo verlieren wir heute viel Zeit?
2. Welche Aufgaben wiederholen sich ständig?
3. Wo könnte KI unsere Mitarbeitenden sinnvoll unterstützen?

Aus diesen Antworten lassen sich konkrete Anwendungsfälle ableiten. Danach kann entschieden werden, ob ChatGPT, Microsoft 365 Copilot, eine Automatisierung oder eine individuellere KI-Lösung der richtige Weg ist.

Die Frank Miller GmbH begleitet Unternehmen bereits bei Microsoft 365, Azure, Automatisierung, Consulting und Schulungen.