Keine Internetverbindung
Verbindung wird wiederhergestellt …
Etwas ist schiefgelaufen!
Einen Moment Geduld, gleich geht es weiter
Betreiben Sie Sprachmodelle auf eigener Hardware, damit Ihr Team und seine Agenten KI auch für Daten nutzen können, die das Haus nicht verlassen dürfen. Danach wissen Sie, was Sie kaufen müssen und was der Betrieb kostet.
Auf der Arbeit Ihres Teams aufgebaut
Exklusiv für Ihr Team, an Terminen und in einer Länge, die zu Ihnen passen.
Jedes Modul endet mit etwas, das die Teilnehmenden am Montagmorgen in ihrer eigenen Arbeit und mit ihren Tools wiederholen können, damit das Team mehr schafft, ohne dass jemand dazukommen muss.
Beurteilen, ob Eigenbetrieb Ihr Problem löst oder ob Sie Hardware kaufen würden, um eine Vertragsklausel zu umgehen.
Ein Open-Weight-Modell noch am ersten Vormittag herunterladen, starten und ansprechen.
Ermitteln, wie viel Speicher, welche GPU und wie viel Plattenplatz ein bestimmtes Modell braucht, bevor irgendjemand etwas bestellt.
Ein Modell hinter eine API legen, die mehrere Anwendungen gleichzeitig aufrufen können, ohne dass sie in die Knie geht.
Nachvollziehen, wohin Ihre Prompts und Dokumente gehen, und belegen, dass sie in Ihrem Netz bleiben.
Hardware, Strom und die eigene Wartungszeit neben eine API-Rechnung stellen und beides sauber gegenrechnen.
Den größten Teil der Zeit verbringen wir mit praktischen Übungen. Reihenfolge und Tiefe der Module lege ich vor dem ersten Tag für Ihre Gruppe fest.
Alle Längen nutzen dieselben Module. Eine längere Buchung führt das Team weiter durch dieselben Inhalte.
1 Tag
Ein Tag, um ein Modell auf dem eigenen Rechner zum Laufen zu bringen und zu wissen, welches es sein sollte. Die Variante für ein Team, das erst einmal klärt, ob das alles realistisch ist.
2 Tage
Dazu kommt der Betrieb für das ganze Team auf einer Maschine und alles, was im Alltag dazugehört: Zugriff, Updates, Monitoring und Kosten.
Die Dauer klären wir im Gespräch über Ihr Team, und sie lässt sich danach immer noch ändern.
Ihre Version beginnt bei der Hardware, die Sie haben oder anschaffen wollen, und bei den Dokumenten, mit denen Ihr Team arbeiten muss. Die Modelle werden an Ihren eigenen Aufgaben verglichen, und der Betrieb wird so aufgesetzt, wie Ihre Infrastruktur ohnehin läuft, vom einzelnen GPU-Server bis zum bestehenden Cluster.
So läuft eine Buchung abBei Ihnen vor Ort, mit dem Team im Raum. Am besten für einen ersten Rollout.
Live per Video, in kürzeren Blöcken über mehrere Tage.
Ein Tag vor Ort zum Start, danach kürzere Remote-Termine an echter Arbeit.
Jede Schulung läuft exklusiv für ein Team, an Terminen, die wir gemeinsam festlegen.
Jedes Modul lässt sich auf der Arbeit und den Tools Ihres Teams neu aufbauen. Sagen Sie mir, woran das Team arbeitet, und ich sage Ihnen, was ich ändern würde.
KI-Agenten-Trainer und Softwareentwickler
Ich baue LLM-Systeme, die in Produktion laufen, einschließlich Retrieval mit Qdrant und pgvector. Deshalb misst die Schulung Modelle an der Arbeit, die sie erledigen müssen, statt an Benchmarks.
Von Entwicklungsteams, die ich in der Arbeit mit KI-Agenten geschult habe.
Ich habe als fachlicher Sponsor eng mit Luka an einem Workshop zusammengearbeitet, in dem es darum ging, KI sinnvoll in die tägliche Entwicklungsarbeit zu integrieren.
Er hat sich die Zeit genommen, die Bedürfnisse unserer Teilnehmenden zu verstehen, und seinen Ansatz an die verfügbaren Tools und Arbeitsumgebungen angepasst.
Das Feedback der Teilnehmenden hat meinen positiven Eindruck bestätigt, insbesondere seine Fachkompetenz und die Balance zwischen Theorie und Praxis wurden hervorgehoben.
Ich kann Luka jedem Team, das praktische KI-Kompetenzen aufbauen möchte, uneingeschränkt als Trainer empfehlen.
Was Teams vor der Buchung fragen.
Nein. Dies ist eine Infrastrukturschulung, und trainiert wird kein Modell. Vorausgesetzt wird Sicherheit auf der Linux-Kommandozeile und im Umgang mit Containern, denn dort spielt sich der Tag ab.
Für den ersten Tag nicht. Kleine Modelle laufen auf einem Laptop mit 16 GB Arbeitsspeicher passabel, und das zeigt, dass sinnvoller Eigenbetrieb kleiner anfängt, als die meisten Teams annehmen. Für den Serving-Teil bringen Sie eine Maschine mit passender GPU mit, falls vorhanden; andernfalls arbeiten wir mit kleineren Modellen, die auf den Laptops laufen.
Die aktuellen offenen Modellfamilien, vor jeder Schulung neu ausgewählt, weil jede feste Liste binnen Monaten veraltet. Das Modul vermittelt die Methode, nach der man auswählt, und die bleibt gleich.
Er löst einen Teil davon und lässt andere Teile unberührt, und welcher welcher ist, klären wir fest im Programm. Ein lokal laufendes Modell bedeutet, dass Ihre Prompts bleiben, wo sie sind. Es beantwortet nicht, wer es abfragen darf, wie lange die Logs aufbewahrt werden oder was mit dem geschieht, was dabei entsteht. Bringen Sie die Frage mit, die Ihre Rechtsabteilung gestellt hat.
Für manche Aufgaben eindeutig ja, für andere eindeutig nein, und die Schulung sagt unumwunden, wo die Grenze verläuft. Klassifikation, Extraktion und das Entwerfen von Texten anhand eigener Dokumente funktionieren gut. Alles, was Reasoning auf höchstem Niveau verlangt, weiterhin nicht. Sie gehen mit der Fähigkeit heraus, Ihre eigenen Anwendungsfälle selbst auf dieser Linie einzuordnen.
Oft. Ein gehostetes Modell ist leistungsfähiger und am Anfang günstiger, und ein Auftragsverarbeitungsvertrag mit EU-Bezug klärt viele Datenschutzfragen. Self-Hosting lohnt sich, wenn die Daten das Haus gar nicht verlassen dürfen, wenn die Nutzung hoch und gleichmäßig ist oder wenn Sie ein Modell brauchen, das sich nicht unter Ihnen ändert. Die Schulung klärt diese Frage, bevor irgendetwas installiert wird.
Eine Frage zur Situation Ihres Teams?
Sagen Sie mir, woran Ihr Team arbeitet und wie es KI heute nutzt. Ein paar Zeilen genügen. Ich antworte selbst, meist innerhalb eines Tages, und ist diese Schulung die falsche, nenne ich Ihnen die passende.
Auf Deutsch oder Englisch, vor Ort, remote oder hybrid.
LLM-Hosting-Schulung
Ein paar Zeilen genügen
Entwicklungsteams und Anbieter, für die ich KI-Trainings durchgeführt habe