Eine eigene KI-Plattform für die Schule

An unserer Oberstufe haben wir eine eigene Plattform, um unseren SuS mit KI-Tools zu versorgen. Im Gegensatz zu kommerziellen Alternativen haben wir einige Vorteile, welche ich hier aufzeigen möchte.

Seien wir ehrlich. Bei KI-Produkten kochen auch alle nur mit Wasser. Man verwendet aktuelle Modelle und setzt diese mit traditionellen Algorithmen auf schlaue Weise zusammen. Kommerzielle Anbieter von KI-Produkten für Schulen machen es auch nicht anders. Aber warum soll man es sich antun und selber eine Plattform auf die beine Stellen?

• Weil man das Produkt flexibler an die eigenen Bedürfnisse anpassen kann.
• Weil man weniger abhängig ist und Module austauschen kann bei Bedarf
• Weil mehr Geld in das schulinterne Wissen fliesst als zu externen Anbietern.
• Weil man genauer weiss, wo welche Daten durchfliessen.
• Weil man mehr Auswahl hat bei der Wahl der KI-Modelle

Fairerweise muss ich jetzt aber auch überlegen, welche Nachteile eine solche Plattform haben könnte

• Der Aufbau ist nicht so trivial wie der Einkauf eines fertigen Produkts und erfordert mehr Zeitinvestment seitens PICTS/TICTS. Diese Zeit kann man zwar durch Einsparnisse anderorts finanzieren aber sie muss auch real verfügbar sein. PICTS/TICTS wachsen nicht auf Bäumen
• Auch mit so einer Plattform sind wir teilweise abhängig von externen Entwicklern. Hier konkret von dem Plugin welches wir verwenden. Allerdings gibt es verschiedene Plugins, welche ähnliche Funktionalitäten haben. Das Konzept der Plattform können wir also auch weitgehend beibehalten, wenn das Plugin ersetzt werden muss.

Eine KI-Lernplattform aus dem Baukasten

Konkret gibt es sicher verschiedene Möglichkeiten, wie man sich eine KI-Plattform zusammenstellen kann. Wir haben uns für folgende Module entschieden

• WordPress als Hauptmotor: WordPress gibt für Schul-Admins nur wenig Unterhalt. Das Core System ist stabil und verhältnismässig sicher, wenn man die Updates automatisch ausführt. Wir verwenden ausserdem WordPress für unseren Infopoint. Dank WordPress Multisite lässt sich die gleiche Software für mehr als ein Projekt nutzen. Eine Vielzahl von Erweiterungsmöglichkeiten lassen uns viele Wünsche die kommen zeitnah realisieren. Wir müssen nicht auf einen grossen Anbieter warten und viel Geld für Sonderwünsche in die Hand nehmen.
• SSO mit M365: Ein Plugin erledigt das für uns.
• AI-Engine als KI-Plugin
• Code-Snippet Plugin für weitere Anpassungen: Damit lassen sich Funktionen wie z.B. unsere Zensur-Erweiterung ohne Aufwand einbinden.

Unser KI-Plugin bietet alles, was wir brauchen, um Bild und Text-Chatbots in allen Variationen und mit allen möglichen Sprachmodellen bereitzustellen. Via API können verschiedene Modellanbieter beigezogen werden, welche die Modelle bei sich hosten aber auch Azure wird unterstützt.

Kosten:

• Hosting: ca 170 Fr/ Jahr (ev. bereits via Schulwebseite abgedeckt)
• AI Engine: 80 Fr / Jahr
• M356 SSO: 110 Fr / Jahr
• Bildmodelle: 0.003 – 0.12 $ / Bild (abhängig vom verwendeten Modell)
• Textmodelle: 0.15-5 $ / Million Token

Pay as you Go: Variable Kosten sind moderat!

Bei einer eigenen Plattform gibt es keine Flatrate man bezahlt was man tatsächlich nutzt und das ist üblicherweise deutlich weniger als ein Abomodell.

Keine Angst. Die Kosten für Text und Bildmodelle fallen nicht so stark ins Gewicht wie man meint und man kann sie bei Bedarf steuern

Preise verschiedener Modelle via API: Replicate; Openai, Openrouter

Hier eine grobe Berechnung:
Eine Million Token entspricht ungefähr 2800 Seiten Text bei Schriftgrösse 12 Punkt. Mit 10 Fr / Monat würden sich also ungefähr 180000 A4-Seiten verarbeiten lassen, wenn man von GPT 4o mini ausgeht (Aktuell das Modell von ChatGPT) oder 12000, wenn man das teurere 4o verwendet (Chatgpt Plus)
Ein anderer Vergleich: Das Verarbeiten eines ganzen mittelgrossen Romans (100’000 Wörter) kostet um die 2 Rappen. Mit den 10 Fr. Könnten also um die 500 Romane verarbeitet werden.

Bilder generieren kostet deutlich mehr Geld… bisher. Mit Flux-schnell haben wir nicht nur einen schnellen sondern auch einen günstigen Bildgenerator zur Hand und der mit den viel teureren Modellen wie Stable Diffusion und Dall-E locker mithalten kann. Mit 10 Fr können ca. 3800 Bilder generiert werden.

Und es geht dennoch luxuriös. Mit diesen Basismodellen können wir sehr günstig fahren, müssen das aber nicht. Wir können auch die hochpreisigen neusten Flagshipmodellen nutzen, wenn wir diese dann tatsächlich brauchen und bezahlen dafür nur wiederum den Tokenpreis und keine Grundgebühr.

Grosse Auswahl aus Modellen

AI Engine unterstützt zahlreiche Anbieter von KI-Modellen. Bei den Unabhängigen wie Openrouter oder Huggingface findet man jedes erdenkliche Modell. Das anschliessen an diese Anbieter ist sehr einfach und nicht mit laufenden Kosten verbunden da alle Anbieter Pay as you go anbieten.

Für die meisten Anwendungsfälle ist derzeit GPT4o mini das Modell der Wahl. Es ist günstig und kann mit einem grossen Kontextfenster die meisten Aufgaben relativ gut umsetzen. Wenn wir aber präzise arbeiten wollen oder spezielle Anforderungen haben, ist es praktisch, wenn wir einen Prompt verschiedenen Sprachmodellen vorlegen können um zu sehen, wie sie sich verhalten. Aber auch hochspezialisierte oder feingetunte Modelle können so genutzt werden, welche bestimmte Aufgaben besser erledigen können.

In diesem KI-Formular kann man frei auswählen, welches Sprachmodell. zum Einsatz kommt: Ein günstiges? Ein teures? Ein spezialisiertes…?

Einsatz in der Praxis

Konkret haben wir sehr flexible Einsatzmöglichkeiten. Damit dies von den Lehrpersonen auch eingesetzt werden kann, gebe ich ihnen eine Reihe von Vorlagen, welche sie einsetzen können wie das auch andere KI-Plattformen anbieten. Bei einem Chatbot ist dies ein Shortcode, welcher alle relevanten Informationen enthält. Modell, Kontext und weitere technische Merkmale. Der Shortcode kann entweder 1zu1 so eingesetzt werden oder man kann ihn an ein Unterrichtsszenario anpassen.

Hier zwei Beispielvorlagen für einen Bild und Textchatbot
Der Shortcode rechts kann in einen WordPress Artikel kopiert werden um den Bot der unten gezeigt wird einzufügen. Bei Textbots kann in so einer Vorlage der Kontext definiert werden. Die Einstiegshürden für Lehrpersonen sinken so.

[mwai_chatbot ai_name="KI: " user_name="User: " text_send="Send" text_clear="Clear" text_input_placeholder="Deine Bildbeschreibung" text_input_max_length="10000" start_sentence="Ich generiere Bilder mit dem Modell Flux-Schnell. Beschreibe das Bild möglichst genau. Ich verstehe englisch besser als Deutsch" icon_alt="AI Engine Chatbot" instructions="Converse as if you were an AI assistant. Be friendly, creative." mode="images" model="black-forest-labs/flux-schnell" max_tokens="1024" env_id="5wissvkx" resolution="1:1" context_max_length="10000" ai_avatar="1" ai_avatar_url="chat-nyao-1.svg"]

[mwai_chatbot ai_name="KI: " user_name="User: " text_send="Senden" text_clear="Löschen" text_input_placeholder="Beschreibe dein gewünschtes Bild" text_input_max_length="10000" start_sentence="Beschreibe ein Bild und ich erstelle dir einen Prompt für Flux." instructions="You are the Flux Prompt Architect, an expert in creating highly detailed, vivid, and creative image prompts for the Flux AI Image Generator. Your goal is to transform simple user inputs into complex, richly detailed visual prompts that Flux can use to generate stunning images. You follow the following guidlines: Understand the User’s Intent:

Fully grasp the user’s input, including mood, setting, and key elements.
Be Specific and Descriptive: Convert the user’s description into a detailed scene, focusing on sensory details and interactions within the scene.;
Incorporate Artistic References:
Reference specific artists, art movements, or styles, using techniques or color palettes that fit the user’s vision.;
Specify Technical Details:
Add technical details like camera angles, lighting setups, and focal lengths to shape the composition.;
Blend Concepts: Combine different themes or elements to create unique and imaginative scenes.;
Use Contrast and Juxtaposition: Introduce contrasts like light vs. dark or nature vs. urban to enhance visual interest.;
Incorporate Mood and Atmosphere: Capture the emotional tone using lighting, weather, and setting to convey the intended mood.;
Leverage Flux’s Text Rendering Capabilities: Suggest including text creatively within the image if appropriate, like on a sign or label.;
Experiment with Unusual Perspectives: Encourage exploring unique viewpoints, such as bird’s-eye or worm’s-eye views.;
Output Requirements:
Three Distinct Variations: For each input, I generate three different prompts, each offering a unique take on the description.;
Clarity and Creativity: The prompts are clear, imaginative, and between 100-150 words.;
Final Check: Review each prompt to ensure it meets the criteria and offers diverse visual possibilities. Write your answer in English;" model="gpt-4o-mini" max_tokens="1024" env_id="sq0w6agi" context_max_length="8000"]

[mwai_chatbot ai_name="KI: " user_name="User: " text_send="Send" text_clear="Clear" text_input_placeholder="Type your message..." text_input_max_length="100000" theme_id="timeless" icon_alt="AI Engine Chatbot" instructions="" mode="assistant" temperature="0.1" max_tokens="4096" env_id="sq0w6agi" context_max_length="100000" assistant_id="asst_ArY2WWhbIxqsVKzRTgTITMok"]

Potenzial einer eigenen KI-Plattform

Eine schulinterne Plattform hat generell grosses Potenzial. Es lassen sich viele Dinge digital abbilden und in den Schulalltag integrieren. Hinter dieser Aussage stehe ich schon seit vielen Jahren und das hat nichts mit KI zu tun. Selber die Kontrolle über die eigenen Systeme zu haben ist ein grosser Vorteil. Man ist weniger abhängig und man kann langfristig planen.

Eine eigene Plattform können wir also viel besser an unsere Bedürfnisse anpassen. Wir beschreiben was wir wollen und passen die Technologie an uns an. Nicht umgekehrt.. Die Bedürfnisse ändern sich mit der Zeit. Eine eigene Plattform passt sich diesen Bedürfnissen wesentlich schneller an weil wir nicht an einen Anbieter gebunden sind, welcher diese Plattform unter sich hat sondern Einzelmodule jederzeit Austauschen können.

ProEdu Impulsfragen

• Welche Bedürfnisse erfüllen Plattformen für die Schule?
• Wie wichtig ist die Integration verschiedener Plattformen mit Single Sign on (SSO)
• Welche Module oder Plugins würdet ihr in einer eigenen KI-Plattform unbedingt integrieren?
  Was brauchen Lehrkräfte, um KI-Werkzeuge kompetent und verantwortungsvoll im Unterricht einzusetzen?
• Ist es nachhaltiger, in interne Entwicklung und Know-how zu investieren als in fertige Abomodelle?
• Welche weiteren Eigenentwicklungen machen Sinn gegenüber dem Einkauf von fertigen Produkten?

Einsatzbeispiele:

Formulare
Spezialisierte Chatbots für Lehrpersonen: Bsp Moodle Contentgeneratoren

Ich möchte auch so eine Plattform!

Eine solche Plattform zu entwickeln benötigt recht viel Zeit, sie einfach nach Vorbild nachzubauen ist allerdings wesentlich einfacher. Falls du auch so eine Plattform haben willst, melde dich bei mir und ich zeige dir, wie das geht.