Post by @isotopp@infosec.exchange

2026-09-27 09:02 UTC

@publictorsten@mastodon.social @masek@infosec.exchange Was hier passiert ist die Entstehung einer echten funktionalen Alternative zu AIaaS - in meinem dreischrittigen Workflow kann ich Schritt 2 und 3 auf dem Desktop rechnen, nur Schritt 1 muss auf ein aktuelles AIaaS Modell. Das heisst, das etwa die Hälfte aller Tokens nicht mehr AIaaS sind und damit einem Rückverdienen des AIaaS investments entzogen sind. Je besser local AI wird, um so prekärer wird die Investment Lage für die Hyperscaler und AI Investoren.

Replies (2)

@littledetritus@geraffel.social 2026-09-27 09:34

@isotopp@infosec.exchange @publictorsten@mastodon.social @masek@infosec.exchange Bin bei dem Workflow bei dir. Imho machst du hier die implizite Annahme, dass die beiden Formen von Compute die KI aktuell braucht - Training und Inference - kategoriell getrennt bleiben. Soweit ich das verstanden habe ist der Hauptgrund dafür, dass Training im Gegensatz zu inference Backpropagation braucht. Bin mir nicht sicher in wie weit das gerade mit den aktuellen Entwicklungen in MLOps, dauerhaft so bleiben wird. 1/2

Open ##5150511
@flipdog@burningboard.net 2026-09-27 10:03

@isotopp@infosec.exchange @publictorsten@mastodon.social @masek@infosec.exchange Es zeichnet sich ja schon länger ab, dass sich das ganze immer mehr in Richtung einer austauschbaren Ware entwickelt, also selbst "AIaaS" tendenziell kaum ein sehr margenstarkes Geschäftsmodell sein wird. Dazu ist es auch noch ein sehr schwieriges Geschäft da extrem kapitalintensiv, ein grober Patzer in der Bedarfsplanung und man fährt ordentlich Verlust sein (vergleichbar mit .z.B. einer Fluggesellschaft). Es wird immer klarer, dass die Nachfrage für die Absurden Investitionen nicht da sein wird. Das hängt natürlich mit offenen/lokalen Modellen zusammen welche mittlerweile brauchbaren Output liefern. Das ist aber auch eine Fehleinschätzung hinsichtlich der allumfassenden Transformativität der Technologie und der Irrsinnigen Annahme, dass, nur weil es ein mal funktioniert hat, man rein durch Skalierung ständig große Durchbrüche erzielen kann. Viel hilft eben nur manchmal viel.

Open ##5150516