@littledetritus@geraffel.social
2026-09-27 09:39 UTC
@isotopp@infosec.exchange @publictorsten@mastodon.social @masek@infosec.exchange
Das würde imho bedeuten, dass - solange Backpropagation für Training notwendig ist - du durch MLOps immer wieder und vermutlich immer häufiger zentrales Compute brauchst um das Modell anzupassen.
Ein Gamechanger könnte aber sein wenn für das Retraining Ansätze wie wir sie vom Hebbeschen Lernen kennen umsetzbar sind.
Dann wäre es möglich das Nachtrainieren umszusetzen ohne das gesamte Neuronale Netz neu zu trainieren und das ließe sich dann ggf. lokal machen 2/2
Replies (1)
-
@isotopp@infosec.exchange 2026-09-27 09:47
@littledetritus@geraffel.social @publictorsten@mastodon.social @masek@infosec.exchange Wir sehen aktuell Experimente mit kleinen Modellen mit großem Kontext, die nicht auf Wissen trainiert sind, sondern auf Verfahren und die erwarten, dass ihnen Wissen in Dateien als Kontext und korrekt indiziert bereitgestellt wird. Das Model, „liest sich das Wissen an“ und wendet dann die trainierten Verfahren an. Das ist das andere extrem zu den superfetten Frontier Modellen und für bestimmte Problemklassen überraschend effektiv. Die Wahrheit wird vermutlich irgendwo in der Mitte hin zu tunen sein.