BUILDING
THE FUTURE,
ONE
DROID
AT A TIME.
Projekte, Experimente und Deep Dives in AI, Hardware und alles dazwischen. Geschrieben von einem Menschen, unterstützt von Droids.
#KI — FEATURED
Wie ich ein KI-Modell auf meinem MacBook schneller gemacht habe — und was dabei schiefging
LLM-Modelle sind riesig. Aber nicht jedes Neuron arbeitet bei jedem Wort. Ich habe versucht, die faulen Neuronen zu finden und rauszuwerfen — mit Custom Metal Kernels, Predictor-Netzwerken und einer Schere.
Artikel lesen →