Si vous avez un Mac Apple Silicon et que vous en avez assez de payer des tokens à chaque requête, Rapid-MLX vaut le détour. C'est un moteur d'inférence local maintenu par Raullen Chai, qui tape directement dans les kernels MLX d'Apple, sans repli sur llama.cpp ni couche Metal intermédiaire. Et si le nom vous dit vaguement quelque chose, c'est normal puisque c'est un fork de vLLM-MLX, le serveur de Wayner Barrios dont je vous parlais en mai . Rapid-MLX a juste pris un rythme de publication plus soutenu des deux.
source & further reading
korben.info — original article
Claude Opus 5 : Anthropic vous refile du Fable 5 pour moins cher
Un pasteur poursuit OpenAI car ChatGPT l'a dissuadé d'aller à l'hôpital avant une embolie pulmonaire
Mage-Flow - Le modèle de diffusion de Microsoft qui tourne sur Mac