Skip to main content
MLX n’est pas la seule façon d’exécuter des LLMs localement sur un Mac. Deux alternatives reviennent souvent : Ollama et llama.cpp. Elles ne remplacent pas forcément MLX. Elles couvrent simplement d’autres priorités.

​
Ollama : le plus simple pour démarrer

Ollama masque une grande partie de la complexité :
  • téléchargement des modèles
  • lancement d’un serveur local
  • commandes simples pour tester
  • API locale prête à l’emploi

​
Installation

brew install ollama

​
Premier test

ollama run llama3.2

​
Pourquoi beaucoup de développeurs commencent par là

  • vous n’avez presque rien à configurer
  • vous changez facilement de modèle
  • vous obtenez rapidement une API locale pour vos tests

​
Exemple d’appel depuis Python

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama",
)

response = client.chat.completions.create(
    model="llama3.2",
    messages=[
        {"role": "user", "content": "Explique le fine-tuning en deux phrases."}
    ],
)

print(response.choices[0].message.content)

​
llama.cpp : le backend très répandu autour de GGUF

llama.cpp est souvent le bon choix si vous travaillez déjà avec des modèles au format GGUF ou si vous avez besoin d’une base très portable.

​
Installation

brew install llama.cpp

​
Exemple avec un modèle GGUF

llama-cli \
  -m ./models/MonModele.gguf \
  -p "Bonjour" \
  -n 200

​
Pourquoi l’utiliser

  • le format GGUF est très courant
  • l’écosystème autour de llama.cpp est vaste
  • le même backend peut vous suivre sur plusieurs plateformes

​
Ollama ou llama.cpp ?

​
Prenez Ollama si

  • vous voulez aller vite
  • vous préférez une expérience produit à une boîte à outils bas niveau
  • vous cherchez surtout un serveur local facile à consommer

​
Prenez llama.cpp si

  • vous gérez directement vos fichiers GGUF
  • vous voulez plus de contrôle sur la ligne de commande
  • vous cherchez une solution très portable

​
Et par rapport à MLX ?

La vraie différence n’est pas seulement la performance. C’est surtout le workflow :
OutilPoint fort principal
MLXÉcosystème Apple, fine-tuning, modèles MLX
OllamaSimplicité de démarrage
llama.cppPortabilité et univers GGUF
Si votre priorité est Swift et Apple Silicon, MLX reste souvent le meilleur fil conducteur. Si votre priorité est de tester rapidement un modèle ou d’avoir une API locale immédiatement, Ollama est souvent plus direct.

​
Recommandation pratique

Pour un développeur moyen qui découvre le sujet :
  1. Testez un modèle avec Ollama pour comprendre le comportement d’un LLM local.
  2. Passez ensuite à MLX si vous voulez un meilleur contrôle, du fine-tuning ou un workflow Apple plus cohérent.
  3. Gardez llama.cpp en tête si vous travaillez déjà avec des modèles GGUF.

Intégration Swift & options on-device

Voir comment relier ces backends à une app Swift.