llama.cpp

Am 10. März 2023 veröffentlichte Georgi Gerganov den ersten Commit von llama.cpp auf GitHub. Die Bibliothek, geschrieben in C und C++, hatte ein Ziel: Meta's LLaMA-Modelle auf einem Laptop-CPU ohne GPU auszuführen.