llama.cpp sada podržava razne male OCR (Optical Character Recognition) modele koji se mogu pokretati na uređajima slabijih specifikacija. Ovi modeli su dovoljno mali da rade na grafičkim karticama (GPU) sa samo 4GB VRAM-a, a neki od njih čak i na procesoru (CPU) uz sasvim solidne performanse.
