Для Android существует портированная версия https://github.com/Bip-Rep/sherpa/releases — оттуда скачиваете apk-файл. Также потребуется отдельно скачать саму модель и предварительно преобразовать её в формат `ggml-model.bin`.

Скачать модель можно с торрентов - [magnet:?xt=urn:btih:b8287ebfa04f879b048d4d4404108cf3e8014352&dn=LLaMA&tr=udp%3a%2f%2ftracker.opentrackr.org%3a1337%2fannounce](magnet:?xt=urn:btih:b8287ebfa04f879b048d4d4404108cf3e8014352&dn=LLaMA&tr=udp%3a%2f%2ftracker.opentrackr.org%3a1337%2fannounce)

Все версии скачивать не обязательно, выбирайте только ту, которая вам нужна (например, 7B). Далее с помощью скрипта https://github.com/ggerganov/llama.cpp/blob/master/convert.py конвертируете нужную версию в bin-формат:
```bash
python3 convert.py models/7B/
```

Полученный файл переименовываете в `ggml-model.bin` и загружаете в папку `Download` на Android. После этого запускаете apk-приложение и выбираете вашу модель.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence