Ollama now supports AMD GPU. How fast is the speed? this video shows it! #llm #GPU #AMD #ollama #llama #llama3.1
👉ⓢⓤⓑⓢⓒⓡⓘⓑⓔ
Platform: Linux (Ubuntu 20.04)
GPU: AMD 6700XT
For installation of ROCm, see [ Ссылка ]
For installation of Ollama: [ Ссылка ]
Ollama Benchmark (Nvidia GPU, AMD GPU, CPU, Macbooks): [ Ссылка ]
Affiliate links: buy hardware on Amazon
AMD GPU: [ Ссылка ]
4600G [ Ссылка ]
5600G: [ Ссылка ] (same iGPU, better CPU)
5700G: [ Ссылка ] (better iGPU, and better CPU)
ssd drive: [ Ссылка ]
DDR4 drive: [ Ссылка ]
AM4 motherboard: [ Ссылка ]
PSU (power supply unit): [ Ссылка ]
PC Case: [ Ссылка ]
if you are interested in discrete GPU: [ Ссылка ]
Please join the discord server at [ Ссылка ] where you developed free chatgpt bot and stable diffusion bot!
If you would like to support me, here is my Kofi link: [ Ссылка ] and Patreon page: [ Ссылка ]
Thank you for watching!
