Pragyaan Gaur fejlesztőnek sikerült teljesen helyben futó AI-chatbotot telepítenie egy 2015-ös Kindle Paperwhite 3-ra. A Quill nevű program a készülék saját processzorán dolgozik, használat közben nincs szüksége internetkapcsolatra, és sem a kérdések, sem a válaszok nem hagyják el az e-könyv-olvasót.
A Quill a SmolLM2 nyelvi modellt futtatja a llama.cpp segítségével. A 135 millió paraméteres gyors változat másodpe...