Piękna robota
Gdy uruchamiałem wersje 3.0 nie spodziewałem się tak duże postępu. Model jest dużo stabilniejszy i już chyba nie wymaga tak niskich temperatur jak poprzednicy. Testowałem wersję bf16 i Q8_0 i widzę że problemy z odmianą zniknęły praktycznie całkowicie (domyślam się że dane treningowe zostały mocno poprawione - ile pracy to musiało kosztować!).
Model w języku polskim jest znacznie bystrzejszy niż odpowiedniki angielskie (w okolicach tych 11B), niesamowite!
Dziękuje za waszą pracę i wasz wspaniały model.
ENG:
When I launched version 3.0, I didn't expect such significant progress. The model is much more stable and doesn't seem to require such low temperatures as its predecessors. I tested the bf16 and Q8_0 versions and see that the problems with Polish grammar have almost completely disappeared (I'm guessing the training data has been significantly improved – how much work that must have taken!).
The Polish model is much sharper than the English equivalents (around 11B), amazing!
Thank you for your work and your wonderful model.