Начал играться локально с Ollama. Это, можно сказать, интерфейс для общения с нейронками.

При этом модели нейронок скачиваются и используются локально.

Модель codellama вполне удовлетворяет, но она понимает только английский. С которым уже проблемы у меня.

Искал другие доступные модели, которые умеют в русский язык. Например llama3. Но они такую чушь несут...

ChatGPT, конечно, и русский понимает, и ответы вполне приемлемые. Но он же там, в этих ваших интернетах. Хотелось бы получить интернетонезависимый способ с более-менее адекватными ответами с русского на русский.

Бюджет: 20ГБ видеопамяти.