Господа, нужно мнение
В разработке уже довольно много лет, спокойно занимался своими делами, до того как появились эти ваши нейросети.
Две модели, которые лишили меня сна:
1. WizardCoder-Python
2. CodeLlama-Python
Версии, которым провели файнтюнинг на питоне, есть с 7, 13 и 34 миллиардами параметров.
Работают на удивление хорошо, но нужны хорошие ресурсы в виде мощных видеокарт с большим количеством видеопамяти.
Вопрос вот в чем, если арендовать в облаке ресурс с GPU, сделать сервис (телеграм-бот) Вы бы воспользовались им?
И, так как облако недешево, Вы бы платили за пользование им? (Чтобы покрыть затраты на облако и оплатить админу на саппорт чтобы не было обидно)