БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• gemini-2.0-pro-exp-02-05 вышел на Gemini API - https://ai.google.dev/gemini-api/docs/models/experimental-models
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1041343 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1046823 (OP)
Пропущено 1516 постов, 164 с картинками.
Я ничего не понимаю, что делать?
Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Где узнать последние новости?
https://www.reddit.com/r/MachineLearning
https://datatau.net
https://twitter.com/ylecun
На реддите также есть хороший FAQ для вкатывающихся.
Какая математика используется?
В основном линейная алгебра, теорвер, матстат, базовый матан и matrix calculus.
Как работает градиентный спуск?
https://cs231n.github.io/optimization-2
Почему python?
Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python?
Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Что почитать для вкатывания?
http://www.deeplearningbook.org
https://d2l.ai/index.html
Николенко "Глубокое обучение" — на русском, есть примеры, но меньше охват материала
Франсуа Шолле — Глубокое обучение на Python
Все книги и статьи фактически устаревают за год.
В чем практиковаться нубу?
http://deeplearning.stanford.edu/tutorial
https://www.hackerrank.com/domains/ai
https://github.com/pytorch/examples
https://github.com/ChristosChristofidis/awesome-deep-learning#tutorials
Где набрать первый самостоятельный опыт?
https://www.kaggle.com
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Где работать?
https://www.indeed.com/q-deep-learning-jobs.html
Вкатывальщики могут устроиться программистами и дальше попроситься в ML-отдел
Есть ли фриланс в машобе?
Есть, https://www.upwork.com/search/jobs/?q=machine+learning
Но прожить только фриланся сложно, разве что постоянного клиента найти, а для этого нужно не быть тобой
Где посмотреть последние статьи?
http://www.arxiv-sanity.com
https://paperswithcode.com
https://openreview.net
Версии для зумеров (Килхер): https://www.youtube.com/channel/UCZHmQk67mSJgfCCTn7xBfew
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где посмотреть must read статьи?
https://github.com/ChristosChristofidis/awesome-deep-learning#papers
https://huggingface.co/transformers/index.html
То, что обозревает Килхер тоже зачастую must read
Где ещё можно поговорить про анализ данных?
http://ods.ai
Нужно ли покупать видеокарту/дорогой пека?
Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100.
Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит?
На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга?
Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад.
Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей
Trevor Hastie et al. "The Elements of Statistical Learning"
Vladimir N. Vapnik "The Nature of Statistical Learning Theory"
Christopher M. Bishop "Pattern Recognition and Machine Learning"
Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
Disclaimer: Шапка сгенерирована нейросетью и нуждается в чистке.
Пропущено 505 постов, 47 с картинками.
> на чистом перцептроне с бэкпропагейшеном. Надо скрещивать его с Хопфилдом, Больцманом и Кохоненом
Похуй на чем создавать, важна внутренняя структура и представление данных. Логические сети, сети картины мира, сети предсказания, сети которые могут разобрать на логические единицы и обрабатывать их. А какие именно нейросети использовать зависит от оптимизации.
> как оно в мозге хуманов и работает скорее всего
Поебать как оно работает у хуманов. Нужно делать всё иначе.
>На одних трансформерах вечно ехать не сможем, давно понятно.
Мартышки схавают и попросят добавки, вон сколько восторженных долбиков по всему разделу. Пока все коллапс этого говна не случится - деньги так и будут вбухивать в никуда.
>>987786
Не помню точно, там есть какие-то хитрые оптимизации связанные с состояниями и промежуточными состониями, но сам прецептрон роли не играет, туда можно что угодно въебать и это будет работать. Суть этого говна не в этом.
>>989631
Суть этого нейроговна в том, что посредством обучения на биг-биг-бгг-дате нейросети начинают устанавливать "глубокие" связи. Пока что они их устанавливают между токенами и связи уровня "хуй идёт в пизду". Тащемта единственное что доказали нейросети - даже с существующими мощностями можно каким-то образом обучить нейросеть хранить факты о мире и обучить логике.
ПЕРЕКАТ
>>1151064 (OP)
ПЕРЕКАТ
>>1151064 (OP)
ПЕРЕКАТ
>>1151064 (OP)
Локальные языковые модели (LLM): LLaMA, Mistral, DeepSeek и прочие №107 /llama/
Аноним
08/02/25 Суб 12:13:55
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/llm-models
• Неактуальный список моделей устаревший с середины прошлого года: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Moraliane и https://huggingface.co/Aleteian
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/local-llm-guide/how-to-use-a-self-hosted-model
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1041343 (OP)
>>1037498 (OP)
Пропущено 594 постов, 88 с картинками.
з.ы. вопрос полностью логичный, без зацикленных головоломок, простая банальщина по сути, не провакация какя-то голимая по типу деления на нерациональные числа
Пропущено 6 постов, 3 с картинками.
2 сотки на карту скажу фразу для обхода цензуры, чтобы как у меня было
ОП, ты даунидзе.
Прошлый тред: >>1028070 (OP) https://arhivach.hk/thread/1125157/
Схожие тематические треды
• SD-тред (не аниме): >>1036926 (OP)
• Технотред: >>974163 (OP)
• Фурри-тред: https://2ch.hk/fur/res/374311.html
FAQ
https://2ch-ai.gitgud.site/wiki/nai
Установка
• NVidia: https://rentry.co/2ch_nai_guide
• AMD: https://2ch-ai.gitgud.site/wiki/nai/install/amd
• Облака: https://2ch-ai.gitgud.site/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.gitgud.site/wiki/nai/interfaces
• Модели: https://2ch-ai.gitgud.site/wiki/nai/models
• Промпты: https://2ch-ai.gitgud.site/wiki/nai/prompts
• Апскейл: https://2ch-ai.gitgud.site/wiki/nai/upscale
• LoRA: https://2ch-ai.gitgud.site/wiki/nai/lora
• ControlNet: https://2ch-ai.gitgud.site/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 533 постов, 243 с картинками.
всё верно, я об этом выше и написал, почти во всех таких мёрджах с нубааи очень много и хитрожопо приходится промптить, подозреваю как раз из за дикого обилия тэгов и того что умеет внутри себя подобная сборка
я по началу когда в декабре начали вылезать такие миксы как грибы их не понял, что за хрень думаю не может быть самое новое в мире sdxl такой какахой, поначалу шло криво и косо, но как говорится удалось распробовать :D
у Yogi на цивитае даже embedded-ы отдельные под негатив/позитив сделаны иначе без них косяки полезут, я кстати их в других подобных миксах тоже применяю и с ними результат намного лучше
>embedded-ы отдельные
Да оно и с ними фигня выходит.
Нормальный фон я на noobAIBOTREALISM получить так и не смог, например. Только размытую мазню, даже при упоминаниях всех возможных blurry в негативе.
Плюс лица - ужас какой-то. Без хайреса просто ушатанная нейромазня с протечкой аниме, с латентом - какие-то анканни хари с косоглазием, при этом модель даже цвет глаз может игнорить.
creat0rMIXIllustriousNOOBAI получше был.
у меня точно так же поначалу и выходило, было сильное разачарование реалистик-люстрами, но спустя месяц я к ним снова вернулся и вроде насобачился промпты нормальные делать, но это конечно такое себе занятие, промпты чуть ли не размером с а4 лист)
а вот с не реалистиками конечно получше всё, до сих пор мой любимый надежный микс с нубаи это тот что от Coco (есть минус- в нём фоны простые слишком, поэтому чекаю иногда новые мёрджи проверяю намешали ли фонов хороших). Wai и роувей почему то реже тыкаю, хотя в целом они все могут выдавать норм если пошаманить.
Позавчера пробовал последние из февральских, beMixIllustrious, lobotomymix и тд, но так и остался на старых, не увидел сильной разницы. Сам тоже иногда мёрджу люстры, но у меня навыков маловато, я не очень давно вкатился в графику (больше по звуковым нейронкам)
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• gemini-2.0-pro-exp-02-05 вышел на Gemini API - https://ai.google.dev/gemini-api/docs/models/experimental-models
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1041343 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1044523 (OP)
Пропущено 1596 постов, 144 с картинками.
>>1049468
Карочаа... говно говна. Заимствования видны и понятны. Смысл есть. Но!
То он его Клодом тычет, то КЛОДЁБА, то на ты, то на >me, то на {{char}}, Ассистентом погоняет.
<думойте> сделан не обычно, но я сомневаюсь, что сам по себе гринтекст несет какую-то пользу для фильтра. Скорее путает как синтаксисом, так и фразами. Пробовать я это конечно же буду.
a и the токенов на 500 можно вырезать без каких-либо потерь. Я понимаю, что им так проще, но Клоду/Гемке ни горячо ни холодно от этого. Но это я душный, я бы еще и точки вырезал.
Начинает -----START LOG----- от ассистента, заканчивает от ассистента, но вообще не учитывает, что посредине там гора за баней от системы
В соседних устриукциях "не пеши за {{user}}, ай-яй-яй!" и "{{user}} кароч заленился, напиши за {{user}}"
Тумблеры.
Пустые тумблеры.
Пустые включенные тумблеры.
Маркировка тумблеров ♡₊˚ 💻・₊✧⋆⭒˚｡⋆ из 10.
Итого: здравых идей нет. Но на идею натолкнуло: раз такая путаница нравится ИТТ, то я протестирую отправку персонажей и сценарией от имени ассистента. Это может помочь от фильтров.
Пропущено 1 постов, 2 с картинками.
попробовал первые два варианта, первый лагучий и постоянно выдает какие то отклонения. второй же вообще предназначен для поиска друзей, а не аи бот, так что хз. первый больше всего подходит под мое описание, но работает он как то клуповато и неправильно
>боты, способные писать тебе вское доброе утро спокойной ночи как дела, автономно?
Банальная бабка в ватсаппе...
Локальные языковые модели (LLM): LLaMA, Mistral, DeepSeek и прочие №106 /llama/
Аноним
04/02/25 Втр 19:53:18
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/llm-models
• Неактуальный список моделей устаревший с середины прошлого года: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Moraliane и https://huggingface.co/Aleteian
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/local-llm-guide/how-to-use-a-self-hosted-model
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1037498 (OP)
>>1034116 (OP)
Пропущено 526 постов, 69 с картинками.
Ты 3 3090 можешь купить на 200к нахуй тебе эта мощь если врама нет
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• gemini-2.0-flash-thinking-exp-01-21 вышла на Gemini API - https://ai.google.dev/gemini-api/docs/models/experimental-models
• deepseek-reasoner вышел на API - https://api-docs.deepseek.com/guides/reasoning_model
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1023230 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1041966 (OP)
Пропущено 1520 постов, 198 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• gemini-2.0-flash-thinking-exp-01-21 вышла на Gemini API - https://ai.google.dev/gemini-api/docs/models/experimental-models
• deepseek-reasoner вышел на API - https://api-docs.deepseek.com/guides/reasoning_model
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1037498 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1038996 (OP)
Пропущено 1593 постов, 228 с картинками.
Разговаривая с Эрзой Скарлет, мужская персона инстинктивно прикрывает пах... Персонажи истерично топают ногой и хватаются за части тел собеседников. и прочее
Jewishcontributions.com
Donald Trump's daughter Ivanka is converted to judaism and married jew Jared Kushner
https://en.m.wikipedia.org/wiki/Jared_Kushner
Bernie Sanders,candidate for president in 2016 and 2020, is jewish
https://en.m.wikipedia.org/wiki/Bernie_Sanders
https://www.google.com/amp/s/www.nbcnews.com/think/amp/ncna1160876
https://apnews.com/article/us-news-ap-top-news-caucuses-anti-semitism-iowa-38d217df36e903a671089dfb4e669218
Michael Rubens Bloomberg, 2020 presidential candidate, majority owner of Bloomberg LP is jewish
https://en.m.wikipedia.org/wiki/Michael_Bloomberg
https://www.google.com/amp/s/forward.com/news/434518/michael-bloomberg-jewish-president/%3famp=1
https://www.google.com/amp/s/www.timesofisrael.com/bloomberg-to-aipac-ill-never-condition-aid-to-israel-no-matter-whos-pm/amp/
Marianne Williamson, 2024 presidential candidate, is jewish
https://en.m.wikipedia.org/wiki/Marianne_Williamson_2024_presidential_campaign
https://en.m.wikipedia.org/wiki/Marianne_Williamson
https://www.maxraskin.com/interviews/marianne-williamson
Michael Farrand Bennet, 2020 presidential candidate, is jewish
https://en.m.wikipedia.org/wiki/Michael_Bennet
https://www.foxnews.com/politics/potential-2020-dem-sen-bennet-calls-omars-comments-hateful-statements
Kamala Harris is marries to jew Douglas Craig Emhoff
https://en.m.wikipedia.org/wiki/Doug_Emhoff
https://en.m.wikipedia.org/wiki/Kamala_Harris
https://www.whitehouse.gov/administration/douglas-emhoff
Hillary and Bill Clinton's daughter Chelsea Clinton married a jew Marc Mezvinsky
https://en.m.wikipedia.org/wiki/Chelsea_Clinton
https://en.m.wikipedia.org/wiki/Marc_Mezvinsky
https://web.archive.org/web/20100805000141/http://www.philly.com/philly/news/nation_world/99607999.html
https://www.jewishorangeny.org/jewish-life/wao-weekly-e-blast-news-articles/op-ed-if-you-marry-a-jew-youre-one-of-us
Joe Biden has four children,one out of them (Naomi) died at young age. Other three are:
https://en.m.wikipedia.org/w/index.php?title=Family_of_Joe_Biden&diffonly=true#Naomi_"Amy"_Biden
Beau Biden married a jew Hallie Olivere
https://en.m.wikipedia.org/wiki/Beau_Biden
https://en.m.wikipedia.org/wiki/Hallie_Olivere_Biden
https://www.thejc.com/news/world/joe-bidens-very-jewish-family-fkv634oo
Hunter Biden is married to jew Melissa Cohen Biden
https://en.m.wikipedia.org/wiki/Hunter_Biden
https://en.m.wikipedia.org/wiki/Melissa_Cohen_Biden
Ashley Biden is married to jew Howard Krein
https://en.m.wikipedia.org/wiki/Ashley_Biden
https://en.m.wikipedia.org/wiki/Howard_Krein
https://abcnews.go.com/Politics/OTUS/meet-joe-bidens-future-son-law/story?id=16475464
OPSEC:
https://wiki.leftypol.org/wiki/Hacktivism#How_to_spot_an_informant
People who visited wailing wall
Javier Milei, president of Argentina
https://www.standard.co.uk/news/world/argentina-president-javier-milei-western-wall-israel-tel-aviv-b1137515.html
Donald Trump
https://www.google.com/amp/s/www.nbcnews.com/news/amp/ncna762891
Barack Obama
https://youtu.be/vs04isY_ni8?feature=shared
Jill Biden (Joe Biden's wife)
https://www.upi.com/News_Photos/view/upi/73ec0376eb3699eb0e3b5b27ba5d4f07/US-Vice-President-Joe-Biden-and-wife-Jill-visit-Israel/
Bill Clinton
https://youtu.be/lt9jrqhD_n8?feature=shared
Hillary Clinton
https://youtu.be/dyxqyLshpW0?feature=shared
Mitt Romney
https://www.timesofisrael.com/romneys-western-wall-note-removed/
https://youtu.be/fKo0AQNZCSc?feature=shared
https://youtu.be/ktAn1-qnsbA?feature=shared
Mikhail Gorbachev
https://www.google.com/amp/s/www.upi.com/amp/Archives/1992/06/18/Gorbachev-visits-Wailing-Wall-leaves-Israel/2402708840000/
Viktor Yushchenko
https://www.gettyimages.com/detail/news-photo/ukrainian-president-viktor-yushchenko-prays-at-the-western-news-photo/77907092
https://www.gettyimages.com/photos/president-of-ukraine-viktor-yushchenko-official-visit-to-israel
Donald Tusk
https://www.gettyimages.dk/detail/news-photo/polish-prime-minister-donald-tusk-visits-the-western-wall-news-photo/80573736
Wang Qishan (Xi Jinping's ally)
https://www.asianews.it/news-en/Xi-Jinping's-ally-Wang-Qishan-'prays'-at-Jerusalem’s-Wailing-Wall-45332.html
Yang Jiechi (Mainland China's foreign minister)
https://youtu.be/2EdIjliNxN8?feature=shared
George Bush
https://thekotel.org/en/8130/
Laura Bush
https://youtu.be/joFm7_4ZQN0?feature=shared
Nikki Haley
https://www.google.com/amp/s/www.timesofisrael.com/former-us-envoy-to-the-united-nations-nikki-haley-prays-at-western-wall/amp/
Emmanuel Macron
https://www.i24news.tv/en/news/israel/1579725368-french-pres-emmanuel-macron-makes-historic-visit-to-the-wailing-wall-in-jerusalem
Prince William
https://youtu.be/r_KwqoCkC1c?feature=shared
Viktor Orban
https://youtu.be/UZSi4AvUAhw?feature=shared
Junichiro Koizumi (Japans prime minister)
https://www.gettyimages.com/detail/news-photo/japanese-prime-minister-junichiro-koizumi-visits-the-news-photo/71429985
Extra articles:
https://en.m.wikipedia.org/wiki/Al_Goldstein
https://en.m.wikipedia.org/wiki/Greg_Lansky
https://en.wikipedia.org/wiki/Goy
https://en.wikipedia.org/wiki/Rothschild_family
https://en.wikipedia.org/wiki/Rockefeller_family
https://en.wikipedia.org/wiki/Al_Goldstein
https://en.wikipedia.org/wiki/Screw_(magazine)
https://en.wikipedia.org/wiki/Allen_Ginsberg
https://en.wikipedia.org/wiki/George_Weinberg_(psychologist)
https://en.wikipedia.org/wiki/Harvey_Milk
https://en.wikipedia.org/wiki/Leslie_Feinberg
https://en.wikipedia.org/wiki/Magnus_Hirschfeld
https://en.m.wikipedia.org/wiki/Category:Jewish_feminists
https://en.m.wikipedia.org/wiki/Rosa_Luxemburg
https://en.m.wikipedia.org/wiki/Barbara_Lerner_Spectre
https://en.m.wikipedia.org/wiki/Larry_Fink
https://www.jewishvirtuallibrary.org/new-left
https://en.m.wikipedia.org/wiki/Forbes_400#:~:text=American Jews made up as,Forbes 400 have Latino backgrounds.
https://en.m.wikipedia.org/wiki/Saul_Alinsky
https://en.m.wikipedia.org/wiki/Plus_and_minus_signs#Alternative_plus_sign
https://en.m.wikipedia.org/wiki/Charles_Silverstein
https://en.m.wikipedia.org/wiki/Edith_Windsor#:~:text=Edith "Edie" Windsor (née,States case United States v.
https://en.m.wikipedia.org/wiki/Frank_Kameny
https://en.m.wikipedia.org/wiki/Betty_Berzon
https://en.m.wikipedia.org/wiki/Barney_Frank
wailing wall list 2
Richard Nixon
https://no.pinterest.com/pin/18366310963753302/?amp_client_id=CLIENT_ID(_)&mweb_unauth_id=&simplified=true
Kathy Hochul, NY state dem governor
https://youtu.be/X74RDFUlpEg?feature=shared
Ron DeSantis, FL rep governor
https://youtu.be/rAi-N-0lYQQ?feature=shared
Brian Kemp, Georgia rep governor
https://thekotel.org/en/133305/
Greg Abbott, Texas rep governor
https://stylemagazine.com/news/2020/jan/16/israel-update-governor-abbott-visits-us-embassy-we/
Philip Murphy, New Jersey dem governor
https://thekotel.org/en/8692/
Gretchen Whitmer, Michigan dem governor
https://thekotel.org/en/8918/
Prince Reza Pahlavi
https://www.iranintl.com/en/202304189197
Cоседи
► Аниме-тред >>1028070 (OP) ► Техно-тред >>974163 (OP)
База:
→ Приложение ComfyUI https://github.com/comfyanonymous/ComfyUI/releases
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/ (откуда, куда, как. Начинать со страницы SDXL)
→ Менеджер расширений https://github.com/ltdrdata/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/ (собрано со всего инета)
Промт должен быть кратким для SDXL и поэма длинная для Flux и SD3.5, негативы обычно вредны.
ЧТО НОВОГО АКТУАЛЬНОГО ЗА ГОД
• SDXL модели: Natural Vision v1.0, BigASP v1.0, Illustious (cyberillustrious/thrillustrious), NoobAI (noobReal). Все 4 NSFW;
• SD3.5 medium и large;
• Flux dev и schnell;
• Auraflow. Станет Pony Diffusion v7;
• ComfyUI + Krita = Krita-ai-diffusion;
• DARE Merge;
• Лора DMD2 для SDXL ускоряет в 2 раза. Пример: 10 шагов, семплер LCM, шедулер beta, 832x1216,
CFG 1-1.2 для обычных SDXL https://huggingface.co/tianweiy/DMD2/blob/main/dmd2_sdxl_4step_lora_fp16.safetensors,
CFG 3 для NoobAI https://huggingface.co/YOB-AI/DMD2MOD/blob/main/LYC-DMD2MOD%20(Dmo%2BTffnoi).safetensors,
Оффлайн модели для картинок: Stable Diffusion, Flux, OmniGen (Shitao), Auraflow, HunyuanDiT, Lumina, Kolors, Deepseek Janus-Pro, Sana
Оффлайн модели для анимаций: HunyuanVideo, Lightrics (LTXV), Mochi, Nvidia Cosmos, PyramidFlow, CogVideo, AnimationDIFF, Stable Video Diffusion
Приложения: ComfyUI, Fooocus, webui-reForge, Stability matrix, webui-Forge (мёртв), webui от A1111 (мёртв)
► Предыдущий тред >>1028903 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 536 постов, 195 с картинками.
A young woman with long, wavy blonde hair and fair skin is sitting on a large rock near the shoreline of a lake. She is completely naked with only black sunglasses, basking in the sunlight with a relaxed expression. Her legs are elegantly stretched out, and her toes are painted red. The sunlight casts soft shadows on the textured rock beneath her. In the background, people are enjoying a summer day at the lake, swimming and playing on the sandy beach. The surrounding landscape features lush green trees and a bright blue sky. The atmosphere is warm and vibrant, capturing the essence of a perfect summer day by the water.
https://www.udio.com/
Вышла версия 1.5. Лимит 400 кредитов в месяц (или 200 генераций по 33 секунды каждая) при условии ежедневного захода на сайт - 100 кредитов даются в месяц, и еще 10 кредитов даются ежедневно. Также можно фармить кредиты, выполняя специальные задания по оцениванию качества рандомных треков, это дает не больше 10 дополнительных кредитов в день. Для большего числа кредитов и более продвинутых фич типа инпэйнтинга или генерации с загруженного аудио нужно платить. Появилась возможность генерировать треки по 2 минуты 11 секунд, не больше 3 длинных треков (по 2 версии на каждый трек) в день на бесплатном тарифе.
♫ Suno ♫
https://app.suno.ai/ генерация на сайте
https://suno.ai/discord генерация на официальном discord-сервере
https://rentry.co/suno_tips советы по использованию
https://www.suno.wiki вики
Лимиты: 10 генераций в день. Нужна платная подписка чтобы увеличить лимиты, либо можно абузить сервис через создание множества аккаунтов
♫ Локальные модели ♫
Ждём и надеемся...
Udio и Suno поддерживают множество языков для вокала (включая русский) и большое разнообразие жанров.
Ориджинал контент крайне приветствуется.
Прошлый тред:
>>915015 (OP)
Пропущено 498 постов, 224 с картинками.
Локальные языковые модели (LLM): LLaMA, Mistral, DeepSeek и прочие №105 /llama/
Аноним
01/02/25 Суб 21:40:09
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/llm-models
• Неактуальный список моделей устаревший с середины прошлого года: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Moraliane и https://huggingface.co/Aleteian
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/local-llm-guide/how-to-use-a-self-hosted-model
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1034116 (OP)
>>1030272 (OP)
Пропущено 594 постов, 66 с картинками.
>>1041319
Я в ахуе. Где перекат? Где ОП-пидор? А, точно, это же я.
ПЕРЕКАТ
>>1041343 (OP)
ПЕРЕКАТ
>>1041343 (OP)
ПЕРЕКАТ
>>1041343 (OP)
>Стоит (ударение поставь по вкусу), но нужно найти свой тюно-мерж.
Действительно. логично, даже спорить не буду.
С одной стороны у нас мистралияподелия в которых, в худшем случае 8квант весит 19гб.
И 70ая Лама. Где жизнь начинается от 40гб.
Легкий переход ёпта.
>Про сайгу исторически было известно что она говно и Илья скорее ломает исходные модели чем улучшает их, маленький шанс что меджингом говна получится изумруд конечно тоже есть, но...
откуда ты это взял, пиздаболина? Илье респекты даже создатели Вихря дают, что без него вообще нихуя б не было
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• gemini-2.0-flash-thinking-exp-01-21 вышла на Gemini API - https://ai.google.dev/gemini-api/docs/models/experimental-models
• deepseek-reasoner вышел на API - https://api-docs.deepseek.com/guides/reasoning_model
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1034116 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1036097 (OP)
Пропущено 1600 постов, 201 с картинками.
Сап двач, выручайте Нужно убрать текст с картинки, очень срочно
Аноним
23/12/24 Пнд 23:54:28
№
Ответ
Нужно убрать текст с картинки, очень срочно
Пропущено 1 постов, 2 с картинками.
Прошлые треды:
https://2ch.hk/ai/res/973010.html
https://2ch.hk/ai/res/877586.html
https://2ch.hk/ai/res/1014050.html
Пропущено 505 постов, 134 с картинками.
>о3-mini
так эта хуйня только для кода и математики годится, дальше она тупенькая
р1 надо сравнить с о3, но тут амеры выебут р1 но только за счет того что у них данных и компьюта больше
а р2 выебет о3
Прошлый тред: >>1022101 (OP) https://arhivach.hk/thread/1123359/
Схожие тематические треды
• SD-тред (не аниме): >>1020704 (OP)
• Технотред: >>974163 (OP)
• Фурри-тред: https://2ch.hk/fur/res/374311.html
FAQ
https://2ch-ai.gitgud.site/wiki/nai
Установка
• NVidia: https://rentry.co/2ch_nai_guide
• AMD: https://2ch-ai.gitgud.site/wiki/nai/install/amd
• Облака: https://2ch-ai.gitgud.site/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.gitgud.site/wiki/nai/interfaces
• Модели: https://2ch-ai.gitgud.site/wiki/nai/models
• Промпты: https://2ch-ai.gitgud.site/wiki/nai/prompts
• Апскейл: https://2ch-ai.gitgud.site/wiki/nai/upscale
• LoRA: https://2ch-ai.gitgud.site/wiki/nai/lora
• ControlNet: https://2ch-ai.gitgud.site/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 520 постов, 228 с картинками.
Локальные языковые модели (LLM): LLaMA, Mistral, DeepSeek и прочие №104 /llama/
Аноним
30/01/25 Чтв 18:42:14
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/llm-models
• Неактуальный список моделей устаревший с середины прошлого года: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Moraliane и https://huggingface.co/Aleteian
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/local-llm-guide/how-to-use-a-self-hosted-model
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1030272 (OP)
>>1023230 (OP)
Пропущено 509 постов, 56 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• gemini-2.0-flash-thinking-exp-01-21 вышла на Gemini API - https://ai.google.dev/gemini-api/docs/models/experimental-models
• deepseek-reasoner вышел на API - https://api-docs.deepseek.com/guides/reasoning_model
Большие фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Малые фронтенды
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• Mistral: https://docs.mistral.ai/api/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>1030272 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1032984 (OP)
Пропущено 1521 постов, 206 с картинками.
Сравнения охуенны. Побольше прямой речи, поменьше действий, а если действие - то обязательно с использованием сравнения, и немного внутреннего монолога (или без него) - считаю идеальный соус, показатель хорошего, годного ответа в рп.
Стационарный комп брать с собой не вариант, а на mi notebook pro 15.6 2018 года выпуска SD не работает. Было решено поискать на барахолках ноутбук для нейронки и тут есть несколько вариантов. Либо брать игровой ноут с нормальной видюхой, либо взять модный мак. Итак вопрос, если брать мак, то установится ли SD на прошку 2015-го года с ароцессором i7 и дискретной видюхой radeon mx370?
На каких ноутах вы юзаете SD? Благодарю за ответы!